MaxKB icon indicating copy to clipboard operation
MaxKB copied to clipboard

[BUG] 新版本token使用量下降了,但AI也变得不这么智能了

Open DavinciEvans opened this issue 1 year ago • 0 comments

联系方式

[email protected]

MaxKB 版本

开发版

问题描述

模型应用配置、prompt均一致。相同的一个问题,也关联到了正确的知识库。在1.0.3版本中,虽然消耗的token比较大,但模型返回的结果更好。新版本似乎做了对于token的优化,但明显回答质量也下降了。能否通过修改源码将相关的代码进行注释或者新增一个配置呢?

重现步骤

最新commit的开发版本中的回答:

QQ截图20240429114759

1.0.3版本中的回答:

QQ截图20240429114819

从图中可以看到,新版本只消耗了1k不到的token,但回答质量明显不如老版本的结果

期待的正确结果

No response

相关日志输出

No response

附加信息

No response

DavinciEvans avatar Apr 29 '24 03:04 DavinciEvans