MaxKB
MaxKB copied to clipboard
[BUG] 新版本token使用量下降了,但AI也变得不这么智能了
联系方式
MaxKB 版本
开发版
问题描述
模型应用配置、prompt均一致。相同的一个问题,也关联到了正确的知识库。在1.0.3版本中,虽然消耗的token比较大,但模型返回的结果更好。新版本似乎做了对于token的优化,但明显回答质量也下降了。能否通过修改源码将相关的代码进行注释或者新增一个配置呢?
重现步骤
最新commit的开发版本中的回答:
1.0.3版本中的回答:
从图中可以看到,新版本只消耗了1k不到的token,但回答质量明显不如老版本的结果
期待的正确结果
No response
相关日志输出
No response
附加信息
No response