马晓军
Results
2
issues of
马晓军
这里停止更新了吗?
### MaxKB 版本 v1.1.1 (build at 2024-04-30T17:22, commit: 2d7562f2) ### 请描述您的需求或者改进建议 在使用本地模型时发现回答随机性过高,同样的问题几乎每次都不同,希望可以添加高级参数的自定义功能,方便针对不同的本地模型进行适当调整,以控制输出的稳定性。 实验使用的模型是 ollama v0.1.33 + fit2cloud/llama3-chinese:8b ### 请描述你建议的实现方案 可参考 OpenWebUI 设置-通用-高级参数。 在本机实验中发现,通过指定OpenWebUI 高级参数中的「种子」和降低 Top K 数值,可一定程度上减少输出多样性(随机性)  使用的提示词为: ```...
类型:需求