MaxKB
MaxKB copied to clipboard
[FEATURE] 是否考虑通过 One-API 项目管理和配置大模型接口?
MaxKB 版本
Latest
请描述您的需求或者改进建议
类似 Fastgpt( https://doc.fastai.site/docs/development/sealos/ ),集成了 One-API (https://github.com/songquanpeng/one-api)
优势:
- 不用再自己对接一遍各种大模型,工作量大且容易出错
- One-API 协议友好 MIT 协议
- One-API 自己默认带运营能力(计量计费),为 MaxKB 后面迭代可能有帮助
- 1Panel 商店已经集成了 One-API,可以做联动
请描述你建议的实现方案
No response
附加信息
No response
感谢反馈, OneAPI 应该和 OpenAI 的格式是通用的,您可以在 MaxKB 添加 模型时选择 OpenAI供应商,然后 API 域名输入 OneAPI 的服务地址,基础模型输入你想要对接的OneAPI 中的模型名称。
谢谢反馈, OneAPI 应该和 OpenAI 的格式是通用的,强制 MaxKB 添加模型时选择 OpenAI 供应商,然后 API 域名输入 OneAPI 服务地址,基础模型输入你想要接的 OneAPI 中的模型名称。
请问一下能否把maxkb的应用接入oneapi,我想通过oneapi直接和对应的应用对话。
支持,输出格式是 openAI 格式就好了