MaxKB icon indicating copy to clipboard operation
MaxKB copied to clipboard

[FEATURE] 是否考虑通过 One-API 项目管理和配置大模型接口?

Open chixq opened this issue 1 year ago • 3 comments

MaxKB 版本

Latest

请描述您的需求或者改进建议

类似 Fastgpt( https://doc.fastai.site/docs/development/sealos/ ),集成了 One-API (https://github.com/songquanpeng/one-api)

优势:

  1. 不用再自己对接一遍各种大模型,工作量大且容易出错
  2. One-API 协议友好 MIT 协议
  3. One-API 自己默认带运营能力(计量计费),为 MaxKB 后面迭代可能有帮助
  4. 1Panel 商店已经集成了 One-API,可以做联动

请描述你建议的实现方案

No response

附加信息

No response

chixq avatar May 06 '24 06:05 chixq

感谢反馈, OneAPI 应该和 OpenAI 的格式是通用的,您可以在 MaxKB 添加 模型时选择 OpenAI供应商,然后 API 域名输入 OneAPI 的服务地址,基础模型输入你想要对接的OneAPI 中的模型名称。

baixin513 avatar May 06 '24 06:05 baixin513

谢谢反馈, OneAPI 应该和 OpenAI 的格式是通用的,强制 MaxKB 添加模型时选择 OpenAI 供应商,然后 API 域名输入 OneAPI 服务地址,基础模型输入你想要接的 OneAPI 中的模型名称。

请问一下能否把maxkb的应用接入oneapi,我想通过oneapi直接和对应的应用对话。

hcppxgit avatar Jun 04 '24 16:06 hcppxgit

支持,输出格式是 openAI 格式就好了

soonxf avatar Jun 12 '24 17:06 soonxf