段逸永

Results 2 comments of 段逸永

多谢分享已解决。 1. 在Oneapi 申请令牌后,复制key到fastgpt docker-compose.yml 下CHAT_API_KEY=key 2. 重启fastgpt oneapi(在fastgpt docker-compose.yml 目录下 docker compose down, docker compose up -d) 3. *注意,令牌界面 「模型范围」不要填写,会限制embedding模型(未测试填写所有所用模型) 4. 复制令牌的sk-key,在渠道所用的llm和embedding模型中粘贴。 5. FastGpt 知识库测试可行。 注释: 1. *Oneapi不支持测试Embedding,因为请求的是/completion接口,所以会报错response 404。...

已解决。Oneapi 渠道 LLM 的baseurl应设置本地IP地址,如http://192.168.2.23:8000。 Status code 404 可能出现在Embedding测试,或是LLM接口错误。 Oneapi调用的是v1/completion接口,不支持Embedding测试,应调用v1/embedding接口。