new-api icon indicating copy to clipboard operation
new-api copied to clipboard

rerank模型嵌套调用报错

Open SadAngelF opened this issue 5 months ago • 0 comments

  • [x] 我已确认目前没有类似 issue
  • [x] 我已确认我已升级到最新版本
  • [x] 我已完整查看过项目 README,尤其是常见问题部分
  • [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述

rerank模型直接调用正常,但是嵌套调用会报错"invalid character '<' looking for beginning of value"

复现步骤

IP地址为192.168.1.1的服务器上启动一个newAPI服务,对同局域网下的IP地址为192.168.1.2的rerank模型进行纳管,此时外界调用192.168.1.1/rerank时,一切正常工作。

现有另一台192.168.2.1的服务器上启动另一个newAPI服务,由于与192.168.1.2网络不互通,无法直接纳管该rerank模型,因此通过192.168.1.1的newapi进行二次嵌套的纳管,此时在192.168.2.1的newAPI上做测试,会报错“ invalid character '<' looking for beginning of value”

预期结果 对于rerank模型的二次纳管,会报错 invalid character '<' looking for beginning of value

而对于其他的问答模型二次纳管,会正常工作

希望能够解决这个BUG,或者有什么解决方法,我可以本地配置的

SadAngelF avatar Dec 01 '25 11:12 SadAngelF