dify icon indicating copy to clipboard operation
dify copied to clipboard

Azure OpenAI支持問題

Open charli117 opened this issue 2 years ago • 3 comments

發現https://github.com/openai/openai-python 0.27.6已經添加了Azure OpenAI幾個場景的支持,Dify什麼時候可以兼容呀 Using Azure completions Using Azure fine-tuning Using Azure embeddings

charli117 avatar May 18 '23 10:05 charli117

azure 唯一的问题是 deployment_name 是自定义的,和 OpenAI 有固定的模型不同,以至于我们需要额外设计交互来支持选择自定义的 deployment_name,这个需求我们已经是高优先支持了

takatost avatar May 18 '23 12:05 takatost

有没有临时方案呀,比如在环境变量中写死?

charli117 avatar May 18 '23 13:05 charli117

目前除了改代码暂时没有临时方案,不好意思

takatost avatar May 18 '23 14:05 takatost

已支持临时方案,注意事项见最后一条: https://docs.dify.ai/v/zh-hans/getting-started/install-self-hosted#faq

takatost avatar May 19 '23 05:05 takatost

获取了最新的代码,Azure OpenAI前端配置没问题了,但是发送消息还是会报错 image image image

charli117 avatar May 19 '23 06:05 charli117

看起来像是 tiktoken 包里的模块没加载上,找不到这个 token 算法,重新拉下包试试

takatost avatar May 19 '23 09:05 takatost

我对比了下本地代码跟服务器是一致的,也试过重装和升级tiktoken,发现问题还是依旧 image

charli117 avatar May 19 '23 09:05 charli117

另外如果是新会话,首次消息发送报错会有差异,如下图: image

charli117 avatar May 19 '23 10:05 charli117

哈哈哈,可以了。我把数据库重置了下,就正常了

charli117 avatar May 19 '23 11:05 charli117