Azure OpenAI支持問題
發現https://github.com/openai/openai-python 0.27.6已經添加了Azure OpenAI幾個場景的支持,Dify什麼時候可以兼容呀 Using Azure completions Using Azure fine-tuning Using Azure embeddings
azure 唯一的问题是 deployment_name 是自定义的,和 OpenAI 有固定的模型不同,以至于我们需要额外设计交互来支持选择自定义的 deployment_name,这个需求我们已经是高优先支持了
有没有临时方案呀,比如在环境变量中写死?
目前除了改代码暂时没有临时方案,不好意思
已支持临时方案,注意事项见最后一条: https://docs.dify.ai/v/zh-hans/getting-started/install-self-hosted#faq
获取了最新的代码,Azure OpenAI前端配置没问题了,但是发送消息还是会报错
看起来像是 tiktoken 包里的模块没加载上,找不到这个 token 算法,重新拉下包试试
我对比了下本地代码跟服务器是一致的,也试过重装和升级tiktoken,发现问题还是依旧
另外如果是新会话,首次消息发送报错会有差异,如下图:
哈哈哈,可以了。我把数据库重置了下,就正常了