Qu Yankai
Qu Yankai
https://github.com/qy8502/jetcache-plus 我提供了一套解决方案,其中利用redis6的client tracking功能,同步失效本地缓存 JetCache Plus是对Alibaba JetCache的增强工具。用于提供自动同步失效本地缓存、AOP缓存注解支持多缓存集合处理、Dubbo服务先缓存调用再RPC调用的解决方案。
期望直接有个参数重定向功能,可以替换max_tokens\top_p这样的参数
直接提供一个通过JavaScript或groovy脚本处理数据的模块好了,至少能把对象输出成json字符串组织成引用内容。
> 有时间把这个默认值去掉吧,因为我本身就部署在美国,不走反向代理了,响应嘎嘎快,基本上秒回答。如果硬编码了,就很伤,一般几秒到10几秒才回复一下,太难熬了。不然每次更新镜像,都需要改下源码,对于有需要走代理的,在配置里面配置一个默认的就行了,没必要硬编码写死,或者使用作者推荐的那两个地址,再或者自建代理服务器啥的都可以。 你可以这样使用官方的 API_REVERSE_PROXY: https://chat.openai.com/backend-api/conversation 但是美国服务器也会1020。 我现在的问题美国服务器上使用WARP代理配置了也不行 SOCKS_PROXY_HOST: 127.0.0.1 SOCKS_PROXY_PORT: 31303
我是用WARP这样配置的,但是仍然无法访问。 SOCKS_PROXY_HOST: 127.0.0.1 SOCKS_PROXY_PORT: 31303 API_REVERSE_PROXY: https://chat.openai.com/backend-api/conversation 错误信息里仍然有1020 ``` chatgpt-app-1 | Access denied chatgpt-app-1 | You do not have access to chat.openai.com.The site owner may have set restrictions that prevent...
> > 我是用WARP这样配置的,但是仍然无法访问。 SOCKS_PROXY_HOST: 127.0.0.1 SOCKS_PROXY_PORT: 31303 API_REVERSE_PROXY: https://chat.openai.com/backend-api/conversation > > 错误信息里仍然有1020 > > ``` > > chatgpt-app-1 | Access denied > > chatgpt-app-1 | You do not have access...
Same question
same issue. /mnt/lyuxiang.lx/anaconda3/envs/cosyvoice_refactor/lib/python3.8/site-packages/torch/nn/functional.py ??
I’ve fixed this issue, but the model needs to be modified. Taking CosyVoice-300M-SFT as an example: ``` cd /opt/ComfyUI/custom_nodes/CosyVoice-ComfyUI/pretrained_models/CosyVoice-300M-SFT unzip llm.text_encoder.fp16.zip vi llm.text_encoder.fp16/code/__torch__/cosyvoice/transformer/encoder/___torch_mangle_5.py ``` Insert input = input.half() at line...