yz1yang

Results 6 comments of yz1yang

RuntimeError: no running event loop

更换了Python版本，没有报错了，但是一直在异步哪儿，后续的加载一直加载不进去

RuntimeError: no running event loop

Python是3.9的，对应更新了funasr，然后就没有模型加载和启动的问题了，就是一直在ws_serve外面

RuntimeError: no running event loop

我试了，更换了websockets的确也可以

使用xinfernece启动DeepSeek-R1-Distill-Qwen-14B时候，通过程序调用接口，发现缺少<think>起始符号，有</think>

遇到一样的问题，VLLM部署的deepseek模型，缺少think标签

使用xinfernece启动DeepSeek-R1-Distill-Qwen-14B时候，通过程序调用接口，发现缺少<think>起始符号，有</think>

xinference换到1.2.2的版本就可以了；但是低版本的不支持最新的模型

使用xinfernece启动DeepSeek-R1-Distill-Qwen-14B时候，通过程序调用接口，发现缺少<think>起始符号，有</think>

> > xinference换到1.2.2的版本就可以了;但是低版本的不支持最新的模型 > > 最新版本中，在启动推理模型时需要手动打开 解析推理内容 开关，可以解决这个问题。命令行启动添加--reasoning-content true参数。 打开了这个，推理的结果think那一部分全是none