awtestergit
awtestergit
> 我看他们前几天在 llama.cpp 支持了 qwen [ggerganov/llama.cpp#4281](https://github.com/ggerganov/llama.cpp/pull/4281) ，可以去试试 目前试下来，llama.cpp的python binder效果不好。qwen.cpp自身bug多，如果chatglm.cpp能支持qwen模型就太好了，希望大拿能支持qwen模型！
> 不如希望chatglm.cpp可以支持qwen，官方的也没怎么更新 刚去留了言，希望能够支持qwen模型。 https://github.com/li-plus/chatglm.cpp/issues/146
真可惜，qwen模型目前在中文效果真算不错的，可惜官方不重视qwen.cpp，直接用transformer调用qwen太慢。我已经在测试其他模型看看能否替代。希望官方能重视qwen cpp。 @simonJJJ