Shiyu Zhang
Shiyu Zhang
我发现这个release是cpu版本的，居然没法用我的老爷车1080ti
> > 本来就是支持的啊，使用的时候设置model.direct_query = True，然后自己根据chatglm3的规则生产prompt，正常调用就行了 > > ```python > > def glm_prompt3(query: str, history=[], system_prompt='', user_token=64795, system_token=64794, assistant_token=64796, observation=64797): > > prompt = f'\n{system_prompt}\n' > > for i, (old_query, response)...
@zzk2021 你修改的流式是用Vad对会话进行检测后直接输入识别，还是按照字节流循环输入模型的呢？
节前是否能释放呢？正好假期研究研究
@rulerman hi，新版本快出来了吗
0.7版本的权重是否已经更新了呢