super.single430
super.single430
> @czczup 老师呀，那个int8量化的还是不中呀，我们两张24G的卡。单张显存不够，两张说，1张加载，一张跑，张量不匹配的错误。 应该要设置device_map=“auto”吧，4090x2测试可用
@czczup 你好，internVL-V1.5目前也是用过最好的图像理解模型，但是开源的资料比较少，在llama.cpp中也发现还没有支持转gguf，而且也未看到stream_chat的相应代码，不知道你们是否有做相应工作？
pyltp==0.2.1 依然遇到 语义角色标注 出现内存泄露问题，希望可以解决
确实是这样，而且我感觉怎么有一股陕西话的口味，用普通话复刻后
> 好奇，其他语言是不是也这样，毕竟不是母语，听不出其他语言的太多差异 我试了英语，但不是我的声音，感觉比中文好很多
@mos-fine 非常棒的工作！
> Hey @mos-fine in extracted_Whl file i have three files : mlc_ai_nightly_cu122.libs, mlc_ai_nightly_cu122-0.15.dev404.dist-info, and tvm i extracted and installed them in wsl environment next i directly use the commands its...
> I met the same bug recently on H20. My torch version is: 2.3.1+cu121 You need to check your first. Ensure there is only one and that the version is...
Looking forward to it!
mark