omer
omer
> 可以尝试一下把CMakeLists.txt的第20行改成 set(CMAKE_CXX_FLAGS "${CMAKE_CXX_FLAGS} -pthread --std=c++17 -O2 -mavx -mavx2 -march=native") > > 试试 如果还有问题的话应该是有不支持的指令集,我后面区分一下指令集版本 如上修改第20行的内容后,我编译成功了。 感谢!
虽然编译能过,但是无法使用 ``` python3 Python 3.8.10 (default, May 26 2023, 14:05:08) [GCC 9.4.0] on linux Type "help", "copyright", "credits" or "license" for more information. >>> from fastllm_pytools import llm Illegal instruction...
好的,那issue我先关闭了。
嗯,我也可以用了,速度还行。 👍
看不到,我用python基本调用的,也没有看到core等信息。 不过我这个问题好像出现在chatglm-6b-int8.flm这个版本,运行chatglm2-6b-int8.flm版本就一直没出现。 我再观察看看,如果没问题我就关闭掉issue。
没有继续出现,先关闭了。 怀疑max_tokens设置的比较大,造成用chatglm第一版时出现异常。