3wweiweiwu
3wweiweiwu
最近版本更新了,现在似乎只有一处tensor->backend = GGML_BACKEND_GPU。我试着修改之后编译,之后运行一直报错。请问LZ有什么思路吗?谢谢啦 ggml_init_cublas: found 4 CUDA devices: Device 0: Tesla M60, compute capability 5.2 Device 1: Tesla M60, compute capability 5.2 Device 2: Tesla M60, compute capability 5.2 Device...
我今天遇到同样的问题,重新克隆了仓库,但是没用,最终的解决方式为: 1. 根据以下[链接](https://developer.nvidia.com/cuda-gpus),找到你的compute capability。比如说我的是TESLA M60, 里面写的是5.2, 2. 打开报错的third_party/ggml/src/CMakeLists.txt,找到203行 3. 加加入以下命令: set(CMAKE_CUDA_ARCHITECTURES 52),其中52是根据1里面的数值决定的 4. 存储退出 5. 然后就成功了
I have a similar issue.