InferLLM icon indicating copy to clipboard operation
InferLLM copied to clipboard

在树莓派3b+上部署,出现无法打开模型的问题

Open Dominic23331 opened this issue 1 year ago • 4 comments

我在树莓派3b+上运行chatglm2,无法打开模型,请问这种情况怎么解决? main: seed = 1715851844 Assert ' m_file ' failed at file : /home/dominic/project/InferLLM-main/src/file.cpp line 10 : inferllm::InputFile::InputFile(const std::string &, bool), extra message: Failed to open model file.Aborted

Dominic23331 avatar May 16 '24 09:05 Dominic23331

请问解决了吗

Gooddz1 avatar May 22 '24 08:05 Gooddz1

没有,我查了一下,似乎是不支持这个芯片

Dominic23331 avatar May 22 '24 08:05 Dominic23331

我在树莓派3b+上运行chatglm2,无法打开模型,请问这种情况怎么解决? main: seed = 1715851844 Assert ' m_file ' failed at file : /home/dominic/project/InferLLM-main/src/file.cpp line 10 : inferllm::InputFile::InputFile(const std::string &, bool), extra message: Failed to open model file.Aborted

这个问题不是说,模型文件没有办法打开吗?应该是路径没有给对?

chenqy4933 avatar May 22 '24 08:05 chenqy4933

没有,我查了一下,似乎是不支持这个芯片

我这边是由于模型文件太大了,在拷贝的过程,模型文件有损坏,因此出现加载模型失败的问题

Gooddz1 avatar May 22 '24 09:05 Gooddz1