Lsz

Results 11 comments of Lsz

大佬,貌似用不了了,一直停在加载课程中

兄弟,你后来是如何处理的?

我用这个下载的ubuntu的iso种子文件烧制启动盘,安装到移动硬盘后,重启电脑进入移动硬盘中的ubuntu卡在开机过程了,和这有关系吗 ![IMG_20241202_004244](https://github.com/user-attachments/assets/2fc32064-497d-4308-8913-fac2efe0cc6d)

> 模型加载时间不太正常。框内是正常的,因为做了embedding_disk优化,去掉了embedding层。没有vit层是因为只有多模态有vit 正常情况是多快?那您知道加载这么慢可能的原因吗

老哥,能具体讲讲怎么修改代码吗

> 之前发过网盘,你可以在issue找 [#75](https://github.com/sophgo/LLM-TPU/issues/75) [#75](https://github.com/sophgo/LLM-TPU/issues/75) 谢谢您,我终于下好模型并解压放在了相应的文件夹中,为什么执行ython3 pipeline.py --devid 0 --dir_path ./deepseek-r1-distill-qwen-7b 出现了错误 /data/VAProject/LLM-TPU-main/models/language_model/python_demo$ python3 pipeline.py --devid 0 --dir_path ./deepseek-r1-distill-qwen-7b/ Initializing devices... Device [ 0 ] loading ..... bmcpu init: skip cpu_user_defined...

1.5b的运行成功了,7b的解压不了 /data/VAProject/LLM-TPU-main/models/language_model/python_demo$ unzip deepseek-r1-distill-qwen-7b.zip Archive: deepseek-r1-distill-qwen-7b.zip End-of-central-directory signature not found. Either this file is not a zipfile, or it constitutes one disk of a multi-part archive. In the latter case...

> 那试试这个 1.5B是上面的没变,7B是慢慢拉过来的 链接: https://pan.baidu.com/s/1UqkTp-1c9y9pFDIIA35NHQ 提取码: u1iu 复制这段内容后打开百度网盘手机App,操作更方便哦 好的,谢谢,1.5B是可以跑的,但我还是想请问一下,这种下载速度极慢的问题该怎么解决,因为最近在使用AIbox1684x,很多时候都会遇到这样的问题,比如python3 -m dfss [email protected]:sophon-demo/Whisper/mlir/tpu-mlir_v1.6.135-g12c3f90d8-20240327.tar.gz,也想试一下7B、14B等等别的模型;

> > 之前发过网盘,你可以在issue找 [#75](https://github.com/sophgo/LLM-TPU/issues/75) [#75](https://github.com/sophgo/LLM-TPU/issues/75) > > deepseek r1,14b模型有没有长上下文已转换好的,512的太短了,还没回答完就停了 蹲一个

thanks a lot, i solved that by updating the url of gemini in noi-ask extension