liaoduoduo
liaoduoduo
你好，我也遇到这个问题了，请问解决了吗
> > 你好，我也遇到这个问题了，请问解决了吗 > > 请问你也是用的wsl环境么？ 我用的是windows环境
> 裸机上吗？ 是的，直接裸机跑，llama2是没问题的，4080显卡
> 那感觉就不是我们讨论的那个问题，可能还在别处。@irexyc @lzhangzz 能不能麻烦把 log-level 设置为 INFO，把日志结果贴出来？ 我们手头没有 windows + 24G显卡的机器，debugging这个问题比较棘手 好的，以下是我的日志，推理输出结果为空  
> 那感觉就不是我们讨论的那个问题，可能还在别处。@irexyc @lzhangzz 能不能麻烦把 log-level 设置为 INFO，把日志结果贴出来？ 我们手头没有 windows + 24G显卡的机器，debugging这个问题比较棘手 加载llama2模型却可正常推理 
**Environment** sys.platform: win32 Python: 3.10.14 | packaged by Anaconda, Inc. | (main, Mar 21 2024, 16:20:14) [MSC v.1916 64 bit (AMD64)] CUDA available: True MUSA available: False numpy_random_seed: 2147483648 GPU...
> > > 那感觉就不是我们讨论的那个问题，可能还在别处。@irexyc @lzhangzz 能不能麻烦把 log-level 设置为 INFO，把日志结果贴出来？ 我们手头没有 windows + 24G显卡的机器，debugging这个问题比较棘手 > > > 好的，以下是我的日志，推理输出结果为空 > > >  > > >  > > 这个日志中显示 invalid infer...