FanZhiQiang

> 我在运行predict.py时候出现ValueError: Dimension 0 in both shapes must be equal, but are 256 and 100. Shapes are [256,128] and [100,128]. for 'Assign_1' (op: 'Assign') with input shapes: [256,128], [100,128].不知道是哪里出了问题 我也遇见了这个问题，请问是如何解决的

@LiuJinzhe-Keepgoing 你好，我在看这个工作时也有同样的疑惑，请问这个问题你解决了吗

@sixsixcoder # vllm ==0.6.6 python==3.10环境 aiohappyeyeballs 2.5.0 aiohttp 3.11.13 aiohttp-cors 0.7.0 aiosignal 1.3.2 airportsdata 20250224 annotated-types 0.7.0 anyio 4.8.0 astor 0.8.1 async-timeout 5.0.1 attrs 25.1.0 bitsandbytes 0.45.3 blake3 1.0.4 cachetools...

使用vllm的版本到底是多少呀，我用0.7.2以及0.6.6都不行

+1