Liu Huijie
Liu Huijie
### Feature request I need to export the model named qwen to accelerate. ```optimum-cli export onnx --model Qwen/Qwen-7B qwen_optimum_onnx/ --trust-remote-code``` ### Motivation I want to export the model qwen to...
### PR Category Auto Parallel ### PR Types New features ### Description 添加了 feature _only_reshard_mesh_shape 和 get_local_slice的功能,实现在不进行实际切分张量的情况下,用迭代模拟的方式得到了理论上每张GPU切分后的local_slice,支持shard,replicate和partail三种齐全的placements,并且支持不均匀切分和多重切分的情况。
### PR Category Auto Parallel ### PR Types New features ### Description 添加了 feature _only_reshard_mesh_shape 和 get_local_slice的功能,实现在不进行实际切分张量的情况下,用迭代模拟的方式得到了理论上每张GPU切分后的local_slice,支持shard,replicate和partail三种齐全的placements,并且支持不均匀切分和多重切分的情况。