Open-Sora icon indicating copy to clipboard operation
Open-Sora copied to clipboard

最近梳理了一下Open-Sora环境搭建遇到的问题

Open tppqt opened this issue 2 years ago • 1 comments

https://github.com/tppqt/Open-Sora-environment-build apex巨坑,大家有问题可以在这里交流,可以的话可以给我点一个免费的star

tppqt avatar Apr 11 '24 11:04 tppqt

十分抱歉环境安装给你带来的不便。如果 apex 安装有问题的话,可以选择不安装,不过要把 config 模型定义中的 enable_layernorm_kernel 设置为 False。这对性能的影响不会很大。

# install flash attention (optional)
# set enable_flashattn=False in config to avoid using flash attention
pip install packaging ninja
pip install flash-attn --no-build-isolation

# install apex (optional)
# set enable_layernorm_kernel=False in config to avoid using apex
pip install -v --disable-pip-version-check --no-cache-dir --no-build-isolation --config-settings "--build-option=--cpp_ext" --config-settings "--build-option=--cuda_ext" git+https://github.com/NVIDIA/apex.git

zhengzangw avatar Apr 14 '24 16:04 zhengzangw