youqugit
youqugit
用putty连接不到实例 显示PuTTY Fatal Error Network error: Connection timed out 这个和安全规则有关吗？ 还是要翻墙才能连接到？
> 目前还不直接支持 megatron，仅支持 DeepSpeed @hiyouga 能出一个使用DeepSpeed进行多机多卡训练的教程吗？
> > > 目前还不直接支持 megatron，仅支持 DeepSpeed > > > > > > @hiyouga 能出一个使用DeepSpeed进行多机多卡训练的教程吗？ > > https://juejin.cn/post/7304182487683923994 我参照这个完成了多机多卡，zero2正常运行，zero3则非常慢（Socket），并且在尝试使用IB通讯时（有IB连接卡，传输测试没问题），训练会报错。 谢谢，我尝试一下。作者在这个[回答中](https://github.com/hiyouga/LLaMA-Factory/issues/1551#issuecomment-1815918753)说zero3太吃通信。 请问一下你知道使用Accelerate 的 MULTI_GPU 模式做多机多卡需要提前对机器做哪些配置吗？
> > > > > 目前还不直接支持 megatron，仅支持 DeepSpeed > > > > > > > > > > > > @hiyouga 能出一个使用DeepSpeed进行多机多卡训练的教程吗？ > > > > > > > >...
> You need to upgrade Pydantic to 2.9 and FastAPI to 0.114. See #8212 Pydantic and FastAPI is meeting the requirements ``` root@135f6c4efbf9:/app# pip show Pydantic Name: pydantic Version: 2.9.1...
`typing_extensions` Version: 4.12.2
`openai-python` is not installed
``` root@135f6c4efbf9:/app# pip show openai Name: openai Version: 1.45.0 Summary: The official Python library for the openai API Home-page: https://github.com/openai/openai-python Author: Author-email: OpenAI License: Location: /usr/local/lib/python3.8/dist-packages Requires: anyio, distro, httpx,...
ye,My python vresion is Python 3.8.10
`vllm-0.6.1+cu118-cp38-cp38-manylinux1_x86_64.whl` May have some problems? `pydantic_core` is 2.23.3 I try to update it