MOSS icon indicating copy to clipboard operation
MOSS copied to clipboard
verified publisher icon OpenMOSS

微调对硬件有什么要求？

Open zhonglin516 opened this issue 2 years ago • 2 comments

对GPU有什么要求，8张3090的可以进行微调？

zhonglin516 avatar May 23 '23 07:05 zhonglin516

除了全参微调 其他效率微调够够的

mengban avatar May 23 '23 13:05 mengban

对GPU有什么要求，8张3090的可以进行微调？

显存不足，参考https://github.com/OpenLMLab/MOSS/issues/189

可以把DeepSpeed Offload到CPU上，这样你需要至少额外290GB的内存

lhtpluto avatar May 30 '23 03:05 lhtpluto