ms-swift
ms-swift copied to clipboard
为啥现做RLHF 不支持sequence_parallel
Describe the feature Please describe the feature requested here(请在这里描述需求)
Paste any useful information Paste any useful information, including papers, github links, etc.(请在这里描述其他有用的信息,比如相关的论文地址,github链接等)
Additional context Add any other context or information here(其他信息可以写在这里) RT, 目前3.31,3.4.0 都不支持,但是以前的版本都支持,我也是最近升级的时候发现的