关于训练过程

[macheng6]

我想知道，moss训练过程中一下问题：

1. moss是选择哪个模型作为初始化参数（backbone）的？
2. moss训练过程中用到了哪些优化显存的方法？