yangxudong

create_pretraining_data.py 的 567行： `masked_lms.append(MaskedLmInstance(index=index, label=tokens[index]))` 这里的label没有去除token的前缀##，疑似有问题

> 哈喽，大佬 > 我看您的[这个模型](https://github.com/yangxudong/deeplearning/blob/896c8c309750ad9a0d5e426b05256d1894c01352/telepath/telenet_model_mobilenet.py)用到了RNN，请问该模型是否能够落地在手机端，转换tflite中没有什么错误吗？ > 多谢！ 不好意思，没有试过。

din_raw.data 是原始数据，转成tfrecord后就是din.data. 模型需要tfrecord格式的输入。

> Found this except useful from the [XGBoost docs](https://github.com/dmlc/xgboost/blob/master/demo/kaggle-otto/understandingXGBoostModel.Rmd): > > > To build a tree, the dataset is divided recursively several times. At the end of the process, you...

> 单机多卡的 finetuning 是通过 accelerate 包来支持的，你需要参考 [accelerate](https://huggingface.co/docs/accelerate/en/index) 的方式来使用 你好，请问给出一个单机多卡的 finetuning 的Demo代码吗？谢谢！