bert4vec icon indicating copy to clipboard operation
bert4vec copied to clipboard

关于模型转换的问题

Open xyjsjruiliu opened this issue 3 years ago • 4 comments

您好,我看到原始的 SimBERT 和 RoFormer-Sim 模型是基于TensorFlow的,作者使用的什么方法做的?

xyjsjruiliu avatar Feb 28 '22 07:02 xyjsjruiliu

您好,我看到原始的 SimBERT 和 RoFormer-Sim 模型是基于TensorFlow的,作者使用的什么方法做的?

我是将原始的模型权重转化为了 HuggingFace 支持的加载格式: https://huggingface.co/WangZeJun/simbert-base-chinese 原始模型介绍可参考: https://github.com/ZhuiyiTechnology/simbert

zejunwang1 avatar Mar 01 '22 06:03 zejunwang1

您好,我看到原始的 SimBERT 和 RoFormer-Sim 模型是基于TensorFlow的,作者使用的什么方法做的?

我是将原始的模型权重转化为了 HuggingFace 支持的加载格式: https://huggingface.co/WangZeJun/simbert-base-chinese 原始模型介绍可参考: https://github.com/ZhuiyiTechnology/simbert

大佬是怎么转的?

zlszhonglongshen avatar Jun 24 '22 06:06 zlszhonglongshen

用 transformers 库中的 convert_bert_original_tf_checkpoint_to_pytorch.py 转的

zejunwang1 avatar Jun 27 '22 00:06 zejunwang1

用 transformers 库中的 convert_bert_original_tf_checkpoint_to_pytorch.py 转的 谢谢

zlszhonglongshen avatar Jun 27 '22 01:06 zlszhonglongshen