louiss007

Results 2 issues of louiss007

我用公开的6层tinybert,利用分类数据微调了一下,之后将模型加载到显存中,看到显存占用有1033M,大家的显存占用有多少呢,感觉占用还是有点多,模型才228M,为什么显存却占了1033M呢【非训练阶段,推理阶段】 ![image](https://github.com/huawei-noah/Pretrained-Language-Model/assets/3722771/96e9d301-1e95-49f9-9086-63ac526a6170)

知识表示与建模topic下第一篇文献url: https://www.aclweb.org/anthology/J01-2006.pdf