zw-SIMM

icon indicating an email [email protected]

icon company SIMM icon location Shanghai

Results 8 comments of zw-SIMM

有监督请教

感谢您的回复！我了解了！❀ ------------------ 原始邮件 ------------------ 发件人: ***@***.***>; 发送时间: 2022年6月5日(星期天) 晚上7:12 收件人: ***@***.***>; 抄送: ***@***.***>; ***@***.***>; 主题: Re: [shuxinyin/SimCSE-Pytorch] 有监督请教 (Issue #6) SimCSE有监督版有用到 1，2，3，4，5 的标签吗， 可用于 预测 两个句子相似度吗？ 你是说怎么样用到的其他句子的标签吗？SimCSE里只有一种标签（相当于二分类，相似为1），即与本句相似的为positive,为1，其他的都为negative,为0. 无监督与有监督版本类似，只是无监督的postive样本由本句的dropout构造。 — Reply to this...

有监督问题的请教

好的，谢谢！

RuntimeError: unscale_() has already been called on this optimizer since the last update().

same problem

关于RetroMAE预训练问题

> 另外我注意到，在训练过程中也会偶尔出现loss值变高（但不明显，很小的变化）的情况，请问你们在预训练的过程中是否遇到过这种情况，又是如何判断何时停止的呢？ 预训练遇到了一样的问题，loss会有小突刺，我发现改小学习率有点用，你有其他经验吗？

Preprocess dataset doesn't work because the paths aren't correct

Same problem

请问data/df_target_pseudo.csv是什么文件？

感谢这么快的回复。

请问data/df_target_pseudo.csv是什么文件？

给大佬跪了

LogitsConfig.__init__() got an unexpected keyword argument 'ith_hidden_layer'

Thank you for the detailed instructions! The issue was resolved after I ```Successfully installed esm-3.1.3``` as you suggested. The embedding extraction works as expected now. I really appreciate your help!