DDParser icon indicating copy to clipboard operation
DDParser copied to clipboard

关于模型输入之前的一些处理

Open Fujiaoji opened this issue 4 years ago • 1 comments

您好,在构造数据输入时,为什么在关系上也要加CLS SEP呢,这样本来A B两种关系,岂不是变成了4种类型关系;

另外在model部分的mask保留了CLS的位置,是把它当做了ROOT,还是说单纯为了后续不用从0开始;

谢谢

Fujiaoji avatar Jan 13 '22 11:01 Fujiaoji

因为BERT就是这么做的 CLS代表分类任务,SEP是区分AB句子的。

northfun avatar Feb 04 '22 03:02 northfun