soonilbae

Error when running the example code for pretraining the rtd model.

15

I've setup the environment according to the instruction, and try pretraining the rtd model as follows: _Deberta/experiments/language_model/bash rtd.sh deberta-v3-base_ But I got error message as following: _Traceback (most recent call...

vocab 생성관련 closed된 issue들 확인했습니다. 답변하신대로 KLUE Paper 4.1부분을 확인하였는데, Mecab으로 pretokenize한다는 것이 전체 코퍼스를 단순히 형태소 단위로만 분리하여 wordpiece로 학습한다는 의미인가요? 논문의 예제를 보니 단순히 형태소 단위로 분리하는 것...