songyouwei

Results 47 comments of songyouwei

Reproducibility issue with CuDNN backend

I haven't tested it on pytorch version 0.4x.

关于在GPU运行环境下运行

试试改成 pack_padded_sequence(batch, lengths = seq_lens.cpu().int())

基于Bert的模型不收敛

是否微调bert的参数，性能上的要求其实基本是一样的。你可以贴一下log看一下

数据集问题

ABSA的数据集，官方在发布的时候是没有划分devset的。 这个repo提供了两种验证的方式作为参考： - 直接切分一定比例用作validation https://github.com/songyouwei/ABSA-PyTorch/blob/6ba6e040c8bc7aa9e7294905d3254a3f79e46caf/train.py#L199 - 使用k折交叉验证 https://github.com/songyouwei/ABSA-PyTorch/blob/6ba6e040c8bc7aa9e7294905d3254a3f79e46caf/train_k_fold_cross_val.py#L210

ValueError: expected sequence of length 80 at dim 1 (got 81)

Are you using the default configuration? Please provide your pytorch version and training log.

no backward() in CrossEntropyLoss_LSR

What version of pytorch do you use?

你好，如何运行非bert的模型，如何训练自己的数据集，中文数据及需要先分词吗

非bert模型不会用到这个，有log不影响的。中文数据可以使用google的bert中文模型，按字处理

infer的问题

应该就是数据量不足，模型其实学的不够好吧

请问你们的aspect是怎么获取的呢？

数据集提供好的sentence aspect pair

Model overfits after 1 epoch when bert spc trained using BioBERT embeddings

I'm not familiar with BioBERT, it may due to the introduction of additional transfer learning issue?