flyingFish
flyingFish
> 前天添加的ptuning应当符合你的需求吧 https://github.com/THUDM/ChatGLM-6B/blob/main/ptuning/README.md > > ``` > { > "content": "类型#上衣*版型#宽松*版型#显瘦*图案#线条*衣样式#衬衫*衣袖型#泡泡袖*衣款式#抽绳", > "summary": "这件衬衫的款式非常的宽松,利落的线条可以很好的隐藏身材上的小缺点,穿在身上有着很好的显瘦效果。领口装饰了一个可爱的抽绳,漂亮的绳结展现出了十足的个性,配合时尚的泡泡袖型,尽显女性甜美可爱的气息。" > } > ``` 如果要形成公司内部的问答模型,问一些公司内部的政策文件,可以用这种模式训练吗,还是说应该有个问答的专门的训练集和训练方法?
> 我的解决了,原来是缺少 pytorch_model.bin.index.json 能分享一下本地运行模型文件的代码吗
跑最新的code02_训练模型全部流程.ipynb文件,报错: RuntimeError: self and mat2 must have the same dtype 问了下chatGPT RuntimeError: self and mat2 must have the same dtype 错误通常是由于训练数据与模型参数之间的数据类型不匹配导致的。 在你的代码中,这个错误可能是由 MyTrainer 类中的前向传播函数和后向传播函数中,使用了不同数据类型的张量,导致了矩阵数据类型不匹配的错误。 要解决这个问题,你需要确保前向传播和后向传播函数使用相同数据类型的张量。在 MyTrainer 类中,你可以查看 model.forward() 和 model.backward()...
> 是的 发自我的 iPhone 在 2023年3月31日,11:45,chenyiwan ***@***.***> 写道: 参考作者的data2数据集里,问:你是信,我是良XXXX程序员训练的一个AI模型。。 看它用了多少数据量。 讲一次两次。它听不进去。。思维太固执了,据作者说要1600次。我估计 得准备几十上百轮吧。 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because...
> 我一行行的运行的,到最后就报错了RuntimeError: self and mat2 must have the same dtype。 运行下面的代码: 20 trainer = MyTrainer( 21 model=model, 22 tokenizer=tokenizer, (...) 26 eval_dataset=tokenized_datasets["valid"], 27 ) ---> 28 trainer.train()的时候