Genlk
Genlk
我在C308板子上面跑自己的模型,cpu可以运行,切换到amlogic_npu 之后,有下面的报错  (模型数据的维度没有问题,torch版本的模型在服务器侧可以正常推理),转换成端侧模型,在c308板子上跑的时候,有区别 请问两位有没有什么建议的解决思路? @pigpigfang @yingshengBD
> 好的,我用芯原timvx的文档。 我先确认一下我这边量化的问题
trans_to_paddle() 这个方法当中不给参数,直接调用,可以生成初始换参数 >  @wjj19950828
https://github.com/PaddlePaddle/X2Paddle/blob/develop/x2paddle/core/program.py 这个文件里面 263行,生成x2paddle_code.py @wjj19950828
手动更新x2paddle_code.py 文件,修改里面的 x2paddle_onnx__Expand_347。再次调用X2Paddle时会初始化x2paddle_code.py 文件
使用pytorch2paddle 也有类似的情况, 代码如下 model = torchvision.models.resnet50() model.cuda() model.eval() dummy_input = torch.randn(1,3,916, 916, requires_grad=False,device="cuda") pytorch2paddle( module=model, save_dir='./paddle_model/1', input_examples=[dummy_input] )
> @Genlk 麻烦提供一下onnx模型 > > 另外,可以描述一下以下两个问题吗: 1、具体业务场景 2、为什么有转到Paddle部署的需求呢? > > 感谢~ -------------------------- 1.onnx模型文件如下,简化版本 [test_onnx.zip](https://github.com/PaddlePaddle/X2Paddle/files/9398858/test_onnx.zip) -------------------------- 2.业务场景与需求 通过转换成paddle之后,部署到芯原的板子上 -------------------------- 3.torch == 1.12.1+cu116 paddlepaddle == 2.3.1 x2paddle == 1.3.8 -------------------------- 4.具体报错就是问题描述里面的那一张贴图
FYI @wjj19950828
@wjj19950828 你好,我转换了自己的模型,模型输出为160*320的矩阵。转换前后的推理结果,欧氏距离3000+,余弦距离0.98~0.997,这种结果正常么?
我也遇到了同样的问题,跑demo 的时候会有报错, 报错截图  demo :https://github.com/PaddlePaddle/PaddleClas/blob/release/2.5/docs/zh_CN/quick_start/quick_start_classification_professional.md