Curio Yang
Curio Yang
@wei8171023 1.6版本你跑的是510的么
@luogangyang 检查一下输入数据的类型,shape,size,看看和模型的输入能不能对应上
Increase your memory or virtual memory. @LinYeeGiong
@meimei-123 upload onnx model file.
@ssyj911 请直接提供onnx模型
@ssyj911 编译的问题已经修复了,但是这个模型里有大量的CPU算子layernorm,在实际推理的时候速度很慢,且510 在设计上存在一定的精度损失。 如果在510上部署实际项目,建议更换模型 或者可以尝试在230上部署,int16量化,230对部分CPU算子是有V扩展优化的,且不太容易出现精度损失
@stoneqw 1. 单核、只有大核支持 2. 可配置指的是配置什么? 3. 128bits,虽然C908支持256,但是K230上是有一些限制的 4. 双倍矢量执行单元是指 128bit时有两倍资源可用?如果是这样的话那不会,我们是配置好的128
同目录下不是有原图么,用Python读之后做前处理,然后numpy转bin 目前的demo里bin文件是不需要的,是图片直接作为输入的,具体可以看代码
@Culturenotes 这俩目录不是一个东西的 你如果只是要做一下精读测试,你直接用随机数也行的 如果要用真是数据测精读,那就自己把图片处理成bin, 步骤就是上面那个
就是f32, 如果要输出定点数是需要额外配置的,不推荐