likefxz2009
Results
3
comments of
likefxz2009
7天了,整整7天了,你知道这7天我是怎么过的吗
2022年了
@jianfeifeng @yuxianzhi 感谢两位的回复,也就是说假设我需要把模型下发到应用里,就必须根据不同的设备下发不同的模型对吧,比如在支持armv8.2的机器上下发fp16的模型,其他机器上下发fp32的模型。 请问一下有没有考虑过开放配置接口,即提供同一个Fp32的模型,如果设置跑fp16的精度,在运行时自行检测设备支持情况,如果支持fp16,则将权重等数据转换到fp16并且使用fp16推理呢?之前使用mnn/tnn等框架时都有这个功能。 再次感谢回复