pytorch模型直接转TFLite可以支持动态维度输入吗?
因为有些模型的输入shape是不固定的,请问转换方法支持转出的TFLite模型是动态输入大小的吗?
据我所知,TFLite模型不支持动态输入大小,只能在AllocateTensors前用ResizeInput来一次性的改变输入的大小。如你有支持动态维度输入的TFLite模型,麻烦提供一个给我们,我们可以研究下怎么实现。
PyTorch 动态 shape 模型的话似乎必须要用 torch.jit.script 来导出?
PyTorch 动态 shape 模型的话似乎必须要用
torch.jit.script来导出?
PyTorch这边其实无所谓,只要TFLite能支持,我们这边可以添加接口,通过一个pass来传播shape的动态性就可以了
据我所知,TFLite模型不支持动态输入大小,只能在AllocateTensors前用ResizeInput来一次性的改变输入的大小。如你有支持动态维度输入的TFLite模型,麻烦提供一个给我们,我们可以研究下怎么实现。
您好,关于TFLite模型是否支持动态输入大小这个问题,我了解不深,只是参阅了 https://stackoverflow.com/questions/55701663/input-images-with-dynamic-dimensions-in-tensorflow-lite/55732431#55732431 和 https://github.com/tensorflow/tensorflow/issues/41807 这两个链接的回答
据我所知,TFLite模型不支持动态输入大小,只能在AllocateTensors前用ResizeInput来一次性的改变输入的大小。如你有支持动态维度输入的TFLite模型,麻烦提供一个给我们,我们可以研究下怎么实现。
您好,关于TFLite模型是否支持动态输入大小这个问题,我了解不深,只是参阅了 https://stackoverflow.com/questions/55701663/input-images-with-dynamic-dimensions-in-tensorflow-lite/55732431#55732431 和 tensorflow/tensorflow#41807 这两个链接的回答
你试下你的模型走resize_input_tensor可以正常工作吗?
据我所知,TFLite模型不支持动态输入大小,只能在AllocateTensors前用ResizeInput来一次性的改变输入的大小。如你有支持动态维度输入的TFLite模型,麻烦提供一个给我们,我们可以研究下怎么实现。
您好,关于TFLite模型是否支持动态输入大小这个问题,我了解不深,只是参阅了 https://stackoverflow.com/questions/55701663/input-images-with-dynamic-dimensions-in-tensorflow-lite/55732431#55732431 和 tensorflow/tensorflow#41807 这两个链接的回答
你试下你的模型走resize_input_tensor可以正常工作吗?
会出现类似这样的问题: RuntimeError: tensorflow/lite/kernels/reshape.cc:66 num_input_elements != num_output_elements (10519065 != 51300000) Node number 0 (RESHAPE) failed to prepare. (截取自 https://discuss.tf.wiki/t/topic/303)
嗯,那reshape算子都得特殊处理下,你看下导出的torchscript包不包含shape相关的操作?如果有相关操作的话,我们只需要把shape跟踪下来就行了,如果没有就比较复杂了