HandMesh icon indicating copy to clipboard operation
HandMesh copied to clipboard
verified publisher icon SeanChenxy

移动端推理

Open interestingzhuo opened this issue 1 year ago • 1 comments

hello，请问你们尝试过移动端使用fp16推理吗，我尝试使用fp16推理时，精度下降很明显。其次，测试发现论文中的fps好像只能在fps16下实现。比如下图中的59fps image

interestingzhuo avatar Nov 27 '24 09:11 interestingzhuo

你好，请问移动端推理您使用什么推理框架，pytorch模型转过去有没有算子不支持的情况呢

hello，请问你们尝试过移动端使用fp16推理吗，我尝试使用fp16推理时，精度下降很明显。其次，测试发现论文中的fps好像只能在fps16下实现。比如下图中的59fps image

你好，请问移动端推理您使用什么推理框架，pytorch模型转过去有没有算子不支持的情况呢

zhang0557kui avatar Jun 27 '25 01:06 zhang0557kui