DefTruth
DefTruth
没办法，我确实也不太熟悉树莓派（哭.....）因为lite.ai.toolkit的依赖其实不少，包括ffmpeg、opencv、onnxruntime、NCNN等等，如果你是在嵌入式玩，我其实是不建议用lite.ai.toolkit的，因为东西太多了。你需要把所有的东西都配好才能编lite.ai.toolkit。还不如只选择你想用的那部分，修改一下，把lite.ai.toolkit当成参考啥的。
可以来看下我写一个介绍lite.ai.toolkit目录结构的issue: * https://github.com/DefTruth/lite.ai.toolkit/issues/191
> 好吧谢谢！！那...那如果是在linux系统的服务器上呢，用lite.ai.toolkit跑ncnn版本的yolo5face应该怎么操作呀 那就正常用就好了，但是lite.ai.toolkit在linux下的预编译库现在只有onnxruntime的版本。ncnn版本你需要重新编译，lite.ai.toolkit，可以参考以下步骤： * 下载lite.ai.toolkit主页中的linux预编译库（为了用我编好的opencv+ffmpeg，这玩意有点复杂，如果你想自己编带ffmpeg支持的opencv，可以看我写的博客：https://zhuanlan.zhihu.com/p/472115312） * 下载lite.ai.toolkit源代码，因为你想编译NCNN版本，我预编译的lite.ai.toolkit只支持onnxruntime，所以要用lite.ai.toolkit的源码重新编译 * 下载NCNN官方release的linux预编译库，参考lite.ai.toolkit的README编译linux版本
lite.ai.toolkit有中文文档的，你可以看一下
> 我看不太懂（...），我看您在 https://github.com/DefTruth/YOLO5Face.lite.ai.toolkit 这个仓库里写了NCNN版本的推理实现已经测试通过了，可以问一下怎么用嘛？另外还想问一下您有测过onnx和ncnn推理的速度区别吗，差距大吗？] 这是在Mac测的，linux的类似，但是要把库替换成linux的，CMakelists可能也要修改。pc下ncnn并不快，onnxruntime比较快，但移动端ncnn性能还可以。
> 您好！我还有一个问题，编译NCNN版本的lite.ai.toolkit时，是需要修改build.sh里面的参数就可以吗?CMakeLists需不需要修改呢？ 参考lite.ai.toolkit的README文档，开启-DENABLE_NCNN=ON
可以先参考这个文档在Android接入FastDeploy的模型能力哈，我们计划会在后续提供aar包直接调用。目前可以通过JNI的方式接入您想使用的模型（暂时只支持Paddle系列的模型），参考文档： - [在 Android 中通过 JNI 使用 FastDeploy C++ SDK](https://github.com/PaddlePaddle/FastDeploy/blob/develop/docs/cn/faq/use_cpp_sdk_on_android.md) 以及相关的app案例： - [图像分类Android使用文档](../../../examples/vision/classification/paddleclas/android/README.md) - [目标检测Android使用文档](../../../examples/vision/detection/paddledetection/android/README.md)
You must convert the saved SyncBatchNorm in pretrained yolor-xx.pt to BatchNorm first ! if you reload it use CPU. ```python import argparse import sys import time sys.path.append('./') # to run...
在pytorch中的直接内存操作，在转换onnx后会有问题。似乎onnx还不支持这种操作，虽然能转换，但是效果无法对齐。因此将源码的直接内存操作修改成普通操作，就没有问题了。
> @DefTruth Hi, > > I get this error when trying the code above: ModuleNotFoundError: No module named 'models.experimental' Please advice me where I can find models/experimental.py > > Thanks!...