MagiciSource
Results
4
comments of
MagiciSource
我觉得你的这套代码用起来很方便，支持你不断的更新，可惜我的工作环境不能联网，我修改的部分没法提供给你
> 这个可以参考这里：[ONNX runtime takes much time and memory to load model #3802](https://github.com/microsoft/onnxruntime/issues/3802) 加载慢，还是比较能接受的 我尝试了下，加载优化过的模型可以减少一点加载时间，还有设置ORT_PARALLEL可以减少差不多一半的加载时间，但是好像会让推理时间长一点点。另外有没有什么方式可以减小模型的大小？
同期待，最好是中英文混合支持的