FastDeploy icon indicating copy to clipboard operation
FastDeploy copied to clipboard

dynamic_batching 怎么设置呢

Open PC-god opened this issue 10 months ago • 0 comments


温馨提示:根据社区不完全统计,按照模板提问,可以加快回复和解决问题的速度


环境

  • 【FastDeploy版本】: registry.baidubce.com/paddlepaddle/fastdeploy:1.0.7-gpu-cuda11.4-trt8.5-21.10
  • 【编译命令】
  • 【系统平台】: centos
  • 【硬件】: 说明具体硬件型号,如 Nvidia GPU 3080TI, CUDA 11.2 CUDNN 8.3
  • 【编译语言】: C++ / Python(3.7或3.8等)

问题日志及出现问题的操作流程

  • 服务化,设置的config.pbtxt 设置了max_batch_size 和dynamic_batching,返回只有一个box

PC-god avatar Mar 26 '25 03:03 PC-god