做YOLO相关开发的时候经常要面对一个问题训练完用PyTorch跑通了部署的时候要转ONNX追求速度还要再转TensorRT。每个后端的推理代码写法不太一样预处理、后处理、输入输出的格式都有差异。每次切换都要重新写一套挺浪费时间的。而且来回改容易出错有时候连NMS要不要写都搞混。所以我把自己常用的YOLO推理代码整理了一下开源了一个小项目把三种后端封装成统一的调用接口。项目地址https://github.com/Jay-zzcoder/yolo_inference-python这个项目能做什么一句话概括用同样的代码调用方式跑不同格式的YOLO模型。支持三种格式.ptPyTorch原生.onnxONNX Runtime.engineTensorRT切换后端的时候只需要改一下导入的类和模型路径后面的推理代码不用动。 适合谁用算法工程师快速验证模型在不同后端的性能选最优部署方案学生党学习YOLO工程化部署的最佳实战范例代码完整可跑全栈开发者要把YOLO集成到产品里这个模块直接拿来用这个项目是我在实际工作中反复打磨出来的可以节省不少时间。以前切换后端要半天现在一分钟搞定。如果你也被YOLO部署折腾过不妨试试这个推理工具。觉得好用的话可以GitHub上点个⭐Star。有问题直接提Issue有空我都会回。也欢迎PR一起完善。项目地址再放一遍 https://github.com/Jay-zzcoder/yolo_inference-python
