基于TensorRTCNN分类器优化与实现.pdfVIP

学习实现一个完整的CNN分类器案例

1.模型里面没有softmax操作，在这里采用包裹一层加上softmax节点后再导出模型，这样使得后处理得到的

直接就是概率值，避免后处理上再做softmax

2.在c++代码中，则充分采用指针偏移的方式，提升cpu上预处理的效率

3.对于bgr-rgb也避免使用cvtColor实现，而是简单的改变赋值时的索引，提升效率

学习yolov5如何导出模型并利用起来

1.修改export_onnx时的导出参数，使得动态维度指定为batch，去掉width和height的指定

2.导出时，对yolo.py进行修改，是的后处理能够简化，并将anchor合并到onnx中

3.预处理部分采用warpaffine，描述对图像的平移和缩放

学习如何处理场景分割的案例

1.场景分割的预处理后处理逻辑

2.预处理采用warpaffine时，后处理可以使用逆变换得到mask

1.由于后处理比较复杂，放到cuda去做比较，这里把计算放到了onnx中

1.这节课的主要目的是：通过调试分析mmdet代码，把yolox模型导出，并在tensorrt上推理得到结果

2.其中涉及到调试和分析的方法技巧

1.onnx是开发的一个中间格式，而onnxruntime简称ort是