边缘计算与智能视觉应用 课件 6.4 TensorRT 部署.pptx

边缘计算与智能视觉应用6.4TensorRT部署讲课人：XXX时间：20XX年12月30日延时符

AboutUs目录TensorRTEngine加载及推理01TensorRT推理代码02

TensorRTEngine加载及推理01

本节将讲解如何使用TensorRT加速YOLOv8模型推理，并在GPU上进行目标检测。我们将通过实例代码逐步讲解推理过程，并展示如何获取并可视化推理结果。TensorRTEngine加载及推理

TensorRT推理代码02

TensorRT推理代码在执行推理之前，首先需要选择推理设备。如果系统中存在可用的GPU（即CUDA可用），则使用GPU进行加速，否则使用CPU。1、选择推理设备使用TensorRT推理引擎加载YOLOv8模型。.engine文件是经过优化的推理引擎文件，可实现快速推理。task=detect参数指定这是一个目标检测任务。2、加载模型通过OpenCV(cv2.imread)加载待检测的图片。需确保提供的图片路径正确，否则可能无法成功读取图片。3、读取图片在继续进行推理之前，先检查图片是否成功加载。如果图片加载失败，将输出错误提示信息，并终止后续操作。4、图片检查

TensorRT推理代码使用加载的YOLOv8模型对输入图片进行推理。模型会根据输入图片返回检测结果，其中包括检测到的目标及其边界框信息。5、运行推理遍历模型的检测结果，并打印每个目标的边界框信息。代码还会统计检测到的目标数量，并将其存储在count变量中。6、处理检测结果使用YOLOv8的内置绘图功能在原始图片上绘制检测结果，包括检测的目标、边界框和标签。7、可视化结果使用OpenCV的cv2.imshow显示处理后的图片，并通过cv2.waitKey(0)等待用户关闭显示窗口。显示窗口标题为“YOLOv8Detection”。8、显示结果

谢谢观看Thankyouforwatching