资料4jetson nano ai入门教程5之tensorrt环境搭建inference.pdfVIP

5、Jetson Nano 之TensorRT 环境搭建(jetson-inference) NVIDIA TensorRT™是一个高性能深度学习推理平台。它包括深度学习推理优化器和运行 时，可为深度学习推理应用程序提供低延迟和高吞吐量。在推理期间，基于TensorRT 的应 用程序比仅CPU 平台的执行速度快40 倍。使用TensorRT ，您可以优化在所有主要框架中培 训的神经网络模型，以高精度校准低精度，最后部署到超大规模数据中心，嵌入式或汽车产 品平台。 TensorRT 构建于NVIDIA 的并行编程模型CUDA 之