parker-lyu /
learn-tensorrt
我开源了一套 TensorRT C++17 部署学习项目。以 YOLOv8 为主线,覆盖 ONNX 导出、C++ 推理、显式 Q/DQ INT8 量化、CUDA 预处理、异步多流流水线和 Nsight 性能分析。适合有一些 C++/CMake 基础、准备从算法转部署的开发者。 亮点 每课都有代码、构建和运行说明,重点讲清 RAII、资源生命周期、精度对齐和性能测量。 不止单张图片推理,后续加入有界队列、动态批处理和多流并发,观察延迟、吞…
parker-lyu /
我开源了一套 TensorRT C++17 部署学习项目。以 YOLOv8 为主线,覆盖 ONNX 导出、C++ 推理、显式 Q/DQ INT8 量化、CUDA 预处理、异步多流流水线和 Nsight 性能分析。适合有一些 C++/CMake 基础、准备从算法转部署的开发者。 亮点 每课都有代码、构建和运行说明,重点讲清 RAII、资源生命周期、精度对齐和性能测量。 不止单张图片推理,后续加入有界队列、动态批处理和多流并发,观察延迟、吞…
我开源了一套 TensorRT C++17 部署学习项目。以 YOLOv8 为主线,覆盖 ONNX 导出、C++ 推理、显式 Q/DQ INT8 量化、CUDA 预处理、异步多流流水线和 Nsight 性能分析。适合有一些 C++/CMake 基础、准备从算法转部署的开发者。 亮点 每课都有代码、构建和运行说明,重点讲清 RAII、资源生命周期、精度对齐和性能测量。 不止单张图片推理,后续加入有界队列、动态批处理和多流并发,观察延迟、吞吐与过载行为。 固定 TensorRT 10.14 / CUDA 13.0 开发容器,有中文 README,MIT 协议。参考环境是 Ubuntu + NVIDIA GPU。 部分选修课的运行验收仍待完成,覆盖矩阵列出了具体边界。
讨论这个产品