模型收敛只是第一步,真正的战场在推理落地。
流程
- 格式转换:PyTorch → ONNX → TensorRT / OpenVINO / TFLite。
- 精度校准:量化时用代表性数据定 scale。
- 性能评估:看 FPS 与延迟,而不是只看 FLOPs。
工地场景的特殊性
工地算力受限、环境复杂多变,这点在我的 YOLOv8n+P2 项目 里体现得很明显——需要知识集/计算机视觉/模型轻量化。
工具备忘
| 工具 | 适用平台 |
|---|---|
| TensorRT | NVIDIA GPU/Jetson |
| OpenVINO | Intel CPU/NPU |
| TFLite | Android / MCU |
| RKNN | RK 系列 SoC |