Blog
2 bài viết với chủ đề tensorrt
· Phòng Kỹ Thuật
Chạy YOLOv8 thời gian thực trên Jetson Orin Nano: từ 12 lên 60 FPS
Mô hình PyTorch nguyên bản chỉ đạt 12 FPS, nhưng sau khi export ONNX và biên dịch TensorRT INT8, cùng một mô hình đạt 60 FPS. Toàn bộ các bước và số đo trong bài.
· Nguyễn Minh Tuấn
TensorRT cho người mới: tối ưu mô hình suy luận nhanh gấp 5 lần
TensorRT biên dịch mô hình thành engine tối ưu cho từng GPU cụ thể. Giải thích FP16, INT8, calibration và cách dùng trtexec để đo hiệu năng trước khi tích hợp vào ứng dụng.