Blog
Hướng dẫn, tin tức, và ghi chép kỹ thuật xoay quanh AI, robotics, và các dự án triển khai tại Việt Nam.
· Ban Biên Tập
NVIDIA Jetson Orin Nano Super: cỗ máy AI biên đáng mua nhất phân khúc phổ thông
Với 67 TOPS và mức giá dễ tiếp cận, Jetson Orin Nano Super đưa suy luận AI nghiêm túc đến tay sinh viên và maker Việt Nam. Đánh giá chi tiết hiệu năng, nhiệt độ và hệ sinh thái phần mềm.
· Phòng Kỹ Thuật
Jetson AGX Orin vs Orin NX: chọn module nào cho robot tự hành?
AGX Orin mạnh gấp đôi nhưng cũng đắt và tốn điện gấp đôi Orin NX. Bài so sánh này giúp bạn quyết định dựa trên khối lượng mô hình, số luồng camera và ngân sách điện của robot.
· Nguyễn Minh Tuấn
Google Coral Edge TPU: tăng tốc suy luận AI với chỉ 2W điện năng
Edge TPU của Google đạt 4 TOPS trong ngân sách điện 2W, lý tưởng cho thiết bị chạy pin. Hướng dẫn cài PyCoral, biên dịch mô hình và các giới hạn cần biết trước khi chọn.
· Lê Thu Hà
Edge AI là gì? Vì sao suy luận tại biên đang thay thế cloud trong nhiều bài toán
Độ trễ thấp, chi phí cố định và dữ liệu không rời khỏi thiết bị: ba lý do khiến edge AI trở thành mặc định cho camera thông minh, robot và IoT công nghiệp. Bài nhập môn cho người mới.
· Ban Biên Tập
Cài JetPack 6 trên Jetson Orin: hướng dẫn từng bước từ flash đến Docker
JetPack 6 mang Ubuntu 22.04, CUDA 12 và TensorRT 10 lên Jetson Orin. Hướng dẫn flash bằng SDK Manager, thiết lập SSD NVMe làm ổ hệ thống và chạy container AI đầu tiên.
· Phòng Kỹ Thuật
Chạy YOLOv8 thời gian thực trên Jetson Orin Nano: từ 12 lên 60 FPS
Mô hình PyTorch nguyên bản chỉ đạt 12 FPS, nhưng sau khi export ONNX và biên dịch TensorRT INT8, cùng một mô hình đạt 60 FPS. Toàn bộ các bước và số đo trong bài.
· Nguyễn Minh Tuấn
TensorRT cho người mới: tối ưu mô hình suy luận nhanh gấp 5 lần
TensorRT biên dịch mô hình thành engine tối ưu cho từng GPU cụ thể. Giải thích FP16, INT8, calibration và cách dùng trtexec để đo hiệu năng trước khi tích hợp vào ứng dụng.
· Lê Thu Hà
Đo hiệu năng LLM nhỏ trên thiết bị biên: Llama, Phi và Gemma trên Jetson
Mô hình ngôn ngữ 2-8B tham số đã chạy được trên Jetson Orin với tốc độ chấp nhận được. Kết quả benchmark llama.cpp trên các mức lượng tử hoá và gợi ý ứng dụng offline.
· Ban Biên Tập
Xây trạm quan trắc giao thông bằng Jetson và camera CSI
Đếm xe, phân loại phương tiện và đo mật độ giao thông theo thời gian thực với một module Jetson, một camera CSI và mô hình YOLO. Kiến trúc hệ thống và bài học triển khai ngoài trời.