Blog
6 bài viết với chủ đề edge-ai
· Ban Biên Tập
NVIDIA Jetson Orin Nano Super: cỗ máy AI biên đáng mua nhất phân khúc phổ thông
Với 67 TOPS và mức giá dễ tiếp cận, Jetson Orin Nano Super đưa suy luận AI nghiêm túc đến tay sinh viên và maker Việt Nam. Đánh giá chi tiết hiệu năng, nhiệt độ và hệ sinh thái phần mềm.
· Nguyễn Minh Tuấn
Google Coral Edge TPU: tăng tốc suy luận AI với chỉ 2W điện năng
Edge TPU của Google đạt 4 TOPS trong ngân sách điện 2W, lý tưởng cho thiết bị chạy pin. Hướng dẫn cài PyCoral, biên dịch mô hình và các giới hạn cần biết trước khi chọn.
· Lê Thu Hà
Edge AI là gì? Vì sao suy luận tại biên đang thay thế cloud trong nhiều bài toán
Độ trễ thấp, chi phí cố định và dữ liệu không rời khỏi thiết bị: ba lý do khiến edge AI trở thành mặc định cho camera thông minh, robot và IoT công nghiệp. Bài nhập môn cho người mới.
· Lê Thu Hà
Đo hiệu năng LLM nhỏ trên thiết bị biên: Llama, Phi và Gemma trên Jetson
Mô hình ngôn ngữ 2-8B tham số đã chạy được trên Jetson Orin với tốc độ chấp nhận được. Kết quả benchmark llama.cpp trên các mức lượng tử hoá và gợi ý ứng dụng offline.
· Ban Biên Tập
Raspberry Pi 5 vs Jetson Orin Nano: chọn board nào cho dự án AI?
Pi 5 rẻ hơn và cộng đồng đông hơn, Jetson mạnh hơn và hệ sinh thái AI sâu hơn. So sánh chi tiết hiệu năng suy luận, điện năng, phần mềm và tổng chi phí sở hữu cho từng loại dự án.
· Ban Biên Tập
Đếm người ra vào cửa hàng bằng camera và mô hình phát hiện
Kết hợp phát hiện người với thuật toán tracking và một đường đếm ảo: hệ thống đếm khách ra vào chạy trên board biên, không gửi hình ảnh lên cloud. Kiến trúc và code khung.