Blog
2 bài viết với chủ đề benchmark
· Lê Thu Hà
Đo hiệu năng LLM nhỏ trên thiết bị biên: Llama, Phi và Gemma trên Jetson
Mô hình ngôn ngữ 2-8B tham số đã chạy được trên Jetson Orin với tốc độ chấp nhận được. Kết quả benchmark llama.cpp trên các mức lượng tử hoá và gợi ý ứng dụng offline.
· Phòng Kỹ Thuật
Segment Anything trên thiết bị biên: khả thi đến đâu?
SAM phân đoạn mọi vật thể nhưng nguyên bản quá nặng cho thiết bị biên. Đánh giá các biến thể rút gọn MobileSAM và FastSAM trên Jetson: tốc độ, chất lượng mask và trường hợp dùng hợp lý.