Mô hìnhĐiểm AI 39/100
NVIDIA TensorRT Edge-LLM giúp Jetson AGX Thor đạt hiệu suất nhanh gấp 6,4 lần trong bài kiểm tra MLPerf
Sử dụng TensorRT Edge-LLM, Jetson AGX Thor chạy mô hình Qwen3.6-27B với tốc độ 52,33 tokens/s, hoàn thành bài kiểm tra MLPerf Edge Agentic nhanh gấp 6,4 lần so với phương pháp truyền thống.