Nghiên cứu
TileMix: Tăng tốc suy luận LLM thông qua kỹ thuật định tuyến độ chính xác theo ô
(giờ Việt Nam)
Tóm tắt AI
TileMix là kỹ thuật mới giúp tối ưu hóa tính toán self-attention trong LLM bằng cách chia ma trận thành các ô và linh hoạt điều phối độ chính xác (FP16 hoặc INT8) cho từng nhóm ô, giúp giảm tải bộ nhớ mà vẫn duy trì hiệu suất phần cứng.
Chính văn · Bản dịch AI
Xem PDF HTML (thử nghiệm)
DOI do arXiv cấp thông qua DataCite
Lịch sử gửi bài
Từ: Hanzhi Zhang [xem email] [v1] Thứ Ba, 18 tháng 8 năm 2026 03:53:02 UTC (490 KB)
Bài viết được AI dịch và tổng hợp tự động từ Hugging Face Daily Papers. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.