NgànhĐiểm AI 39/100
Astera Labs ra mắt bộ điều khiển bộ nhớ Leo X: Tối ưu hóa KV Cache cho AI
Astera Labs giới thiệu dòng Leo X mới, cho phép chuyển tải KV Cache từ GPU sang bộ nhớ ngoài, giúp giảm độ trễ phản hồi đầu tiên tới 62% và tăng tốc độ xử lý token lên 22%.