Toàn bộ tin AI · Thẻ “Chi phí vận hành”

25/08

Thứ Ba · 1 tin

02:18

Rohan Paul@rohanpaul_ai

Hướng dẫnĐiểm AI 35/100

NVIDIA áp đảo AMD về hiệu quả chi phí: Dùng chip NVIDIA vẫn rẻ hơn dù chip AMD được cho không

NVIDIA reaches up to 5x better cost efficiency than AMD at 150 tok/s/user on its GLM 5.3 SGLang comp…

DịchBáo cáo từ SemiAnalysis cho thấy tại mức 150 tok/s/user, hiệu quả chi phí của NVIDIA vượt trội gấp 5 lần AMD. Thậm chí nếu chip AMD miễn phí, tổng chi phí vận hành của NVIDIA vẫn thấp hơn nhờ tối ưu hóa phần mềm vượt trội.

NVIDIAAMDPhần cứng AIChi phí vận hành

15/08

Thứ Bảy · 1 tin

23:23

Rohan Paul@rohanpaul_ai

Nghiên cứuĐiểm AI 36/100

Microsoft: Thay thế suy luận tốn kém bằng 'kỹ năng chưng cất' để tối ưu chi phí

What if you could pay the reasoning cost once, then reuse what the model learned across future tasks…

DịchMicrosoft đề xuất phương pháp chuyển đổi các mô hình suy luận đắt đỏ thành bộ quy tắc nhỏ gọn. Bằng cách trích xuất kinh nghiệm từ các lần chạy trước, phương pháp này giúp giảm tới 4,5 lần lượng token đầu ra mà vẫn duy trì hiệu suất vượt trội trên các tác vụ thông minh.

MicrosoftTối ưu hóa AISuy luận AIChi phí vận hành

Tổng 2 tin, không còn tin nào nữa

40 tin mỗi trang, cuộn để tải tiếp · lọc và sắp xếp ngay trên máy chủ (17 ms) · bộ lọc nằm trong đường dẫn nên chia sẻ link là giữ nguyên kết quả