Cerebras ra mắt siêu chip AI CS-4: Hiệu năng gấp đôi, tốc độ xử lý vượt xa Nvidia

Cerebras vừa giới thiệu bộ tăng tốc AI CS-4, sản phẩm mà CEO Andrew Feldman gọi là hệ thống nhanh nhất trong ngành. CS-4 là một sản phẩm ở quy mô rack, nghĩa là một tủ máy chủ hoàn chỉnh được đưa vào các trung tâm dữ liệu như một khối thống nhất, bao gồm đầy đủ các đơn vị tính toán, nguồn điện và hệ thống làm mát.

CS-4 vẫn vận hành trên chip WSE-3 tiến trình 5nm, nhưng hiệu năng đã tăng gấp đôi so với phiên bản CS-3 tiền nhiệm nhờ việc đẩy tốc độ xung nhịp thông qua nguồn điện mạnh hơn và hệ thống làm mát tốt hơn. Một rack hiện chứa ba tấm wafer thay vì hai và cung cấp tốc độ lên tới 4.400 token mỗi giây cho mỗi người dùng. Cerebras cho biết con số này nhanh gấp 30 lần so với các thiết lập chạy trên GPU của Nvidia. Dung lượng bộ nhớ vẫn giữ nguyên ở mức 44 GB trên mỗi tấm wafer.

Cerebras đang sử dụng thiết kế "Backpack" dạng mô-đun mới để lắp ráp nhanh hơn, cùng với khả năng suy luận phân tách thông qua các đối tác như AMD và AWS Trainium. Các nhà phân tích tại SemiAnalysis nhận định những cải tiến về mạng lưới là khá nhỏ. Thông tin chi tiết hơn sẽ được công bố tại hội nghị Hot Chips. Phần cứng của Cerebras hiện đang được OpenAI sử dụng cho Codex Spark, cùng nhiều dự án khác.

Tin tức AI không thổi phồng – Được biên soạn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay