Elon Musk tiết lộ lộ trình nâng cấp hạ tầng tính toán cho xAI, với mục tiêu đưa Colossus 2 đạt vị thế dẫn đầu ngành trong 6 tháng tới nhờ sức mạnh từ 1,1 triệu chip Nvidia GB300.
Cùng sự kiện, bài đại diện «Elon Musk dự kiến bổ sung 660.000 GPU GB300 cho siêu máy tính Colossus 2 vào cuối năm»Bài viết chia sẻ kinh nghiệm triển khai tách biệt PD cho mô hình Qwen3.8-2.4T trên cụm GB300 NVL72, đạt thông lượng 5000 token/GPU và độ trễ tối ưu cho người dùng.
SemiAnalysis@SemiAnalysis_ALERT🚨 GB300 NVL72 NVLINK BACKPLANE ENABLES 13x BETTER PERF PER DOLLAR THAN HOPPER ON AGENTIC INFER…
DịchNhờ thiết kế bảng mạch đồng cải tiến, GB300 NVL72 mở rộng quy mô lên tới 72 GPU, cho phép tối ưu hóa song song các chuyên gia (MoE) và đạt hiệu suất trên mỗi USD cao gấp 13 lần so với kiến trúc Hopper.
SemiAnalysis@SemiAnalysis_NVIDIA GB300 NVL72 IS 7X BETTER 💰💰 PERF PER DOLLAR 💰💰 THAN H200 on long context agentic workload…
DịchNhờ tối ưu hóa kiến trúc và khả năng tận dụng băng thông từ tấm nền đồng, NVIDIA GB300 NVL72 đạt hiệu suất trên mỗi USD cao gấp 7 lần so với H200 trong các tác vụ AI có ngữ cảnh dài.
