AMD MI355X becomes the first official TileRT result no AgentX! This configuration achieves an astoun…
DịchAMD MI355X trở thành chip đầu tiên đạt kết quả TileRT chính thức mà không cần AgentX, đạt tốc độ 470 TPS trên GLM 5.3 (FP8), nhanh hơn 40% so với GB300 chạy FP4.
MI355X IS UP TO 1.7X BETTER 💰️PERF PER DOLLAR 💰️THAN DGX B300. The AMD Mainland China UMBP team co…
DịchTheo đánh giá từ SemiAnalysis, AMD MI355X vượt trội hơn hẳn DGX B300 về hiệu quả chi phí, với tỷ lệ hiệu năng trên mỗi USD cao gấp 1,7 lần trong các tác vụ tính toán AI.
Massive shoutout to TJ & Team at @EmbeddedLLM; they are the lead maintainers & CODEOWNERS of vLLM RO…
DịchĐội ngũ phát triển vLLM ROCm tại EmbeddedLLM đã chính thức nhận được quyền truy cập lâu dài vào cụm máy chủ MI355X của AMD, hứa hẹn thúc đẩy hiệu năng vượt trội cho dự án vLLM.
BREAKING: AMD MI355X is quickly closing the perf/TCO gap in agentic inference, when compared to GB30…
DịchAMD MI355X đang rút ngắn đáng kể khoảng cách về hiệu năng và chi phí sở hữu (TCO) so với đối thủ GB300 của Nvidia trong các tác vụ suy luận AI, theo dữ liệu mới nhất từ SemiAnalysis.
Nhờ tối ưu hóa phần mềm ROCm và toán tử chú ý cho ngữ cảnh dài, AMD đã giúp chip MI355X đạt hiệu suất vượt trội trên mô hình MiniMax M3 mà không cần thay đổi phần cứng.
On total tokens per $ TCO, a new AMD MI355x submission beats B300 at lower interactivity ranges on A…
DịchTheo phân tích từ SemiAnalysis, AMD MI355x đang chiếm ưu thế về tổng chi phí sở hữu (TCO) trên mỗi token so với B300 của NVIDIA trong các tác vụ AgentX có độ tương tác thấp.
On total tokens per $ TCO, a new AMD MI355x submission beats B300 at lower interactivity ranges on A…
DịchTheo báo cáo từ SemiAnalysis, AMD MI355X đã đánh bại Nvidia B300 về tổng chi phí sở hữu (TCO) trên mỗi token tại phân khúc tương tác thấp (P90), nhờ vào sự tối ưu hóa từ vLLM và LMCache.
Shoutout to @AMD team for quick improvements to MI355X performance on agentic workloads! In just a …
DịchSemiAnalysis ghi nhận AMD đã tối ưu hóa đáng kể hiệu suất MI355X cho các mô hình lớn như Qwen3.5 397B. Kết quả cho thấy chi phí vận hành (TCO) của MI355X hiện chỉ còn 1,5 USD/chip/giờ, vượt trội hơn so với các giải pháp cạnh tranh.