Aravind Srinivas (Perplexity CEO)@AravSrinivasJoin us if you want to work on hard inference and infrastructure engineering problems!
DịchPerplexity vừa công bố kiến trúc phục vụ mô hình pplx-embed, giúp tăng tốc đáng kể các tác vụ embedding và reranking trên quy mô dữ liệu khổng lồ, vượt xa hiệu năng của vLLM.
Theo thông tin tuyển dụng, Anthropic đang đánh giá việc tự phát triển hạ tầng thanh toán và tính phí nội bộ nhằm giảm bớt sự phụ thuộc vào các đối tác như Stripe.
Rohan Paul@rohanpaul_aian absolute spectacle. nvidia Vera Rubin NVL72 racks
DịchDell đã chính thức cung cấp những hệ thống máy chủ NVIDIA Vera Rubin NVL72 thương mại đầu tiên cho CoreWeave, đánh dấu bước tiến quan trọng trong hạ tầng tính toán AI hiệu năng cao.
Perplexity@perplexity_aiEvery answer in Perplexity starts with embedding and ranking models picking the most relevant result…
DịchPerplexity chia sẻ chi tiết về hạ tầng suy luận hiệu năng cao, giúp tối ưu hóa quá trình chọn lọc và xếp hạng kết quả tìm kiếm thông qua các mô hình nhúng (embedding) tiên tiến.
Aravind Srinivas (Perplexity CEO)@AravSrinivasA deep dive into how Perplexity serves search results at scale: embeddings for ranking, GPU-based mo…
DịchPerplexity chia sẻ kỹ thuật vận hành hạ tầng tìm kiếm, tập trung vào tối ưu hóa mô hình nhúng (embedding), suy luận trên GPU và cân bằng giữa độ trễ với lưu lượng truy cập.
Nscale, công ty hạ tầng AI của Anh, đang đàm phán huy động 3,5 tỷ USD thông qua trái phiếu chuyển đổi và nguồn vốn từ Nvidia trước khi chính thức IPO trong tháng này.
SemiAnalysis@SemiAnalysis_A (popcorn) kernel is a specialized seed from a variety of corn that can burst open and turn inside …
DịchSemiAnalysis giải thích rằng việc tối ưu hóa các dòng mã GPU kernel giúp tận dụng tối đa sức mạnh tính toán của Tensor Core. Ở quy mô của OpenAI, chỉ cần cải thiện vài phần trăm hiệu suất kernel cũng có thể tiết kiệm hàng trăm triệu USD chi phí hạ tầng.
Epoch AI@EpochAIResearchAI data centers have been getting larger at an exponential rate. The IT power capacity of the larges…
DịchTheo Epoch AI, công suất điện cho các trung tâm dữ liệu AI hàng đầu đang tăng trưởng chóng mặt với tốc độ gấp đôi sau mỗi 10 tháng kể từ giữa năm 2024. Xu hướng này đặt ra câu hỏi lớn về khả năng duy trì hạ tầng năng lượng trong tương lai.
Nhật Bản đang đẩy mạnh hạ tầng số với kế hoạch đầu tư 60 tỷ USD, nhằm tăng gấp bốn lần công suất các trung tâm dữ liệu phục vụ AI trong thập kỷ tới để bắt kịp làn sóng công nghệ toàn cầu.
Aravind Srinivas (Perplexity CEO)@AravSrinivasPerplexity will be at RustConf to present how we built the sandboxes powering all of Perplexity Comp…
DịchTại RustConf 2026, Perplexity sẽ trình bày về SPACE, nền tảng sandbox dựa trên Rust đóng vai trò cốt lõi cho hệ thống Perplexity Computer, đồng thời tổ chức sự kiện giao lưu cho cộng đồng lập trình viên.
Các nền tảng AI hàng đầu gồm OpenAI, Anthropic và xAI đã gặp sự cố gián đoạn dịch vụ cùng lúc vào sáng thứ Năm. Dù OpenAI xác nhận lỗi định tuyến gây ảnh hưởng đến ChatGPT, nguyên nhân gốc rễ của sự cố đồng loạt này vẫn chưa được công bố rõ ràng.
Elvis Saravia@omarsar0Nghiên cứu mới từ Tencent chỉ ra rằng sự phát triển của môi trường huấn luyện đang dần trở thành nút thắt cổ chai chính trong việc nâng cao năng lực cho các mô hình AI hiện đại.
Chuyên gia Tom Tunguz dự báo nhu cầu hạ tầng AI sẽ đẩy chi phí xây dựng trung tâm dữ liệu toàn cầu lên 5 nghìn tỷ USD, trong đó 4 nghìn tỷ USD cần huy động qua nợ vay, gây áp lực lớn lên thị trường tài chính.
SemiAnalysis@SemiAnalysis_Zhipu AI vừa phát hành báo cáo bán niên đầu tiên kể từ khi niêm yết, trong đó dành đáng kể dung lượng để phân tích sâu về hạ tầng và năng lực tính toán của công ty.
a16z chính thức đầu tư vào Gimlet Labs để phát triển nền tảng điện toán suy luận đa chip, tối ưu hóa hiệu suất trí tuệ nhân tạo trên cùng một mức tiêu thụ năng lượng.
Rohan Paul@rohanpaul_aiPwC projects a $31.6T in global data-center spending through 2050. Its central forecast has annual …
DịchPwC dự báo chi tiêu cho trung tâm dữ liệu sẽ tăng vọt lên 1,8 nghìn tỷ USD/năm vào năm 2050, với tỷ trọng thiết bị ICT chiếm tới 93% tổng vốn đầu tư nhờ chu kỳ thay thế phần cứng liên tục.
Rohan Paul@rohanpaul_aiDeepseek plans the largest known Huawei chip cluster with 160, 000 processors in Inner Mongolia Bloo…
DịchTheo Bloomberg, DeepSeek đang lên kế hoạch lắp đặt 160.000 chip Huawei 950DT tại trung tâm dữ liệu ở Nội Mông, tạo nên một trong những cụm AI sử dụng chip Huawei lớn nhất thế giới.
DeepSeek lên kế hoạch triển khai 160.000 chip Huawei Ascend-950DT tại Nội Mông để phục vụ suy luận AI, trong khi vẫn duy trì huấn luyện trên phần cứng Nvidia. Dự án này đối mặt với thách thức lớn về nguồn cung chip và bộ nhớ HBM3E từ các nhà sản xuất nội địa Trung Quốc.
Thêm 6 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)X: X.PIN (@thexpin)TechNodePandailyGenK AIX: Kim (@kimmonismus)
Kim@kimmonismusDeepSeek reportedly plans to deploy at least 160, 000 Huawei Ascend 950DT chips in Inner Mongolia, po…
DịchTheo Bloomberg, DeepSeek đang lên kế hoạch xây dựng cụm siêu máy tính AI với 160.000 chip Huawei Ascend 950DT tại Nội Mông, hứa hẹn trở thành một trong những hạ tầng phần cứng AI lớn nhất sử dụng công nghệ nội địa Trung Quốc.
Việc OpenAI chi mạnh tay mua máy Mac để phục vụ phát triển AI đã vô tình đưa Apple vào vị thế nhà cung cấp hạ tầng quan trọng, dù hãng vẫn chưa phải là đối thủ trực tiếp của NVIDIA.
Triển lãm CIOE lần thứ 27 tại Thâm Quyến tập trung vào công nghệ kết nối quang học, thúc đẩy các mô-đun 400G, 800G, 1.6T cùng lộ trình phát triển LPO, NPO và CPO để đáp ứng nhu cầu tính toán AI.
Theo Bloomberg, nhà phát triển trung tâm dữ liệu Crusoe vừa gọi vốn thành công 3 tỷ USD với mức định giá 30 tỷ USD, dưới sự dẫn dắt của Atreides Management và Valor Equity Partners.
Cerebras bổ sung Qwen 27B và GPT-OSS 120B vào danh mục mô hình, mang lại tốc độ suy luận ấn tượng lên tới 1500-3000 tokens/giây, hỗ trợ cửa sổ ngữ cảnh lớn.
Emad Mostaque@EMostaqueAstra used 100k GPUs at Stargate Texas With a couple of months to pretrain that makes it the first …
DịchEmad Mostaque tiết lộ Astra đã sử dụng cụm 100.000 GPU tại Stargate Texas để hoàn thành đợt huấn luyện kéo dài hai tháng, đánh dấu cột mốc dự án AI đầu tiên đạt quy mô chi phí 1 tỷ USD.
SemiAnalysis@SemiAnalysis_OPENAI<>NVIDIA: It is clearly a good idea for OpenAI to start an ASIC program, spend hundreds of mil…
DịchViệc OpenAI đầu tư vào chip ASIC Jalapeno được xem là đòn bẩy để gây áp lực lên NVIDIA, giúp họ giành lợi thế trong các thỏa thuận tài chính và đảm bảo nguồn cung. Dù dự án có thành công hay không, OpenAI vẫn nắm thế chủ động trong cuộc chơi hạ tầng AI.
Ma Dongxi NLP@dongxi_nlpThông tin NVIDIA mua lại Hugging Face đang lan truyền, hứa hẹn tạo ra hạ tầng AI tối ưu hóa mạnh mẽ, giúp việc triển khai các mô hình từ thư viện 'from_pretrained ' trở nên mượt mà và tức thì hơn.
Cùng sự kiện, bài đại diện «OpenAI ra mắt GPT-6 Astra: Bước tiến mới cho công việc chuyên nghiệp»
Elon Musk@elonmuskAnd we are taking corrective action to ensure this does not happen again
DịchElon Musk xác nhận đã triển khai các biện pháp khắc phục sau khi trung tâm dữ liệu tại Memphis gặp sự cố kỹ thuật, gây gián đoạn dịch vụ Grok. Hiện tại, toàn bộ hệ thống đã hoạt động bình thường trở lại.
SemiAnalysis@SemiAnalysis_SemiAnalysis đánh giá cao đội ngũ vLLM nhờ các cải tiến kỹ thuật vượt trội giúp tối ưu hóa hiệu suất cho các tác vụ AI Agent phức tạp.
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_Wolf【CORRECTION】 All the *closed* AIs are down
DịchThomas Wolf, đồng sáng lập Hugging Face, đã lên tiếng đính chính rằng sự cố gián đoạn không chỉ xảy ra với một nền tảng đơn lẻ mà đang ảnh hưởng đến toàn bộ các dịch vụ AI mã nguồn đóng.
Kioxia vừa tiết lộ kế hoạch phát triển các dòng chip nhớ thế hệ mới nhằm đáp ứng nhu cầu khổng lồ về hạ tầng lưu trữ cho trí tuệ nhân tạo, củng cố vị thế trong cuộc đua bán dẫn toàn cầu.
SemiAnalysis@SemiAnalysis_Everyone is watching the federal/DOE-owned land at the center of the 8 GW Portsmouth site in the Ope…
DịchSemiAnalysis tiết lộ dự án trung tâm dữ liệu 8 GW của OpenAI và Nvidia dự kiến khởi công vào tháng 3/2026 tại khu đất thuộc Bộ Năng lượng Mỹ (DOE) ở Portsmouth, tận dụng hạ tầng từ nhà máy làm giàu uranium cũ.
Alexandr Wang (Scale AI nhà sáng lập/Meta Giám đốc AI)@alexandr_wangNhà sáng lập Scale AI, Alexandr Wang, bày tỏ sự đồng tình với dự đoán của Dylan Patel về xu hướng phát triển hạ tầng điện toán AI.
CEO OpenAI cho rằng nhiều nhà cung cấp đám mây đang ồ ạt mở rộng hạ tầng mà thiếu khách hàng và doanh thu thực tế, đồng thời khẳng định sự đầu tư của OpenAI là có nhu cầu thực tiễn.
X.PIN@thexpinByteDance has reportedly expanded a planned loan from US$20B to US$29.6B after strong bank demand. I…
DịchByteDance vừa tăng hạn mức vay từ 20 tỷ lên 29,6 tỷ USD nhờ nhu cầu mạnh từ các ngân hàng. Nguồn vốn này dự kiến được dùng cho hoạt động kinh doanh chung và đầu tư mạnh tay tới 70 tỷ USD vào hạ tầng AI trong năm nay.
Các tập đoàn công nghệ lớn kêu gọi G20 coi AI là hạ tầng thiết yếu để đẩy mạnh xây dựng trung tâm dữ liệu, bất chấp những tranh cãi về chi phí điện năng và tác động xã hội tại chính nước Mỹ.
Anthropic vừa ký thỏa thuận điện toán đám mây trị giá 35 tỷ USD với Lambda để mở rộng hạ tầng cho Claude, thông qua một trung tâm dữ liệu quy mô 350 MW tại Texas.
ByteDance đang xúc tiến khoản vay hợp vốn trị giá 29,6 tỷ USD. Nếu thành công, đây sẽ là khoản vay bằng đồng USD lớn thứ hai tại châu Á trong năm 2026, cho thấy tiềm lực tài chính mạnh mẽ của gã khổng lồ công nghệ này.
Trước nhu cầu bùng nổ từ ngành trí tuệ nhân tạo, tập đoàn hóa chất Solvay (Bỉ) quyết định mở rộng gấp đôi năng lực sản xuất tại Đài Loan nhằm đảm bảo nguồn cung vật liệu thiết yếu cho các nhà sản xuất chip hàng đầu.
HarnessDev là một benchmark mới đánh giá khả năng của AI trong việc tự tạo lập và cải tiến hạ tầng thực thi (harness) thay vì chỉ tập trung vào kết quả đầu ra của tác vụ.
Tại hội nghị G20, CEO Jensen Huang khẳng định AI đang thúc đẩy tăng trưởng kinh tế và tạo ra hàng trăm nghìn việc làm mới thông qua đầu tư hạ tầng. Ông cũng nhấn mạnh các quốc gia nên tập trung vào thế mạnh riêng trong chuỗi giá trị AI thay vì cố gắng làm chủ mọi lĩnh vực.