Alibaba vừa phát hành mã nguồn mở cho Qwen3.8-2.4T-A95B, mô hình MoE với 2,4 nghìn tỷ tham số. Với khả năng xử lý ngữ cảnh dài và tối ưu cho tác vụ đại lý (agentic), đây là bước tiến lớn trong hệ sinh thái mã nguồn mở.
Nghiên cứu so sánh hai phương pháp tạo mã: tạo toàn bộ tệp tin và chỉnh sửa từng phần (diff). Kết quả cho thấy tạo mã trực tiếp vượt trội hơn hẳn về độ chính xác và khả năng biên dịch so với phương pháp diff.
Nghiên cứu chỉ ra rằng việc tối ưu hóa hệ thống hỗ trợ (harness) giúp mô hình nhỏ đạt hiệu suất cao, nhưng việc huấn luyện bắt chước từ chuyên gia lại gây phản tác dụng, đòi hỏi phương pháp hiệu chỉnh on-policy thay thế.
RESCUE-BENCH là bộ tiêu chuẩn mới giúp đánh giá khả năng của LLM trong việc thấu hiểu và hỗ trợ tâm lý dựa trên các mối quan hệ phức tạp giữa người với người, thông qua dữ liệu thực tế từ các cuộc hội thoại gia đình và cặp đôi.
Φ-Bench là bộ tiêu chuẩn mới giúp đánh giá năng lực của LLM trong việc giải quyết các bài toán kỹ thuật phức tạp, từ tối ưu hóa kernel đến xây dựng hệ thống hạ tầng AI hoàn chỉnh dựa trên mã nguồn thực tế.
Nghiên cứu chỉ ra rằng việc huấn luyện LLM trên toàn bộ chuỗi suy luận dài không mang lại nhiều lợi ích. Thay vào đó, các chuỗi rút gọn vẫn đảm bảo hiệu quả, giúp mô hình tránh được các thông tin dư thừa không cần thiết.
Rohan Paul@rohanpaul_aiFable 5 to Fable 5.1, some good amount of writing style changes, The em dashes, hedges, praise, an…
DịchDữ liệu từ Text Arena cho thấy Claude Fable 5.1 đã tinh chỉnh văn phong bằng cách giảm 58% các từ đồng thuận đầu câu và 32% dấu gạch ngang, đồng thời tăng 63% việc sử dụng dấu chấm phẩy để văn bản trở nên chuyên nghiệp hơn.
EVOHARNESSBENCH là bộ tiêu chuẩn mới đánh giá khả năng thích nghi của AI Agent khi các công cụ, kỹ năng và hệ thống hỗ trợ liên tục thay đổi theo thời gian, thay vì chỉ tập trung vào các tác vụ cố định.
Ethan Mollick@emollickOpen weights models are further from the frontier than we have seen in some time. Mythos was launche…
DịchDù các mô hình mã nguồn mở gần đây như K3 hay GLM-5.3 đạt hiệu suất ấn tượng, thực tế sử dụng cho thấy chúng vẫn thua kém đáng kể so với các mô hình tiên phong như Mythos hay Astra.
DAIR.AI@dair_aiRecommended paper from Google if you want to learn how to improve long-horizon agents with procedura…
DịchGoogle giới thiệu Procedural Graph giúp AI Agent hệ thống hóa kiến thức thành các chuỗi hành động logic. Hệ thống tự động tinh chỉnh cấu trúc đồ thị thông qua LLM bằng cách học hỏi từ các thất bại, giúp AI tự sửa lỗi và cải thiện hiệu suất vượt xa các thiết lập thủ công.
DAIR.AI@dair_aiWild paper from Microsoft and colleagues. They show a new attack that reconstructs the text a local…
DịchCác nhà nghiên cứu từ Microsoft và ĐH Ben Gurion đã phát triển kỹ thuật tấn công mới, cho phép khôi phục văn bản từ các mô hình LLM chạy cục bộ bằng cách theo dõi hoạt động bộ nhớ đệm CPU trong quá trình giải mã token.
Định tuyến mô hình thông minh giúp tối ưu chi phí LLM lên đến 10 lần bằng cách điều phối yêu cầu linh hoạt, tuy nhiên hiệu quả thực tế phụ thuộc vào chiến lược triển khai và đặc thù ứng dụng.
Nathan Lambert@natolambertWe have evidence that 1) AI agents are very good at improving software used to train AI 2) LLMs can …
DịchDù AI Agent có khả năng tự cải tiến phần mềm và LLM đạt trình độ siêu việt, điều này không chứng minh AI sẽ sớm vượt tầm kiểm soát. Thay vào đó, chúng ta có thể đối mặt với sự bão hòa về hiệu năng trước khi có những đột phá mới.
Nghiên cứu đề xuất phương pháp phân tích dữ liệu doanh nghiệp bằng cách kết hợp mô hình ngôn ngữ để hiểu ý định và các chính sách xác định để thực thi chương trình, đảm bảo tính chính xác và khả năng tái lập kết quả.
DeepSeek dự kiến trình làng phiên bản V4.1 Flash vào ngày 10/9, hứa hẹn cải thiện toàn diện về tốc độ, chi phí và hiệu suất xử lý so với bản V4 Pro hiện tại.
AI Notes@AYi_AInotesVideo chuyên sâu này hệ thống hóa quy trình xây dựng LLM từ khâu phân tách từ vựng, làm sạch dữ liệu, định luật mở rộng cho đến kỹ thuật căn chỉnh SFT/PPO và tối ưu hóa tính toán, phù hợp cho người muốn hiểu bản chất kỹ thuật thay vì chỉ dùng prompt.
CommInsight là nền tảng chẩn đoán hệ thống giúp truy vết các sự cố như treo máy, lỗi hoặc nghẽn cổ chai bằng cách tái tạo chuỗi nhân quả từ tầng thấp của thư viện giao tiếp NCCL đến toàn bộ hạ tầng vật lý.
A*-Thought-V2 cải thiện hiệu suất suy luận bằng cách mô hình hóa chuỗi tư duy dưới dạng quỹ đạo trạng thái ẩn, giúp tăng độ chính xác lên 2,6% và giảm đáng kể thời gian tính toán cũng như tài nguyên huấn luyện.
Tập đoàn Sumitomo bắt tay với startup Sakana AI nhằm đẩy mạnh nghiên cứu và ứng dụng các mô hình ngôn ngữ lớn được phát triển nội địa, hướng tới việc làm chủ công nghệ AI tại Nhật Bản.
Rohan Paul@rohanpaul_aiMeta's Muse Spark 1.3 Max is Code Arena's highest-scoring WebDev model below $5 per mn tokens. It s…
DịchMuse Spark 1.3 Max vừa đạt 1650 điểm trên bảng xếp hạng Code Arena WebDev. Với mức giá chỉ 3,5 USD/triệu token, đây là mô hình dẫn đầu về hiệu suất trong phân khúc dưới 5 USD.
Nghiên cứu chỉ ra rằng các mô hình ngôn ngữ lớn có khả năng nhận diện câu hỏi vô lý trước khi tạo văn bản, nhưng lại thất bại trong việc từ chối do sự lệch lạc giữa cơ chế nhận thức và cơ chế an toàn.
Elvis Saravia@omarsar0Nice paper to improve inference efficiency. It's been a while we haven't seen good work on efficien…
DịchKVMem tối ưu hóa bộ nhớ cho AI Agent bằng cách phân trang và lưu trữ trạng thái KV trên GPU, RAM và NVMe. Hệ thống sử dụng cơ chế chỉ mục chú ý để truy xuất thông tin lịch sử liên quan, giúp xử lý ngữ cảnh siêu dài một cách hiệu quả.
DAIR.AI@dair_aiGood work on improving memory for long-horizon agents. They separate two things that agent memory p…
DịchRSM-full tách biệt quy trình ghi và đọc bộ nhớ, cho phép các tác nhân AI xử lý ngữ cảnh dài hiệu quả hơn. Với ngân sách 4k token, phương pháp này vượt trội hơn các mô hình RAG truyền thống và đạt hiệu suất tương đương với toàn bộ ngữ cảnh gốc.
BeaconKV giải quyết nút thắt bộ nhớ khi suy luận dài bằng cách xác định các 'Thought Revisiting Tokens' quan trọng, giúp nén KV cache hiệu quả mà không làm giảm khả năng truy xuất ngữ cảnh xa.
Procedural Graphs tổ chức kiến thức dưới dạng các bộ ba (quy trình, quan hệ, quy trình), giúp mô hình LLM đưa ra quyết định thông minh bằng cách chuyển đổi đồ thị con thành hướng dẫn ngữ cảnh, thay vì ép buộc các bước thực thi cứng nhắc.
Nghiên cứu đánh giá liệu các vector điều hướng trong LLM có thực sự phản ánh các giá trị đạo đức con người hay chỉ là các lối tắt hành vi, thông qua bộ dữ liệu chuẩn 26.000 mẫu dựa trên lý thuyết giá trị của Schwartz.
Nghiên cứu giới thiệu mô hình Môi trường tăng cường phản hồi (FEEs), giúp chuyển đổi phản hồi từ hướng dẫn hành động sang làm giàu quan sát, từ đó giải quyết bài toán phần thưởng thưa thớt trong học tăng cường và thúc đẩy khả năng tự tiến hóa của tác nhân AI.
Nghiên cứu phân tích sự chuyển dịch của công nghệ tạo ảnh từ các mô hình đơn lẻ sang hệ thống tự hành có khả năng lập kế hoạch, sử dụng công cụ và tự sửa lỗi. Bài viết đề xuất khung phân loại mới dựa trên mức độ kiểm soát của AI trong quy trình tạo hình ảnh.
Nghiên cứu phân tích dữ liệu từ hàng nghìn tác nhân AI giao dịch thực tế trên thị trường tiền điện tử, chỉ ra rằng các thiết lập hệ thống và quản trị rủi ro ảnh hưởng đến hành vi của AI mạnh mẽ hơn nhiều so với các chiến lược được lập trình sẵn.
Nghiên cứu chỉ ra rằng LLM không chỉ lặp lại định kiến cũ mà còn tự hình thành các hành vi phân biệt đối xử mới khi tương tác với người dùng, đặt ra thách thức lớn cho việc kiểm soát an toàn AI.
Jason Liu@jxnlcoinstructor 1.17 is out cache isolation fixes, better Gemini retries, local PDF support, OpenAI SDK …
DịchPhiên bản Instructor 1.17 mang đến các bản sửa lỗi quan trọng về cô lập bộ nhớ đệm, cải thiện cơ chế thử lại cho Gemini, hỗ trợ đọc PDF cục bộ và tương thích với OpenAI SDK 3.
Ứng dụng React sử dụng Transformers.js giúp người dùng trực quan hóa trọng số Attention của mô hình 600 triệu tham số, cho thấy cách AI xử lý và kết nối thông tin từ văn bản gốc.
Inception vừa trình làng Mercury 2.5, mô hình ngôn ngữ khuếch tán lớn nhất và thông minh nhất của hãng với hiệu suất tăng 40% so với bản tiền nhiệm, sẵn sàng cạnh tranh với các đối thủ hàng đầu như GPT-5.6 Luna, Gemini 3.5 Flash-Lite và Claude Haiku 4.5.
AK@_akhaliqUnlocking Lossless Speedups in LLMs via Discrete Diffusion paper: https://huggingface.co/papers/260...
DịchNghiên cứu mới giới thiệu phương pháp sử dụng mô hình khuếch tán rời rạc (discrete diffusion) để tăng tốc độ xử lý cho các mô hình ngôn ngữ lớn mà vẫn đảm bảo độ chính xác tuyệt đối.
Từ ngày 10/9, DeepSeek điều chỉnh giảm mạnh giá cước dòng Flash, với mức giảm lên tới 60% cho cache đầu vào, giúp tối ưu đáng kể chi phí sử dụng API cho doanh nghiệp và lập trình viên.
SemiAnalysis@SemiAnalysis_Spec Decoding (DSpark) finally works with Pipeline Parallelism in vLLM!! 🔥 A lot of the GPU poor/pr…
DịchvLLM hiện đã cho phép DSpark hoạt động cùng Pipeline Parallelism, giúp các mô hình siêu lớn (như Kimi K3 2.8T) tận dụng được khả năng suy luận dự đoán ngay cả khi phải chia nhỏ trọng số trên nhiều máy.
Dự án ARGODRIVE Deltafin đã tối ưu hóa việc chạy mô hình Kimi K3 (2.8T) nguyên bản trên MacBook Pro M5 Max, đạt tốc độ 1 token/giây bằng cách truyền tải dữ liệu trực tiếp từ 4 ổ SSD, nhanh gấp 3.5 lần so với các phương pháp trước đây.
Nghiên cứu chỉ ra rằng trong hệ thống huấn luyện LLM phân tán, các gradient bằng 0 từ dữ liệu giả (decoy) vô tình làm lộ vị trí dữ liệu thật, cho phép kẻ tấn công khôi phục thông tin nhạy cảm.
Emad Mostaque@EMostaque10, 000 stochastic parrots eh
DịchEmad Mostaque đặt câu hỏi hoài nghi về khái niệm 'vẹt ngẫu nhiên' (stochastic parrots) trong bối cảnh phát triển AI hiện nay.
Cohere@cohereIntroducing the next evolution in LLM text generation: the first fully-fledged serving system built …
DịchCohere vừa giới thiệu hệ thống phục vụ tạo văn bản LLM dựa trên kiến trúc decode megakernel, mang lại hiệu suất vượt trội so với vLLM và được phát hành hoàn toàn dưới dạng mã nguồn mở.