AI Notes@AYi_AInotesChuyên gia đánh giá cao kiến trúc CED 20-20 lớp của DeepSeek V4.1 Flash, cho phép tối ưu hóa hiệu suất vượt trội với lượng tham số kích hoạt cực thấp và giảm dung lượng bộ nhớ KV xuống chỉ còn 1/4 so với thế hệ trước.
Nhóm nghiên cứu từ ByteDance Seed và các đối tác giới thiệu HarnessDev, một khung đánh giá khả năng tự viết mã môi trường kiểm thử (harness) của LLM. Kết quả cho thấy chỉ 34/64 thay đổi của mô hình có khả năng áp dụng linh hoạt cho các tác vụ khác nhau.
Theo Bloomberg, Moonshot AI kỳ vọng doanh thu hàng năm sẽ tăng gấp đôi so với tháng 8, nhờ vào đà tăng trưởng mạnh mẽ từ mô hình K3 mới ra mắt.
Thariq@trq212it's basically impossible to interpret evals by looking at just at the pass/fail scores these days …
DịchCác bộ tiêu chuẩn đánh giá AI đang trở nên quá cứng nhắc với những bài kiểm tra ẩn, khiến kết quả không còn phản ánh đúng năng lực thực tế của mô hình, ngay cả khi câu trả lời của AI hợp lý hơn đáp án kỳ vọng.
Rohan Paul@rohanpaul_aiGrok 4.7 release update from Elon, still few more days.
DịchElon Musk cho biết Grok 4.7 cần thêm vài ngày để hoàn thiện. Đội ngũ đang tinh chỉnh lại cơ chế RL vì mô hình hiện vẫn còn tình trạng bỏ cuộc sớm ở các tác vụ khó và chưa đủ cẩn trọng khi tự kiểm tra kết quả.
Kim@kimmonismusGrok 4.7 officially postponed sadly. But good things need time
DịchElon Musk xác nhận Grok 4.7 cần thêm thời gian để tinh chỉnh do gặp lỗi xử lý các tác vụ phức tạp và khả năng tự kiểm tra chưa đạt yêu cầu. Đội ngũ phát triển đang khắc phục vấn đề về thuật toán RL để đảm bảo mô hình hoạt động hiệu quả hơn.
Thêm 1 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)
DAIR.AI@dair_aiGreat paper on self-evolving agent harnesses. Self-evolving agent harnesses have two practical prob…
DịchEcdysis tối ưu hóa quy trình tự sửa lỗi của AI bằng cách phân tích lỗi theo lô và thống nhất chiến lược trước khi sửa code, giúp tăng tốc huấn luyện 1,84 lần và cải thiện 18,56% độ chính xác với ít dữ liệu hơn.
Kỹ sư tại Earendil đề xuất sử dụng các chỉ số như thay đổi LOC, độ dài (verbosity) và mức độ bào mòn (erosion) để đánh giá chất lượng code từ LLM, thay vì dựa vào phương pháp AI-as-a-judge kém hiệu quả.
ActReview là khung huấn luyện mới sử dụng phản hồi của tác giả để giúp AI đưa ra các gợi ý chỉnh sửa bài báo khoa học cụ thể và chính xác thay vì chỉ nêu lỗi chung chung.
Google giới thiệu autofinetune, sử dụng AI Agent kết hợp Gemini Flash 3.7 để tự động hóa quy trình SFT và GRPO cho LLM trên hạ tầng TPU, giúp tối ưu hóa việc huấn luyện mô hình.
Apple cùng các đối tác ra mắt DiscoSign, khung mô-đun dựa trên LLM giúp chuyển đổi văn bản sang ngôn ngữ ký hiệu Mỹ (ASL) chính xác hơn bằng cách xử lý các cấu trúc ngữ pháp phức tạp và tính nhất quán trong hội thoại.
Thay vì bắt chước đáp án mẫu, phương pháp Negative Self-Distillation (NSD) giúp mô hình ngôn ngữ tự tối ưu hóa bằng cách nhận diện và tránh xa các suy luận sai lầm, từ đó thúc đẩy tư duy phản biện và tự sửa lỗi.
X.PIN@thexpinMoonshot AI has launched Kimi's enterprise partner program, teaming up with IT service providers and…
DịchMoonshot AI triển khai chương trình đối tác doanh nghiệp, cử đội ngũ kỹ sư chuyên trách đến tận nơi để hỗ trợ khách hàng tích hợp mô hình Kimi vào quy trình vận hành cốt lõi.
Tác giả sử dụng MacBook M4 (24GB RAM) và llama.cpp để đánh giá khả năng xử lý của Qwen 2.5 27B qua 8 bài tập lập trình, làm rõ sự khác biệt lớn về tốc độ prefill và mức tiêu thụ bộ nhớ ngữ cảnh.
Nhà nghiên cứu Chaofan Shou phát hiện 6TB nhật ký từ một dịch vụ trung gian LLM tại Trung Quốc chứa nhiều khóa SSH và thông tin xác thực đám mây của các doanh nghiệp, làm dấy lên lo ngại về rủi ro chuỗi cung ứng.
DiffuTester là khung làm việc mới giúp tăng tốc tạo unit test cho các mô hình ngôn ngữ khuếch tán (dLLM) bằng cách khai thác cấu trúc AST, giúp đẩy nhanh tốc độ tạo mã gấp 2-3 lần mà vẫn đảm bảo chất lượng.
MetroLLM-Bench là bộ tiêu chuẩn mới gồm 955 tình huống thực tế, giúp đánh giá khả năng của AI trong việc xử lý lộ trình, giá vé và sự cố tại các ki-ốt tàu điện ngầm thông qua việc sử dụng công cụ có cấu trúc.
X-AuT sử dụng kỹ thuật cắt tỉa dần dần và chưng cất đa quy mô để nén bộ mã hóa âm thanh của LLM, giúp giảm số lớp Transformer mà vẫn cải thiện độ chính xác trên các bài kiểm tra tiếng Anh và tiếng Trung.
Google cùng các đối tác giới thiệu ToolGrad, phương pháp đảo ngược quy trình tạo dữ liệu bằng cách kiểm chứng chuỗi công cụ trước khi tạo truy vấn, giúp nâng tỷ lệ thành công trên ToolBench từ 63,8% lên 99,8%.
Rohan Paul@rohanpaul_aiA local model can keep everything off the cloud and still leak its answers through the CPU cache. s…
DịchNghiên cứu 'Detokenization Leaks' chỉ ra phương thức tấn công mới giúp khôi phục văn bản từ LLM bằng cách theo dõi hoạt động bộ nhớ đệm CPU trong quá trình giải mã token, mà không cần truy cập trực tiếp vào bộ nhớ của mô hình.
Ma Dongxi NLP@dongxi_nlpDeepSeek giới thiệu kỹ thuật CED giúp chia sẻ KV cache giữa các lớp, từ đó giảm thiểu lưu trữ dư thừa và tăng tốc độ tính toán prefill, giúp mô hình vận hành nhanh và mạnh mẽ hơn.
EvoSafeHarness là khung tối ưu hóa tự động giúp thiết kế các lớp bảo mật chuyên biệt, phù hợp với từng mô hình ngôn ngữ và lĩnh vực ứng dụng cụ thể, thay vì sử dụng các quy tắc cứng nhắc chung chung.
HyQuant tối ưu hóa hiệu suất LLM bằng cách kết hợp lượng tử hóa bit thấp cho hầu hết các trạng thái Attention, đồng thời giữ độ chính xác cao cho các vùng dữ liệu quan trọng, giúp giảm thiểu sai số mà vẫn đảm bảo tốc độ.
Rohan Paul@rohanpaul_aiFor memory-limited agents, organize the past before you optimize search: grouping related memories a…
DịchRSM-full tối ưu hóa bộ nhớ cho AI bằng cách nhóm các dữ liệu liên quan thay vì truy xuất rời rạc, giúp duy trì 83% chất lượng phản hồi với chi phí token chỉ bằng 1/3 so với phương pháp truyền thống.
Together AI mở rộng dịch vụ tinh chỉnh với các mô hình mới như GLM-5.3, Kimi K2.7, Qwen 3.5, đồng thời bổ sung tính năng theo dõi thử nghiệm trực tiếp và kiểm soát dữ liệu chi tiết.
Google ra mắt ToolGrad, khung làm việc giúp tối ưu hóa việc tạo tập dữ liệu gọi công cụ bằng cách sử dụng LLM để xây dựng chuỗi lệnh và gắn nhãn ngược từ truy vấn người dùng, vừa được công bố tại ACL 2026.
Redis chính thức giới thiệu dịch vụ LangCache trên nền tảng đám mây, cho phép tối ưu hóa chi phí và hiệu suất cho các ứng dụng AI thông qua bộ nhớ đệm ngữ nghĩa thông minh.
Nathan Lambert@natolambertBig W for people saying that distillation was mostly an SFT artifact, and how its unclear how it wou…
DịchMột góc nhìn mới khẳng định tầm quan trọng của kỹ thuật chưng cất mô hình trong kỷ nguyên học tăng cường (RL), bác bỏ quan điểm cho rằng đây chỉ là sản phẩm phụ của quá trình tinh chỉnh có giám sát (SFT).
Artificial Analysis@ArtificialAnlysDeepSeek V4.1 Flash overtakes DeepSeek V4 Pro 0813 as DeepSeek's new flagship model with a score of …
DịchTheo đánh giá từ Artificial Analysis, DeepSeek V4.1 Flash đạt 40 điểm trên Intelligence Index, chính thức trở thành flagship mới của DeepSeek với cấu trúc 8B/16B và hỗ trợ cửa sổ ngữ cảnh lên tới 1 triệu token.
Elvis Saravia@omarsar0This is a brilliant paper. It's of the cleanest long-context agent designs I have seen in the past …
DịchPARSER tách biệt việc đọc và suy luận bằng cách sử dụng các tác tử phụ xử lý song song từng phần dữ liệu, trong khi tác tử chính tổng hợp thông tin và đặt câu hỏi chuyên sâu, giúp tăng hiệu suất cho các mô hình AI ngữ cảnh dài.
DAIR.AI@dair_aiRecommended read. Interaction horizon scheduling is an underexplored control problem in agentic RL …
DịchElastic Horizon là bộ điều khiển vòng lặp giúp tối ưu hóa số vòng tương tác của tác nhân AI, thay thế cách lập lịch cố định truyền thống. Phương pháp này giúp tăng tỷ lệ thành công trên AppWorld và BFCL, đồng thời tiết kiệm tới 25% lượng token mỗi bước.
PARSER tách biệt quá trình đọc và suy luận bằng cách sử dụng các sub-agent đọc song song, giúp AI Agent xử lý tài liệu dài hiệu quả hơn, giảm độ trễ và tránh phụ thuộc vào vị trí thông tin.
OreoLook giới thiệu kiến trúc bộ nhớ đệm 3 lớp giúp giảm độ trễ và chi phí cho các công cụ tìm kiếm AI, cho phép chạy mượt mà trên phần cứng CPU phổ thông bằng cách tối ưu hóa ngữ cảnh phiên và truy vấn ngữ nghĩa.
Elvis Saravia@omarsar0Great paper from AWS. I use a similar setup where an agent orchestrator sits on top of a multi-agen…
DịchAWS đề xuất UnitBoost, phương pháp sử dụng bản đồ đơn vị để chuyển đổi đầu ra của các mô hình thành giá trị cụ thể, loại bỏ nhu cầu về tác nhân quản lý (meta-agent) phức tạp trong các hệ thống LLM đa nhiệm.
ModelBest OpenBMB@OpenBMBA strong model starts with strong data. Behind MiniCPM5-2B is a growing body of open-source trainin…
DịchOpenBMB vừa phát hành bộ dữ liệu huấn luyện cho MiniCPM5-2B, bao gồm các tập dữ liệu chuyên sâu về lập trình, huấn luyện tác tử (agent), học tăng cường và tinh chỉnh dữ liệu quy mô lớn.
SiliconFlow@SiliconFlowAI@deepseek_ai just made Flash the new Pro. 🤯 DeepSeek-V4.1-Flash is live on SiliconFlow - Day 0. 55…
DịchSiliconFlow vừa ra mắt DeepSeek-V4.1-Flash, mô hình MoE 552B hỗ trợ thị giác nguyên bản, cửa sổ ngữ cảnh 1 triệu token và tối ưu hóa bộ nhớ đệm KV hiệu quả hơn gấp 4 lần.
Ma Dongxi NLP@dongxi_nlpDeepSeek-V4.1-Flash giới thiệu kiến trúc Causal Encoder-Decoder mới, cho phép tạo KV Cache toàn cục trực tiếp từ đầu ra của encoder. Cải tiến này giúp lược bỏ việc xử lý prompt qua toàn bộ các lớp decoder, từ đó tối ưu hóa đáng kể tốc độ tiền xử lý (prefill) cho mô hình.
Nghiên cứu đề xuất phương pháp viết lại phản hồi dựa trên tầm ảnh hưởng (IF) thay vì chỉ thay đổi trọng số, giúp tối ưu hóa khả năng điều chỉnh hành vi của mô hình LLM hiệu quả hơn.
SemiAnalysis@SemiAnalysis_Congrats to @deepseek_ai on releasing DeepSeek-V4.1-Flash! > 552B backbone, with a causal encode…
DịchDeepSeek-V4.1-Flash sở hữu kiến trúc 552B tham số nhưng chỉ kích hoạt 8B-16B khi vận hành. Nhờ bộ nhớ Engram 196B và kỹ thuật nén KV cache, mô hình đạt hiệu suất vượt trội với tài nguyên tối ưu.
AgentGrad giải quyết các hạn chế trong việc trích xuất và tổng hợp gradient văn bản, giúp tối ưu hóa prompt hiệu quả hơn cho các hệ thống đa tác nhân (MAS) bằng cách kiểm soát sự can thiệp và giám sát cấp độ tác nhân.