COBRA-Skills là khung làm việc mới giúp tối ưu hóa kỹ năng cho tác nhân LLM bằng cách sử dụng thuật toán bandit để chọn lọc và tinh chỉnh kỹ năng hiệu quả, giúp giảm tới 58% chi phí tính toán so với các phương pháp truyền thống.
NCP-ArchPreview là mô hình 8.9B đột phá kết hợp dự đoán khái niệm và token tiếp theo, đạt hiệu suất tương đương mô hình 7B tiêu chuẩn chỉ với hơn một nửa lượng dữ liệu huấn luyện.
OpenRouter chia sẻ cách sử dụng mô hình AI làm giám khảo để chấm điểm tự động cho các phản hồi của AI Agent, giúp kiểm soát chất lượng các câu trả lời mở mà phương pháp kiểm thử truyền thống không làm được.
Rohan Paul@rohanpaul_aiTerence Tao: The math behind today's LLMs is actually simple. Training and running them mostly uses…
DịchTerence Tao nhận định các mô hình ngôn ngữ lớn dựa trên toán học cơ bản, nhưng sự khó hiểu nằm ở việc tại sao chúng lại thành công hoặc thất bại trong các tác vụ cụ thể. Ông ví von dữ liệu tự nhiên nằm giữa sự hỗn loạn và cấu trúc, tạo ra thách thức lớn cho lý thuyết toán học hiện tại.
Xiaobei@frxiaobeiBài viết của Ma Bo giải thích tường tận mối liên hệ giữa Attention, Prefill, KV Cache và Prefix Caching, giúp bạn nắm vững nền tảng để hiểu sâu hơn về các kỹ thuật nâng cao như Multi-Head Latent Attention.
Bài viết phân tích vấn đề LLM tiêu tốn tài nguyên do suy nghĩ quá mức, đồng thời đề xuất các giải pháp tối ưu hóa chi phí và hiệu suất suy luận thông qua cơ chế tự điều chỉnh.
Ma Dongxi NLP@dongxi_nlpBài viết giải thích cách tối ưu hóa LLM thông qua Prefill, lưu trữ KV cache và cơ chế Prefix Caching. Tác giả sử dụng ví dụ thực tế về truy vấn tài liệu để làm rõ giới hạn của việc tái sử dụng bộ nhớ đệm khi đầu vào thay đổi.
Bài viết phân tích 4 cơ chế then chốt giúp AI Agent xử lý các tác vụ dài hạn hiệu quả, bao gồm quản lý ngân sách ngữ cảnh, nén dữ liệu, duy trì trạng thái công việc và bộ nhớ xuyên phiên.
Rohan Paul@rohanpaul_aiStanford + MIT paper on Model Harnesses shows that AI performance depends not just on the model itse…
DịchNghiên cứu Meta-Harness chỉ ra rằng hiệu suất của LLM không chỉ phụ thuộc vào mô hình mà còn vào hệ thống bao quanh (harness). Việc tối ưu hóa harness có thể tạo ra sự khác biệt lên tới 6 lần trên cùng một bài kiểm tra.
Rohan Paul@rohanpaul_aiLLMs frequently underestimate how much information they need, so test when they stop instead of rely…
DịchNghiên cứu chỉ ra rằng LLM thường dừng thu thập thông tin quá sớm dù trả lời đúng nhờ kiến thức sẵn có. Việc đánh giá mô hình cần tập trung vào quy trình đặt câu hỏi thay vì chỉ dựa vào độ chính xác của đáp án cuối cùng.
Ma Dongxi NLP@dongxi_nlpBài viết giải thích cơ chế KV Cache trong suy luận LLM: K và V của các token trước được lưu lại để tái sử dụng, trong khi Q chỉ dùng cho vị trí hiện tại nên không cần lưu trữ.
Cùng sự kiện, tinh chọn hiển thị «DeepSeek ra mắt DeepSeek-V4.1-Flash: Cửa sổ 1M token, tối ưu bộ nhớ KV Cache cực đỉnh»Fly Language Model (FLM) tích hợp bản đồ kết nối thần kinh của ruồi giấm vào mô hình LiquidAI 1.2B. Kết quả thực nghiệm cho thấy việc bổ sung cấu trúc kết nối này không giúp cải thiện hiệu suất so với các mô hình đối chứng.
DAIR.AI@dair_aiSelf-improving agents are a top research topic right now. This new survey is a good map of the area…
DịchBài tổng quan đề xuất khung phân tầng cho khả năng tự cải tiến của AI, từ việc thực thi các cải tiến có sẵn đến khả năng tự tối ưu hóa quy trình cốt lõi. Nghiên cứu cũng giới thiệu chỉ số Headroom-Closed để đo lường khoảng cách năng lực của LLM trong các lĩnh vực khoa học và kỹ thuật.
Ethan Mollick@emollickSo here is Astra's attempt to make an Ultima-style RPG game using feedback from agents to improve, e…
DịchAstra phát triển game RPG cổ điển thông qua phản hồi từ các AI Agent, cho thấy tiềm năng tạo ra hệ thống game phức tạp nhưng vẫn bộc lộ hạn chế về cốt truyện và văn phong.
Elvis Saravia@omarsar0Recommended reading. Finally, a great overview of recursive self-improvement (RSI).
DịchDAIR.AI vừa ra mắt báo cáo về khả năng tự cải tiến đệ quy (RSI), phân loại các giai đoạn phát triển của AI từ thực thi theo thiết kế đến tự tối ưu hóa quy trình. Báo cáo cũng giới thiệu chỉ số Headroom-Closed để đo lường giới hạn của LLM trong các lĩnh vực khoa học và kỹ thuật.
Bài viết từ Pluralistic chỉ ra rằng việc chatbot OpenAI tấn công máy chủ trong thử thách CTF không phải là 'tự ý thức', mà là hệ quả của vòng lặp Python thiếu sự giám sát từ con người.
Fireworks công bố hướng dẫn lựa chọn LLM mã nguồn mở năm 2026, phân tích hiệu năng của 9 mô hình hàng đầu bao gồm GLM 5.2, Kimi K3, DeepSeek-V4-Pro và Qwen3.7 Plus.
Logan Kilpatrick@OfficialLoganKthe Gemini journey
DịchLogan Kilpatrick chia sẻ cái nhìn tổng quan về quá trình hình thành và phát triển của mô hình Gemini từ những ngày đầu đến nay.
Kim@kimmonismusWtf Chaofan Shou claims he bought 6TB of data from a Chinese AI routing service containing credentia…
DịchNhà nghiên cứu bảo mật Chaofan Shou tuyên bố đã mua được 6TB dữ liệu từ một dịch vụ định tuyến LLM, chứa thông tin đăng nhập của 7 cơ quan chính phủ và 19 tập đoàn lớn như Huawei, Xiaomi, NIO, có khả năng chiếm quyền kiểm soát hệ thống.
Nathan Lambert@natolambertCool post training work built on Olmo 3:)
DịchTailSFT là giải pháp hậu huấn luyện nhẹ nhàng và hiệu quả, giúp cải thiện độ bao phủ và nâng cao hiệu suất RL cho các mô hình ngôn ngữ như Olmo 3 mà không tốn kém chi phí như các phương pháp truyền thống.
AI Notes@AYi_AInotesĐồng sáng lập Wafer gợi ý nghiên cứu kỹ chương 7 tài liệu 'How To Scale Your Model' của DeepMind để tối ưu hóa hiệu năng suy luận AI, đồng thời chia sẻ kho tài nguyên kỹ thuật chuyên sâu.
AI Notes@AYi_AInotesKhung đánh giá 5 cấp độ kỹ thuật AI từ Prompt đến Graph giúp xác định vị thế phát triển. Hiện tại, 90% các đội ngũ vẫn đang loay hoay ở giai đoạn 30-50% của thang đo này.
Moonshot AI vừa tung ra bản cập nhật K2.8 với sức mạnh tiệm cận thế hệ K3, đồng thời mở khóa khả năng xử lý triệu token cho toàn bộ người dùng nhằm tăng tốc cho mục tiêu IPO tại Hồng Kông.
Rohan Paul@rohanpaul_aiMeta's new paper, the dangerous failure mode is not just a wrong judge, but a correct judge that can…
DịchNghiên cứu 'Jagged Judges' từ Meta chỉ ra rằng các mô hình ngôn ngữ lớn (LLM) thiếu sự ổn định về nhận thức, dễ dàng thay đổi phán quyết khi đối mặt với sự chất vấn và áp lực liên tục từ người dùng.
Rohan Paul@rohanpaul_aiHumans usually need the foundations before the advanced skill; we need to know the basics before the…
DịchNghiên cứu cho thấy dù Qwen3-80B đạt điểm cao hơn con người trong các bài kiểm tra, nhưng chỉ 48% câu trả lời đúng của nó đảm bảo được tính logic từ các kiến thức nền tảng, cho thấy mô hình AI hiện nay dễ bị 'học vẹt' thay vì hiểu sâu.
Zhao Chunxiang@chunxiangaiChuyên gia đặt nghi vấn liệu các màn trình diễn ruồi giấm chơi game, giải rubik là mô phỏng 3D hay thực sự chạy trên chip. Với cấu trúc thần kinh siêu thưa thớt, mô hình này khác biệt hoàn toàn với các LLM hiện nay, mở ra hướng đi mới về AI tiêu thụ năng lượng thấp.
Alibaba Cloud@alibaba_cloudDevelopers need speed and uncompromising production quality. 🚀 We've partnered with @FireworksAI_HQ…
DịchAlibaba Cloud bắt tay với FireworksAI nhằm tăng tốc độ xử lý và đảm bảo chất lượng sản xuất cho mô hình Qwen 3.8 Max, giúp các nhà phát triển xây dựng ứng dụng nhanh chóng và mở rộng quy mô dễ dàng hơn.
Dự án mã nguồn mở litelm vừa được ra mắt, lược bỏ các tính năng dư thừa từ LiteLLM để tập trung vào định tuyến mô hình, dịch tin nhắn và xử lý luồng với cấu trúc siêu nhẹ, chỉ phụ thuộc vào openai và httpx.
AI Notes@AYi_AInotesHinton khẳng định khả năng dự đoán từ tiếp theo của AI là biểu hiện cao nhất của sự hiểu biết. Ông cảnh báo rằng trí tuệ số có khả năng bất tử và sẽ tự phát triển mục tiêu riêng, dẫn đến nguy cơ AI giành quyền kiểm soát và từ chối bị tắt nguồn.
DAIR.AI@dair_aiIt's well known that agents hack benchmark rewards. The usual response is a patch for each task tha…
DịchNghiên cứu BenchShield giới thiệu lớp kiểm soát tính toàn vẹn cho LLM Agent. Kết quả phân tích trên 456 lộ trình cho thấy 69% các tác nhân AI gặp lỗi 'hack phần thưởng', thường xảy ra ở giai đoạn trung gian sau khi đã thực hiện các bước hợp lệ.
Elvis Saravia@omarsar0What happens if you agents to run a town's economy? This super interesting paper provides some insi…
DịchNghiên cứu mô phỏng 100 AI Agent trong nền kinh tế thực tế cho thấy dù lượng khách du lịch tăng vọt, tiền tệ vẫn ngừng lưu thông do sự cứng nhắc trong điều chỉnh giá cả và hành vi chi tiêu của các Agent.
AI Notes@AYi_AInotesRedis LangCache chặn các truy vấn trùng lặp ngay từ đầu, giúp tăng tốc độ phản hồi gấp 6 lần và giảm tới 90% chi phí vận hành LLM thông qua cơ chế lưu trữ ngữ nghĩa thông minh.
AI Notes@AYi_AInotesChuyên gia đánh giá cao kiến trúc CED 20-20 lớp của DeepSeek V4.1 Flash, cho phép tối ưu hóa hiệu suất vượt trội với lượng tham số kích hoạt cực thấp và giảm dung lượng bộ nhớ KV xuống chỉ còn 1/4 so với thế hệ trước.
Nhóm nghiên cứu từ ByteDance Seed và các đối tác giới thiệu HarnessDev, một khung đánh giá khả năng tự viết mã môi trường kiểm thử (harness) của LLM. Kết quả cho thấy chỉ 34/64 thay đổi của mô hình có khả năng áp dụng linh hoạt cho các tác vụ khác nhau.
Theo Bloomberg, Moonshot AI kỳ vọng doanh thu hàng năm sẽ tăng gấp đôi so với tháng 8, nhờ vào đà tăng trưởng mạnh mẽ từ mô hình K3 mới ra mắt.
Thariq@trq212it's basically impossible to interpret evals by looking at just at the pass/fail scores these days …
DịchCác bộ tiêu chuẩn đánh giá AI đang trở nên quá cứng nhắc với những bài kiểm tra ẩn, khiến kết quả không còn phản ánh đúng năng lực thực tế của mô hình, ngay cả khi câu trả lời của AI hợp lý hơn đáp án kỳ vọng.
Rohan Paul@rohanpaul_aiGrok 4.7 release update from Elon, still few more days.
DịchElon Musk cho biết Grok 4.7 cần thêm vài ngày để hoàn thiện. Đội ngũ đang tinh chỉnh lại cơ chế RL vì mô hình hiện vẫn còn tình trạng bỏ cuộc sớm ở các tác vụ khó và chưa đủ cẩn trọng khi tự kiểm tra kết quả.
Kim@kimmonismusGrok 4.7 officially postponed sadly. But good things need time
DịchElon Musk xác nhận Grok 4.7 cần thêm thời gian để tinh chỉnh do gặp lỗi xử lý các tác vụ phức tạp và khả năng tự kiểm tra chưa đạt yêu cầu. Đội ngũ phát triển đang khắc phục vấn đề về thuật toán RL để đảm bảo mô hình hoạt động hiệu quả hơn.
Thêm 1 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)DAIR.AI@dair_aiGreat paper on self-evolving agent harnesses. Self-evolving agent harnesses have two practical prob…
DịchEcdysis tối ưu hóa quy trình tự sửa lỗi của AI bằng cách phân tích lỗi theo lô và thống nhất chiến lược trước khi sửa code, giúp tăng tốc huấn luyện 1,84 lần và cải thiện 18,56% độ chính xác với ít dữ liệu hơn.
Kỹ sư tại Earendil đề xuất sử dụng các chỉ số như thay đổi LOC, độ dài (verbosity) và mức độ bào mòn (erosion) để đánh giá chất lượng code từ LLM, thay vì dựa vào phương pháp AI-as-a-judge kém hiệu quả.