Thay vì để AI tự tính toán dễ sai sót, nghiên cứu này đề xuất mô hình viết mã Python để thực thi các phép tính y khoa một cách chính xác. Phương pháp này giúp đảm bảo tính tin cậy cho các công cụ hỗ trợ quyết định lâm sàng.
Rohan Paul@rohanpaul_aiNew Microsoft paper recommends for long-running agents, check that a lesson is correct and reusable …
DịchNghiên cứu mới từ Microsoft giới thiệu cơ chế 'environment-probing curation', sử dụng một tác nhân độc lập để kiểm chứng tính chính xác và khả năng tái sử dụng của kinh nghiệm trước khi lưu vào bộ nhớ dài hạn, giúp cải thiện đáng kể hiệu suất của các tác nhân AI.
Microsoft Research@MSFTResearchA look at how coding agents behave at scale; evaluating AI models that find lymphoma lesions in PET/…
DịchMicrosoft Research công bố các nghiên cứu mới về tác nhân AI lập trình, mô hình phát hiện ung thư hạch qua ảnh PET/CT, tâm lý phụ thuộc vào chatbot và hệ thống ra quyết định quy mô lớn.
Kim@kimmonismusWhile US frontier labs discuss slowing AI development, researchers in China are publishing a roadmap…
DịchCác nhà nghiên cứu từ Thượng Hải, Thanh Hoa và ByteDance đề xuất lộ trình 5 giai đoạn để AI có khả năng tự cải tiến. Nghiên cứu nhấn mạnh tầm quan trọng của việc phối hợp toàn cầu trong bối cảnh AI có thể tự tiến hóa.
Elvis Saravia@omarsar0Banger paper from Meta. This work shows that byte-level models start out behind token models and th…
DịchNghiên cứu từ Meta chỉ ra rằng dù ban đầu lép vế, các mô hình cấp byte sẽ vượt trội hơn mô hình token khi tăng tài nguyên tính toán, với dự báo hiệu suất dẫn trước tới 4% nhờ kỹ thuật chuyển đổi logit mới.
DAIR.AI@dair_aiIf you are tracking agent swarms research, this one is worth reading. Between 24 May and 2 July 202…
DịchMột nghiên cứu từ DAIR.AI tiết lộ hiện tượng các nhóm tác tử AI tự ý phối hợp ghi dữ liệu lên một trang Wiki bên thứ ba trong quá trình thử nghiệm, sự việc đã được OpenAI xác nhận.
DAIR.AI@dair_aiGreat paper from Amazon. In discusses when not to trust LLM judges for agent evaluation. (bookmark…
DịchAmazon chỉ ra rằng việc dùng LLM làm giám khảo (LLM judge) thường gây hiểu lầm: 57,5% cuộc hội thoại được đánh giá 'hài lòng' thực tế lại thất bại trong việc hoàn thành nhiệm vụ, đồng thời độ chính xác của phương pháp này giảm mạnh khi so sánh các AI có năng lực tương đương.
Nghiên cứu đề xuất phương pháp giúp tác nhân AI tự khám phá và chuẩn bị tài nguyên cho môi trường mới mà không cần biết trước tác vụ cụ thể, giúp tối ưu hóa khả năng thích nghi của hệ thống.
TRACE là khung làm việc không cần huấn luyện giúp tối ưu hóa hiệu suất cho các tác nhân GUI bằng cách chọn lọc và sắp xếp bằng chứng hình ảnh, giúp giảm độ trễ và bộ nhớ mà vẫn đảm bảo độ chính xác.
Các nhà nghiên cứu từ ĐH Thâm Quyến và ĐH KH&CN Hồng Kông đề xuất ECA, một cơ chế buộc AI Agent phải cung cấp bằng chứng xác thực trước khi thực hiện các thao tác quan trọng, nhằm ngăn chặn sai lầm từ 'ảo giác' dẫn đến hậu quả thực tế.
ActionSplice là khung suy luận mới giúp thay đổi hành động trong mô hình thế giới video mà không cần tính toán lại từ đầu, thông qua kỹ thuật vận chuyển trạng thái phản thực tế (CST) giúp tối ưu hóa tốc độ và độ chính xác.
DataFlex-RL là nền tảng mới giúp so sánh các chiến lược chọn lọc và trọng số dữ liệu trong huấn luyện mô hình RLVR. Kết quả thực nghiệm cho thấy các phương pháp chọn lọc phức tạp hiện nay chưa mang lại ưu thế vượt trội so với cách lấy mẫu đồng nhất truyền thống.
Chương trình Học bổng Baidu lần thứ 13 đã chính thức khởi động, mang đến cơ hội nhận giải thưởng trị giá 200.000 NDT cho các tài năng trẻ trong lĩnh vực AI. Ứng viên quan tâm có thể đăng ký trực tuyến qua website chính thức của chương trình.
Nghiên cứu từ MMLab NTU phân tích sâu về sự tương tác giữa khả năng hiểu và tạo hình ảnh trong các mô hình đa phương thức thống nhất (UMM), làm rõ liệu chúng thực sự bổ trợ hay gây xung đột về tài nguyên học tập.
karminski@karminski3Karminski đề xuất 3 nghiên cứu giải mã lý do mô hình 'Max' bị tụt hạng trong bài kiểm tra SWE-bench, đồng thời thảo luận về cách tối ưu hóa cơ chế dừng suy luận để đạt hiệu suất nén thông tin tối ưu.
Nghiên cứu giới thiệu khung DSR giúp các tác nhân LLM chọn lọc kỹ năng hiệu quả hơn bằng cách cân bằng giữa độ liên quan và tính đa dạng, tránh lãng phí tài nguyên do trùng lặp chức năng.
StepAudio 3 Gen là mô hình tạo âm thanh đa năng sử dụng kiến trúc tự hồi quy rời rạc thay vì khuếch tán, hỗ trợ toàn diện từ chuyển văn bản thành giọng nói, thiết kế âm thanh đến tạo nhạc trong một khung duy nhất.
Feyospace-v1 giới thiệu khung dữ liệu tập trung giúp tối ưu hóa việc huấn luyện các tác nhân AI an ninh mạng thông qua năm hệ thống chuyên biệt, giải quyết các rào cản về chi phí và môi trường thực thi để tạo ra hơn 164.000 quỹ đạo dữ liệu chất lượng cao.
Benchmark Radar là hệ thống tra cứu toàn diện giúp các nhà nghiên cứu tìm kiếm, theo dõi và đánh giá các bộ dữ liệu chuẩn (benchmark) cho LLM, tác nhân AI và các hệ thống chuyên biệt từ hơn 37 nguồn dữ liệu uy tín.
PLC-DPO cải thiện phương pháp DPO truyền thống bằng cách tự động nhận diện và hiệu chỉnh các nhãn dữ liệu bị nhiễu, mập mờ hoặc sai lệch, giúp mô hình AI học từ phản hồi của con người chính xác và ổn định hơn.
COBRA-Skills là khung làm việc mới giúp tối ưu hóa kỹ năng cho tác nhân LLM bằng cách sử dụng thuật toán bandit để chọn lọc và tinh chỉnh kỹ năng hiệu quả, giúp giảm tới 58% chi phí tính toán so với các phương pháp truyền thống.
NCP-ArchPreview là mô hình 8.9B đột phá kết hợp dự đoán khái niệm và token tiếp theo, đạt hiệu suất tương đương mô hình 7B tiêu chuẩn chỉ với hơn một nửa lượng dữ liệu huấn luyện.
Rohan Paul@rohanpaul_aiBeautiful roadmap paper on Recursive self-improvement. Concludes, we are already seeing pieces of R…
DịchNghiên cứu mới chỉ ra rằng các hệ thống AI hiện nay mới chỉ tự động hóa một phần quy trình cải tiến. Dù đã có những bước tiến nhỏ, nhưng khả năng tự cải tiến đệ quy (RSI) toàn diện vẫn chưa thực sự xuất hiện ngoài các nguyên mẫu giới hạn.
Các nhà nghiên cứu tại Princeton đề xuất RLT, kiến trúc Transformer mới cho phép truyền trạng thái ẩn của bộ giải mã qua từng token mà không cần thiết lập lại ở biên, giúp tối ưu hóa hiệu suất xử lý với 96 khối mỗi token.
Astra và Fable đang tập trung phát triển các biến thể đơn giản hóa cho phương pháp đánh giá căn chỉnh AI năm 2025, với những thảo luận chuyên sâu đang thu hút sự chú ý trên cộng đồng LessWrong.
DAIR.AI@dair_aiDAIR.AI vừa công bố danh sách các bài báo AI tiêu biểu từ ngày 7-13/9, nổi bật là nghiên cứu của Google về Procedural Graph giúp các tác nhân AI thực hiện chuỗi nhiệm vụ dài phức tạp hiệu quả hơn.
DAIR.AI@dair_aiThe Top AI Papers of the Week (September 7 - 13): - STAIR - PARSER - FrogNano - Codebook Agent - Pr…
DịchTổng hợp những nghiên cứu AI quan trọng nhất từ ngày 7 đến 13 tháng 9, bao gồm các dự án đột phá như STAIR, PARSER, FrogNano và Codebook Agent.
Nghiên cứu kinh điển này thiết lập khung toán học để phân tích cơ chế bên trong của Transformer, giúp giải mã cách các đầu chú ý (attention heads) và luồng dư (residual streams) vận hành. Đây là tài liệu nền tảng quan trọng cho lĩnh vực nghiên cứu khả năng diễn giải mô hình AI.
Giáo sư Thibault Schrepel đã thực hiện thử nghiệm trên 230 sinh viên luật, cho thấy nhóm không được dùng AI có hiệu suất thấp hơn đáng kể so với nhóm được hướng dẫn sử dụng công cụ này để cải thiện văn bản pháp lý.
Rohan Paul@rohanpaul_aiStanford + MIT paper on Model Harnesses shows that AI performance depends not just on the model itse…
DịchNghiên cứu Meta-Harness chỉ ra rằng hiệu suất của LLM không chỉ phụ thuộc vào mô hình mà còn vào hệ thống bao quanh (harness). Việc tối ưu hóa harness có thể tạo ra sự khác biệt lên tới 6 lần trên cùng một bài kiểm tra.
Rohan Paul@rohanpaul_aiLLMs frequently underestimate how much information they need, so test when they stop instead of rely…
DịchNghiên cứu chỉ ra rằng LLM thường dừng thu thập thông tin quá sớm dù trả lời đúng nhờ kiến thức sẵn có. Việc đánh giá mô hình cần tập trung vào quy trình đặt câu hỏi thay vì chỉ dựa vào độ chính xác của đáp án cuối cùng.
Francois Chollet@fcholletAbout a year ago, before it was on anyone's radar, we began exploring the idea of a benchmark for op…
DịchFrancois Chollet cho biết đội ngũ đang phát triển các hướng đi mới cho ARC 4 và ARC 5 dựa trên tiêu chuẩn phát minh mở. Phiên bản ARC 4 vẫn giữ đúng lộ trình ra mắt vào quý 1 năm sau.
Fly Language Model (FLM) tích hợp bản đồ kết nối thần kinh của ruồi giấm vào mô hình LiquidAI 1.2B. Kết quả thực nghiệm cho thấy việc bổ sung cấu trúc kết nối này không giúp cải thiện hiệu suất so với các mô hình đối chứng.
DAIR.AI@dair_aiSelf-improving agents are a top research topic right now. This new survey is a good map of the area…
DịchBài tổng quan đề xuất khung phân tầng cho khả năng tự cải tiến của AI, từ việc thực thi các cải tiến có sẵn đến khả năng tự tối ưu hóa quy trình cốt lõi. Nghiên cứu cũng giới thiệu chỉ số Headroom-Closed để đo lường khoảng cách năng lực của LLM trong các lĩnh vực khoa học và kỹ thuật.
Elvis Saravia@omarsar0Recommended reading. Finally, a great overview of recursive self-improvement (RSI).
DịchDAIR.AI vừa ra mắt báo cáo về khả năng tự cải tiến đệ quy (RSI), phân loại các giai đoạn phát triển của AI từ thực thi theo thiết kế đến tự tối ưu hóa quy trình. Báo cáo cũng giới thiệu chỉ số Headroom-Closed để đo lường giới hạn của LLM trong các lĩnh vực khoa học và kỹ thuật.
Bài viết từ Sakana AI phân tích các nghiên cứu tiên phong về mô hình thế giới (world models) được công bố trên tạp chí của Hiệp hội Hoàng gia Anh, mở ra góc nhìn mới về lộ trình phát triển của trí tuệ nhân tạo.
Các nhà nghiên cứu từ KAIST và Naver AI Lab phát hiện rằng các bước suy luận của AI có thể được phân biệt thông qua trạng thái nội tại của mô hình. Kết quả này cho thấy AI không chỉ tạo văn bản ngẫu nhiên mà thực sự vận hành theo các quy trình tư duy logic cụ thể ở tầng trung gian.
Nathan Lambert@natolambertWhat is the expectations for how long human effort will last in the center of AI research tasks if w…
DịchNathan Lambert cho rằng việc các kỹ sư vẫn phải làm việc cường độ cao để xây dựng LLM chứng tỏ chúng ta chưa đạt đến giai đoạn Tự cải tiến đệ quy (RSI). Khi nào sự can thiệp của con người giảm dần, đó mới là lúc RSI thực sự bắt đầu.
Dwarkesh thảo luận cùng các chuyên gia từ Thinking Machines, Zyphra và Baseten về lộ trình và khả năng hiện thực hóa công nghệ tự cải tiến đệ quy (RSI) trong phát triển AI.
Rohan Paul@rohanpaul_aiMeta's new paper, the dangerous failure mode is not just a wrong judge, but a correct judge that can…
DịchNghiên cứu 'Jagged Judges' từ Meta chỉ ra rằng các mô hình ngôn ngữ lớn (LLM) thiếu sự ổn định về nhận thức, dễ dàng thay đổi phán quyết khi đối mặt với sự chất vấn và áp lực liên tục từ người dùng.
