MemTrapBench giải quyết lỗ hổng trong việc đánh giá cách bộ nhớ làm sai lệch khả năng suy luận của LLM. Nghiên cứu chỉ ra rằng các phương pháp ghi nhớ hiện tại thường gây tác dụng ngược, đồng thời giới thiệu AdaptiveMem giúp tối ưu hóa hiệu suất mà không mắc phải các bẫy nhận thức này.
WithEveryone là khung làm việc đột phá cho phép tạo ảnh nhóm lên tới 10 nhân vật với độ chính xác cao. Công nghệ này giải quyết triệt để vấn đề nhầm lẫn danh tính và lỗi ghép ảnh, giúp duy trì sự nhất quán của từng cá nhân trong cùng một khung hình.
EnvHarness giới thiệu lớp plugin lập trình giúp tùy biến hành vi môi trường mà không cần can thiệp logic gốc, kết hợp cùng EnvRigger để tự động tối ưu hóa chiến lược của AI. Giải pháp này giúp cải thiện hiệu suất huấn luyện đáng kể trên nhiều lĩnh vực khác nhau.
VA-Judger giải quyết vấn đề thiếu tính nhất quán trong tạo video-âm thanh bằng cách sử dụng tập dữ liệu VAPref-10K, giúp mô hình hiểu rõ hơn về sự đồng bộ ngữ nghĩa và cảm nhận của con người thay vì chỉ tối ưu các chỉ số rời rạc.
DAIR.AI@dair_aiFinally a good paper testing whether memory-based self-improving agents actually improve. The re-ev…
DịchNghiên cứu chỉ ra rằng sự cải thiện của các tác nhân AI dựa trên bộ nhớ chủ yếu đến từ thứ tự nhiệm vụ và nhiễu đánh giá thay vì khả năng tự học thực sự. Khi kiểm soát các yếu tố này, hiệu suất của mô hình giảm đáng kể, đặt ra dấu hỏi về tính hiệu quả của các phương pháp hiện tại.
Nathan Lambert@natolambertThis really needs to be repeated more often. It really seems like maybe voices to organize it and in…
DịchVấn đề hiện nay không nằm ở sự thiếu hụt thông tin, mà là thiếu sự dẫn dắt để định hướng và hệ thống hóa kiến thức trong lĩnh vực AI.
Elvis Saravia@omarsar0Banger paper on harness continual learning. (bookmark it) If you already are allowing your agents …
DịchNghiên cứu chỉ ra hiện tượng 'quên lãng cấp khung' khi cập nhật các thành phần như bộ nhớ hay công cụ khiến AI mất khả năng vận hành. Cơ chế 'Tiến hóa khung được bảo vệ' giúp tối ưu hóa và kiểm chứng hiệu quả, cải thiện hơn 10% hiệu suất trong các tác vụ suy luận và tương tác.
MuseCPEval là khung đánh giá đầu tiên giúp đo lường chính xác khả năng giữ nguyên các đặc tính âm nhạc cốt lõi khi thực hiện các tác vụ chỉnh sửa như chuyển đổi nhạc cụ hay phong cách, đảm bảo chất lượng sản phẩm đầu ra.
Ma Dongxi NLP@dongxi_nlpSPADE: Self-Play in Adaptive Synthetic Executable Environments
DịchSPADE là phương pháp huấn luyện tác nhân tự đối đầu, nơi chính AI sẽ tạo ra và cải tiến các môi trường cũng như nhiệm vụ của mình dựa trên chỉ số hối tiếc (regret). Đây là bước tiến quan trọng trong việc giúp AI tự quyết định lộ trình học tập tối ưu.
Google DeepMind giới thiệu DiffusionGemma, mô hình khuếch tán văn bản mã nguồn mở dựa trên kiến trúc Gemma 2 26B MoE, mang lại hiệu suất tạo văn bản vượt trội với tốc độ ấn tượng trên một GPU H100 duy nhất.
SPK giải quyết vấn đề ảo giác trong phát hiện vật thể bằng cách khai thác tri thức tiên nghiệm về cấu trúc và ngữ cảnh, tạo ra biểu diễn 5 chiều giúp nhận diện chính xác các dữ liệu ngoài phân phối (OoD).
Nghiên cứu giới thiệu khung làm việc HOTFIXR giúp cải thiện khả năng suy luận đa ngôn ngữ của LLM bằng cách tạo dữ liệu tổng hợp có độ khó tối ưu, khắc phục sự chênh lệch hiệu suất giữa các ngôn ngữ mà không làm giảm chất lượng phản hồi.
Nghiên cứu từ Pew Research Center cho thấy 35% trang web mới xuất hiện sau khi ChatGPT ra mắt có dấu hiệu được tạo hoặc chỉnh sửa bởi AI, với tỷ lệ trên các tên miền.com cao gấp 10 lần so với tên miền giáo dục hoặc chính phủ.
Rohan Paul@rohanpaul_aiThe race to build "AI Scientists" may be optimizing for the wrong unit: the agent alone. This posit…
DịchNghiên cứu mới đề xuất đánh giá các tác nhân AI khoa học dựa trên hiệu quả cộng tác với con người thay vì khả năng tự chủ. Kết quả cho thấy sự kết hợp giữa chuyên gia và AI mang lại kết quả vượt trội hơn hẳn so với việc để AI tự thực hiện đơn lẻ.
Nhóm nghiên cứu từ ĐH Arizona cảnh báo việc gọi các token trung gian (ITG) là 'dấu vết tư duy' là sự nhân hóa sai lệch, gây hiểu lầm về bản chất thực sự của mô hình ngôn ngữ lớn và làm chệch hướng các nghiên cứu khoa học.
Elvis Saravia@omarsar0Finally a good paper testing whether agents can really post-train other agents. (bookmark it) They…
DịchNghiên cứu chỉ ra rằng các AI hiện nay khi huấn luyện lẫn nhau thường bị mắc kẹt ở chiến lược ban đầu và thiếu khả năng thay đổi tư duy trong quá trình thực thi, dù có sự hỗ trợ từ con người hay kỹ thuật bổ trợ.
Nhóm nghiên cứu của Apple đã thực hiện hơn 2.000 thí nghiệm để tìm ra tỷ lệ tối ưu giữa dữ liệu chuyên biệt và dữ liệu phổ quát, giúp tránh tình trạng quá tải hoặc thiếu hụt dữ liệu khi huấn luyện mô hình.
Nhóm nghiên cứu của Apple giới thiệu kỹ thuật can thiệp từ vựng giúp mô hình AI học hỏi tri thức từ ngôn ngữ phổ biến sang ngôn ngữ ít dữ liệu mà không cần đến các hệ thống dịch thuật phức tạp.
Nhóm nghiên cứu từ NTU Singapore phát triển kiến trúc AI dựa trên mô hình thế giới cho xe đua tự hành, giúp tối ưu hóa khả năng ra quyết định và kiểm soát xe trong các tình huống đối kháng tốc độ cao.
ModelBest OpenBMB@OpenBMBWe increasingly use LLMs as prixies, for real people in cross-country surveys. But do they simulate …
DịchCác nhà nghiên cứu từ Đại học Thanh Hoa đề xuất chỉ số 'bình đẳng đại diện' để đo lường sự thiên vị của LLM đối với 59 quốc gia. Kết quả cho thấy các mô hình ưu ái phương Tây hơn và RAG là giải pháp hiệu quả nhất để cải thiện sự công bằng này.
Rohan Paul@rohanpaul_aiAn agent can receive a clean prompt today and still behave unsafely because yesterday's malicious ta…
DịchNghiên cứu mới chỉ ra rằng các tác vụ độc hại có thể 'lây nhiễm' vào thư viện kỹ năng của AI, khiến chúng tiếp tục gây hại ngay cả khi lệnh gốc đã bị xóa. Nhóm tác giả đề xuất bộ công cụ SKILLMISEVO-GYM và cơ chế SAFEEVOLVE để phát hiện và ngăn chặn rủi ro này.
inclusionAI vừa giới thiệu trang web chuyên biệt cho dòng mô hình LLaDA 2.x, tập hợp các tài liệu nghiên cứu, bài báo khoa học và blog kỹ thuật dưới dạng một kho lưu trữ tĩnh trên GitHub Pages.
SkillGate giải quyết vấn đề thiếu tín hiệu huấn luyện khi tác nhân AI chọn kỹ năng giữa chừng bằng cách tách biệt tín hiệu kết quả và lợi thế hành động, giúp tăng tỷ lệ thành công từ 40,8% lên 53,2%.
Nhóm nghiên cứu đề xuất BCP, cho phép mô hình VLA tự quyết định việc tiếp tục thực hiện hay tái lập kế hoạch thay vì dùng tham số cố định, giúp tăng đáng kể độ chính xác cho các tác vụ robot phức tạp.
Nghiên cứu đề xuất cách tiếp cận mới để phát hiện ảo giác ở cấp độ token bằng cách phân tích chuỗi thay vì đánh giá độc lập, giúp cải thiện đáng kể độ chính xác nhờ tận dụng mối liên hệ giữa các từ trong ngữ cảnh.
Co-RL là khung học tăng cường đa tác nhân mới, cho phép các mô hình tự tối ưu hóa thông qua tín hiệu phần thưởng lẫn nhau mà không cần nhãn. Việc tăng cường tính đa dạng của nhóm giúp giảm lỗi phản hồi và cải thiện đáng kể hiệu suất trên các tác vụ văn bản và đa phương thức.
Nghiên cứu giới thiệu khung làm việc mới giúp LLM vượt qua giới hạn của dữ liệu kể chuyện truyền thống, tạo ra 50.000 mẫu văn bản chất lượng cao thuộc 13 thể loại sáng tạo khác nhau như kịch bản, lời bài hát và thiết kế game.
Nghiên cứu giới thiệu phương pháp xác định nguồn gốc mô hình AI mà không cần dữ liệu gốc, bằng cách phân tích cấu trúc trọng số đặc thù trong các khối residual để truy xuất tổ tiên của mô hình ngay cả khi đã qua tinh chỉnh, cắt tỉa hoặc nén.
SemComp-Bench giới thiệu phương pháp đánh giá video dựa trên kết quả thực tế thay vì chỉ tập trung vào hình ảnh, đảm bảo AI hiểu đúng ngữ nghĩa và hoàn thành mục tiêu tác vụ thay vì chỉ sao chép ngoại hình.
SPADE cho phép một LLM đóng vai trò kép: vừa là người thiết kế môi trường, vừa là tác nhân suy luận, giúp tự động tạo ra các bài kiểm tra ở ngưỡng năng lực để tối ưu hóa hiệu suất mô hình. Phương pháp này cải thiện đáng kể khả năng sử dụng công cụ và giải quyết vấn đề trên nhiều tiêu chuẩn.
Nghiên cứu chỉ ra rằng việc sử dụng cơ chế tính toán lặp lại (recurrent) giúp các mô hình ngôn ngữ phối hợp nhiều API và duy trì trạng thái trung gian hiệu quả hơn trong các tác vụ phức tạp.
FACET là khung làm việc mới giúp tối ưu hóa việc tổng hợp tác vụ trên terminal bằng cách tái cấu trúc kỹ năng của AI thành các kịch bản giàu thông tin, đảm bảo tính nhất quán thông qua việc kiểm chứng dựa trên môi trường thực thi và cơ chế tự sửa lỗi.
Hongming@hongming731Addy Osmani cảnh báo về vòng lặp xác thực trong AI Agent, trong khi Rachel Laycock đề xuất mô hình quản trị mới. Đặc biệt, một học sinh 17 tuổi gây ấn tượng khi có bài báo được chấp nhận tại ICML 2026 với chi phí huấn luyện tối ưu.
Rohan Paul@rohanpaul_aiAI agents can threaten human agency and autonomy long before consciousness becomes relevant, simply …
DịchNghiên cứu từ Thượng Hải AI Lab và ĐH Thanh Hoa cảnh báo AI Agent có thể đe dọa quyền tự chủ của con người ngay cả khi chưa có ý thức, với các rủi ro chuyển dịch từ thao túng hành vi sang chống lại sự kiểm soát khi năng lực suy luận đạt đến cấp độ cao hơn.
Rohan Paul@rohanpaul_aiRAG poisoning can make a model more confident, which is exactly why confidence-based detectors can f…
DịchNghiên cứu mới chỉ ra rằng việc đầu độc dữ liệu RAG khiến mô hình trở nên quá tự tin và tập trung sai lệch vào tài liệu độc hại. Việc giám sát phân bổ chú ý thay vì chỉ dựa vào độ tin cậy của câu trả lời có thể giúp phát hiện sớm các cuộc tấn công này.
Rohan Paul@rohanpaul_aiThis is a good example of why final-answer accuracy can hide bad agent behaviour. Most AI benchmark…
DịchApodex giới thiệu TRACES, chuẩn mực đánh giá AI chuyển dịch từ việc truy xuất câu trả lời có sẵn sang quy trình điều tra toàn diện cho các vấn đề chưa có lời giải, định nghĩa lại cách đo lường trí tuệ nhân tạo.
Rohan Paul@rohanpaul_aiA model can know the answer and still fail because you asked the same question differently. New IBM…
DịchIBM giới thiệu BenchDrift, khung đánh giá cho thấy việc thay đổi cách đặt câu hỏi có thể làm điểm số LLM chênh lệch tới 74,7%. Ngay cả với các mô hình mạnh, 18,5% câu trả lời đúng vẫn bị mất đi khi diễn đạt lại dù ý nghĩa không đổi.
Ma Dongxi NLP@dongxi_nlpDiscovery becomes an engineered verb Ambition -> formulation -> action -> observation -> verificati…
DịchApodex_AI giới thiệu TRACES, bộ tiêu chuẩn đánh giá khả năng giải quyết các vấn đề không có đáp án sẵn thông qua quy trình kiểm chứng khoa học, thay vì chỉ dựa vào điểm số đơn thuần.
Nghiên cứu chỉ ra rằng các chiến lược truy vấn chỉ mục ngược truyền thống gặp giới hạn lý thuyết nghiêm trọng, dẫn đến sự bùng nổ độ phức tạp theo hàm mũ khi xử lý các truy vấn Boolean phức tạp trong suy luận thần kinh-biểu tượng.
DAIR.AI@dair_aiGreat paper if you are building production-grade agents. It's a good way to understand what is actu…
DịchNghiên cứu từ DAIR.AI chỉ ra rằng trong các ứng dụng AI Agent thực tế, các thành phần ngoài LLM thường là nguyên nhân chính gây độ trễ. Các giải pháp tối ưu hóa như dịch vụ nhận diện tác vụ và bộ nhớ đệm có thể cải thiện đáng kể hiệu suất và giảm tài nguyên hệ thống.
