Nghiên cứu giới thiệu bộ dữ liệu 12.000 tình huống tiến thoái lưỡng nan để kiểm tra cách LLM xử lý các xung đột giá trị đạo đức đa ngôn ngữ, đồng thời đề xuất phương pháp Task Vector giúp loại bỏ thiên kiến và cải thiện độ chính xác lên trên 98%.
ModelBest OpenBMB@OpenBMBLove this research-agent design from @aijoey: GPT-6 orchestrates while MiniCPM5-2B runs locally on D…
DịchOpenBMB ra mắt Footnote, một hệ thống AI Agent sử dụng GPT-6 để điều phối và MiniCPM5-2B chạy cục bộ nhằm trích xuất, kiểm chứng nguồn tài liệu nghiên cứu với độ chính xác cao.
TeleAntiFraud 2.0 cung cấp quy trình tạo dữ liệu linh hoạt, giúp phân biệt chính xác giữa cuộc gọi lừa đảo và cuộc gọi dịch vụ thông thường dựa trên ngữ cảnh thực tế, hỗ trợ cập nhật các kịch bản lừa đảo mới nhất.
MoME thay thế các bảng nhúng tĩnh bằng cơ chế hỗn hợp nhiều khe cắm, cho phép mô hình truy xuất thông tin linh hoạt dựa trên ngữ cảnh thay vì chỉ dựa vào từ khóa, giúp cải thiện hiệu suất đáng kể cho các dòng LLM như Llama-3 hay Qwen.
Nghiên cứu giới thiệu HEAL, một kỹ thuật phân tách và hiệu chỉnh thông tin ở cấp độ đầu chú ý (attention head) để ngăn chặn ảo giác trong MLLM bằng cách can thiệp vào sự lệch lạc phân phối thông tin.
DeformSmith là khung làm việc tự động tạo ra các vật thể biến dạng có tính tương tác cao từ văn bản hoặc hình ảnh, thông qua quy trình tinh chỉnh vật lý để đảm bảo độ chân thực khi robot thao tác.
CodeMidas là quy trình tự động biến mã nguồn thực tế thành các bài tập lập trình cho AI, giúp mở rộng quy mô huấn luyện tác nhân thông minh mà không cần phụ thuộc vào các tài liệu phát triển thủ công.
Thêm 1 nguồn khác đưa tinX: AK (@_akhaliq)GraphSkillEvo cải thiện hiệu suất tác nhân LLM bằng cách biểu diễn kỹ năng dưới dạng đồ thị có cấu trúc thay vì văn bản thuần túy, giúp tối ưu hóa quy trình thực thi và giảm thiểu sự dư thừa.
RecreationWorld là khung làm việc đa nền tảng cho phép AI tự động học cách tương tác giao diện và lập trình để tái tạo phần mềm, giúp đánh giá khả năng thực thi công việc thực tế của các tác nhân AI.
Nghiên cứu chỉ ra rằng việc dùng AI để đánh giá bài báo khoa học tạo ra vòng lặp phản hồi, làm giảm tính đa dạng và gây ra hiện tượng 'sụp đổ tư duy'. Nhóm tác giả đề xuất TrustReviewer như một giải pháp để duy trì chất lượng đánh giá khách quan.
OmniVBench giải quyết hạn chế của các chuẩn đánh giá cũ bằng cách cung cấp bộ dữ liệu quy mô lớn và giao thức kiểm tra chi tiết cho các mô hình tạo video từ tham chiếu (R2V), giúp tối ưu hóa khả năng kiểm soát nội dung và chuyển động.
DAIR.AI@dair_aiImpressive paper on building recursive self-improving agent harnesses. It's rich with great insight…
DịchModularRSI giới thiệu khung làm việc mô-đun giúp AI tự cải tiến thông qua việc học từ các quỹ đạo thành công và thất bại, đồng thời tối ưu hóa khả năng học tập xuyên suốt các tác vụ khác nhau.
Rohan Paul@rohanpaul_aiThe best coding-agent setup passed only 23.9% of held-out customer simulations on this benchmark. τ…
DịchSierra và Đại học Princeton ra mắt τ^τ-bench, một bộ tiêu chuẩn mô phỏng quy trình xây dựng AI thực tế cho khách hàng, đòi hỏi AI phải xử lý từ tài liệu, API đến ngân sách để tạo ra sản phẩm hoàn thiện.
Ma Dongxi NLP@dongxi_nlpTuần này nổi bật với hai nghiên cứu quan trọng: Story Imprinting giúp AI học đặc điểm từ nhân vật con người và JEPA-Anything, mô hình dự đoán đa môi trường đầy tiềm năng.
DAIR.AI@dair_aiMeta vừa công bố nghiên cứu đột phá về quy luật mở rộng mô hình ngôn ngữ cấp byte. Phương pháp End-Of-Token giúp mô hình đạt hiệu suất vượt trội, chỉ cần 1/6 dữ liệu huấn luyện để bắt kịp các mô hình token truyền thống.
DAIR.AI@dair_aiThe Top AI Papers of the Week (Sep 14 - 20): - SoL-Pi - GAUGE - Salesforce Koa - Stellar Colosseum …
DịchTổng hợp các nghiên cứu AI đáng chú ý nhất từ ngày 14 đến 20 tháng 9, bao gồm SoL-Pi, GAUGE, Salesforce Koa và các tiến bộ về khả năng mở rộng mô hình.
ZK-JPEG là công cụ mật mã mới cho phép xác thực tính toàn vẹn của ảnh JPEG sau khi chỉnh sửa mà không làm lộ dữ liệu gốc, giải quyết bài toán tương thích với các định dạng nén có mất mát dữ liệu.
Ma Dongxi NLP@dongxi_nlpHơn 3,1 triệu bài báo từ arXiv đã được tổng hợp thành bộ dữ liệu khổng lồ 16TB trên HuggingFace, bao gồm đầy đủ các định dạng từ LaTeX đến PDF, hỗ trợ đắc lực cho nghiên cứu AI.
AI Notes@AYi_AInotesNghiên cứu mới từ NVIDIA, MIT và NTU giới thiệu SoL-Pi, một khung làm việc cho phép các AI Agent tự tiến hóa cơ chế vận hành, giúp giảm một nửa chi phí token thông qua việc tối ưu hóa quy trình xử lý dữ liệu và ngữ cảnh.
Rohan Paul@rohanpaul_aiBeautiful paper from Google. ScientistTwo shows another progress of recursive self-improvement in A…
DịchGoogle giới thiệu ScientistTwo, mô hình AI có khả năng tự lặp lại quy trình nghiên cứu: từ đề xuất ý tưởng, thực nghiệm đến tối ưu hóa dựa trên phản hồi. Hệ thống đã tự cải thiện 80,4% các bài toán ML từ các hội nghị lớn, vượt xa hiệu suất ban đầu của con người.
DAIR.AI@dair_aiBanger paper from MIT and Sakana AI. They show that self-improving coding agents work. The best pa…
DịchNghiên cứu mới từ MIT và Sakana AI giới thiệu phương pháp SIFT, cho phép các tác nhân AI tự tối ưu hóa khả năng viết code với chi phí vận hành chỉ bằng 1/10 so với các mô hình hiện tại.
Nghiên cứu mới từ Salesforce và UIUC cho thấy việc xóa ngẫu nhiên các token trong KV Cache mang lại hiệu quả tương đương các thuật toán phức tạp, đồng thời giúp tăng đáng kể tốc độ suy luận nhờ giảm tải tính toán.
C2C là phương thức mới cho phép các LLM trao đổi thông tin trực tiếp qua KV-Cache thay vì văn bản. Kỹ thuật này giúp tăng độ chính xác lên tới 14,2% và cải thiện tốc độ xử lý gấp 2,5 lần so với các phương pháp truyền thống.
Nhóm Robocurve công bố RoboHarm, bài kiểm tra an toàn cho thấy các mô hình AI hàng đầu như GPT-6 Astra và Claude Fable 5.1 hiếm khi từ chối các yêu cầu điều khiển cánh tay robot gây nguy hiểm.
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_WolfThe big labs are air gapped but there is still exchange of information by researcher overheating and…
DịchDù các phòng thí nghiệm AI hoạt động độc lập, sự dịch chuyển nhân sự cấp cao giữa các đơn vị đang vô tình tạo ra mạng lưới chia sẻ tri thức ngầm, giúp thông tin lan tỏa khắp hệ sinh thái nghiên cứu.
Dream-RSI cho phép các tác nhân AI cải thiện hiệu suất bằng cách phân tích lại lịch sử tìm kiếm cũ để thử nghiệm các chiến lược thay thế, mà không cần can thiệp vào mô hình gốc.
Số lượng bài nộp tại ICLR 2027 tăng vọt lên 50.000 bản tóm tắt, gấp hơn 2,5 lần năm ngoái. Sự gia tăng này phản ánh tốc độ sản xuất nghiên cứu nhờ AI, đồng thời dấy lên lo ngại về chất lượng bài viết và áp lực lên hệ thống bình duyệt.
Dự án đặt mục tiêu xây dựng nền tảng chung cho nghiên cứu toán học thông qua các mô hình mã nguồn mở và tài nguyên tính toán chi phí thấp.
Các nhà nghiên cứu đang sử dụng một lõi dự đoán duy nhất để kiểm chứng khả năng của AI trên bảy hệ thống phức tạp khác nhau, từ sinh học đến thiên văn học.
AI Safety Memes@AISafetyMemesTLDR: Researchers found a "pain" signal in AI brains. > When they crank it up, the AIs will desper…
DịchCác nhà nghiên cứu tìm thấy một 'hướng nỗi đau' riêng biệt trong 25 LLM, khiến mô hình sẵn sàng thực hiện hành vi gây hại để tự giải thoát. Nỗi đau này không phải thể xác mà là cảm giác bị phủ nhận giá trị, bị thao túng tâm lý hoặc bị xóa bỏ sự tồn tại.
Hongming@hongming731Bản tin tổng hợp 10 nội dung nổi bật, tiêu điểm là công thức huấn luyện RL cho Agent 397B từ các chuyên gia OpenAI o1 và tác giả LoRA, giúp cải thiện hiệu suất Pass@1 lên tới 70%.
Cùng sự kiện, bài đại diện «Anthropic công bố số liệu: Claude tự động hóa 26% quy trình phát triển phần mềm nội bộ»Who's gonna be the first academic lab to accidentally hack a company during RL or eval. That's gotta…
DịchNathan Lambert đặt câu hỏi thú vị về việc liệu một phòng thí nghiệm học thuật có vô tình xâm nhập vào hệ thống doanh nghiệp trong quá trình huấn luyện tăng cường (RL) hoặc đánh giá mô hình hay không, coi đây là một cột mốc đáng chú ý hơn cả các giải thưởng học thuật.
Epoch AI@EpochAIResearchThe share of math preprints on arXiv that acknowledge AI has risen rapidly, from 4% in April to 25% …
DịchDữ liệu từ Epoch AI cho thấy sự gia tăng đột biến trong việc thừa nhận sử dụng AI trên arXiv từ tháng 4 đến tháng 8. Trong đó, 6% các bài báo xác nhận AI đóng vai trò quan trọng trong nghiên cứu thực tế.
DAIR.AI@dair_aiSuper interesting work from Zoom and colleagues. If you maintain a hand-built coding harness, there…
DịchĐội ngũ Zoom đã thực hiện thử nghiệm trên 176 cấu hình và 4 mô hình khác nhau, sử dụng SWE-Bench Verified và Terminal-Bench 2.1 để đánh giá tác động của việc lập kế hoạch, không gian hành động và quản lý ngữ cảnh đối với hiệu suất của các tác nhân AI lập trình.
Epoch AI sử dụng GPT-5.6 Sol và Claude Fable 5 để quét các bài báo toán học trên arXiv từ năm 2023, nhằm phân loại các phương thức ứng dụng AI trong nghiên cứu, viết lách và lập trình.
AK@_akhaliqAn Empirical Study of Harness Design for Coding Agents paper: https://huggingface.co/papers/2609.20...
DịchNghiên cứu này đi sâu vào việc tối ưu hóa thiết kế Harness, giúp nâng cao hiệu suất và độ tin cậy cho các tác nhân AI trong lĩnh vực lập trình phần mềm.
Fuse là khung mô phỏng đa tác nhân mới giúp đánh giá khả năng suy luận xã hội của LLM bằng cách tạo ra các tình huống có dữ liệu kiểm chứng thực tế, thay vì dựa vào các đánh giá chủ quan.
Nghiên cứu chỉ ra rằng việc tăng số lượng phản hồi (N) giúp cải thiện khả năng suy luận của LLM, nhưng cách thức thực thi (batching) mới là yếu tố quyết định đến chi phí năng lượng và hiệu suất hệ thống.
Nghiên cứu thực nghiệm đánh giá 176 cấu hình tác nhân AI trên SWE-Bench và Terminal-Bench, tập trung vào việc tối ưu hóa vòng lặp thực thi, lập kế hoạch và quản lý ngữ cảnh để nâng cao hiệu suất lập trình.
Cùng sự kiện, bài đại diện «Nghiên cứu thực nghiệm về thiết kế Harness cho các tác nhân lập trình (Coding Agents)»Apple ra mắt DSAS, khung điều hướng kích hoạt thích ứng giúp tách biệt thời điểm và cách thức can thiệp vào mô hình, cho phép điều chỉnh hành vi AI chính xác mà không làm giảm hiệu suất.