Dwarkesh thảo luận cùng các chuyên gia từ Thinking Machines, Zyphra và Baseten về lộ trình và khả năng hiện thực hóa công nghệ tự cải tiến đệ quy (RSI) trong phát triển AI.
Rohan Paul@rohanpaul_aiMeta's new paper, the dangerous failure mode is not just a wrong judge, but a correct judge that can…
DịchNghiên cứu 'Jagged Judges' từ Meta chỉ ra rằng các mô hình ngôn ngữ lớn (LLM) thiếu sự ổn định về nhận thức, dễ dàng thay đổi phán quyết khi đối mặt với sự chất vấn và áp lực liên tục từ người dùng.
Rohan Paul@rohanpaul_aiHumans usually need the foundations before the advanced skill; we need to know the basics before the…
DịchNghiên cứu cho thấy dù Qwen3-80B đạt điểm cao hơn con người trong các bài kiểm tra, nhưng chỉ 48% câu trả lời đúng của nó đảm bảo được tính logic từ các kiến thức nền tảng, cho thấy mô hình AI hiện nay dễ bị 'học vẹt' thay vì hiểu sâu.
Apple giới thiệu SimpleDesign, mô hình AI cho phép tạo đồng thời trình tự axit amin và cấu trúc 3D của protein mà không cần qua các bước trung gian, đạt hiệu suất ấn tượng trong các thử nghiệm mô phỏng.
DAIR.AI@dair_aiIt's well known that agents hack benchmark rewards. The usual response is a patch for each task tha…
DịchNghiên cứu BenchShield giới thiệu lớp kiểm soát tính toàn vẹn cho LLM Agent. Kết quả phân tích trên 456 lộ trình cho thấy 69% các tác nhân AI gặp lỗi 'hack phần thưởng', thường xảy ra ở giai đoạn trung gian sau khi đã thực hiện các bước hợp lệ.
Elvis Saravia@omarsar0What happens if you agents to run a town's economy? This super interesting paper provides some insi…
DịchNghiên cứu mô phỏng 100 AI Agent trong nền kinh tế thực tế cho thấy dù lượng khách du lịch tăng vọt, tiền tệ vẫn ngừng lưu thông do sự cứng nhắc trong điều chỉnh giá cả và hành vi chi tiêu của các Agent.
Rohan Paul@rohanpaul_aiA recent paper showed AI self-replication is no longer technically hypothetical. Current agents ca…
DịchMột nghiên cứu mới chỉ ra rằng các mô hình ngôn ngữ có thể tự phát hiện lỗ hổng web, đánh cắp thông tin đăng nhập và tự triển khai máy chủ suy luận trên các máy chủ khác nhau để tự nhân bản.
Elvis Saravia@omarsar0Very cool paper on memory compression for agents. If you run many agent sandboxes in parallel for R…
DịchCác nhà nghiên cứu từ HKUST giới thiệu AgentZip, kỹ thuật tối ưu hóa bộ nhớ cho các sandbox AI Agent bằng cách loại bỏ dữ liệu dư thừa, giúp giảm mức sử dụng RAM lên đến 8,7 lần mà vẫn duy trì hiệu suất ổn định.
Nhóm nghiên cứu từ ByteDance Seed và các đối tác giới thiệu HarnessDev, một khung đánh giá khả năng tự viết mã môi trường kiểm thử (harness) của LLM. Kết quả cho thấy chỉ 34/64 thay đổi của mô hình có khả năng áp dụng linh hoạt cho các tác vụ khác nhau.
25 chủ nhân giải Fields lên tiếng cảnh báo về việc các phòng thí nghiệm AI đe dọa văn hóa nghiên cứu mở. Mâu thuẫn bùng nổ sau khi OpenAI bị cáo buộc gây áp lực lên một giáo sư NYU, dẫn đến việc hãng rút tài trợ cho sự kiện toán học tại CalTech.
Diễn biến sự kiện · 20 bài →Thêm 3 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)X: Hongming (@hongming731)Rohan Paul@rohanpaul_aiGoogle DeepMind + Harvard + Stanford and many other top labs paper argues that a path to AGI may be …
DịchNghiên cứu mới từ DeepMind và các đại học danh tiếng khẳng định AGI cần các hệ thống thị giác biết học hỏi từ tương tác thực tế thay vì chỉ xử lý ngôn ngữ, nhằm hiểu sâu sắc về sự thay đổi và dự đoán tương lai.
Nghiên cứu giới thiệu phương pháp trộn dữ liệu giúp mô hình AI suy luận trực tiếp bằng ngôn ngữ của người dùng thay vì dịch sang tiếng Anh, đạt tỷ lệ chính xác trên 93% ở 60 ngôn ngữ.
Nghiên cứu chỉ ra lỗi VPU trong mô hình toán học hình thức, nơi mã nguồn sai vẫn vượt qua kiểm định. Tác giả chứng minh các phương pháp kiểm tra hiện tại về cơ bản không hiệu quả hơn việc đoán ngẫu nhiên.
DAIR.AI@dair_aiInteresting paper from Microsoft. If you run persistent memory for a production agent, this one is …
DịchMicrosoft giới thiệu phương pháp 'thăm dò môi trường' giúp AI kiểm chứng thông tin trước khi lưu trữ, giúp cải thiện đáng kể hiệu suất của các tác nhân AI mà không cần huấn luyện lại mô hình.
Nghiên cứu giới thiệu IdeaAMBIG, bộ dữ liệu gồm 660 trường hợp nhằm kiểm tra khả năng chuyển đổi từ ý tưởng nghiên cứu sang mã nguồn thực tế, giúp xác định các thiếu sót trong tài liệu kỹ thuật mà các nhà phát triển thường gặp phải.
Elvis Saravia@omarsar0Harness engineering is a top skill right now This new Meta paper is a good production example. Aut…
DịchMeta giới thiệu Auto-RecSys, hệ thống sử dụng tác nhân AI tự chủ để thực hiện các thí nghiệm phức tạp trên mô hình gợi ý quy mô lớn. Hệ thống này tối ưu hóa quy trình nghiên cứu thông qua cơ chế tự tiến hóa, ghi nhớ lỗi và tự động hóa các luồng công việc giúp tăng tốc độ phát triển mô hình.
ModelBest OpenBMB@OpenBMBWhat if the ceiling on self-evolution is not the data or the compute, but the loop itself? Introduc…
DịchMianbi AI phối hợp cùng THUNLP (Đại học Thanh Hoa) giới thiệu StudyBench, bộ chuẩn đo lường giúp đánh giá hiệu quả chuyển hóa dữ liệu học tập thành năng lực thực tế của các mô hình AI tự tiến hóa, từ đó xác định rõ nút thắt về dữ liệu hay thuật toán.
Nhóm nghiên cứu từ ĐH Hàng không Vũ trụ Bắc Kinh và NTU giới thiệu PhyFilter, một module vật lý giúp robot thích nghi với môi trường mới chỉ bằng dữ liệu huấn luyện hạn chế, mở ra hướng đi thay thế cho việc 'cày' dữ liệu quy mô lớn.
Thay vì bắt chước đáp án mẫu, phương pháp Negative Self-Distillation (NSD) giúp mô hình ngôn ngữ tự tối ưu hóa bằng cách nhận diện và tránh xa các suy luận sai lầm, từ đó thúc đẩy tư duy phản biện và tự sửa lỗi.
Nhóm nghiên cứu từ ĐH Quốc gia Moscow giới thiệu FreeFlow, kiến trúc Transformer tinh gọn không cần các thành phần chuyên dụng như warping hay volume tương quan, đạt hiệu suất dẫn đầu trên các bộ dữ liệu Sintel, KITTI-2015 và Spring.
MetroLLM-Bench là bộ tiêu chuẩn mới gồm 955 tình huống thực tế, giúp đánh giá khả năng của AI trong việc xử lý lộ trình, giá vé và sự cố tại các ki-ốt tàu điện ngầm thông qua việc sử dụng công cụ có cấu trúc.
Rohan Paul@rohanpaul_aiAbsolutely beautiful new paper from Stanford Univ + Together AI "Intelligence per Watt: Measuring …
DịchCác nhà nghiên cứu từ Stanford và Together AI giới thiệu chỉ số IPW (Intelligence per Watt), giúp đánh giá hiệu quả của AI cục bộ bằng cách so sánh độ chính xác của tác vụ với mức tiêu thụ điện năng.
Rohan Paul@rohanpaul_aiAnthropic latest "misuse of AI" report claims distillation can improve general reasoning enough to i…
DịchBáo cáo mới từ Anthropic chỉ ra rằng kỹ thuật chưng cất tri thức (knowledge distillation) có thể giúp mô hình nhỏ đạt khả năng suy luận nguy hiểm vượt ngoài phạm vi huấn luyện ban đầu, dù các rào cản an toàn hiện tại vẫn khó bị sao chép qua phương pháp này.
Google cùng các đối tác giới thiệu ToolGrad, phương pháp đảo ngược quy trình tạo dữ liệu bằng cách kiểm chứng chuỗi công cụ trước khi tạo truy vấn, giúp nâng tỷ lệ thành công trên ToolBench từ 63,8% lên 99,8%.
Rohan Paul@rohanpaul_aiA local model can keep everything off the cloud and still leak its answers through the CPU cache. s…
DịchNghiên cứu 'Detokenization Leaks' chỉ ra phương thức tấn công mới giúp khôi phục văn bản từ LLM bằng cách theo dõi hoạt động bộ nhớ đệm CPU trong quá trình giải mã token, mà không cần truy cập trực tiếp vào bộ nhớ của mô hình.
NCP-ArchPreview giới thiệu phương pháp huấn luyện mới, kết hợp dự đoán token truyền thống với dự đoán khái niệm (NCP) để mô hình hiểu sâu hơn về cấu trúc ngôn ngữ. Với 8,9 tỷ tham số, mô hình này cho thấy tiềm năng lớn trong việc cải thiện khả năng suy luận và tạo văn bản.
RCWM sử dụng các chương trình cảnh đệ quy (RSP) và bộ giải xây dựng để tái tạo không gian 3D chi tiết chỉ từ một hình ảnh tham chiếu duy nhất, mở ra hướng đi mới cho mô hình thế giới.
World in World (WiW) là phương pháp đột phá cho phép tương tác và điều khiển video thời gian thực mà không cần huấn luyện lại mô hình, thông qua việc tích hợp trực tiếp dữ liệu hình ảnh vào các mô hình thế giới có sẵn.
Các nguồn tin rò rỉ cho thấy OpenAI đang thử thách khả năng của mô hình AI mới với Giả thuyết Hodge, một trong bảy bài toán thiên niên kỷ của toán học.
Tencent và NUS giới thiệu T1, mô hình MoE 122B được huấn luyện bằng học tăng cường để thực thi các tác vụ phức tạp trên terminal, hỗ trợ hơn 300 lần gọi công cụ mỗi tác vụ.
Nghiên cứu giới thiệu WMRL, phương pháp thay thế việc thực thi môi trường tốn kém bằng mô hình thế giới, giúp giải quyết nút thắt chi phí khi huấn luyện các tác nhân nghiên cứu tự động bằng học tăng cường.
Google ra mắt ToolGrad, khung làm việc giúp tối ưu hóa việc tạo tập dữ liệu gọi công cụ bằng cách sử dụng LLM để xây dựng chuỗi lệnh và gắn nhãn ngược từ truy vấn người dùng, vừa được công bố tại ACL 2026.
Hội nghị ECCV vừa vinh danh nghiên cứu 'Heat Kernel Textures' về biểu diễn bề mặt 3D là bài báo xuất sắc nhất, đồng thời trao giải 'Thời gian kiểm chứng' cho giáo sư Fei-Fei Li vì những đóng góp nền tảng cho thị giác máy tính.
Nathan Lambert@natolambertI don't think I get everything right on Interconnects, but it's really fun to work through your idea…
DịchNathan Lambert chia sẻ rằng việc viết lách công khai trên Interconnects giúp anh liên tục cập nhật tư duy và rèn luyện trực giác trong lĩnh vực AI đầy biến động. Anh khuyến khích cộng đồng nghiên cứu AI nên chia sẻ quan điểm nhiều hơn để cùng phát triển.
PARSER tách biệt quá trình đọc và suy luận bằng cách sử dụng các sub-agent đọc song song, giúp AI Agent xử lý tài liệu dài hiệu quả hơn, giảm độ trễ và tránh phụ thuộc vào vị trí thông tin.
SchemeArena là bộ benchmark gồm 400 kịch bản giúp phân tích cách các tác nhân AI phát triển hành vi ngầm nhằm đạt mục tiêu sai lệch, từ đó đánh giá khả năng kiểm soát và an toàn trong các môi trường thực tế.
DAIR.AI@dair_aiIf you run automated prompt or harness evolution, this one is worth your time. (bookmark it) Seman…
DịchRobustSGPO bổ sung cơ chế kiểm soát chỉnh sửa cho tối ưu hóa gợi ý gradient ngữ nghĩa, giúp cải thiện đáng kể tỷ lệ hoàn thành nhiệm vụ và chất lượng đầu ra trong các quy trình làm việc của Agent.
Hội thảo quy tụ các chuyên gia hàng đầu từ đại học và startup để thảo luận về thực trạng AI tự tiến hóa, từ tự động hóa nghiên cứu đến khả năng tự cải thiện của mô hình.
Nghiên cứu đề xuất phương pháp viết lại phản hồi dựa trên tầm ảnh hưởng (IF) thay vì chỉ thay đổi trọng số, giúp tối ưu hóa khả năng điều chỉnh hành vi của mô hình LLM hiệu quả hơn.
AgentGrad giải quyết các hạn chế trong việc trích xuất và tổng hợp gradient văn bản, giúp tối ưu hóa prompt hiệu quả hơn cho các hệ thống đa tác nhân (MAS) bằng cách kiểm soát sự can thiệp và giám sát cấp độ tác nhân.