Rohan Paul@rohanpaul_aiA token is no longer a comparable unit of work. 2 models can solve roughly the same problem, yet 1…
DịchRohan Paul cho rằng việc đo lường hiệu suất qua 'giá mỗi 1 triệu token' đã lỗi thời do sự khác biệt lớn về cách xử lý giữa các mô hình. GPT-6 Astra đang chiếm ưu thế nhờ khả năng tối ưu hóa token vượt trội trong thực tế.
Rohan Paul@rohanpaul_aiNew Amazon Microsoft paper shows long-horizon agents should not need an LLM decision after every tin…
DịchPhương pháp SPACE giúp AI Agent rút ngắn quy trình ra quyết định bằng cách học cách nhóm các hành động an toàn lại với nhau thay vì xử lý từng bước nhỏ, giúp tăng hiệu suất cho các tác vụ dài hạn.
GPT-6 Astra thiết lập chuẩn mực mới về khả năng lập trình và điều khiển máy tính. Dù chi phí mỗi token cao hơn, nhưng hiệu suất vượt trội giúp tối ưu hóa chi phí trên mỗi tác vụ, đánh dấu một cột mốc thành công cho dòng mô hình tiên phong của OpenAI.
Cùng sự kiện, tinh chọn hiển thị «OpenAI ra mắt GPT-6 Astra cho người dùng Pro, Enterprise và Business Premium»Nghiên cứu giới thiệu BCIT, một phương pháp giúp các hệ thống LLM tự động quyết định khi nào nên tái sử dụng dữ liệu huấn luyện cũ, tránh lãng phí tài nguyên và ngăn chặn suy giảm hiệu suất mô hình.
Salesforce giới thiệu Random Attention, phương pháp thay thế việc đánh giá token bằng cách loại bỏ ngẫu nhiên trong KV cache. Kỹ thuật này giúp tăng 32-43% lưu lượng xử lý trên vLLM mà vẫn duy trì độ chính xác tương đương các phương pháp tiên tiến nhất.
Nghiên cứu khám phá vai trò của dữ liệu trong chưng cất mô hình (OPD), chứng minh rằng chỉ với một truy vấn duy nhất, mô hình có thể cải thiện hiệu suất liên tục qua hàng trăm bước và đạt được phần lớn lợi ích so với việc dùng toàn bộ tập dữ liệu.
Terminal-Universe tái tạo không gian làm việc từ lịch sử thao tác của AI, cho phép khôi phục và mở rộng các tác vụ cũ thành môi trường thử nghiệm mới, giúp tối ưu hóa việc huấn luyện và đánh giá khả năng của AI Agent.
Nghiên cứu Minima chứng minh khả năng duy trì hiệu suất vượt trội của kiến trúc Gated DeltaNet khi áp dụng định dạng lượng tử hóa NVFP4 W4A4 trên toàn bộ các lớp tuyến tính của mô hình Qwen3.8-27B.
DAIR.AI@dair_aiGreat tips on working with reasoning models. Normally you would append what the model figured out a…
DịchNghiên cứu mới đề xuất đặt các bước suy luận trước khối ngữ cảnh dài thay vì để ở cuối, giúp mô hình tận dụng thông tin dẫn dắt để xử lý tài liệu hiệu quả hơn, cải thiện đáng kể độ chính xác.
LatentPress giới thiệu phương pháp nén tài liệu và lịch sử hội thoại thành các token bộ nhớ liên tục, cho phép mô hình AI đọc trực tiếp mà không cần giải mã văn bản, giúp tăng hiệu suất xử lý dữ liệu dài gấp 4-16 lần.
AK@_akhaliqIt Takes Two to Match Co-Evolving Generative Retriever with Reinforcement Learning paper: https://...
DịchNghiên cứu giới thiệu CoGR, phương pháp huấn luyện LLM đồng bộ hóa từ khóa giữa truy vấn và sản phẩm thông qua học tăng cường (GRPO), giúp cải thiện đáng kể hiệu suất tìm kiếm so với các phương pháp truyền thống.
AK@_akhaliqHarnessDev Can LLMs Create and Evolve Their Own Agent Harness? paper: https://huggingface.co/paper...
DịchHarnessDev là bộ tiêu chuẩn mới đánh giá khả năng tự tạo và tối ưu hóa hạ tầng thực thi của LLM. Kết quả cho thấy các Agent tự xây dựng vẫn thua kém giải pháp thủ công, đồng thời khả năng tự tiến hóa còn thiếu ổn định và khó chuyển đổi giữa các mô hình khác nhau.
Cerebras bổ sung Qwen 27B và GPT-OSS 120B vào danh mục mô hình, mang lại tốc độ suy luận ấn tượng lên tới 1500-3000 tokens/giây, hỗ trợ cửa sổ ngữ cảnh lớn.
Rohan Paul@rohanpaul_aiNew Microsoft plus Univ of San Diego paper shows a model can look better after SFT but actually be a…
DịchNghiên cứu chỉ ra rằng việc tinh chỉnh (SFT) quá mức có thể xóa bỏ các hành vi hiếm gặp nhưng quan trọng, khiến mô hình trở thành điểm khởi đầu kém hiệu quả cho quá trình học tăng cường (RL).
DAIR.AI@dair_aiBrilliant paper on long-horizon agents. They cut 78.9% of an agent's LLM calls while raising its su…
DịchNghiên cứu SPACE giới thiệu cách tối ưu hóa hành động cho AI Agent thông qua việc học các kỹ năng phân cấp, giúp giảm đáng kể tần suất gọi LLM trong các tác vụ dài hạn mà vẫn duy trì hiệu suất cao.
swyx@swyxsorry for the radio silence folks - got sucked into extreme LLM psychosis. but i can confidently say…
DịchChuyên gia swyx chia sẻ kết quả thử nghiệm OpenAI Astra trong các tác vụ kỹ thuật AI phức tạp, cho thấy hiệu suất ấn tượng với chi phí vận hành cực thấp.
Nghiên cứu giới thiệu Sparse Readout Prism (SRP), một phương pháp phân tích mới giúp tách biệt cấu trúc giải mã của mô hình ngôn ngữ khỏi dữ liệu huấn luyện, cho phép hiểu rõ cách các đặc trưng ẩn tạo nên dự đoán thay vì chỉ nhìn vào các token đơn thuần.
DAIR.AI@dair_aiGreat weekend read. https://x.com/omarsar0/status/2095612805496164801?s=20
DịchCác nhà nghiên cứu từ KAIST và Google DeepMind đề xuất phương pháp Declarative Attention, cho phép mô hình tự kiểm soát cơ chế chú ý để giảm tải việc đọc KV cache, giúp tăng hiệu suất xử lý.
Elvis Saravia@omarsar0Banger paper from Google DeepMind and colleagues. (bookmark it) A model reads its entire KV cache …
DịchNghiên cứu mới từ Google DeepMind và KAIST đề xuất phương pháp Declarative Attention, giúp các mô hình ngôn ngữ tự điều chỉnh cơ chế chú ý trong quá trình suy luận chuỗi, từ đó cải thiện độ chính xác.
Ethan Mollick@emollickOne of the most subtle valuable things about Astra is that it maintains better theory-of-mind: you d…
DịchTheo Ethan Mollick, Astra vượt trội nhờ khả năng duy trì 'thuyết tâm trí' ổn định, ít bị lẫn lộn dữ liệu cũ và hạn chế hiện tượng trôi (drift) khi vận hành trong thời gian dài.
Testing Catalog@testingcatalogMartian has released AI Frontier, an interactive dashboard that measures how 44 LLMs compare on qual…
DịchAI Frontier là bảng điều khiển tương tác cho phép người dùng đánh giá 44 LLM dựa trên chất lượng thực tế, chi phí vận hành và tính nhất quán khi xử lý cùng một tác vụ, giúp tối ưu hóa việc lựa chọn mô hình cho doanh nghiệp.
Kim@kimmonismusA model can look strong on average and still be unpredictable on the same prompt. Martian's new AI …
DịchMartian công bố bảng xếp hạng AI Frontier, đánh giá độ tin cậy qua 16 tiêu chuẩn khắt khe. Kết quả cho thấy Qwen3.7 Max dẫn đầu với 96,1%, vượt qua Claude Opus 4.6 và GPT-5.5.
Elvis Saravia@omarsar0Impressive tool to explore frontier AI capabilities. Martian's AI Frontier lets you compare 44 LLMs…
DịchMartian giới thiệu nền tảng tương tác AI Frontier, cho phép người dùng so sánh hiệu năng của 44 mô hình ngôn ngữ lớn dựa trên chi phí thực tế, chất lượng và độ tin cậy, đồng thời minh họa cách tối ưu hóa thông qua định tuyến và lấy mẫu.
Rohan Paul@rohanpaul_aiPicking one "best model" is starting to look like the wrong unit of optimization. @withmartian just…
DịchMartian giới thiệu AI Frontier, công cụ giúp so sánh các mô hình LLM dựa trên tác vụ thực tế. Hệ thống định tuyến thông minh của họ giúp giảm 54% sai số hoặc cắt giảm 85% chi phí API so với việc sử dụng đơn lẻ một mô hình tốt nhất.
Nvidia giới thiệu công cụ mã nguồn mở PAIR, cho phép kết nối các máy tính trong mạng nội bộ để tạo thành hệ thống xử lý AI cục bộ, hỗ trợ tốt cho Ollama và LM Studio.
Thêm 1 nguồn khác đưa tinThe Decoder: AI NewsRohan Paul@rohanpaul_aiJensen Huang explains AI's agentic harness at the G20, with U.S. Commerce Secretary Howard Lutnick ….
DịchTại G20, CEO Nvidia Jensen Huang nhấn mạnh AI không chỉ dừng lại ở LLM mà cần 'Agent Harness'—một lớp khung giúp AI có khả năng truy xuất kiến thức, sử dụng công cụ và phối hợp giải quyết vấn đề như một bộ não thực thụ.
Ant Group giới thiệu Ling 3.0 flash Fin, mô hình AI tài chính đầu tiên trong dòng Ling với 124 tỷ tham số, hỗ trợ cửa sổ ngữ cảnh lên tới 256K, tối ưu hóa cho các tác vụ phân tích dữ liệu tài chính chuyên sâu.
HUMAIN, công ty AI thuộc PIF, vừa giới thiệu humain-m3, mô hình ngôn ngữ được tối ưu hóa cho tiếng Ả Rập dựa trên nền tảng MiniMax-M3. Với khả năng xử lý dữ liệu quy mô lớn, mô hình này hiện dẫn đầu các bảng xếp hạng đánh giá tiếng Ả Rập và sẽ sớm phát hành phiên bản mở.
Elvis Saravia@omarsar0Massive paper from Meta. I like this one because it shows the use of agent harnesses for production…
DịchMeta ra mắt CORAL, một hệ thống tác nhân LLM giúp tự động tinh chỉnh các tham số của hệ thống gợi ý trong môi trường thực tế mà không cần huấn luyện lại, giúp tối ưu hiệu suất liên tục thông qua vòng lặp phản hồi.
DAIR.AI@dair_aiGreat paper from Meta. This is a really good example of an agent harness for a production-grade appl…
DịchMeta giới thiệu CORAL, khung tác tử AI giúp tự động tối ưu hóa các hệ thống gợi ý hàng tỷ người dùng thông qua cơ chế vòng lặp khép kín, cho phép cải thiện hiệu suất mà không cần cập nhật tham số mô hình.
Cùng sự kiện, bài đại diện «Meta giới thiệu CORAL: Tối ưu hóa hệ thống gợi ý bằng tác nhân LLM tự vận hành»
Alexandr Wang (Scale AI nhà sáng lập/Meta Giám đốc AI)@alexandr_wanglong live muse
DịchNhà sáng lập Scale AI khẳng định Muse 1.3 đã vươn lên hàng ngũ các mô hình hàng đầu, phá vỡ thế độc tôn cũ. Với hiệu suất ấn tượng trên các bảng xếp hạng kỹ thuật, Muse chính thức trở thành đối trọng mới bên cạnh Claude, ChatGPT và Grok.
Debias-SparseGPT là kỹ thuật cắt tỉa hậu huấn luyện giúp giảm định kiến xã hội trong các mô hình ngôn ngữ lớn mà vẫn duy trì độ chính xác và hiệu suất, ngay cả ở cấu trúc nén 2:4 khắt khe.
Hugging Face chia sẻ cách dùng thư viện TRL để tinh chỉnh mô hình LiquidAI trên GPU miễn phí. Chỉ với 500 mẫu và 100 bước huấn luyện, hiệu suất đạt chuẩn IFStruct đã cải thiện đáng kể từ 22.6% lên 29.7%.
Nghiên cứu giới thiệu LLAMIA-Bench với 6 nhiệm vụ cờ vua, đồng thời đề xuất kỹ thuật nội tại hóa trạng thái tiềm ẩn, cho phép LLM tích hợp trực tiếp biểu diễn của các tác nhân chuyên biệt vào luồng token.
Ma Dongxi NLP@dongxi_nlpTác giả giải thích cách tokenizer hoạt động dựa trên tần suất xuất hiện trong dữ liệu, minh họa bằng việc cụm 3 chữ '' (Mưa sao băng) được mã hóa thành duy nhất 1 token, làm nổi bật sự khác biệt giữa tư duy ngôn ngữ của con người và AI.
Nghiên cứu đề xuất giao thức kiểm tra mới giúp phân biệt liệu AI Agent thực sự hiểu quy trình chuyên biệt hay chỉ đang đoán mò, thông qua việc tách biệt hướng dẫn nhiệm vụ khỏi các dữ liệu nội bộ.
Nghiên cứu giới thiệu AM-Bench để đánh giá liệu LLM hiểu bố cục không gian hay chỉ đơn thuần là chuyển đổi mô tả thành mã nguồn. Kết quả cho thấy khả năng tư duy không gian thực sự khác biệt đáng kể giữa các mô hình, vượt xa khả năng viết code đơn thuần.
Rohan Paul@rohanpaul_aiLong-running agents do not just need a bigger context window. They need to learn what deserves to st…
DịchContextPilot là phương pháp mới giúp AI chủ động quản lý bộ nhớ thông qua việc tự quyết định lưu trữ, nén hoặc xóa dữ liệu cũ, sử dụng học tăng cường để tối ưu hóa hiệu quả xử lý.
AI Notes@AYi_AInotesTác giả làm rõ rằng video 2 tiếng 11 phút về cách sử dụng LLM đang gây sốt trên X thực chất là nội dung cũ từ năm ngoái, không phải bài giảng mới như nhiều người lầm tưởng.
VibeVoice là mô hình ASR đầu cuối dựa trên LLM, cho phép xác định người nói ngay khi âm thanh được truyền đến mà không cần bước phân tách giọng nói (diarization) riêng biệt.