WikiSkill là khung làm việc đột phá giúp AI Agent chuyển hóa kinh nghiệm thực thi thành tri thức bền vững, cho phép các kỹ năng tự cập nhật và tối ưu hóa liên tục. Phương pháp này không chỉ vượt trội so với các kỹ thuật hiện có mà còn hỗ trợ khả năng chuyển đổi kỹ năng linh hoạt giữa các dòng mô hình.
Nghiên cứu chỉ ra rằng chiến lược tiến hóa (ES) giúp tối ưu hóa suy luận LLM hiệu quả hơn GRPO, tránh được hiện tượng suy giảm entropy và cải thiện đáng kể tỷ lệ thành công (Pass@K) nhờ các cập nhật trọng số chọn lọc.
Bằng cách tối ưu hóa cấu trúc bộ nhớ đệm DNS trên nền tảng Big Pineapple, Cloudflare đã giảm 56% dung lượng bộ nhớ trên mỗi mục, giúp giải phóng tổng cộng 100 TB RAM trên toàn hệ thống.
Aidan Gomez (Cohere CEO)@aidangomezThe x axis is log scale 🫨🫨🫨
DịchCEO Aidan Gomez của Cohere vừa công bố công cụ Parse với chi phí thấp hơn đáng kể so với các đối thủ cạnh tranh, minh chứng bằng biểu đồ thang đo logarit đầy ấn tượng.
Prefix Sliding giúp giảm bộ nhớ suy luận xuống mức hằng số bằng cách loại bỏ các token trung gian không cần thiết, giúp tăng tốc độ xử lý gấp 3 lần mà không cần huấn luyện lại.
AI Notes@AYi_AInotesMột người dùng đã thành công chạy mô hình Qwen 3.8 Flash Next 125B trên hệ thống chỉ có một card RTX 4090 24GB kết hợp với 110GB RAM DDR4. Thiết lập này hỗ trợ ngữ cảnh lên tới 250.000 token với tốc độ giải mã đạt 21 từ mỗi giây.
Gated Recurrent Transformer giải quyết bài toán cân bằng giữa khả năng biểu đạt và bộ nhớ bằng cách sử dụng các khối lặp lại có kiểm soát, cho phép mô hình chuyên biệt hóa dữ liệu đầu vào mà không cần tăng số lượng tham số đáng kể.
Ethan Mollick@emollickI hear the story about how it took 30 years to gain productivity from electricity a lot in relation …
DịchThay vì chờ đợi 30 năm như điện năng, Ford chỉ mất 3 năm để phổ cập dây chuyền sản xuất và tăng hiệu suất 88%. Đây là lời nhắc nhở rằng tốc độ ứng dụng công nghệ phụ thuộc vào cách chúng ta triển khai, thay vì chỉ là bản chất của công nghệ đó.
Nghiên cứu chỉ ra rằng phương pháp chưng cất đa giáo viên (M-OPD) hiện nay gặp hạn chế lớn trong việc tích hợp năng lực, chỉ đạt 35,6% hiệu suất tối ưu. Nhóm tác giả đề xuất giải pháp khắc phục tình trạng suy giảm chất lượng khi huấn luyện mô hình tổng quát từ các chuyên gia RL.
JIT-Agent là mô hình thông minh cho phép các AI Agent tự động tổng hợp và tinh chỉnh khung làm việc thích ứng với từng tác vụ. Công nghệ này giúp các mô hình như DeepSeek và GLM đạt hiệu suất vượt trội trên các bài kiểm tra chuyên sâu.
D^3-MOPD là phương pháp lập lịch động giúp tối ưu hóa quá trình chưng cất kiến thức từ nhiều giáo viên bằng cách tự động điều chỉnh tỷ lệ dữ liệu theo tốc độ hội tụ của từng miền, giúp tiết kiệm tài nguyên và nâng cao hiệu quả huấn luyện.
Qwen Office vừa tích hợp mô hình Qwen3.8-Flash mới nhất, mang lại hiệu suất vượt trội với tốc độ xử lý nhanh hơn 100% và tối ưu hóa đáng kể chi phí tiêu thụ token.
Thêm 1 nguồn khác đưa tinIT Home
Rohan Paul@rohanpaul_aiAutomatically patching an agent's harness is easy; keeping the patches that help is the hard part. …
DịchAutoSaddler tự động tinh chỉnh prompt và công cụ từ các thất bại, nhưng chỉ áp dụng thay đổi giúp cải thiện hiệu suất thực tế. Nghiên cứu cảnh báo rằng nếu thiếu kiểm soát, việc tự động hóa có thể gây tác dụng ngược so với thiết kế thủ công.
Rohan Paul@rohanpaul_aiAttaching a skill file to every prompt in a coding session is usually a net loss. A skill file hur…
DịchNghiên cứu chỉ ra rằng việc đính kèm tài liệu kỹ năng vào prompt khiến hiệu suất lập trình giảm từ 1.3-4.2 điểm, đồng thời làm tăng chi phí token ít nhất 72%. Thay vì áp dụng đại trà, các nhà phát triển nên cân nhắc kỹ lưỡng việc sử dụng kỹ thuật này dựa trên từng tác vụ cụ thể.
Lauren Tan@potetoreally happy that Grok @Bot is by far the smoothest agent desktop and mobile app out there. there's …
DịchGrok Bot hiện là ứng dụng AI có hiệu suất tối ưu nhất trên cả desktop và mobile, duy trì sự mượt mà ngay cả khi đội ngũ phát triển liên tục cập nhật hàng trăm thay đổi mỗi ngày.
Apple giới thiệu IDEA Prune, một quy trình kết hợp việc huấn luyện mô hình lớn trước khi cắt tỉa để tối ưu hóa hiệu quả sử dụng token, giúp đạt hiệu suất cao hơn so với việc huấn luyện mô hình kích thước mục tiêu ngay từ đầu.
LangChain giới thiệu WikiBench để kiểm chứng hiệu quả của tài liệu Wiki đối với các tác nhân AI lập trình. Kết quả cho thấy việc kết hợp Wiki với mã nguồn giúp cải thiện hiệu suất đáng kể và tối ưu chi phí so với chỉ sử dụng mã nguồn đơn thuần.
Qwen@Alibaba_QwenA high-performance 125B model now running locally on just 75GB RAM! Thank you @UnslothAI for the day…
DịchNhờ sự hỗ trợ từ UnslothAI, mô hình mạnh mẽ 125B của Alibaba giờ đây đã có thể vận hành cục bộ chỉ với 75GB RAM, mở ra khả năng tiếp cận AI hiệu năng cao cho người dùng cá nhân.
Speculative Decoding giúp tăng tốc độ tạo văn bản gấp 2-3 lần bằng cách dùng mô hình nhỏ dự đoán trước các token, sau đó để mô hình lớn xác thực song song. Phương pháp này tận dụng hiệu quả tài nguyên GPU nhàn rỗi mà vẫn đảm bảo độ chính xác tuyệt đối như mô hình gốc.
Đừng vội vã áp dụng vector database hay reranking nếu chưa cần thiết. Hãy bắt đầu từ tìm kiếm từ khóa (BM25) và chỉ nâng cấp lên RAG thông minh khi thực sự cần xử lý các truy vấn phức tạp.
DREAM là kiến trúc điều phối mới giúp hệ thống gợi ý hiểu rõ ý định người dùng theo thời gian thực thông qua cơ chế phân tầng thông minh, giúp tối ưu hóa hiệu suất mà không cần thay thế hạ tầng cũ.
TorchMorph là tiện ích mở rộng nhẹ cho PyTorch, cung cấp 22 toán tử tối ưu hóa bằng CUDA, hỗ trợ xử lý hình thái học nhị phân/thang độ xám và vận chuyển tối ưu trên tensor lên tới 8 chiều.
BPCO là phương pháp huấn luyện mới kết hợp nhiều kỹ thuật tiên tiến nhằm khắc phục sự bất ổn trong Reinforcement Learning dựa trên Critic, giúp cải thiện đáng kể khả năng suy luận toán học của các mô hình ngôn ngữ lớn.
AutoSaddler là khung làm việc tự động giúp tối ưu hóa các khung điều khiển (harness) cho tác nhân AI bằng cách học từ lỗi thực thi, giúp cải thiện đáng kể độ tin cậy trong các tác vụ dài hạn trên các nền tảng như SWE-Bench Pro.
NVIDIA dự kiến cập nhật tính năng Resizable BAR vào NVIDIA App với các chế độ tùy chỉnh linh hoạt, cho phép CPU truy cập toàn bộ VRAM để tối ưu hóa hiệu suất chơi game lên đến 12%.
Việc để AI Agent chạy quá lâu dễ gây suy giảm khả năng tập trung và rủi ro bảo mật. Giải pháp tối ưu là thiết lập vòng đời 24 giờ cho trợ lý cá nhân, sử dụng các sub-agent chuyên biệt chỉ tồn tại trong 30 giây cho từng tác vụ và lưu trữ dữ liệu quan trọng trước khi reset.
Deep Agents CLI cho phép nạp và thực thi kỹ năng linh hoạt theo nhu cầu, giúp giảm thiểu tiêu thụ token và nâng cao hiệu suất vận hành cho các AI Agent.
OpenRouter@OpenRouterTIP 💡 Our: nitro and: floor model variants tap into service tiers, not just sorting Example: "~ope…
DịchOpenRouter bổ sung tầng dịch vụ ưu tiên cho các biến thể mô hình:nitro và:floor, cho phép kết hợp linh hoạt giữa việc chọn phiên bản mới nhất và tối ưu hóa tốc độ phản hồi từ các điểm cuối hiệu năng cao.
Rohan Paul@rohanpaul_aiThe harness around a model decided more of the benchmark score than the model itself. So treat scaff…
DịchNghiên cứu chỉ ra rằng trong môi trường dòng lệnh, hệ thống hỗ trợ (scaffold) ảnh hưởng đến hiệu suất AI Agent nhiều hơn chính mô hình ngôn ngữ. Việc nâng cấp mô hình trong cùng một hệ thống thường chỉ làm tăng độ trễ thay vì cải thiện khả năng giải quyết tác vụ.
Eric Zakariasson@ericzakariassonhow to make your grok bot plan last longer: 1) use an event trigger when you can. slack, github, a …
DịchEric Zakariasson chia sẻ 6 chiến lược giúp tối ưu hóa Grok Bot, từ việc ưu tiên kích hoạt theo sự kiện đến việc tận dụng cloud agent, giúp giảm chi phí và tăng hiệu suất vận hành.
Gabriel@gabriel1what do people think about doing one task per thread versus running all tasks of one category in one…
DịchBài viết thảo luận về ưu nhược điểm giữa việc mỗi luồng chỉ xử lý một tác vụ duy nhất so với việc gom nhóm các tác vụ cùng loại vào một luồng để thực thi. Đây là vấn đề then chốt khi tối ưu hóa các tác vụ chạy nền, lặp lại hoặc song song.
Nghiên cứu mới chỉ ra rằng việc mở rộng cửa sổ ngữ cảnh không hiệu quả do suy giảm tương quan. Thay vào đó, phương pháp phân bổ lặp lại theo trình tự giúp tăng tỷ lệ thu hồi lên tới 20.5%, tối ưu hóa hiệu suất cho các hệ thống RAG.
Elvis Saravia@omarsar0Impressive new paper from Microsoft and colleagues. Harness design is still hand-tuned almost every…
DịchAutoSaddler của Microsoft tự động tối ưu hóa các khung làm việc AI Agent bằng cách phân tích lỗi và chỉnh sửa mã nguồn, giúp cải thiện đáng kể hiệu suất trên các bộ benchmark khó như SWE-Bench Pro.
Rohan Paul@rohanpaul_aiGiving an agent a memory hierarchy is not what makes it reason better over long tasks. What helps is…
DịchNghiên cứu giới thiệu Weighted Memory Tree, phương pháp gán trọng số và giảm dần độ ưu tiên cho các ký ức thay vì xếp chồng dữ liệu, giúp AI Agent cải thiện độ chính xác và tiết kiệm chi phí token khi xử lý các tác vụ phức tạp.
LongWoF-Bench cung cấp 778 tác vụ kiểm chứng tự động cho LLM. Phương pháp EvoMap giúp cải thiện hiệu suất trung bình từ 8.7-15.5% trên nhiều mô hình, đồng thời tối ưu hóa đáng kể chi phí token.
Phương pháp QAH giúp phục hồi khả năng suy luận và lập trình cho các mô hình LLM sau khi nén và lượng tử hóa 4-bit bằng cách chưng cất trực tiếp từ mô hình gốc, thay thế hiệu quả cho kỹ thuật QAT truyền thống.
Nghiên cứu giới thiệu ERPO, phương pháp chuyển chính quy hóa từ hành động sang đầu vào giúp cân bằng giữa tính ổn định và khả năng khám phá của LLM. ERPO cải thiện đáng kể độ chính xác trong suy luận toán học mà không làm tăng chi phí tính toán.
Task-CoEvolve giới thiệu phương pháp tối ưu hóa harness cho LLM bằng cách cho phép các tác vụ kiểm chứng cùng tiến hóa, giúp giảm 80% chi phí đánh giá mà vẫn duy trì độ chính xác tương đương với bộ dữ liệu đầy đủ.
Rohan Paul@rohanpaul_aiYou can teach a language model a new modality without ever touching the backbone's weights. Train …
DịchNghiên cứu mới đề xuất phương pháp chỉ huấn luyện lớp kết nối giữa encoder và mô hình ngôn ngữ, giúp bổ sung đa phương thức mà không cần tinh chỉnh toàn bộ tham số, vừa tăng tốc độ huấn luyện vừa bảo toàn hiệu suất gốc của mô hình.
TileMix là kỹ thuật mới giúp tối ưu hóa tính toán self-attention trong LLM bằng cách chia ma trận thành các ô và linh hoạt điều phối độ chính xác (FP16 hoặc INT8) cho từng nhóm ô, giúp giảm tải bộ nhớ mà vẫn duy trì hiệu suất phần cứng.