Nghiên cứu chỉ ra rằng có thể đạt hiệu suất tương đương hoặc vượt trội so với chưng cất toàn phần chỉ với 0,1%-1% token. Bằng cách sử dụng chỉ số hiệu quả thông tin (IER), phương pháp này giúp chọn lọc dữ liệu huấn luyện tối ưu, tiết kiệm tài nguyên đáng kể cho các mô hình ngôn ngữ lớn.
Harness-Zero giới thiệu phương pháp 'agent-as-harness' giúp chuyển giao hành vi tối ưu từ các khung làm việc phức tạp trực tiếp vào trọng số mô hình, giúp AI duy trì hiệu suất cao ngay cả khi không còn phụ thuộc vào khung hỗ trợ.
Samsung phối hợp cùng Oxford và Đại học Bắc Kinh giới thiệu phương pháp TrOPD, giúp mô hình nhỏ học hỏi hiệu quả từ mô hình lớn thông qua cơ chế 'vùng tin cậy', giải quyết bài toán đưa AI mạnh mẽ lên hàng triệu thiết bị di động mà vẫn tiết kiệm tài nguyên.
Nghiên cứu chỉ ra rằng các mô hình chuyên gia tự chọn lọc các chuỗi suy luận tiềm ẩn ngay cả khi chỉ được huấn luyện bằng cặp câu hỏi-đáp, mở ra hướng đi mới trong việc tối ưu hóa khả năng suy luận của mô hình nhỏ.
Phương pháp On-Policy Reverse Distillation (OPRD) cho phép mô hình AI học từ giáo viên yếu nhưng vẫn đạt hiệu suất vượt trội, nhờ cơ chế lọc và khuếch đại các cập nhật tối ưu từ trình xác thực.
Rohan Paul@rohanpaul_aiWhat if you could pay the reasoning cost once, then reuse what the model learned across future tasks…
DịchNghiên cứu mới từ Microsoft cho phép chuyển đổi chi phí suy luận đắt đỏ thành các 'kỹ năng' dạng Markdown. Bằng cách tổng hợp các mẫu lỗi từ lịch sử, mô hình nhỏ có thể khôi phục 55-100% khả năng suy luận mà không cần tốn thêm token.
Nghiên cứu đề xuất phương pháp Switch Distillation, sử dụng độ bất định của mô hình giáo viên để điều hướng quá trình chưng cất, giúp cải thiện khả năng suy luận mà không làm suy giảm khả năng ghi nhớ sự kiện trong giai đoạn huấn luyện trung gian.
PROOF-Gen cải thiện khả năng gọi công cụ của mô hình nhỏ bằng cách tận dụng các tín hiệu thất bại từ mô hình giáo viên, thay vì bỏ qua chúng như các phương pháp truyền thống.
Nathan Lambert@natolambertWhat's the best work you've consumed on open models, us v china AI, distillation, or related topics? …
DịchChuyên gia Nathan Lambert đang tìm kiếm các nguồn tài liệu chất lượng như blog, bài báo hay podcast về mô hình nguồn mở, kỹ thuật chưng cất tri thức và sự cạnh tranh AI giữa Mỹ và Trung Quốc.