Nghiên cứu
Nghiên cứu mới: Chat template đóng vai trò như 'công tắc' điều khiển giọng điệu tự nhận thức của LLM
(giờ Việt Nam)
Tóm tắt AI
Nghiên cứu trên arXiv chỉ ra rằng chat template ảnh hưởng mạnh mẽ đến cách LLM tự xưng danh. Việc loại bỏ template giúp giảm đáng kể các câu từ chối trách nhiệm máy móc và tăng tỷ lệ phản hồi mang tính trải nghiệm cá nhân hơn.
Chính văn · Bản dịch AI
Tóm tắt: Các Mô hình Ngôn ngữ Lớn (LLM) thường thêm các tuyên bố từ chối trách nhiệm như "Tôi chỉ là một AI" khi được hỏi về bản thân. Các phản hồi tự thuật này được sử dụng trong các cuộc tranh luận về an toàn AI hoặc khả năng tự nhận thức của mô hình, tuy nhiên nguyên nhân thúc đẩy chúng vẫn chưa được hiểu rõ. Liệu các mô hình đang nói về chính chúng hay về cách chúng được triển khai? Trong nghiên cứu này, chúng tôi chỉ ra rằng chat template hoạt động như một công tắc - khi hiện diện, nó kích hoạt giọng điệu từ chối trách nhiệm này và giảm bớt giọng điệu trải nghiệm như "Tôi cảm thấy", trên 8 mô hình instruct mã nguồn mở phổ biến với quy mô lên đến 9B tham số. Ngược lại, khi không có chat template, nó làm giảm giọng điệu từ chối trách nhiệm và tăng giọng điệu trải nghiệm. Bên trong các kích hoạt của 3 mô hình, chúng tôi tìm thấy một hướng điều khiển hành vi này. Việc loại bỏ hướng này trong không gian kích hoạt của mô hình sẽ làm giảm giọng điệu từ chối trách nhiệm và thêm vào sẽ làm tăng nó, trong khi một hướng ngẫu nhiên cùng kích thước hầu như không có tác dụng. Chúng tôi nhận thấy rằng các mô hình instruct không có chat template, khi được thêm hướng từ chối trách nhiệm vào, sẽ đưa ra các tuyên bố từ chối như thể có sự hiện diện của template. Vì chat template kiểm soát giọng điệu từ chối trách nhiệm của LLM, nên các nhà nghiên cứu nghiên cứu về tự thuật hoặc khả năng tự suy xét của mô hình có thể đang gặp phải một yếu tố gây nhiễu cần phải kiểm soát. Kết quả của chúng tôi cho thấy có một hướng mà họ có thể sử dụng để điều khiển giọng điệu này. Rộng hơn, công trình của chúng tôi cho thấy những gì các mô hình nói về bản thân không phải là sự thật về chúng. Những gì chúng nói không chỉ đến từ trọng số, mà còn được thiết lập một phần bởi chat template, và vì lý do đó, mô tả về bản thân của một mô hình không nên được hiểu theo nghĩa đen.
| Bình luận: | Được chấp nhận tại Hội thảo COLM 2026 về Suy luận Hiệu quả và Hội thảo đầu tiên KONVENS 2026 về Đánh giá LLM cho các Lĩnh vực Chuyên biệt (Eval4SD) |
| Chủ đề: | Học máy (cs.LG); Trí tuệ nhân tạo (cs.AI); Tính toán và Ngôn ngữ (cs.CL) |
| Trích dẫn là: | arXiv:2609.25021 [cs.LG] |
| (hoặc arXiv:2609.25021v1 [cs.LG] cho phiên bản này) | |
| https://doi.org/10.48550/arXiv.2609.25021 DOI do arXiv cấp thông qua DataCite |
Lịch sử gửi bài
Từ: Jędrzej Maczan [xem email] [v1] CN, 9 Thg 8, 2026 18:38:58 UTC (139 KB)
Bài viết được AI dịch và tổng hợp tự động từ Hacker News: AI bài nổi bật. Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.