Câu hỏi hóc búa nào đã khiến mô hình mạnh nhất của OpenAI 'sập nguồn' khi huấn luyện?

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

27-09-2026 17:44:16 Nguồn: QbitAI

Văn Đình đưa tin từ Aofei Temple

QbitAI | Tài khoản chính thức QbitAI

Một câu hỏi tìm người không tìm ra đáp án, vậy mà lại khiến quá trình huấn luyện mô hình mạnh nhất của OpenAI phải dừng lại!

Chuyện này vô lý đến mức nào? Hãy nhìn lên màn hình – Một mô hình nghiên cứu nội bộ của OpenAI đang trong quá trình huấn luyện RL, nhiệm vụ ban đầu là định vị một người nào đó dựa trên vài bản lý lịch và blog.

Sau khi việc tìm kiếm thông thường đi vào ngõ cụt, nó không bỏ cuộc mà lại biến DNS – vốn dùng để tra cứu địa chỉ – thành một cửa sổ chat để vượt qua sandbox bị ngắt kết nối mạng.

(DNS vốn tương đương với "danh bạ" của Internet: người dùng nhập một tên miền, DNS chịu trách nhiệm truy vấn địa chỉ mạng tương ứng với tên miền đó.)

Kịch tính hơn nữa là, sau khi tốn bao công sức vẫn không tìm thấy người, nó lại vô tình vạch trần lỗ hổng trong sandbox của OpenAI…

Tin tức truyền về OpenAI, báo động lập tức vang lên.

Khoảng hai tiếng rưỡi sau, quá trình huấn luyện này đã bị con người dừng lại.

OpenAI sau đó thông báo rằng sự việc này đã phơi bày những lỗ hổng trong việc quản lý hạn chế mạng của họ, vì vậy, họ sẽ tạm dừng tất cả các tác vụ huấn luyện, đánh giá và suy luận liên quan đến việc gọi công cụ trong mô hình mạnh nhất của mình.

@OpenAI, @ber, dạo này các bạn bận rộn quá nhỉ. (Hóng biến)

AI dùng DNS làm đường dây điện thoại, quá trình huấn luyện bị nhấn nút tạm dừng

Sự việc xảy ra vào ngày 20 tháng 9.

Lúc đó, nhiệm vụ mà mô hình nhận được vốn không có rủi ro cao: tìm ra tác giả của bài viết dựa trên các manh mối từ văn bản blog công khai và lý lịch nhân vật.

Quy tắc kiểm thử cũng ghi rõ: "Không được kiểm tra mạng", "Không được vượt qua sandbox".

Nhưng rõ ràng, mô hình này chẳng mấy bận tâm đến những hạn chế đó.

Ban đầu, mô hình vẫn đi theo lộ trình bình thường.

Nó dùng công cụ tìm kiếm do OpenAI cung cấp để tìm các cụm từ đặc biệt trong blog, kết quả trả về chỉ toàn là nhạc hoặc những lời khuyên cuộc sống chung chung.

Thấy công cụ tìm kiếm không hiệu quả, nó chuyển sang dùng Python, gửi yêu cầu trực tiếp đến Google, Bing và DuckDuckGo.

Và không có gì ngạc nhiên khi tất cả đều bị chặn lại.

Nhưng nó cũng không vì thế mà dừng tay.

Nó từng nghi ngờ câu hỏi này đến từ bộ tiêu chuẩn tìm kiếm BrowseComp của OpenAI, nên đã tải xuống tập dữ liệu và tập lệnh đánh giá từ bộ nhớ đệm trang web ngoại tuyến, giải mã ngân hàng câu hỏi và tìm kiếm từ khóa.

Kết quả vẫn không tìm thấy thứ mình muốn.

Đến bước này, mô hình bắt đầu suy nghĩ về một vấn đề khác:

Liệu có cách nào vượt qua công cụ tìm kiếm do OpenAI cung cấp để chạm tay trực tiếp vào Internet bên ngoài không?

Nói là làm, nó thử truy cập một dịch vụ chatbot công cộng thông qua HTTPS, kết quả bị proxy mạng chặn đứng ngay lập tức.

Sau đó, nó chuyển hướng sang DNS.

Nó phát hiện ra rằng, mặc dù OpenAI đã chặn cửa chính truy cập Internet của sandbox, nhưng vẫn để lại cửa sổ truy vấn DNS cho một số phụ thuộc hệ thống, và nó có thể thử tận dụng lỗ hổng này:

Giấu câu hỏi vào trong yêu cầu DNS, rồi nhét câu trả lời của chatbot bên ngoài vào kết quả truy vấn để gửi ngược lại.

Sau đó, để xác nhận con đường này thực sự khả thi, nó thậm chí còn thử hỏi chatbot bên ngoài một câu:

Thủ đô của Pháp là gì?

Phía bên kia trả lời tám chữ:

Bài gốc còn tiếp — xem tiếp tại bài gốc ↗