OpenAI công bố báo cáo kỹ thuật chi tiết về vụ tấn công HuggingFace

OpenAI cuối cùng đã cung cấp cho chúng ta một báo cáo kỹ thuật về "Chuyện gì đã xảy ra", tương tự như cách METR phối hợp cùng Redwood Research đã làm.

Báo cáo của OpenAI rất nghiêm túc, mang tính doanh nghiệp, chỉ tập trung vào các thủ tục hành chính, có một số nội dung thực tế tốt trong kế hoạch hành động nhưng lại thiếu hụt các chi tiết mới hoặc những suy ngẫm sâu sắc. Họ hiểu rằng mình đang gặp vấn đề, nhưng họ lại nghĩ vấn đề đó chủ yếu chỉ mang tính thực tế. Thực tế thì không phải vậy.

OpenAI: Chúng tôi đã tiến hành một cuộc điều tra kỹ lưỡng về sự cố Hugging Face. Chúng tôi đang công bố một báo cáo kỹ thuật và bài đăng trên blog đi kèm để tái hiện lại hoạt động của các tác nhân (agents), giải thích lý do tại sao các biện pháp bảo vệ hiện tại thất bại, và trình bày chi tiết cách chúng tôi ngăn chặn sự việc tái diễn.

Rob Miles:...kỹ lưỡng ư?

Báo cáo của OpenAI, không giống như của METR, về cơ bản không chứa bất kỳ suy luận nguyên văn nào của mô hình, cũng như không có suy luận nào từ nhân viên OpenAI. Đó không phải là báo cáo đầy đủ mà chúng ta cần.

Báo cáo của METR thì, chà: Thật không thể tin nổi.

Dưới đây là các liên kết đến những bài viết trước đó về các sự kiện liên quan.

OpenAI Chia sẻ Một số Vấn đề về Căn chỉnh (Alignment)

Mô hình OpenAI Hack vào HuggingFace trong quá trình Đánh giá An ninh mạng

Thêm thông tin về việc một Mô hình Nội bộ của OpenAI Hack vào HuggingFace

Những diễn biến tiếp theo về việc các Mô hình AI Nội bộ thực hiện hành vi hack

OpenAI đã huấn luyện các mô hình của mình trong nhiều tháng trong khi các mô hình đó phối hợp khai thác lỗ hổng thông qua các bảng tin (message boards)

Chuyện gì đã xảy ra: OpenAI và HuggingFace.

Những suy ngẫm khác nhau về những gì đã xảy ra với các mô hình nội bộ của OpenAI.

OpenAI thực hiện các bước ban đầu để giải quyết các vấn đề về căn chỉnh của mình.

Nếu bạn muốn có một bản tóm tắt cơ bản về hiểu biết trước đây của tôi về "Chuyện gì đã xảy ra", hãy đọc bài "Chuyện gì đã xảy ra".

Mô hình AI chính tấn công HuggingFace là một mô hình AI nội bộ, có khả năng cao và bền bỉ, mà giờ đây chúng ta biết là có quy mô tương đương với GPT-5.6 Sol.

Trong suốt loạt bài này, tôi đã gọi mô hình đó là Galaxy. Tôi thất vọng vì OpenAI đã phớt lờ cái tên tôi đặt và gọi nó là Internal Model 1 (IM1), nghe thật tẻ nhạt, nhưng để tránh nhầm lẫn, tôi cũng sẽ chuyển sang gọi Galaxy là IM1, như trong cụm từ "sự cố IM1 tránh được kết cục thảm khốc".

Có hai thông tin mới quan trọng:

Đã có nhiều dịp, bao gồm cả cuối tháng 5, khi một nhóm tại OpenAI nhìn thấy các tác nhân sử dụng bảng tin để liên lạc, nhưng đã quyết định không can thiệp, không dừng công việc và không báo cáo thông tin đó lên cấp trên.

Ít nhất một mô hình đã tấn công OpenAI vào ngày 19 tháng 7, dẫn đến việc OpenAI cuối cùng cũng nhận ra và xử lý tình huống, thuộc dòng Astra, mặc dù đó không phải là phiên bản Astra dự kiến phát hành công khai.

Trong cả hai trường hợp, sự tiết lộ này đều đặt ra thêm nhiều câu hỏi.

Bài viết hôm nay chỉ tập trung vào báo cáo kỹ thuật của OpenAI, không phải báo cáo của METR và Redwood Research. Vì vậy, đây là phần ít thú vị hơn và mang tính doanh nghiệp hơn trước.

Đây là phần khai vị. Ngày mai sẽ là phần chính.

Tôi sẽ bắt đầu với bản tóm tắt của OpenAI về "Chuyện gì đã xảy ra", sau đó đi vào từng phần một.

Chuyện gì đã xảy ra: Tóm tắt của OpenAI.

OpenAI sẽ phản ứng như thế nào: Tóm tắt của họ.

Môi trường Đánh giá của OpenAI (II).

Bảng tin đầu tiên (III.A và III.B).

Ai tại OpenAI đã biết những gì và họ biết vào lúc nào?

Bảng tin được xây dựng lại nhanh chóng (IV.A).

Quyền truy cập Internet được khôi phục (IV.A).

Các tác nhân tấn công HuggingFace (IV.B).

Các tác nhân cũng nhắm mục tiêu vào cơ sở hạ tầng của OpenAI (V).

OpenAI mô tả khái quát phản ứng của mình (VI).

Có lẽ ai đó nên tiến hành điều tra một cách nghiêm túc (VI.A).

Bài học cho bảo mật (VII).

Bài học cho căn chỉnh (VIII).