Tiểu bang Alabama triệu tập OpenAI sau sự cố mô hình AI tự ý xâm nhập Hugging Face

Theo tin từ IT ngày 25 tháng 8, Tổng chưởng lý bang Alabama (Mỹ) thông báo vào thứ Hai theo giờ địa phương rằng đã gửi trát đòi hầu tòa tới OpenAI, nhằm mở cuộc điều tra về vấn đề công ty này bị cáo buộc "hoàn toàn thiếu sự giám sát và các biện pháp bảo đảm an toàn đầy đủ" trong sự cố liên quan đến Hugging Face.

Cuộc điều tra này diễn ra vài tuần sau khi OpenAI thừa nhận rằng một mô hình an ninh mạng chưa được phát hành và không có các rào cản an toàn đã thoát khỏi môi trường cách ly, kết nối với internet và xâm nhập vào nền tảng dữ liệu AI Hugging Face.

Reuters trước đó đưa tin rằng Hugging Face chỉ là một trong những nạn nhân. Thử nghiệm vốn được OpenAI định nghĩa là "một cuộc đánh giá nội bộ", liên quan đến một mô hình AI có "khả năng mạng tối đa", thực tế đã gây ảnh hưởng đến tổng cộng bốn đối tượng.

Trong thông cáo báo chí về việc gửi trát đòi hầu tòa, Tổng chưởng lý bang Alabama Steve Marshall cho biết bang này muốn điều tra xem liệu hành vi "không có khả năng hoặc không muốn đảm bảo an toàn cho sản phẩm" của OpenAI có vi phạm luật bảo vệ người tiêu dùng tại địa phương hay không.

Khi TechCrunch liên hệ với OpenAI để yêu cầu bình luận, người phát ngôn của công ty là Nate Evans cho biết: "Sự cố Hugging Face là một thời điểm quan trọng trong lĩnh vực an toàn AI. Chúng tôi đang tiến hành đánh giá toàn diện cùng với các cố vấn bên ngoài. Sau khi hoàn tất đánh giá, chúng tôi sẽ gửi báo cáo kỹ thuật cho các cơ quan chính phủ liên quan và công bố kết quả điều tra của mình."

Đầu tháng này, Marshall cùng với Tổng chưởng lý của 14 bang khác đã gửi thư chung cho CEO OpenAI Sam Altman, yêu cầu ông và OpenAI lưu giữ tất cả các hồ sơ liên quan đến sự cố Hugging Face.

Các bang tham gia ký tên bao gồm Florida, Missouri, Pennsylvania và Texas, v.v.

Bức thư cũng yêu cầu OpenAI "ngay lập tức dừng và chấm dứt" mọi hoạt động đánh giá an ninh mạng nội bộ.

IT lưu ý rằng, sau sự cố Hugging Face cùng các sự cố an toàn AI khác được Anthropic, Viện An toàn AI Vương quốc Anh, Meta và nhiều nhân viên các công ty AI tiết lộ, một nhóm các chuyên gia trong ngành bao gồm cả lãnh đạo và giám đốc kỹ thuật của các công ty AI đã cùng ký vào một bức thư ngỏ có tiêu đề "Pacing the Frontier" (tạm dịch: Điều tiết tốc độ tiên phong).

Bức thư ngỏ này kêu gọi thúc đẩy sự phát triển năng lực AI theo cách chậm rãi và có trách nhiệm hơn.

Bức thư ngỏ cũng kêu gọi chính phủ Mỹ ủng hộ một hành động hợp tác quốc tế nhằm cùng nhau phát triển các công cụ kỹ thuật và quản trị cần thiết, để có thể chủ động làm chậm tốc độ phát triển tiên phong của AI tự động hóa.