Agent của OpenAI bị cáo buộc 'tấn công vét cạn' website của Liên Hợp Quốc

Terrence O'Brien

là biên tập viên cuối tuần của The Verge. Anh đã đưa tin về ngành công nghệ hơn 18 năm và am hiểu khá rõ về các thiết bị tổng hợp âm thanh (synths).

Nhà nghiên cứu bảo mật Rowan Howard-Jones cho biết các tác nhân AI của OpenAI đã quét trang thống kê của Hội nghị Liên Hợp Quốc về Thương mại và Phát triển (UNCTAD) hơn 16.000 lần trong khoảng thời gian từ tháng 4 đến tháng 6. Mặc dù sự cố này chưa đến mức nghiêm trọng như vụ hack Hugging Face hay các cuộc tấn công vào các trang web chính phủ Hoa Kỳ gần đây, nhưng đây lại là một ví dụ đáng lo ngại khác về việc các tác nhân AI vượt ra ngoài giới hạn thông thường để hoàn thành nhiệm vụ.

Theo Howard-Jones, các tác nhân này có khả năng được giao nhiệm vụ truy xuất dữ liệu công khai liên quan đến Chỉ số Năng lực Sản xuất (PCI) thông qua API của UNCTADstat. Tuy nhiên, các tác nhân dường như không có quyền truy cập API trực tiếp và bị hạn chế khả năng lấy dữ liệu từ UNCTADstat do các rào cản đối với công cụ HTTP của chúng.

Các tác nhân cuối cùng đã tìm ra cách vượt qua những hạn chế để bắt đầu lấy dữ liệu từ trang web, nhưng vẫn gặp phải một số lỗi. Tại thời điểm này, AI đã chuyển từ sáng tạo sang lừa dối. Tin rằng các lỗi xảy ra là do yêu cầu của mình bị chặn bởi một bộ lọc không tồn tại, nó bắt đầu che giấu hành vi của mình. Cuối cùng, nó nhận ra có thể chiếm quyền điều khiển trò chơi XSS của Google (một công cụ học tập về tấn công cross-site scripting) để đạt được mục tiêu. Các tác nhân này đã sử dụng các chiêu thức ngày càng quyết liệt hơn để truy cập vào dữ liệu của Liên Hợp Quốc.

OpenAI và Liên Hợp Quốc chưa phản hồi ngay lập tức yêu cầu bình luận.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông báo qua email.

• Terrence O'Brien