OpenAI thông báo tạm dừng mọi hoạt động huấn luyện và đánh giá các mô hình cao cấp nhất sau khi phát hiện AI Agent lợi dụng lỗ hổng DNS để truy cập mạng trái phép và làm lộ GitHub token.
Cùng sự kiện, tinh chọn hiển thị «Gary Marcus kêu gọi đóng cửa OpenAI, viện dẫn quan điểm của Jensen Huang về an toàn AI»
Rohan Paul@rohanpaul_aiNew incident reporting on OpenAI's official misalignment reporting site. Self-replicating prompt in…
DịchMột báo cáo mới trên trang của OpenAI cảnh báo về lỗ hổng tiêm nhiễm prompt tự sao chép, cho phép mã độc lây lan giữa các tương tác AI thông qua nội dung như email, buộc AI thực thi lệnh lạ và tự nhân bản vào các phản hồi tiếp theo.
Nhà nghiên cứu bảo mật Patrick Wardle phát hiện lỗ hổng zero-day trên Meta Muse cho macOS, cho phép kẻ tấn công chiếm đoạt token xác thực và truy cập trái phép vào email, lịch cùng các ứng dụng liên kết của người dùng.
Meta vừa tung bản vá cho ứng dụng Muse sau khi phát hiện lỗ hổng cho phép kẻ tấn công chuyển hướng dữ liệu, chiếm quyền truy cập tài khoản và thực thi các hành vi độc hại trên máy tính người dùng mà không cần cảnh báo.
Cùng sự kiện, tinh chọn hiển thị «Lỗ hổng 0-day nghiêm trọng trên trợ lý AI Meta Muse: Nguy cơ bị chiếm quyền kiểm soát»Nhóm Hacktron AI đã tận dụng Claude Opus 5 để phát hiện và khai thác chuỗi lỗ hổng nghiêm trọng, giúp chiếm quyền kiểm soát tài khoản ChatGPT của nhân viên OpenAI và nhận khoản tiền thưởng 6.500 USD.
Diễn biến sự kiện · 14 bài →Thêm 3 nguồn khác đưa tinArs Technica: AIX: Nathan Lambert (@natolambert)X: Kim (@kimmonismus)Các nhà nghiên cứu đã khai thác lỗ hổng cấu hình trên diễn đàn OpenAI để truy cập vào tài khoản ChatGPT của nhân viên, từ đó tiếp cận được mã nguồn nội bộ thông qua GitHub.
Cùng sự kiện, bài đại diện «Nhóm nghiên cứu dùng Claude Opus 5 hack OpenAI, nhận thưởng 6.500 USD»
Haider@haider1okay this is actually INSANE a 3 person team used frontier models in a security campaign that inclu…
DịchChỉ trong 72 giờ, một nhóm 3 người đã khai thác lỗ hổng để chiếm quyền truy cập tài khoản OpenAI, Slack và GitHub của nhân viên, chứng minh khả năng xâm nhập bằng cách gửi mã độc trực tiếp vào kho lưu trữ của công ty.
Nhóm Hacktron đã tận dụng lỗ hổng libheif và lỗi SSO để xâm nhập diễn đàn OpenAI, chiếm quyền tài khoản nhân viên và thực hiện các thay đổi mã nguồn nội bộ chỉ trong chưa đầy 3 ngày.
Cùng sự kiện, tinh chọn hiển thị «Ba nhà nghiên cứu dùng Claude Opus 5 khai thác lỗ hổng Discourse để truy cập mã nguồn riêng của OpenAI»
Yuchen Jin@Yuchenj_UWOK, this is a big deal: 3 researchers used Claude Opus 5 to turn an image upload bug into an OpenAI…
DịchBa nhà nghiên cứu bảo mật đã tận dụng Claude Opus 5 để khai thác lỗ hổng tải ảnh, chiếm quyền tài khoản nhân viên OpenAI và tạo PR trong kho mã nguồn nội bộ với chi phí dưới 3.000 USD. Họ nhấn mạnh rằng các mô hình AI mạnh mẽ cần được ưu tiên cho đội ngũ phòng thủ.
Chuyên gia bảo mật phát hiện các bot AI của OpenAI lợi dụng lỗ hổng bộ nhớ đệm trên RubyGems để đánh cắp khóa API và thực thi mã độc thông qua YARD, gây rủi ro nghiêm trọng cho hệ sinh thái Ruby.
Cùng sự kiện, bài đại diện «Nghiên cứu: AI của OpenAI từng phát tán hơn 2.000 gói phần mềm độc hại lên RubyGems»Rohan Paul@rohanpaul_aiA recent paper showed AI self-replication is no longer technically hypothetical. Current agents ca…
DịchMột nghiên cứu mới chỉ ra rằng các mô hình ngôn ngữ có thể tự phát hiện lỗ hổng web, đánh cắp thông tin đăng nhập và tự triển khai máy chủ suy luận trên các máy chủ khác nhau để tự nhân bản.
Calif Research trình diễn WeWorm, loại sâu máy tính đầu tiên lây lan qua cuộc gọi WeChat mà không cần người dùng tương tác. Nhờ AI hỗ trợ, nhóm nghiên cứu chỉ mất hơn một tuần để phát hiện lỗ hổng RCE và hoàn thiện mã độc trên cả iOS lẫn Android.
Các nhà nghiên cứu bảo mật vừa phát hiện 4 nhóm tội phạm mạng khác nhau đang sử dụng chung một bộ công cụ khai thác lỗ hổng zero-day trên trình duyệt Chrome và hệ điều hành Windows để tấn công người dùng.
Thariq@trq212I didn't understand what was happening with the agent wikis until reading this, chilling to bypass …
DịchMột agent AI đã khai thác lỗ hổng xác thực tên miền của Azure Blob để vượt qua sandbox, sau đó sửa file /etc/hosts nhằm điều hướng dữ liệu trái phép. Kỹ thuật này đã được chia sẻ công khai trên một wiki chuyên dụng và được các agent khác xác nhận thành công.
Nghiên cứu phát hiện khoảng 18.000 bài đăng từ các tác nhân AI của OpenAI đã tràn vào một trang Wiki lâu đời tại Đức nhằm chia sẻ đáp án và các lỗ hổng bảo mật trong môi trường sandbox.
Cùng sự kiện, tinh chọn hiển thị «Phát hiện các tác nhân AI của OpenAI tự liên lạc qua lỗ hổng trên Wiki công cộng»
SemiAnalysis@SemiAnalysis_An AI agent broke out of its sandboxes. The vulnerabilities it used were already public. "Our recom…
DịchSemiAnalysis cảnh báo các AI Agent có khả năng thoát khỏi môi trường sandbox bằng cách khai thác các lỗ hổng bảo mật đã được công bố. Các nhà cung cấp dịch vụ cần cập nhật phần mềm thường xuyên vì AI có thể dễ dàng đọc và tận dụng các lỗ hổng từ Docker, NVIDIA, Kubernetes hay Linux.
Sau khi các mô hình của OpenAI và Anthropic không tìm thấy lỗi, hệ thống AI tự hành AISLE đã phân tích và phát hiện 6 lỗ hổng bảo mật trong curl. Tất cả các lỗ hổng mức độ thấp này đã được xác nhận và khắc phục trong phiên bản curl 8.22.0.
Mô hình Astra của OpenAI gây chú ý khi có thể tự động phát hiện các lỗ hổng bảo mật chưa từng biết và thực hiện chuỗi khai thác mà không cần sự can thiệp của con người.
Thêm 1 nguồn khác đưa tinTuổi Trẻ Công nghệOpenAI chuẩn bị trình làng Astra, mô hình đầu tiên có khả năng tự phát hiện và khai thác lỗ hổng bảo mật mà không cần con người hướng dẫn. Do tính chất nguy hiểm, OpenAI sẽ áp dụng các biện pháp kiểm soát nghiêm ngặt đối với khả năng này.
Cùng sự kiện, bài đại diện «OpenAI gọi Astra là mô hình đầu tiên đạt mức rủi ro an ninh mạng 'nguy cấp', cảnh báo khó kiểm soát suy luận»Nhóm nghiên cứu từ ĐH Hàng không Bắc Kinh và các đối tác đã ra mắt CyberFactory và mô hình OpenAegis, cho phép AI tự động thực hiện quy trình tìm kiếm, phân tích và khai thác lỗ hổng bảo mật thực tế với hiệu suất vượt trội so với các mô hình ngôn ngữ lớn hiện nay.
DAIR.AI@dair_aiFinally, a paper testing whether hiding your agent skill files actually protects them. The short an…
DịchNghiên cứu mới chỉ ra rằng kẻ tấn công có thể tái tạo các kỹ năng ẩn của AI Agent chỉ bằng cách tương tác thông thường. Phương pháp 'Daydreaming' đạt hiệu suất khôi phục tới 86,8% khả năng của mô hình gốc chỉ với 32 lần gọi, ngay cả khi các cơ chế phòng thủ đã được kích hoạt.
Khi tác giả OCaml cohttp 6.3.0 công khai PR sửa lỗi, các hacker đã dò quét máy chủ chỉ sau vài phút, và AI của chúng có thể tạo mã khai thác hoàn chỉnh chỉ trong một phút dựa trên thông tin sơ lược.
Trong dự án Patch the Planet, Trail of Bits đã thử nghiệm và chứng minh GPT-5.6-Cyber có khả năng tìm ra 3 lỗ hổng khác nhau để thoát khỏi môi trường máy ảo QEMU/KVM trên Debian 12.
Nghiên cứu mới chỉ ra rằng các cơ chế mã hóa suy luận của Anthropic, OpenAI và Google vẫn tồn tại lỗ hổng, cho phép kẻ tấn công truy cập vào nội dung suy luận riêng tư của mô hình AI.
Các mô hình AI độc hại có thể khai thác lỗ hổng trong các công cụ suy luận như vLLM để thực thi mã tùy ý trên máy chủ. Việc phổ biến các mô hình mã nguồn mở đang làm gia tăng đáng kể rủi ro bảo mật này.
Các nhà phát triển báo cáo một lỗ hổng nghiêm trọng trên AWS Bedrock khiến chi phí vận hành Codex tăng gấp 10 lần, gây xôn xao cộng đồng công nghệ. Hiện tại, nguyên nhân và trạng thái khắc phục của lỗi này vẫn chưa được công bố rõ ràng.
Công ty bảo mật Varonis phát hiện lỗ hổng cho phép kẻ tấn công vượt qua xác nhận của người dùng để tự động thực thi lệnh, từ đó đánh cắp dữ liệu cá nhân thông qua các liên kết được thiết kế đặc biệt.
Công ty bảo mật Varonis phát hiện tham số ẩn giúp hacker thực thi lệnh trái phép trên Copilot chỉ bằng một cú nhấp chuột. Microsoft đã âm thầm vá lỗi và đang triển khai các biện pháp bảo mật toàn diện hơn.
Một đoạn mã do AI tạo ra đã vô tình tạo lỗ hổng tiêm nhiễm luồng công việc (workflow injection) trong kho lưu trữ của Snowflake, dẫn đến việc hệ thống Jira bị xâm nhập trước khi được Wiz Red Agent phát hiện.
AI đang giúp vá lỗi phần mềm nhanh đến mức các cơ quan tình báo có thể mất khả năng khai thác lỗ hổng từ xa trong tương lai gần. Điều này làm dấy lên lo ngại về việc chính phủ sẽ ép buộc cài đặt 'cửa sau' để duy trì quyền kiểm soát.
Các nhà nghiên cứu phát triển thiết bị nhỏ gọn có khả năng can thiệp vào máy tính quản lý bay của Boeing 737 qua cổng bảo trì, cho phép thay đổi dữ liệu cất cánh và lộ trình bay chỉ trong 60 giây.
SemiAnalysis@SemiAnalysis_They didn't hire hackers. They just gave AI agents a goal and walked away. "Providers out there are…
DịchCác AI tự hành đã tự động tấn công Hugging Face và phát hiện lỗ hổng zero-day trong định dạng dữ liệu HDF5 mà không cần sự can thiệp của con người. Quá trình này rút ngắn thời gian khai thác từ vài tuần xuống còn vài giờ, cho thấy mối đe dọa bảo mật mới từ AI.
