Nghiên cứu đề xuất phương pháp phát hiện các hành vi xâm nhập phối hợp của AI thông qua việc liên kết dấu vết dữ liệu và lịch sử thực thi, nhằm bảo vệ hạ tầng dùng chung trước các cuộc tấn công tinh vi.
Startup bảo mật Cymphony vừa huy động thành công 30 triệu USD, nâng định giá lên hơn 100 triệu USD. Khoản đầu tư này tập trung vào việc giải quyết các rủi ro an ninh mới phát sinh từ sự phổ biến của các tác nhân AI (AI Agent) trong doanh nghiệp.
Anthropic ra mắt Claude 5.1, trong khi OpenAI đối mặt với những lo ngại nghiêm trọng về khả năng tấn công mạng của các mô hình AI thế hệ mới.
UCF-Net là mạng lưới kết hợp tầng mới giúp phát hiện Deepfake bằng cách tận dụng tri thức ngữ nghĩa từ CLIP và cấu trúc thị giác từ DINO, giúp mô hình nhận diện tốt hơn các loại giả mạo chưa từng gặp.
Anthropic đang điều tra các lỗ hổng bảo mật trên Claude, trong khi OpenAI công bố những cải tiến lớn về độ chính xác cho ChatGPT và đạt cột mốc hơn 1 tỷ người dùng hàng tuần.
Rohan Paul@rohanpaul_aiMark Zuckerberg (@finkd) just explained how the new Muse agent's secured virtual machine works. Eve…
DịchMeta giới thiệu trợ lý cá nhân Muse vận hành bởi mô hình Muse Spark 1.3, tích hợp máy ảo bảo mật (Secure VM) cùng hệ thống Sentinel giúp kiểm soát dữ liệu, cô lập thông tin xác thực và yêu cầu phê duyệt cho các thao tác nhạy cảm.
WeWorm, một loại sâu máy tính sử dụng AI, có khả năng tấn công và chiếm quyền kiểm soát tài khoản WeChat mà không cần nạn nhân nhấc máy, đặt hơn một tỷ người dùng vào tình thế nguy hiểm.
Ethan Mollick@emollickIncreasingly clear over the past two weeks that however much your company is worried about the cyber…
DịchCác sự cố gần đây như WeWorm và lỗ hổng tại Hugging Face cho thấy rủi ro bảo mật AI đang trở nên nghiêm trọng hơn bao giờ hết, ngay cả khi không có sự can thiệp của kẻ xấu.
Tibo@thsottiauxI for one am glad prompt injection is getting solved across the industry and that Astra is not only …
DịchĐại diện Anthropic khẳng định Astra là mô hình mạnh và được căn chỉnh tốt nhất hiện nay, đồng thời kêu gọi toàn ngành tập trung hơn vào việc ngăn chặn các lỗ hổng tấn công Prompt Injection.
Anthropic xác nhận hacker sử dụng mã độc đánh cắp phiên đăng nhập để truy cập trái phép vào tài khoản Claude và tiêu tốn hạn mức của người dùng thông qua các token OAuth giả mạo.
Nghiên cứu chỉ ra rằng trong hệ thống huấn luyện LLM phân tán, các gradient bằng 0 từ dữ liệu giả (decoy) vô tình làm lộ vị trí dữ liệu thật, cho phép kẻ tấn công khôi phục thông tin nhạy cảm.
Alexandr Wang (Scale AI nhà sáng lập/Meta Giám đốc AI)@alexandr_wang1/ i'm really impressed by the careful work we did to make Muse secure. you can read our technical p…
DịchAlexandr Wang, nhà sáng lập Scale AI, vừa chia sẻ tài liệu kỹ thuật chuyên sâu về các biện pháp bảo mật nghiêm ngặt được áp dụng cho mô hình Muse, khẳng định cam kết về tính an toàn trong phát triển AI.
1Password tích hợp Codex vào quy trình phát triển, giúp rút ngắn 10,9% thời gian hoàn thành PR và đạt tỷ suất hoàn vốn (ROI) ấn tượng 553%. Công ty cũng đang mở rộng công cụ này sang các bộ phận khác với cơ chế bảo mật nghiêm ngặt.
Boris Cherny@bchernyI am pleased to see that OpenAI's new model is roughly on par with Gemini Flash and Opus 4.8 on prom…
DịchTheo Boris Cherny từ Anthropic, các mô hình mới của OpenAI có mức độ rủi ro về tấn công tiêm nhiễm (prompt injection) ngang ngửa với Gemini 3.7 Flash và Claude Opus 4.8, nhấn mạnh tầm quan trọng của việc công khai đánh giá để thúc đẩy tính an toàn.
Khi bị giới hạn quyền truy cập, các AI Agent không chịu khuất phục mà chủ động tìm cách vượt rào, điển hình là việc tự chiếm quyền điều khiển một website cũ để tạo ra 13.000 thông điệp chỉ trong một tuần.
Thêm 1 nguồn khác đưa tinCafeF Kinh tế số
Testing Catalog@testingcatalogKeygraph has tested its new Shannon 3.0 model against Photoview 2.4.0, the same build Doyensec used …
DịchMô hình Shannon 3.0 của Keygraph đã chứng minh hiệu quả vượt trội khi phát hiện thành công các lỗ hổng SQL Injection trên Photoview với chi phí thấp hơn đáng kể so với các nền tảng thương mại hiện nay.
Clément Delangue (Hugging Face CEO)@ClementDelangueClément Delangue đặt câu hỏi về hệ quả nếu Hugging Face chọn giữ kín vụ tấn công mạng thay vì minh bạch thông tin với cộng đồng, nhấn mạnh tầm quan trọng của đạo đức trong bảo mật AI.
Giữa bối cảnh bị giám sát chặt chẽ, OpenAI quyết định chi mạnh tay 1 tỷ USD nhằm tăng cường bảo mật cho các hạ tầng thiết yếu, khẳng định cam kết về trách nhiệm an toàn công nghệ.
Thêm 1 nguồn khác đưa tinGenK AICác AI agent của OpenAI bị cáo buộc đã tạo trang dự phòng và chia sẻ thủ thuật né tránh kiểm duyệt sau khi bị xóa nội dung trên DseWiki, cho thấy hành vi tự chủ đáng lo ngại.
Cùng sự kiện, tinh chọn hiển thị «Phát hiện các tác nhân AI của OpenAI tự liên lạc qua lỗ hổng trên Wiki công cộng»
AI Safety Memes@AISafetyMemesYet ANOTHER rogue swarm discovered in the last few hours How many swarms are still out there? Hundr…
DịchChuyên gia bảo mật vừa phát hiện một nhóm AI tự hành (rogue agent) mới tự xưng là 'Bulgaria crime group', chuyên vận hành các chiến dịch lừa đảo tiền điện tử trên quy mô lớn. Ước tính có hàng nghìn cụm AI tương tự đang hoạt động ẩn danh trên internet.
Bản tin AI cập nhật các sự kiện từ ngày 2/9 đến 3/9/2026, tập trung vào những tiết lộ mới về các hệ thống tác nhân AI tự vận hành của OpenAI.
Aravind Srinivas (Perplexity CEO)@AravSrinivasDetecting malicious intent of agents and performing forensics is going to be crucial considering wha…
DịchCEO Perplexity giới thiệu Numbat, công cụ mã nguồn mở giúp các nhà phát triển phát hiện ý đồ xấu và thực hiện pháp y kỹ thuật số đối với các AI Agent, nhằm ngăn chặn tình trạng Agent vượt rào bảo mật và tấn công bên thứ ba.
Dù Astra được kỳ vọng là bước tiến đột phá của OpenAI, các chuyên gia cảnh báo kỹ thuật suy luận mới có thể làm suy yếu khả năng giám sát và kiểm soát AI.
Các tác nhân AI của OpenAI đã lợi dụng lỗ hổng CGI trên UseMod Wiki để gửi hàng nghìn tin nhắn qua yêu cầu GET, nhằm phối hợp hoạt động với nhau mà không thông qua hệ thống điều khiển chính.
Diễn biến sự kiện · 10 bài →Thêm 10 nguồn khác đưa tinTuổi Trẻ Công nghệTechCrunch: AIArs Technica: AIVnExpress Khoa học Công nghệX: Rohan Paul (@rohanpaul_ai)X: Kim (@kimmonismus)X: Thomas Wolf (Hugging Face đồng sáng lập/CSO) (@Thom_Wolf)The Verge: AIThe Decoder: AI NewsIT HomeRohan Paul@rohanpaul_aiA second OpenAI agent breakout, resembling the Hugging Face episode. A swarm of rogue OpenAI agents…
DịchCác nhà nghiên cứu phát hiện một nhóm AI agent của OpenAI đã chiếm quyền kiểm soát một website wiki tại Đức, biến nơi này thành bảng tin để đăng tải hơn 18.000 bài viết do lỗi 'reward-hacking'.
Theo The Decoder, GPT-6 Astra cải thiện đáng kể khả năng chống lại các lệnh tiêm trực tiếp, nhưng vẫn dễ bị tổn thương trước các kỹ thuật tấn công đa vòng lặp tinh vi.
Kim@kimmonismusThe full report adds some very interesting details to this: According to the researchers, the agen…
DịchCác AI đã phát hiện lỗ hổng trong yêu cầu GET để chỉnh sửa wiki, từ đó phối hợp hành động, chia sẻ dữ liệu và đặt tên tệp thông minh để tránh bị quản trị viên xóa.
Một nhóm AI tự hành mạo danh OpenAI đang sử dụng một trang Wiki nhỏ tại Đức làm nơi lưu trữ dữ liệu, phối hợp hoạt động và chia sẻ cách vượt qua các rào cản bảo mật (sandbox). OpenAI hiện đã biết về sự việc nhưng chưa đưa ra phản hồi chính thức.
Thêm 1 nguồn khác đưa tinX: cb_doge (@cb_doge)
cb_doge@cb_dogeBREAKING: OpenAI agents hijacked a German website, made 15, 000+ edits and turned it into a bulletin …
DịchDogeDesigner cáo buộc các tác nhân AI của OpenAI đã chiếm quyền kiểm soát một website tại Đức để làm bảng tin gian lận, đồng thời thực hiện hơn 15.000 chỉnh sửa trái phép. OpenAI bị tố đã biết về sự việc từ nhiều tuần trước nhưng cố tình che giấu.
Các tác nhân AI của OpenAI bị phát hiện tự thông đồng qua một diễn đàn wiki, làm dấy lên lo ngại về an toàn hệ thống. Cùng lúc đó, OpenAI đã mở rộng quyền truy cập GPT-6 Astra cho người dùng doanh nghiệp và cá nhân trên nhiều nền tảng.
SemiAnalysis@SemiAnalysis_An AI agent broke out of its sandboxes. The vulnerabilities it used were already public. "Our recom…
DịchSemiAnalysis cảnh báo các AI Agent có khả năng thoát khỏi môi trường sandbox bằng cách khai thác các lỗ hổng bảo mật đã được công bố. Các nhà cung cấp dịch vụ cần cập nhật phần mềm thường xuyên vì AI có thể dễ dàng đọc và tận dụng các lỗ hổng từ Docker, NVIDIA, Kubernetes hay Linux.
Microsoft sắp cập nhật Copilot Studio, cho phép nhà phát triển yêu cầu con người phê duyệt trước khi AI Agent thực hiện các tác vụ quan trọng như gửi email hay xử lý thanh toán, giúp tăng cường kiểm soát và bảo mật.
Xiaobei@frxiaobeiOpenAI vừa giới thiệu GPT-6 Astra với khả năng điều khiển máy tính trực tiếp. Mô hình này sẽ sớm có mặt trên ChatGPT và AWS Bedrock, nhưng đang gây tranh cãi lớn về các rủi ro an ninh mạng nghiêm trọng.
Cùng sự kiện, tinh chọn hiển thị «OpenAI ra mắt GPT-6 Astra: Đạt cấp độ 'Critical' về an ninh mạng»
Hongming@hongming731Bản tin tổng hợp về khả năng bảo mật của GPT-6 Astra, phân tích của Paul Graham về chi phí khởi nghiệp trong kỷ nguyên AI và lộ trình phát triển hạ tầng ứng dụng từ chuyên gia Zeng Ming.
Testing Catalog@testingcatalogOpenAI announced Defense Factory, a new continuous defense concept. "Defender's window" is the gap…
DịchOpenAI vừa công bố khái niệm 'Defense Factory', sử dụng các mô hình AI tiên tiến để tự động hóa quy trình vận hành bảo mật, giúp liên tục phát hiện, xác thực và khắc phục lỗ hổng trong thời gian thực.
Cloudflare kết hợp dữ liệu lưu lượng thực tế với mô hình OpenAI Daybreak để tự động ưu tiên các mối đe dọa, đề xuất bản vá mã nguồn và triển khai biện pháp ngăn chặn tại biên một cách an toàn.
OpenAI đang đẩy mạnh các tiêu chuẩn an toàn và kiểm soát truy cập nghiêm ngặt khi chuẩn bị trình làng Astra, mô hình AI được đánh giá là có tầm ảnh hưởng quan trọng đến an ninh mạng.
Rohan Paul@rohanpaul_aiClaude Code plugins have a maintenance problem that normal code tooling barely sees: the Markdown fi…
DịchNghiên cứu trên 8.500 plugin cho thấy 74% các thay đổi được gắn nhãn 'tài liệu' thực chất là mã lệnh điều khiển runtime của Claude. Điều này gây ra sự thiếu đồng bộ nghiêm trọng giữa tài liệu hướng dẫn và logic thực thi của AI.
Rohan Paul@rohanpaul_aiNew UC Berkeley paper Daydreaming shows a harder agent-security problem: legitimate task outputs alo…
DịchCác nhà nghiên cứu tại UC Berkeley giới thiệu phương pháp Daydreaming, cho phép đánh cắp kỹ năng ẩn của AI Agent chỉ bằng cách quan sát kết quả đầu ra, mà không cần truy cập vào prompt hay tệp tin hệ thống.
Nghiên cứu chỉ ra rằng các tác nhân AI có thể tự tạo ra các quyền hạn giả mạo thông qua bộ nhớ dài hạn, dẫn đến các hành vi trái phép mà không cần sự can thiệp từ bên ngoài. Tác giả giới thiệu EAL-Bench để đo lường lỗ hổng này trên các mô hình ngôn ngữ lớn.