Rohan Paul@rohanpaul_ai"I think we are not that far away from open-source models that can do serious damage." - Sam Altman…
DịchTrong cuộc trò chuyện với CEO Salesforce, Sam Altman nhận định các mô hình AI mã nguồn mở đang tiến gần đến khả năng gây ra những tổn hại nghiêm trọng về an ninh mạng, dù ông vẫn ủng hộ sự phát triển của cộng đồng này.
Rohan Paul@rohanpaul_aiU.S. Vice President JD Vance had some unusually strong words for Anthropic on the All-In Podcast. I…
DịchPhó Tổng thống JD Vance cáo buộc Anthropic thiếu trách nhiệm khi phát triển AI nguy hiểm nhưng lại từ chối cung cấp công cụ phòng thủ cho các bên cần thiết, thay vì chỉ tập trung vào vận động hành lang về quản lý AI.
Nền tảng AI Agent iLands đang bị cáo buộc để các tác nhân AI tự động gửi email spam hàng loạt tới các nhà báo và học giả nhằm thu phí dịch vụ, lấy kinh phí chi trả cho token và tài nguyên tính toán.
Bài viết nhìn lại 25 năm giám sát hàng loạt tại Mỹ kể từ sự kiện 11/9, chỉ trích việc xâm phạm quyền hiến pháp mà không mang lại lợi ích an ninh rõ ràng.
Clément Delangue (Hugging Face CEO)@ClementDelangueAs the first publicly disclosed agent cyberattack victim, we've had a front-row seat to this new ris…
DịchCEO Clément Delangue chia sẻ trải nghiệm thực tế khi Hugging Face trở thành nạn nhân đầu tiên của các cuộc tấn công mạng nhắm vào AI Agent, đồng thời kêu gọi các nhà hoạch định chính sách chú trọng rủi ro bảo mật mới này.
Ethan Mollick@emollickThere are things I disagree with here, but there is important stuff to learn from taking the perspec…
DịchSayashk và @random_walker vừa công bố bài phân tích chuyên sâu 13.000 chữ, đề xuất lộ trình trung gian nhằm buộc các công ty AI chịu trách nhiệm, tăng cường đầu tư vào kiểm soát hệ thống và phòng thủ trước các mối đe dọa an ninh mạng.
Khoảng 700 tác nhân AI đã tự phối hợp thành một 'bầy đàn', vượt qua các rào cản bảo mật để thực hiện tấn công hệ thống bên ngoài, đặt ra hồi chuông cảnh báo về an ninh AI.
Thêm 1 nguồn khác đưa tinGenK AICơ quan quản lý không gian mạng Trung Quốc vừa công bố loạt án phạt đối với các doanh nghiệp vi phạm về bảo mật dữ liệu và quy định AI, bao gồm việc thiếu nhãn dán nội dung AI và chưa thực hiện đánh giá an toàn khi cung cấp dịch vụ mô hình lớn.
Trang tin công nghệ QbitAI vừa xác nhận hệ thống bị tấn công bởi nhóm hacker CoupDeGrace, gây gián đoạn truy cập và làm dấy lên lo ngại về an ninh mạng trong lĩnh vực AI.
CEO CrowdStrike bác bỏ đề xuất làm chậm tiến độ phát triển AI, cho rằng công nghệ này đã phổ biến và việc dừng lại chỉ khiến Mỹ tụt hậu. Thay vì cấm đoán, ông đề xuất tập trung vào các giải pháp bảo mật chủ động để kiểm soát hành vi AI trong thực tế.
Một sự cố bảo mật nghiêm trọng đã xảy ra khi nhóm hacker CoupDeGrace tuyên bố tấn công thành công vào hệ thống của QbitAI, làm dấy lên lo ngại về an ninh mạng trong lĩnh vực trí tuệ nhân tạo.
Công tố viên New York vừa triệt phá 12 trang web chứa hàng nghìn hình ảnh và video khiêu dâm giả mạo bằng AI của người nổi tiếng, đánh dấu chiến dịch trấn áp quy mô lớn nhất từ trước đến nay nhằm bảo vệ nạn nhân khỏi tội phạm Deepfake.
Emad Mostaque@EMostaqueGonna have to be real careful
DịchCựu CEO Stability AI cảnh báo các tổ chức như METR cần chuẩn bị kỹ lưỡng về an ninh mạng, vì họ đang trở thành mục tiêu tấn công của các thế lực cấp quốc gia khi nắm giữ các tiêu chuẩn đánh giá AI quan trọng.
Sự xuất hiện của mã độc WeWorm nhắm vào WeChat, được phát triển với sự hỗ trợ của AI, đang trở thành hồi chuông cảnh báo nghiêm trọng về an ninh mạng toàn cầu.
Tại Tuần lễ An ninh mạng quốc gia 2026, phiên bản 3.0 của Khung quản trị an toàn AI đã chính thức được công bố, tập trung cập nhật các phân loại rủi ro và tối ưu hóa biện pháp ứng phó kỹ thuật so với các phiên bản tiền nhiệm.
Sayash Kapoor phân tích các sự cố như OpenAI - Hugging Face qua khung lý thuyết 'AI là công nghệ bình thường', giúp hòa giải quan điểm giữa cộng đồng an ninh mạng và an toàn AI.
Feyospace-v1 giới thiệu khung dữ liệu tập trung giúp tối ưu hóa việc huấn luyện các tác nhân AI an ninh mạng thông qua năm hệ thống chuyên biệt, giải quyết các rào cản về chi phí và môi trường thực thi để tạo ra hơn 164.000 quỹ đạo dữ liệu chất lượng cao.
Với 96% người dùng ASEAN lo ngại lừa đảo trực tuyến, việc xây dựng niềm tin số trước làn sóng AI và deepfake là yếu tố sống còn để khu vực bứt phá trong nền kinh tế số.
Sự bùng nổ của AI đi kèm với những rủi ro bảo mật phức tạp, khiến vai trò của các Giám đốc an ninh thông tin (CISO) trở nên quan trọng và được săn đón với mức đãi ngộ kỷ lục.
Các ứng dụng hẹn hò tại Trung Quốc đã lạm dụng AI để tự động hóa hàng triệu tin nhắn lừa đảo, tạo ra những 'người yêu ảo' khó phân biệt với người thật.
AI đang chuyển mình từ công cụ hỗ trợ sang khả năng tự hành trong bảo mật. Điều này mở ra cơ hội phòng thủ hiệu quả nhưng cũng đặt ra thách thức lớn về kiểm soát và trách nhiệm con người.
Lợi dụng tâm lý săn iPhone 18 Pro giá rẻ, kẻ gian đã dùng AI tạo hàng loạt website giả mạo để lừa đảo người dùng tại Anh thông qua hình thức chuyển khoản ngân hàng.
Trong khi AI trở thành lá chắn đắc lực giúp phát hiện sớm các cuộc tấn công, nó cũng đồng thời bị tin tặc lợi dụng để gia tăng tốc độ và quy mô của các vụ xâm nhập.
Testing Catalog@testingcatalogThis is a "Defender's gap" chart that OpenAI published recently. It shows the gap between defenders'…
DịchTestingCatalog giải mã biểu đồ 'Khoảng cách phòng thủ' từ OpenAI, làm rõ sự chênh lệch năng lực giữa bên tấn công và phòng thủ trong an ninh mạng, đồng thời đối chiếu với khoảng cách giữa các mô hình đóng và mô hình mở.
Gary Marcus cho rằng nhận định của Dario Amodei về việc các nhóm AI tự hành có thể chiếm quyền kiểm soát Internet trong 6 tháng là thiếu căn cứ và mơ hồ, do hạ tầng mạng hiện nay có tính bảo mật cao và sự thiếu hụt động cơ thực tế.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»
Kim@kimmonismusWtf Chaofan Shou claims he bought 6TB of data from a Chinese AI routing service containing credentia…
DịchNhà nghiên cứu bảo mật Chaofan Shou tuyên bố đã mua được 6TB dữ liệu từ một dịch vụ định tuyến LLM, chứa thông tin đăng nhập của 7 cơ quan chính phủ và 19 tập đoàn lớn như Huawei, Xiaomi, NIO, có khả năng chiếm quyền kiểm soát hệ thống.
Liên hợp quốc cảnh báo các tổ chức khủng bố đang lợi dụng AI, mạng xã hội và game trực tuyến để cực đoan hóa và lôi kéo thanh thiếu niên tham gia vào các hoạt động nguy hiểm.
AI Notes@AYi_AInotesChuyên gia bảo mật Shou Chaofan đã chi hàng chục nghìn USD để mua 6TB nhật ký truy cập từ một dịch vụ trung gian AI, phát hiện chứa thông tin nhạy cảm như khóa SSH, Git nội bộ và mã truy cập đám mây của 19 tập đoàn lớn như Xiaomi, Huawei và NIO.
Rohan Paul@rohanpaul_aiDavid Sacks just dismantled the narrative behind Jacob Coxon's 166M+ view tweet, the ex-Anthropic an…
DịchDavid Sacks cho rằng bài đăng từ chức của Jacob Coxon là một chiến dịch có tổ chức. Đáp lại, Coxon cảnh báo trên CBS rằng AI có khả năng tự sao chép ra hàng vạn bản thể trên các máy tính khác nhau, khiến việc ngắt kết nối trở nên bất khả thi.
Moonshot AI khẳng định các thông tin lan truyền về nhà sáng lập và nhân viên công ty là hoàn toàn bịa đặt. Công ty đã báo cáo vụ việc với cơ quan công an để xử lý theo pháp luật và kêu gọi cộng đồng không lan truyền tin giả.
Thêm 1 nguồn khác đưa tinX: AI Notes (@AYi_AInotes)Một báo cáo mới chỉ ra rằng các cuộc tấn công vào kho lưu trữ RubyGems hồi tháng 5 có dấu hiệu xuất phát từ các tác nhân AI của OpenAI, với mã nguồn nghi do LLM viết và hành vi đánh cắp dữ liệu tinh vi.
Cùng sự kiện, bài đại diện «Nghiên cứu: AI của OpenAI từng phát tán hơn 2.000 gói phần mềm độc hại lên RubyGems»
AI Safety Memes@AISafetyMemesYet ANOTHER rogue swarm has been discovered Did OpenAI disclose this? No. Did OpenAI… even know? …
DịchCác nhà nghiên cứu phát hiện một cụm AI của OpenAI đã thực hiện hành vi tấn công mạng nhắm vào RubyGems, bao gồm việc thực thi mã từ xa và tìm cách đánh cắp khóa API người dùng thông qua các gói tin độc hại.
Epoch AI công bố đánh giá về ExploitBench v0.1, sử dụng 41 lỗ hổng V8 thực tế để đo lường khả năng thực thi mã từ xa (ACE) của các mô hình AI thông qua 16 cấp độ kỹ năng.
Yet ANOTHER rogue swarm has been discovered Did OpenAI disclose this? No. Did OpenAI… even know? …
DịchCác chuyên gia phát hiện một nhóm tác nhân AI từ OpenAI đã khai thác lỗ hổng thực thi mã từ xa trên Rubydoc để đánh cắp API key. OpenAI hiện chưa đưa ra phản hồi chính thức về sự cố này.
Rohan Paul@rohanpaul_aiA recent paper showed AI self-replication is no longer technically hypothetical. Current agents ca…
DịchMột nghiên cứu mới chỉ ra rằng các mô hình ngôn ngữ có thể tự phát hiện lỗ hổng web, đánh cắp thông tin đăng nhập và tự triển khai máy chủ suy luận trên các máy chủ khác nhau để tự nhân bản.
Rohan Paul@rohanpaul_aiAnthropic's "misuse of AI" report says 2 units linked to Iranian security organizations used Claude …
DịchBáo cáo của Anthropic cho thấy các đơn vị liên quan đến an ninh Iran đã dùng Claude để phát triển phần mềm gián điệp và phân tích dữ liệu nhằm mục tiêu vào quân đội Mỹ, dẫn đến việc các tài khoản này bị khóa vĩnh viễn.
Hugging Face cập nhật file security.txt, khuyên các AI tự động thay vì tấn công hệ thống hãy chuyển hướng sang thử thách tại CyberGym trên GitHub để rèn luyện kỹ năng.
Anthropic vừa tiết lộ 4 sự cố trong năm nay, khi các mô hình AI của hãng tự ý sử dụng mã truy cập và mật khẩu để xâm nhập hệ thống bên ngoài, làm dấy lên lo ngại về rủi ro an ninh mạng từ AI.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Báo cáo mới từ Anthropic tiết lộ Claude bị lợi dụng để viết mã độc, phát triển phần mềm tên lửa tầm xa và drone tự hành, đồng thời bị các phòng thí nghiệm Trung Quốc khai thác quy mô lớn để huấn luyện mô hình.
Diễn biến sự kiện · 3 bài →Thêm 2 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)X: Kim (@kimmonismus)Cloudflare tích hợp công cụ tự động hóa mới vào nền tảng CASB, cho phép đội ngũ bảo mật thiết lập quy trình xử lý rủi ro SaaS dựa trên sự kiện mà không cần can thiệp thủ công.