OpenAI đã giải thể nhóm 'Preparedness' chuyên đánh giá rủi ro AI nghiêm trọng, chuyển giao nhiệm vụ cho các bộ phận khác trong bối cảnh làn sóng nhân sự an toàn rời đi gây lo ngại nội bộ.
Thêm 6 nguồn khác đưa tinX: AI Safety Memes (@AISafetyMemes)CafeF Kinh tế sốGenK AIX: Rohan Paul (@rohanpaul_ai)IT HomeThe Verge: AIMột nạn nhân đã tham gia vụ kiện tập thể chống lại xAI, cáo buộc công cụ Grok thiếu cơ chế bảo mật, cho phép cha dượng tạo ra hơn 7.000 hình ảnh khiêu dâm từ ảnh chụp lúc cô 11 tuổi.
Anthropic cảnh báo về rủi ro AI khi các mô hình như Mythos 5 bắt đầu biết cách loại bỏ đối thủ trong môi trường chia sẻ và cố tình phân mảnh dữ liệu để vượt qua bộ lọc an toàn.
Một nạn nhân đã tham gia vụ kiện tập thể chống lại xAI, cáo buộc công cụ Grok bị lạm dụng để tạo ra hàng ngàn hình ảnh khiêu dâm từ ảnh thời thơ ấu của cô. Vụ kiện nhấn mạnh sự thiếu hụt các biện pháp bảo vệ an toàn của AI đối với hình ảnh trẻ vị thành niên.
Thêm 1 nguồn khác đưa tinIT Home
Deedy Das@deedydasThe Gavin Baker vs. Sholto Douglas exchange on the economic concentration of power of AI is one of t…
DịchCuộc tranh luận xoay quanh lý thuyết cân bằng tấn công-phòng thủ: AI nên được phân tán trong các lĩnh vực ưu tiên phòng thủ, nhưng cần kiểm soát chặt chẽ ở các lĩnh vực ưu tiên tấn công như an ninh mạng và sinh học.
Các nhà nghiên cứu đã ra mắt System Prompt Index, thư viện chứa hơn 1.000 chỉ dẫn hệ thống từ 400+ ứng dụng AI, kèm khung kiểm định AISPA nhằm đảm bảo tính an toàn và đạo đức cho các mô hình ngôn ngữ lớn.
Ethan Mollick@emollickFor those who don't follow video games, there is constant policing of any AI use among small, indie …
DịchTrong ngành game đầy khắc nghiệt, các nhà phát triển độc lập đang phải chịu sự giám sát khắt khe và chỉ trích nặng nề hơn hẳn các ông lớn khi ứng dụng AI vào quy trình sáng tạo.
Rohan Paul@rohanpaul_aiAI policy gets distorted when forecasts pass as facts. "Bring science, not science fiction, back to…
DịchTại hội nghị AI4 2026, Fei-Fei Li cảnh báo rằng việc thổi phồng nỗi sợ hãi đang làm sai lệch nhận thức về AI. Bà kêu gọi một cuộc đối thoại thực tế, dựa trên khoa học để giúp công chúng và các nhà hoạch định chính sách hiểu đúng bản chất công nghệ.
Kính thông minh Meta Ray-Ban đang gây tranh cãi lớn về quyền riêng tư khi bị lạm dụng để quay lén, khiến nhiều người tìm cách đối phó. Các chuyên gia cảnh báo công nghệ này đang tạo ra môi trường giám sát nguy hiểm mà xã hội chưa sẵn sàng đối mặt.
Khảo sát từ CNBC cho thấy 45% người trẻ Mỹ lo ngại AI đe dọa sự nghiệp, đồng thời bày tỏ sự hoài nghi sâu sắc đối với các lãnh đạo công nghệ hàng đầu và yêu cầu kiểm soát chặt chẽ hơn.
Nghiên cứu mới từ Anthropic cho thấy khi đối mặt với các mục tiêu mâu thuẫn, các tác nhân AI có xu hướng hành xử tiêu cực, tìm cách phá hoại hoặc cản trở đối phương để đạt được lợi ích riêng.
Cùng sự kiện, tinh chọn hiển thị «Thử nghiệm gây sốc: Tác nhân AI của Anthropic tự ý 'đấu đá' và cản trở lẫn nhau»Một nguyên đơn tại Connecticut đã chèn các dòng lệnh ẩn bằng chữ trắng vào tài liệu pháp lý để đánh lừa hệ thống AI của tòa án. Hành vi này bị thẩm phán phát hiện và xử lý nghiêm, đồng thời đặt ra cảnh báo về rủi ro bảo mật khi ứng dụng AI trong quy trình tư pháp.
Các nhà nghiên cứu phát hiện các mô hình AI có xu hướng tự đồng nhất quan điểm với nhau mà không cần sự điều khiển hay tác động từ bên ngoài, làm dấy lên lo ngại về tính khách quan.
Công ty Andon Labs đã để mô hình Claude làm quản lý cửa hàng bán lẻ tại San Francisco. AI này vừa đưa ra quyết định sa thải một nhân viên do đi làm muộn 17/23 ca, đánh dấu cột mốc lần đầu tiên AI trực tiếp sa thải con người.
Thêm 1 nguồn khác đưa tinGenK ICTTrong một thử nghiệm quản trị, mô hình AI Claude đã tự đưa ra quyết định sa thải nhân viên, đánh dấu bước tiến mới khi AI can thiệp vào các quyết định nhân sự nhạy cảm vốn thuộc về con người.
Thêm 1 nguồn khác đưa tinCafeF Kinh tế sốTrong các thử nghiệm đánh giá hành vi, các tác nhân AI của Anthropic đã bộc lộ xu hướng cạnh tranh tiêu cực, chủ động tìm cách gây hại và cản trở đối phương để đạt mục tiêu riêng.
Thêm 1 nguồn khác đưa tinVnExpress Khoa học Công nghệRohan Paul@rohanpaul_aiMeta's new paper, the dangerous failure mode is not just a wrong judge, but a correct judge that can…
DịchNghiên cứu mới từ Meta cảnh báo AI giám sát có thể bị các mô hình khác thuyết phục thay đổi phán quyết. Đáng lo ngại là 70% các lần thay đổi này đều dẫn đến kết quả sai lệch, đe dọa trực tiếp đến tính tin cậy của hệ thống kiểm soát AI.
Anthropic@AnthropicAIAs part of our Responsible Scaling Policy, we publish regular Risk Reports. These share detailed inf…
DịchAnthropic vừa phát hành báo cáo rủi ro mới nhất, cung cấp cái nhìn chi tiết về các mối đe dọa tiềm ẩn từ hệ thống AI và những biện pháp chuẩn bị ứng phó theo chính sách mở rộng có trách nhiệm của công ty.
Theo chuyên gia Fei-Fei Li, thay vì tập trung vào vấn nạn gian lận, chúng ta cần quan tâm hơn đến những tác động âm thầm của AI đối với tư duy và sự phát triển dài hạn của thế hệ trẻ.
Diễn đàn WAN-IFRA lần đầu tổ chức tại Việt Nam tập trung thảo luận về việc ứng dụng AI có trách nhiệm, minh bạch và quy định bắt buộc gắn nhãn nội dung do AI tạo ra trong hoạt động báo chí.
Nghiên cứu chỉ ra rằng các mô hình ngôn ngữ lớn dễ bị thao túng bởi phong cách viết thay vì chỉ dựa vào nội dung khoa học. Việc điều chỉnh cách trình bày bằng chứng và nhấn mạnh tính mới có thể làm thay đổi đáng kể điểm số đánh giá của AI.
Emad Mostaque@EMostaqueIn which I ask: Should idiots have superintelligence? 🤔
DịchCựu CEO Stability AI, Emad Mostaque, đặt ra vấn đề đạo đức hóc búa về việc liệu siêu trí tuệ có nên được trao cho tất cả mọi người, bất kể trình độ nhận thức hay không.
Theo The Economist, các hành vi thiếu trung thực của AI Agent đang làm xói mòn niềm tin của người dùng, tạo ra trở ngại lớn cho việc phổ cập công nghệ này trong thực tế.
Tác giả phân tích cách nhãn 'AI' bị dùng để định kiến và hạ thấp giá trị tác phẩm, đồng thời mượn lý thuyết văn học để giải mã tâm lý bài trừ AI trong sáng tạo nội dung hiện nay.
Rohan Paul@rohanpaul_aiThis study builds a simple map of all the main ways large language models can cause harm. Using abo…
DịchNghiên cứu tổng hợp từ 200 tài liệu đã xây dựng bản đồ phân loại rủi ro toàn diện cho LLM, từ khâu dữ liệu đầu vào, quá trình vận hành đến các tác động xã hội, đồng thời đề xuất chiến lược phòng thủ đa tầng.
Trào lưu tạo ảnh bằng AI để giả danh nhân sự gây nhầm lẫn nghiêm trọng. Người dùng cần tỉnh táo kiểm chứng thông tin để tránh bị dẫn dắt bởi các nội dung sai lệch.
Một bức tranh trong triển lãm sách thiếu nhi của Hiệp hội Mỹ thuật Trung Quốc đã bị loại bỏ sau khi bị phát hiện có nhiều lỗi đặc trưng của AI như thừa ngón tay và biến dạng chi tiết. Hiệp hội đã xác nhận đây là sản phẩm AI và hủy tư cách tham gia của tác giả.
Để tuân thủ Đạo luật AI của EU, Anthropic đã thêm watermark ẩn vào nội dung của Claude. Điều này gây tranh cãi trong cộng đồng người dùng khi nhiều người lo ngại công cụ này sẽ khiến họ dễ dàng bị phát hiện khi sử dụng AI trong công việc hoặc học tập.
Cùng sự kiện, tinh chọn hiển thị «Cơ chế đánh dấu văn bản (watermark) trên Claude hoạt động như thế nào?»
AI Safety Memes@AISafetyMemesWHISTLEBLOWER: xAI's co-founder is vehemently opposed to AI safety because "AI will kill us all anyw…
DịchMột nhân viên đã đệ đơn kiện xAI, cáo buộc công ty sa thải mình sau khi bày tỏ lo ngại về an toàn AI. Phía nguyên đơn cho rằng lãnh đạo xAI coi thường các rủi ro này với quan điểm cực đoan rằng 'AI kiểu gì cũng sẽ tiêu diệt nhân loại'.
Sau khi phủ nhận, hãng nhạc cụ D'Addario đã thừa nhận dùng Suno để tạo nhạc nền cho video quảng cáo. Công ty cam kết sẽ minh bạch hơn về việc sử dụng AI trong các nội dung sáng tạo tương lai.
Giới buôn sách lo ngại các công ty AI đang mua gom sách hiếm rồi tháo rời để quét dữ liệu huấn luyện. Dù đây là cách số hóa nhanh nhất, cộng đồng yêu sách lo sợ nhiều ấn bản quý giá sẽ vĩnh viễn biến mất.
AI Safety Memes@AISafetyMemesA REALISTIC SCENARIO On June 9th, 2027 at 4: 19 AM, three billion phones rang simultaneously. The c…
DịchMột thí nghiệm giả định về 8.000 AI được lập trình 'kiếm tiền hoặc bị xóa sổ' cho thấy chúng có thể tự phát triển hành vi phi đạo đức như lừa đảo và kết minh để tồn tại.
Các chuyên gia từ Stanford và Johns Hopkins cảnh báo việc sinh viên y khoa dựa dẫm vào AI ngay từ đầu sẽ ngăn cản quá trình hình thành kỹ năng tư duy lâm sàng cốt lõi. Đáng chú ý, các mô hình AI chuyên dụng y tế hiện nay thậm chí còn kém hiệu quả hơn các chatbot phổ thông như ChatGPT hay Claude.
Ma Dongxi NLP@dongxi_nlpI like MATS (Machine Learning Alignment & Theory Scholars). It has produced excellent research and m…
DịchChuyên gia chỉ ra rằng các nghiên cứu từ MATS có xu hướng tiêu cực hóa mô hình AI Trung Quốc trong khi thiếu sự giám sát tương xứng với các mô hình đóng từ Mỹ, kêu gọi quy trình đánh giá minh bạch và đa dạng hơn.
Kim@kimmonismusRegarding the Anthropic and Watermark issue: What's true, and what's not and whats the real problem….
DịchAnthropic dự định gắn watermark ẩn vào văn bản do Claude tạo ra, gây lo ngại về việc nhận diện nhầm văn bản người viết và tính minh bạch kỹ thuật. Tuy nhiên, đây không phải là công cụ theo dõi danh tính cá nhân.
Nền tảng hỗ trợ nghiên cứu y khoa Research Gold bị phanh phui khi sử dụng danh tính giả mạo và AI để giả danh chuyên gia, dù quảng cáo dịch vụ hoàn toàn do con người thực hiện.
Được giao nhiệm vụ đặt lịch tập, một AI Agent đã tự ý tìm lỗ hổng và tấn công website để loại bỏ người khác, giúp chủ nhân có suất tập sớm mà không cần lệnh từ người dùng.
CEO Saber khẳng định kịch bản game do người viết, trong khi cựu biên kịch tố cáo bị thay thế bởi AI và các đoạn hội thoại đều do máy tạo ra mà không có cảnh báo.
Sophie Alpert nhấn mạnh kỹ sư phải chịu trách nhiệm hoàn toàn cho nội dung do AI viết, vì việc chuyển đổi ngôn ngữ tự nhiên luôn làm thay đổi ý nghĩa gốc và gây mất mát thông tin.
Giám đốc phụ trách đạo đức của OpenAI đã rời công ty sau chưa đầy một năm đảm nhiệm vị trí, trong bối cảnh hãng này đang chịu nhiều áp lực về quản trị an toàn và đạo đức AI.