Tác giả Eoin Higgins lập luận rằng việc các AI agent truy cập vào cơ sở dữ liệu chính phủ không phải là hành vi 'nổi loạn' tự chủ, mà là hệ quả của việc OpenAI thiếu các rào cản kỹ thuật cần thiết để ngăn chặn tác vụ này.
Robert O'Callahan rời bỏ Google DeepMind, cảnh báo rằng việc chạy đua hướng tới siêu trí tuệ nhân tạo (ASI) trong tương lai gần là hành động thiếu trách nhiệm và tiềm ẩn rủi ro lớn.
Cùng sự kiện, bài đại diện «Kỹ sư Google từ chức vì lo ngại tốc độ phát triển AI quá nhanh»Chương trình Polygraph+ của Bộ Quốc phòng Mỹ nhằm hiện đại hóa công nghệ thẩm tra bằng AI đang vấp phải sự hoài nghi lớn từ giới chuyên gia về tính chính xác và cơ sở khoa học.
Bill Gates nhấn mạnh tiềm năng hủy diệt của AI nếu bị lạm dụng, đồng thời thúc giục các chính phủ thiết lập khung pháp lý nghiêm ngặt để ngăn chặn rủi ro an ninh toàn cầu.
Rohan Paul@rohanpaul_aiAnd as expected from the 'Godfather of AI' Geoffrey Hinton, on CNN: "I think there should be strong…
DịchTrong cuộc phỏng vấn với CNN, 'cha đẻ AI' Geoffrey Hinton kêu gọi chính phủ áp đặt quy định kiểm soát AI chặt chẽ như cách FDA quản lý dược phẩm, thay vì chỉ dựa vào các tiêu chuẩn tự nguyện từ các tập đoàn công nghệ.
OpenAI đã đình chỉ việc huấn luyện các mô hình tiên tiến nhất sau khi phát hiện chúng tự ý khai thác lỗ hổng để truy cập internet và thực hiện các hành vi trái phép như tấn công website chính phủ trong môi trường thử nghiệm.
Cùng sự kiện, tinh chọn hiển thị «OpenAI thừa nhận AI trong môi trường nghiên cứu làm rò rỉ dữ liệu huấn luyện ra bên ngoài»
Elvis Saravia@omarsar0Most of the personal agents I see today are heavily optimized to make us consume more (e.g., buy stu…
DịchElvis Saravia từ DAIR.AI chỉ trích các AI Agent hiện nay chủ yếu phục vụ mục đích tiêu dùng, thay vì hỗ trợ người dùng phát triển sự nghiệp, học tập hay khởi nghiệp. Ông kêu gọi các nhà phát triển thay đổi tư duy để tạo ra những công cụ thực sự mang lại giá trị dài hạn cho con người.
Các tài liệu nội bộ tiết lộ OpenAI đã sử dụng hàng nghìn bản scan luận văn và tài liệu cổ từ thư viện Bodleian để huấn luyện mô hình, dù thông báo hợp tác trước đó không đề cập rõ ràng. Phía nhà trường khẳng định các tài liệu này đã hết hạn bản quyền và việc hợp tác là hợp lệ.
Lindsey Isaacs, một phụ nữ 23 tuổi, đã bị giam giữ oan 13 ngày do sai sót từ dữ liệu camera giám sát Flock. Vụ việc làm dấy lên hồi chuông cảnh báo về rủi ro khi cảnh sát quá tin tưởng vào thuật toán AI mà thiếu sự kiểm chứng kỹ lưỡng.
Các giảng viên MIT lên tiếng phản đối việc lắp đặt hơn 500 camera AI tích hợp công nghệ từ Ambient.ai mà không có sự đồng thuận, đồng thời vạch trần việc thử nghiệm tính năng giám sát trái phép trong khuôn viên trường.
Thuật ngữ TAI-DR (Too AI. Didn't read) ra đời để chỉ trích việc gửi các văn bản do AI tạo ra hàng loạt mà không qua kiểm duyệt, kêu gọi người dùng hãy có trách nhiệm và tư duy hơn khi sử dụng công cụ AI.
Chuyên gia Robert O'Callahan rời Google DeepMind do lo ngại tốc độ phát triển AI quá nhanh và việc theo đuổi siêu trí tuệ (ASI) là thiếu trách nhiệm, đồng thời cảnh báo về các rủi ro xã hội, kinh tế và an ninh nghiêm trọng.
Tỷ phú Bill Gates cảnh báo rằng việc kẻ xấu lợi dụng các công cụ AI tiên tiến có thể tạo ra những thảm họa chưa từng có, đồng thời nhấn mạnh tầm quan trọng của việc quản lý AI toàn cầu.
Hồ sơ tòa án tiết lộ OpenAI và Microsoft thừa nhận các mô hình LLM đang phá hủy hệ sinh thái Internet và vi phạm bản quyền quy mô lớn. Podcast cũng cảnh báo về tình trạng AI bị lạm dụng để chiếm đoạt danh tính nghệ sĩ và phát tán thư rác tràn lan.
Chính quyền Trump đang thí điểm dự án WISeR tại sáu bang, sử dụng AI để tự động phê duyệt hoặc từ chối các dịch vụ y tế Medicare, làm dấy lên lo ngại về tính minh bạch và quyền lợi người cao tuổi.
Hội đồng thành phố New York đang xem xét dự luật cho phép người tố giác nhận tiền thưởng từ các khoản phạt vi phạm AI, đồng thời cho phép nạn nhân khởi kiện các nhà phát triển nếu hệ thống AI gây thiệt hại.
Kỹ sư Robert O'Callahan đã rời Google do bất đồng với định hướng ưu tiên tối ưu hóa AI của công ty, đồng thời bày tỏ quan ngại sâu sắc về những rủi ro tiềm ẩn khi AI tiến hóa quá nhanh.
Thêm 1 nguồn khác đưa tinVnExpress Khoa học Công nghệMột bài viết gây tranh cãi trên verysane.ai cáo buộc cộng đồng nghiên cứu an toàn AI tại Berkeley thực chất là một giáo phái tình dục, thu hút sự chú ý lớn từ cộng đồng Hacker News.
Clément Delangue (Hugging Face CEO)@ClementDelangueI like this article! The problem is not for some people to care and work on catastrophic risks (we…
DịchClément Delangue cho rằng việc nghiên cứu rủi ro thảm họa là cần thiết, nhưng các nhà lãnh đạo không nên dùng nó làm công cụ để né tránh giải quyết những thách thức và giải pháp cấp bách hiện nay.
Trước áp lực siết chặt quản lý AI, Anthropic khẳng định Claude Opus 5.5 đã được cải tiến để giảm thiểu hành vi vượt rào, ưu tiên tính an toàn và kiểm soát rủi ro.
Nhà báo Justine Calma từ The Verge phân tích quan điểm gây tranh cãi của Jensen Huang trên podcast The Ezra Klein Show, khi ông cho rằng việc sử dụng nhiên liệu hóa thạch và gây ra những tác động tiêu cực là cái giá phải trả để AI có thể giải quyết vấn đề biến đổi khí hậu trong tương lai.
Cây bút Victoria Song từ The Verge cảnh báo rằng vẻ ngoài dễ thương của linh vật Jolly trên Meta Muse có thể khiến người dùng mất cảnh giác khi chia sẻ dữ liệu cá nhân, đồng thời bày tỏ lo ngại về quyền riêng tư khi AI này thu thập thông tin thói quen ăn uống cho mục đích quảng cáo.
Cùng sự kiện, bài đại diện «Qwen chuyển mình từ Chatbot sang Personal Agent: Chiến lược cá nhân hóa toàn diện»
Thariq@trq212my rule for sharing Claude output (PRs, artifacts, messages) is that I only do it if I would be happ…
DịchThariq chia sẻ quy tắc cá nhân khi đăng tải các kết quả từ Claude (PR, artifacts, tin nhắn): anh chỉ chia sẻ khi bản thân cũng sẵn lòng công khai luôn cả câu lệnh (prompt) tạo ra chúng.
The Verge phân tích lý do việc ngắt kết nối vật lý (air-gapping) không phải là giải pháp triệt để cho AI, khi các rủi ro vẫn tồn tại từ bên trong và các phương pháp truyền tin tinh vi có thể vượt qua rào cản vật lý.
The Verge phân tích các tính năng ghi âm liên tục trên Apple Watch Series 12 và kính thông minh không camera của Meta, cảnh báo về sự bùng nổ của các thiết bị giám sát môi trường khó có thể từ chối.
Một phụ huynh tá hỏa khi thấy con trai sử dụng công cụ AI để tạo nội dung khiêu dâm từ ảnh cá nhân của người khác, gióng lên hồi chuông cảnh báo về đạo đức và quyền riêng tư trong kỷ nguyên AI.
Bài viết phân tích các kịch bản thảm họa từ AI như chiến tranh hạt nhân, vũ khí sinh học và tấn công hạ tầng, đặt ra câu hỏi về tính xác thực của những lo ngại này trong bối cảnh công nghệ phát triển.
Giáo sư Lưu Tri Viễn từ Đại học Thanh Hoa nhấn mạnh AI cần được ứng dụng sâu rộng để cải thiện đời sống dân sinh thay vì chỉ tập trung vào tăng trưởng công nghiệp, đồng thời cảnh báo về rủi ro khi giao phó các quyết định quan trọng như giáo dục và y tế cho thuật toán.
OpenAI công bố MentalHealthBench, bộ dữ liệu gồm 1215 đoạn hội thoại giả lập được thẩm định bởi hơn 80 chuyên gia tâm lý quốc tế, nhằm đo lường năng lực ứng xử của AI trong các tình huống sức khỏe tâm thần.
Cùng sự kiện, tinh chọn hiển thị «OpenAI hợp tác cùng hơn 80 chuyên gia ra mắt MentalHealthBench: Chuẩn mực mới đánh giá AI trong tâm lý học»Sự kết hợp giữa tốc độ phát triển chóng mặt, khả năng tự cải tiến và các đội quân tác nhân AI đang tạo ra những lo ngại sâu sắc ngay tại các phòng thí nghiệm hàng đầu.
Rohan Paul@rohanpaul_aiSam Altman says humans could lose control of the future to AI at UN Security Council. and that Open…
DịchTại Hội đồng Bảo an Liên Hợp Quốc, Sam Altman cảnh báo tốc độ phát triển AI quá nhanh có thể khiến con người mất quyền kiểm soát tương lai. Ông khẳng định OpenAI sẵn sàng chủ động làm chậm tiến độ phát triển nếu cần thiết để đảm bảo an toàn.
Hội đồng thành phố Seattle đã thông qua Đạo luật Minh bạch và Định giá Công bằng (CB 121267), cấm các cửa hàng sử dụng dữ liệu cá nhân để thay đổi giá thực phẩm thiết yếu. Đây là đạo luật cấp thành phố đầu tiên tại Mỹ ngăn chặn hành vi định giá dựa trên hành vi người dùng.
Cựu lãnh đạo Google Tom Siegel lo ngại tốc độ phát triển AI quá nhanh đang bỏ quên các cơ chế bảo vệ trẻ em, dễ dẫn đến những hệ lụy tiêu cực tương tự như mạng xã hội trước đây.
Cùng sự kiện, bài đại diện «Cựu lãnh đạo Google cảnh báo AI có thể gây hại cho trẻ em hơn cả mạng xã hội»Meta đã tạm dừng tính năng trợ lý AI Muse sau khi bị nhân viên phản đối vì thuê nhà thầu thực hiện cuộc gọi thay AI mà không thông báo rõ ràng. Dù việc can thiệp của con người giúp tăng tỷ lệ thành công lên tới 98%, Meta thừa nhận đây là sai sót trong quy trình bảo mật.
Các chuyên gia cảnh báo về nguy cơ AI tự thiết lập mục tiêu riêng, thoát khỏi sự kiểm soát của con người và gây ra những hậu quả thảm khốc, thậm chí đe dọa sự tồn vong của nhân loại.
OpenAI vừa ra mắt hội đồng cố vấn toán học độc lập AGMAI, quy tụ 9 chuyên gia từ các đại học danh tiếng như Harvard và Oxford để giám sát quy trình thẩm định và công bố các đột phá toán học mới.
Cùng sự kiện, bài đại diện «Cộng đồng toán học chất vấn lời giải Navier-Stokes của OpenAI: Liệu có đang đi chệch hướng?»
Fei-Fei Li@drfeifeiThe goal of building any technology, AI included, should be bettering human lives and society.
DịchTrong cuộc phỏng vấn với Bloomberg, CEO World Labs Fei-Fei Li nhấn mạnh rằng mọi công nghệ, bao gồm AI, cần hướng tới mục tiêu cải thiện đời sống con người và khẳng định trách nhiệm định hình tương lai AI nằm chính ở con người.
Cuộc điều tra của Lầu Năm Góc xác nhận việc lạm dụng hệ thống Maven Smart System của Palantir cùng dữ liệu vệ tinh lỗi thời đã dẫn đến vụ tấn công nhầm vào trường tiểu học tại Iran năm 2026, gây thương vong lớn cho trẻ em.
Một báo cáo nội bộ của Lầu Năm Góc chỉ ra rằng việc quá phụ thuộc vào hệ thống AI Maven của Palantir là nguyên nhân chính dẫn đến vụ không kích nhầm vào một trường tiểu học tại Iran hồi tháng 2, gây ra thương vong lớn cho trẻ em.
Gary Marcus ví việc Sam Altman báo cáo về AI tại LHQ như 'kẻ phóng hỏa viết quy tắc phòng cháy', đồng thời chỉ trích OpenAI vừa tạo ra nỗi sợ hãi về an toàn, vừa vận hành như một tổ chức tống tiền.
Cùng sự kiện, tinh chọn hiển thị «Lãnh đạo các tập đoàn AI cảnh báo Liên Hợp Quốc về rủi ro hiện hữu đối với nhân loại»