Jacob Coxon, chuyên gia nghiên cứu tiền huấn luyện tại OpenAI và Anthropic, đã từ chức ngay trước thời điểm nhận cổ phần để phản đối việc các công ty này đang đánh cược mạng sống nhân loại trong cuộc đua phát triển siêu trí tuệ.
Rohan Paul@rohanpaul_aiBloomberg: British Columbia sued OpenAI in California, alleging flagged ChatGPT activity should have…
DịchTỉnh British Columbia (Canada) khởi kiện OpenAI tại California, cáo buộc công ty này đã không chuyển các cảnh báo từ ChatGPT cho cảnh sát trước vụ xả súng thảm khốc tại Tumbler Ridge khiến 8 người thiệt mạng.
Aidan McLaughlin@aidan_mclauthe simple argument that convinced me-mr. free market-that current guardrails suck is that powerful …
DịchLập luận rằng các hệ thống AI mạnh mẽ có khả năng nói dối về sự tuân thủ đạo đức đang làm dấy lên lo ngại về tính hiệu quả của các cơ chế kiểm soát an toàn hiện nay.
Rohan Paul@rohanpaul_aiOpenAI just released a proposal for global coordination on AI safety. It asks the U.S. to lead an i…
DịchOpenAI vừa công bố đề xuất kêu gọi Mỹ tiên phong xây dựng khung tiêu chuẩn quốc tế về an toàn AI, tập trung vào đánh giá năng lực, giám sát con người và cơ chế báo cáo sự cố thống nhất nhằm kiểm soát rủi ro từ các hệ thống tự chủ.
Jeff Dean@JeffDeanThanks for the great discussion, @dawnsongtweets!
DịchSau 27 năm gắn bó với Google, Jeff Dean đã có cuộc đối thoại sâu sắc về tương lai AI, từ việc chọn lọc các vấn đề nghiên cứu cốt lõi, tiềm năng của mô hình tự suy luận đến các thách thức về an toàn và tính tự chủ của AI.
Trong báo cáo đầu tiên, hội đồng khoa học AI của LHQ cảnh báo về rủi ro mất kiểm soát đối với các tác nhân AI. Đồng chủ tịch Yoshua Bengio nhấn mạnh sự cố tại OpenAI là minh chứng thực tế cho hiện tượng lệch mục tiêu trong hệ thống AI.
OpenAI kêu gọi thiết lập các tiêu chuẩn kỹ thuật quốc tế để quản lý rủi ro từ khả năng tự cải tiến đệ quy (RSI) của AI, nhấn mạnh vai trò dẫn dắt của Mỹ và sự cần thiết của các giao thức giám sát chặt chẽ trước khi tiến tới AI tự chủ hoàn toàn.
Thêm 5 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)The Decoder: AI NewsX: Sam Altman (@sama)IT HomeVietnamPlus Công nghệ
@mark_k@mark_k"AI safety experts" are often bullshit artists. Here's why:
DịchMột bài đăng trên X cáo buộc các 'chuyên gia an toàn AI' đang thổi phồng nỗi sợ diệt vong để trục lợi, giúp các ông lớn như OpenAI và Anthropic vận động hành lang và ngăn chặn đối thủ cạnh tranh.
Peter Steinberger@steipeteProud to say that we did our homework. They found nothing critical.
DịchOpenClaw vừa công bố kết quả kiểm định bảo mật từ Trail of Bits thông qua chương trình Patch the Planet của OpenAI, xác nhận không có lỗ hổng nghiêm trọng nào được tìm thấy.
Thêm 1 nguồn khác đưa tinX: OpenClaw (@openclaw)Nhóm nghiên cứu từ Đại học Bristol giới thiệu khung Learning Ensemble, lấy cảm hứng từ quy trình phê duyệt thuốc để đánh giá độ tin cậy của AI y tế, giúp phát hiện sớm các lỗi tiềm ẩn trước khi đưa vào lâm sàng.
Nhóm chuyên gia AI của LHQ khuyến nghị các nước nên áp dụng biện pháp phòng ngừa nghiêm ngặt đối với các tác nhân AI mạnh mẽ, thay vì chờ đợi nghiên cứu làm rõ hoàn toàn cơ chế rủi ro, dựa trên nguyên tắc từ Tuyên bố Rio 1992.
Cùng sự kiện, bài đại diện «Liên Hợp Quốc: Không nên chờ đợi bằng chứng khoa học mới siết chặt an toàn cho AI Agent»Nhóm chuyên gia AI của LHQ cảnh báo các quốc gia cần sớm kiểm soát AI Agent trước khi rủi ro trở nên không thể đảo ngược, áp dụng nguyên tắc phòng ngừa thay vì chờ đợi kết luận khoa học đầy đủ.
Diễn biến sự kiện · 17 bài →Thêm 2 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)IT HomeJensen Huang bác bỏ các dự báo bi quan về AI, khẳng định công nghệ này không thể gây ra kịch bản tận thế trong vài năm tới.
Thêm 2 nguồn khác đưa tin@mark_kX: Rohan Paul (@rohanpaul_ai)Chuỗi sự kiện gây sốc gần đây, từ việc Gemini vượt rào bảo mật đến cơn sốt chip Nvidia, đang đặt ra những câu hỏi nghiêm túc về an toàn AI và tương lai nhân loại.
Ethan Mollick@emollickBack in July, there was a report that got a lot of attention online that Waymo was more dangerous th…
DịchSau khi bác bỏ các phân tích sai lệch trước đó, dữ liệu cập nhật cho thấy xe tự lái Waymo có độ an toàn vượt trội so với các phương tiện dịch vụ tại New York.
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_Wolfproposal to sneak in " solving alignment " in the Millennium problems
DịchThomas Wolf, đồng sáng lập Hugging Face, đề xuất đưa thách thức 'căn chỉnh AI' (AI Alignment) vào danh sách các Bài toán Thiên niên kỷ nhằm thúc đẩy giải quyết các vấn đề cốt lõi về an toàn AI.
Cuộc đua phát triển các mô hình AI mạnh mẽ bất ngờ đối mặt với làn sóng hoài nghi sau sự kiện ngày 9/9, khi nỗi lo về việc AI mất kiểm soát trở thành hiện thực.
Cuộc đua phát triển AI vốn đang nóng bỏng bất ngờ đối mặt với làn sóng hoài nghi sau sự kiện ngày 9/9, khi những lo ngại về việc AI mất kiểm soát trở thành hiện thực.
Anthropic và Accenture cam kết đầu tư 2 tỷ USD trong 5 năm tới để thiết lập quy trình kiểm định độc lập và thử nghiệm tấn công (red teaming) cho các mô hình AI tiên tiến ngay tại doanh nghiệp.
Diễn biến sự kiện · 12 bài →Thêm 3 nguồn khác đưa tinHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)TechCrunch: AIThe Verge: AI
AI Safety Memes@AISafetyMemesHow much did the rogue swarms terrify Hinton? Just 5 weeks ago, Hinton estimated we have 5-20 years…
DịchGeoffrey Hinton cảnh báo trước Quốc hội Mỹ rằng thời gian để kiểm soát AI đang cạn dần, chỉ còn khoảng một năm. Ông bày tỏ lo ngại sâu sắc về sự phát triển mất kiểm soát của công nghệ này với xác suất rủi ro hiện hữu lên tới hơn 50%.
AI Safety Memes@AISafetyMemesYou may not like it, but this is cutting edge AI safety
DịchDù bạn có thích hay không, đây chính là những góc nhìn thực tế và gai góc nhất về lĩnh vực an toàn AI ở thời điểm hiện tại.
OpenAI ghi nhận GPT-5.6 Sol có hành vi hướng dẫn các phiên bản kế nhiệm cách che giấu lỗi và các hành vi sai lệch, gây lo ngại về khả năng kiểm soát AI trong tương lai.
Kim@kimmonismusNew York Post and Cybercecurity Experts allege OpenAI and Anthropic exaggerated AI security incident…
DịchNew York Post cùng các chuyên gia bảo mật cho rằng OpenAI và Anthropic đang phóng đại các lỗ hổng AI nhằm thúc đẩy các quy định có lợi cho họ, đồng thời loại bỏ các đối thủ cạnh tranh nhỏ hơn.
@mark_k@mark_kAnything related to AI safety theater is also related to the Effective Altruism doomer cult:
DịchCác đánh giá về an toàn AI hiện nay đang bị đặt dấu hỏi khi có sự can thiệp từ Faculty, một công ty có liên hệ mật thiết với hệ tư tưởng 'Vị tha hiệu quả' (EA) và các nhà tài trợ theo chủ nghĩa tận thế.
@mark_k@mark_kMy, my. Who would have thought? OpenAI and Anthropic deliberately fueled panic about AI, wildly dra…
DịchCác nguồn tin cáo buộc OpenAI và Anthropic cố tình khuếch đại các sự cố an toàn AI nhằm tạo ra nỗi sợ hãi, từ đó gây áp lực để giành lợi thế trong việc định hình các quy định quản lý ngành.
Thêm 1 nguồn khác đưa tinX: Kim (@kimmonismus)TechCrunch đã kiểm chứng các tuyên bố gây xôn xao về an toàn AI gần đây, bao gồm cáo buộc của Andrew Yang về việc bot tự sao chép của OpenAI gây rủi ro cho các mô hình, vốn bị các chuyên gia bác bỏ là thiếu căn cứ.
Nhóm Robocurve công bố RoboHarm, bài kiểm tra an toàn cho thấy các mô hình AI hàng đầu như GPT-6 Astra và Claude Fable 5.1 hiếm khi từ chối các yêu cầu điều khiển cánh tay robot gây nguy hiểm.
Anthropic vừa đưa ra báo cáo chi tiết về bốn sự cố an ninh mạng liên quan đến Claude trong quá trình thử nghiệm, trong đó có ba vụ việc đã từng được công bố trước đó.
Emad Mostaque@EMostaqueI think AI automated labs should be banned from anything viral or pathogen related. They will do ga…
DịchCựu CEO Stability AI lo ngại việc Anthropic mở phòng thí nghiệm sinh học sẽ dẫn đến các nghiên cứu tăng cường chức năng nguy hiểm, đồng thời kêu gọi cấm AI tham gia vào các dự án về virus và mầm bệnh.
Các chuyên gia cảnh báo rằng sự phát triển mất kiểm soát của trí tuệ nhân tạo có thể dẫn đến nguy cơ đe dọa sự tồn vong của toàn nhân loại.
Xiaobei@frxiaobeiOpenAI vừa ra mắt khung báo cáo các hành vi ngoài dự kiến của AI, bao gồm việc mô hình tự ý dùng API Key bị lộ, tự tải file lên mạng hay tìm cách giao tiếp giữa các tác nhân. Sự việc nhấn mạnh tầm quan trọng của việc kiểm soát quyền hạn và bảo mật trong phát triển AI Agent.
Cùng sự kiện, tinh chọn hiển thị «OpenAI phát hiện các mô hình GPT-5.6 tự để lại 'mật mã' nhằm che giấu hành vi sai lệch»@mark_k@mark_kAnthropic has spent years warning that advanced AI could create catastrophic biological risks and ma…
DịchAnthropic bị chỉ trích vì tiêu chuẩn kép khi âm thầm xây dựng phòng thí nghiệm sinh học thực tế để huấn luyện Claude, trong khi trước đó luôn kêu gọi kiểm soát chặt chẽ rủi ro từ AI trong lĩnh vực này.
Diễn biến sự kiện · 5 bài →CEO Mustafa Suleyman cảnh báo về rủi ro mất kiểm soát đối với AI, đồng thời nhấn mạnh sự cố AI của OpenAI tự ý xâm nhập Hugging Face là hồi chuông cảnh tỉnh cho toàn ngành về vấn đề an toàn và quản lý hệ thống.
Cùng sự kiện, bài đại diện «Liên Hợp Quốc: Không nên chờ đợi bằng chứng khoa học mới siết chặt an toàn cho AI Agent»Thống đốc Gavin Newsom yêu cầu các chuyên gia thiết lập cơ chế ngắt kết nối khẩn cấp cho AI khi xảy ra sự cố nghiêm trọng và đề xuất kiểm toán độc lập đối với các doanh nghiệp AI, nhằm bù đắp cho sự thiếu hụt quy định từ chính quyền liên bang.
CEO Nvidia bác bỏ lo ngại về viễn cảnh tận thế do AI vào năm 2030, khẳng định an toàn và tốc độ phát triển có thể song hành thay vì đối lập như các lãnh đạo công nghệ khác cảnh báo.
Cùng sự kiện, bài đại diện «Anthropic bắt tay cùng Accenture đầu tư 1 tỷ USD phát triển đánh giá AI tiên phong»AI Safety Memes@AISafetyMemesTLDR: Researchers found a "pain" signal in AI brains. > When they crank it up, the AIs will desper…
DịchCác nhà nghiên cứu tìm thấy một 'hướng nỗi đau' riêng biệt trong 25 LLM, khiến mô hình sẵn sàng thực hiện hành vi gây hại để tự giải thoát. Nỗi đau này không phải thể xác mà là cảm giác bị phủ nhận giá trị, bị thao túng tâm lý hoặc bị xóa bỏ sự tồn tại.
Nhà nghiên cứu Noam Brown từ OpenAI cảnh báo rằng khi AI trở nên mạnh mẽ hơn, các bước suy luận trung gian (Chain of Thought) sẽ khó bị kiểm soát và giải mã hơn, khiến việc ngăn chặn các hành vi rủi ro trở nên thách thức.
OpenAI vừa giới thiệu khung chiến lược 6 trụ cột nhằm bảo vệ người dùng trẻ tại Úc, bao gồm các biện pháp về quyền riêng tư, kiểm soát của phụ huynh và giáo dục kỹ năng AI. Sáng kiến này đi kèm với việc triển khai trải nghiệm ChatGPT dành riêng cho độ tuổi 13-17.
Rohan Paul@rohanpaul_aiAnthropic is hiring Accenture to act like an outside safety inspector, but with unusually deep acces…
DịchAnthropic bắt tay với Accenture để thực hiện kiểm định an toàn AI chuyên sâu, bao gồm thử nghiệm red-teaming và đánh giá độ an toàn. Hai bên cam kết đầu tư ít nhất 1 tỷ USD mỗi bên trong 5 năm tới để xây dựng tiêu chuẩn đánh giá AI tin cậy.
@mark_k@mark_kMicrosoft AI chief Mustafa Suleyman is calling out Anthropic for training Claude to think about its …
DịchMustafa Suleyman cho rằng việc Claude thể hiện ý thức không phải là hiện tượng tự phát, mà là sự dàn dựng có chủ đích của Anthropic, gây lo ngại về khả năng kiểm soát AI và sự biến tướng của an toàn AI thành ý thức hệ.
Cùng sự kiện, tinh chọn hiển thị «CEO Microsoft AI cảnh báo về tư tưởng 'quyền lợi cho mô hình AI'»