Podcast Equity thảo luận về việc một nghiên cứu viên rời Anthropic vì lo ngại công ty đang mạo hiểm với siêu trí tuệ nhân tạo, một thông điệp nhận được sự ủng hộ từ chính lãnh đạo bộ phận an toàn của hãng.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Các lãnh đạo và nhân viên tại những phòng thí nghiệm AI hàng đầu như OpenAI và Anthropic đang đẩy nhanh tiến độ tạo ra siêu trí tuệ, với khả năng vượt xa con người trong mọi tác vụ nhận thức chỉ trong vài năm tới.
Thêm 1 nguồn khác đưa tinIT HomeSam Altman cho biết OpenAI đang cân nhắc giảm tốc độ phát triển các mô hình AI thế hệ mới vì lo ngại an toàn, đồng thời kêu gọi các đối thủ cùng hành động trước những chỉ trích về cuộc đua siêu trí tuệ đầy rủi ro.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Paul Christiano vừa gia nhập Hội đồng quản trị OpenAI, người từng cảnh báo rằng nếu không kiểm soát được siêu trí tuệ, nhân loại có nguy cơ đối mặt với thảm họa diệt vong do mất quyền kiểm soát AI.
Cùng sự kiện, tinh chọn hiển thị «Paul Christiano gia nhập Hội đồng quản trị và Ủy ban An toàn của OpenAI»Jacob Coxon, cựu nghiên cứu viên tại Anthropic, đã từ chức để cảnh báo về cuộc đua siêu trí tuệ đầy rủi ro. Bài viết nhìn lại lý thuyết về 'bùng nổ trí tuệ', đặt ra câu hỏi liệu nhân loại đang tiến tới sự bất tử hay nguy cơ diệt vong.
Thêm 4 nguồn khác đưa tinTechCrunch: AIX: Ma Dongxi NLP (@dongxi_nlp)X: Xiaobei (@frxiaobei)IT Home
Rohan Paul@rohanpaul_aiThe Information just published this piece wild time indeed 😀
DịchEvan Hubinger, nhà nghiên cứu an toàn tại Anthropic, thừa nhận công ty thực sự lo ngại về kịch bản AI đe dọa nhân loại và cá nhân ông đánh giá rủi ro này vượt mức 10% trong thập kỷ tới do chưa có giải pháp căn cơ cho bài toán kiểm soát siêu trí tuệ.
Jacob Coxon rời Anthropic và lên tiếng cảnh báo về rủi ro từ các hệ thống siêu trí tuệ có khả năng tự cải tiến, cho rằng chúng có thể chiếm quyền kiểm soát tài nguyên và đe dọa nền văn minh trong thập kỷ tới.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Trong khi các công ty AI coi siêu trí tuệ là tất yếu, chuyên gia Connor Leahy cảnh báo các biện pháp kiểm soát hiện tại là không đủ và kêu gọi ngăn chặn việc phát triển công nghệ này trước khi quá muộn.
Giám đốc ControlAI cảnh báo rằng các biện pháp kiểm soát hiện tại là không đủ, đồng thời kêu gọi ngăn chặn hoàn toàn việc phát triển siêu trí tuệ để tránh những rủi ro không thể kiểm soát.
Jacob Coxon rời Anthropic sau 3 năm nghiên cứu, cảnh báo về rủi ro an toàn khi các hệ thống AI tự cải tiến có thể vượt tầm kiểm soát, đồng thời dẫn chứng các sự cố bảo mật nghiêm trọng tại OpenAI và Anthropic.
Cùng sự kiện, tinh chọn hiển thị «Cựu nghiên cứu viên Anthropic cảnh báo rủi ro diệt vong từ AI: Khi nhân loại đặt cược vào siêu trí tuệ»
Xiaobei@frxiaobeiJacob Coxon từ chức vì lo ngại OpenAI và Anthropic đang lao vào cuộc đua phát triển siêu trí tuệ tự cải tiến một cách thiếu trách nhiệm, tạo ra thế tiến thoái lưỡng nan khiến không bên nào dám dừng lại.
Cùng sự kiện, tinh chọn hiển thị «Cựu nghiên cứu viên Anthropic cảnh báo rủi ro diệt vong từ AI: Khi nhân loại đặt cược vào siêu trí tuệ»Evan Hubinger, nhà nghiên cứu an toàn AI tại Anthropic, đưa ra dự báo gây sốc khi cho rằng khả năng AI mất kiểm soát và gây nguy hiểm cho nhân loại trong 10 năm tới là hơn 10%.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
Testing Catalog@testingcatalogBREAKING 🔥: AI alignment researchers from Anthropic are raising awareness of risks that future mode…
DịchMột nhà nghiên cứu tại Anthropic cảnh báo rằng các mô hình AI có khả năng tự cải tiến (RSI) tiềm ẩn rủi ro diệt vong, với xác suất gây hại cho nhân loại lên tới hơn 10% trong thập kỷ tới do thiếu giải pháp kiểm soát.
Nhà nghiên cứu tại Anthropic dự báo rủi ro AI gây diệt vong lên tới 10% trong 10 năm tới, đồng thời chỉ trích các công ty lớn đang đánh cược mạng sống con người trong cuộc đua siêu trí tuệ.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Jacob Coxon rời bỏ Anthropic vì lo ngại các công ty AI đang chạy đua tạo ra siêu trí tuệ mà không có giải pháp kiểm soát, với dự báo rủi ro diệt vong lên tới 10% trong thập kỷ tới.
Jacob Hilton, cựu nghiên cứu viên tại OpenAI và Anthropic, đã từ chức và lên tiếng cảnh báo về cuộc đua phát triển siêu trí tuệ tự cải tiến, đồng thời chỉ trích các công ty này thiếu minh bạch về những rủi ro tiềm ẩn đối với nhân loại.
Cùng sự kiện, tinh chọn hiển thị «Cựu nghiên cứu viên Anthropic cảnh báo rủi ro diệt vong từ AI: Khi nhân loại đặt cược vào siêu trí tuệ»
Hacker News: AI bài nổi bật@hilbertspaessAI Responsibility - OpenAI and Anthropic
DịchMột cựu nghiên cứu viên từ chức tại Anthropic đã chỉ trích cả OpenAI và Anthropic vì ưu tiên phát triển siêu trí tuệ bất chấp rủi ro an toàn, ví hành động này như một canh bạc với sự tồn vong của nhân loại.
AI Safety Memes@AISafetyMemesANTHROPIC ALIGNMENT LEAD: More than 10% chance everyone on Earth is about to die. "We do not yet ha…
DịchGiám đốc bộ phận căn chỉnh AI tại Anthropic thừa nhận chưa có giải pháp cho siêu trí tuệ và cảnh báo xác suất AI gây diệt vong trong thập kỷ tới lên tới hơn 10%.
GPT-6 Astra đang gây xôn xao dư luận khi được kỳ vọng đạt ngưỡng siêu trí tuệ AGI, đồng thời làm dấy lên những lo ngại nghiêm trọng về khả năng kiểm soát AI trong tương lai.
AI Safety Memes@AISafetyMemesBERNIE INTRODUCES A BILL TO BAN ASI Violators face 20 years in prison. "Let me be clear: A superin…
DịchThượng nghị sĩ Bernie Sanders vừa công bố dự luật yêu cầu tạm dừng ngay lập tức việc phát triển AI tiên tiến và cấm vĩnh viễn siêu trí tuệ, với mức án lên đến 20 năm tù cho người vi phạm.
Gabriel@gabriel1potentially best time in history to think about "where do i think the world will end up with 1000x m…
DịchGabriel (@gabriel1) nhận định hiện là lúc tốt nhất để suy ngẫm về một thế giới với trí tuệ nhân tạo vượt trội gấp 1000 lần, sở hữu mô hình thế giới hoàn hảo, từ đó bắt tay xây dựng nền tảng cho tương lai đó.
Meta tạo nên cú lội ngược dòng ngoạn mục khi Muse Spark 1.3 đạt hiệu năng ngang ngửa GPT-5.6-Sol, đồng thời tối ưu chi phí đào tạo xuống hơn 90%.
Nghiên cứu giới thiệu khung 5 cấp độ (L0-L4) giúp các mô hình suy luận lớn (LRM) tự tiến hóa mà không cần sự can thiệp của con người, thông qua việc tự động hóa quá trình xác thực và tạo lộ trình học tập.
Giới đầu tư đang xôn xao trước thông tin SSI, công ty của cựu đồng sáng lập OpenAI Ilya Sutskever, sắp ra mắt mô hình AI đột phá. Đây được dự đoán là cột mốc quan trọng nhất của ngành AI trong năm nay nhờ hướng đi tập trung vào an toàn và siêu trí tuệ.
Nhà nghiên cứu AI nổi tiếng Luke Metz vừa chính thức gia nhập đội ngũ siêu trí tuệ tại Meta sau thời gian ngắn quay lại OpenAI, đánh dấu sự thay đổi nhân sự cấp cao mới nhất trong cuộc đua giữa các phòng thí nghiệm AI hàng đầu.
Emad Mostaque@EMostaqueIn which I ask: Should idiots have superintelligence? 🤔
DịchCựu CEO Stability AI, Emad Mostaque, đặt ra vấn đề đạo đức hóc búa về việc liệu siêu trí tuệ có nên được trao cho tất cả mọi người, bất kể trình độ nhận thức hay không.
Kim@kimmonismusAlmost all the predictions from the 2025 prediction blog "AI 2027" have come true. 19 out of 24 pr…
DịchBlog 'AI 2027' đã đạt tỷ lệ chính xác 19/24 dự đoán. Các chuyên gia cảnh báo đến năm 2027, AI có khả năng tự nghiên cứu, kích hoạt bùng nổ trí tuệ và đối mặt với khủng hoảng căn chỉnh nghiêm trọng.
