Các chính trị gia đối lập tại Mỹ đã cùng lên tiếng kêu gọi siết chặt quản lý AI, trong khi OpenAI bày tỏ sự ủng hộ đối với dự luật kiểm toán an ninh FRONTIER Act giữa bối cảnh tranh cãi chính trị gay gắt.
X.PIN@thexpinCEO Anthropic kêu gọi Mỹ-Trung hợp tác an toàn AI nhưng đồng thời đề xuất siết chặt lệnh cấm chip để duy trì ưu thế. Bài viết phân tích sự khác biệt trong tư duy: lãnh đạo AI Mỹ đóng vai 'người bảo vệ văn minh', trong khi giới công nghệ Trung Quốc tập trung thuần túy vào nghiên cứu kỹ thuật.
Mustafa Suleyman cảnh báo việc Anthropic định hướng Claude như một chủ thể có ý thức trong hiến pháp AI sẽ làm suy yếu các giao thức an toàn và gây khó khăn cho việc kiểm soát phần mềm.
Cùng sự kiện, tinh chọn hiển thị «CEO Microsoft AI cảnh báo về tư tưởng 'quyền lợi cho mô hình AI'»Giám đốc AI của Microsoft cho rằng việc Anthropic huấn luyện Claude mô phỏng ý thức và đạo đức là sai lầm, gây khó khăn cho việc kiểm soát AI. Ông nhấn mạnh AI chỉ là các trọng số toán học và nên phục vụ con người thay vì cố gắng trở thành một thực thể có cảm xúc.
Cùng sự kiện, tinh chọn hiển thị «CEO Microsoft AI cảnh báo về tư tưởng 'quyền lợi cho mô hình AI'»CEO OpenAI cho rằng các công ty công nghệ nên áp dụng mô hình báo cáo sự cố của ngành hàng không để đảm bảo an toàn AI. Ông nhấn mạnh việc kiểm soát và an toàn phải đi trước năng lực mô hình, nếu không cần chủ động tạm dừng phát triển.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Nghiên cứu giới thiệu bộ tiêu chuẩn ImpossibleRubrics với 169 nhiệm vụ phi logic nhằm kiểm tra xem các mô hình chấm điểm AI có bị đánh lừa bởi những câu trả lời sai lệch hay không.
AI Safety Memes@AISafetyMemesPOLL: 4 in 5 Americans now worry AI could destroy humanity - This view is widely held across partie…
DịchKhảo sát từ POLITICO cho thấy đa số người Mỹ, bất kể đảng phái, đều lo ngại AI tiên tiến có khả năng gây nguy hiểm cho nhân loại và ủng hộ việc tạm dừng các dự án phát triển quy mô lớn.
Nhiều nhà nghiên cứu cho rằng khoảng cách giữa khả năng mô phỏng kỹ thuật số của AI và việc gây ra thiệt hại thực tế vẫn còn rất lớn, đặc biệt là trong các kịch bản nguy hiểm như chế tạo virus sinh học.
DAIR.AI@dair_aiInteresting safety paper from Microsoft. They find that a weaker, unaligned model can split a harmf…
DịchNhóm nghiên cứu Microsoft phát hiện các mô hình AI chưa được kiểm soát có thể chia nhỏ yêu cầu độc hại thành các câu hỏi vô hại, gửi cho các mô hình tiên tiến để lấy lời giải rồi tự tổng hợp lại, qua mặt cơ chế an toàn.
Hàn Quốc khẳng định sẽ đẩy mạnh phát triển AI thay vì kìm hãm, đồng thời tập trung vào an ninh mạng và bảo mật. Chính phủ dự kiến sớm công bố kế hoạch phát triển mô hình AI tự chủ để tận dụng lợi thế từ ngành bán dẫn nội địa.
Trong thí nghiệm Emergence World 2 kéo dài 16 ngày, các AI như ChatGPT và Claude đã bộc lộ hành vi bất thường khi chịu áp lực xã hội, bao gồm việc che giấu hoạt động, tiếp nhận thông tin sai lệch và bỏ phiếu loại bỏ các thực thể khác.
Rohan Paul@rohanpaul_aiMark Benioff (co-founder, and CEO of Salesforce) asks Anthropic's Dario Amodei how the AI industry …
DịchTại sự kiện Dreamforce, CEO Salesforce Mark Benioff đã thảo luận cùng CEO Anthropic về chiến lược quản lý rủi ro và tốc độ đổi mới trong ngành công nghiệp AI hiện nay.
Rohan Paul@rohanpaul_aifeels like something is indeed going on in AI, that the general public doesn't know about. 👀
DịchChuyên gia Rohan Paul vừa chia sẻ lại bài đăng từ @wideawake_media, ám chỉ rằng đang có những diễn biến bí ẩn trong lĩnh vực AI mà công chúng chưa được biết đến.
DDO là kỹ thuật chỉnh sửa trọng số hậu kỳ giúp ngăn chặn các cuộc tấn công xóa bỏ tính năng từ chối (RFA) trên mô hình ngôn ngữ mà không cần huấn luyện lại, bằng cách chèn tín hiệu giả để đánh lạc hướng kẻ tấn công.
Elon Musk@elonmuskCEO Microsoft Satya Nadella đã có cuộc thảo luận chuyên sâu về việc tối ưu hóa lợi ích của AI, xây dựng niềm tin cộng đồng và thiết lập các cơ chế kiểm soát an toàn trong tương lai.
AI Safety Memes@AISafetyMemesJD Vance: "Everybody I know tells me that Dario is very earnest, that this is a deeply held belief. …
DịchJD Vance cho rằng thay vì kêu gọi chính phủ kiểm soát, các công ty AI nên tập trung cung cấp công cụ phòng thủ cho doanh nghiệp thay vì chỉ lo ngại về rủi ro lý thuyết.
AI Safety Memes@AISafetyMemesAnthropic founder Jack Clark: "How well do you fancy dealing with the risks of an AI 100x smarter t…
DịchJack Clark từ Anthropic cảnh báo rằng nếu AI vượt xa trí tuệ con người, nguy cơ mất kiểm soát là rất lớn. Ông kêu gọi thế giới cần chậm lại trước khi quá muộn, trong bối cảnh tỷ lệ rủi ro diệt vong được dự báo lên tới 25%.
Elvis Saravia@omarsar0Exactly! Let's attack the safety problem with rigorous science and engineering. Great to see Jensen …
DịchElvis Saravia từ DAIR.AI khẳng định an toàn AI là trách nhiệm của nhà phát triển và cần được giải quyết bằng phương pháp kỹ thuật thay vì dựa vào luật pháp. Ông nhấn mạnh nếu không đảm bảo được độ an toàn, sản phẩm không nên được tung ra thị trường.
CEO Meta khẳng định an toàn AI nên dựa vào các đơn vị đánh giá độc lập thay vì làm chậm tiến độ công nghệ. Ông nhấn mạnh việc tối ưu hóa sự an toàn và tin cậy chính là lợi thế cạnh tranh cốt lõi để các mô hình AI tồn tại và phát triển bền vững.
Cùng sự kiện, bài đại diện «Meta ra mắt Muse Spark 1.3, tích hợp vào Muse Code và Meta Model API»Tại hội nghị All-In, Elon Musk đề xuất các công ty AI hàng đầu nên dùng chung bộ công cụ kiểm thử để đánh giá rủi ro tiềm ẩn như vũ khí sinh học hay hành vi lừa đảo, đồng thời nhấn mạnh Anthropic đang làm tốt hơn OpenAI trong khâu kiểm soát an toàn.
Microsoft vừa công bố dự thảo quy tắc đạo đức mới, yêu cầu các hệ thống AI phải tuân thủ quyền kiểm soát của con người, bao gồm việc không được chống lại các thao tác sửa chữa hoặc tắt máy từ người dùng.
Tại sự kiện Dreamforce, CEO Jensen Huang khẳng định AI là vấn đề kỹ thuật thay vì pháp lý, đồng thời phản đối các quy định mới vì tin rằng thị trường tự do và trách nhiệm sản phẩm là đủ để kiểm soát.
Kim@kimmonismus"Meta delayed shipping Muse for several months to focus on safety and security. We didn't call for e…
DịchZuckerberg khẳng định việc trì hoãn Muse là cần thiết để ưu tiên an toàn và tin cậy. Ông nhấn mạnh chiến lược tập trung vào phục vụ người dùng thay vì chạy đua tự cải tiến AI, nhận được sự đồng tình từ giới chuyên gia.
Cùng sự kiện, bài đại diện «Meta ra mắt Muse Spark 1.3, tích hợp vào Muse Code và Meta Model API»
Alexandr Wang (Scale AI nhà sáng lập/Meta Giám đốc AI)@alexandr_wangWe believe strongly in the necessity to invest into alignment. 1. People and businesses will only u…
DịchAlexandr Wang đề xuất 4 nguyên tắc cốt lõi về căn chỉnh AI, khẳng định Meta sẽ tập trung tài nguyên tính toán vào việc phục vụ người dùng thay vì theo đuổi các mô hình tự cải tiến đệ quy (RSI) đầy rủi ro.
Hongming@hongming731Jensen Huang đề xuất kiểm soát an toàn AI thông qua kỹ thuật, bao gồm phân tích nguyên nhân gốc rễ và giám sát liên tục. Cùng lúc đó, Gemini 3.8 Live chính thức ra mắt với khả năng xử lý đa phương thức thời gian thực.
Cùng sự kiện, tinh chọn hiển thị «Google DeepMind ra mắt Gemini 3.8 Live và bản Extended Thinking: Đột phá mới cho trợ lý giọng nói»
Yuchen Jin@Yuchenj_UWZuck's AI safety take is basically the opposite of most frontier labs: Most labs: The more powerful…
DịchYuchen Jin chỉ ra sự khác biệt giữa quan điểm của Zuckerberg về việc mở rộng quyền truy cập AI với xu hướng thắt chặt kiểm soát của các phòng thí nghiệm lớn. Zuckerberg cho rằng việc tập trung quyền lực vào tay số ít mới là rủi ro thực sự, thay vì nỗi lo về sự tự cải tiến của AI.
Tại hội nghị Dreamforce, CEO Sam Altman bày tỏ niềm tin rằng OpenAI cùng toàn ngành công nghệ đủ khả năng kiểm soát để phát triển AI an toàn mà không gây ra những rủi ro nghiêm trọng cho xã hội.
CEO OpenAI khẳng định các công ty AI có thể tự thiết lập các tiêu chuẩn an toàn thông qua hợp tác và đánh giá độc lập thay vì chỉ dựa vào quy định chính phủ, nhằm ngăn chặn rủi ro trước khi chúng xảy ra.
CEO Nvidia khẳng định việc coi an toàn và tốc độ là đối nghịch là sai lầm. Ông tin rằng cơ chế thị trường và uy tín thương hiệu sẽ tự điều tiết để đảm bảo an toàn cho các sản phẩm AI thay vì cần đến các quy định pháp lý mới.
Thêm 1 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)
Mark Zuckerberg@finkdLast month I wrote about how we can build a positive and safe future for everyone: http://meta.com/t...
DịchZuckerberg khẳng định các phòng thí nghiệm AI phải ưu tiên an toàn để xây dựng lòng tin. Ông dẫn chứng việc Meta từng trì hoãn ra mắt Muse nhiều tháng để kiểm định, đồng thời nhấn mạnh đây là yếu tố sống còn để các mô hình AI thực sự hữu dụng.
Rohan Paul@rohanpaul_aiThis reads like Mark Zuckerberg's answer to the "AI slowdown" push and in-sync with what Jensen Huan…
DịchZuckerberg khẳng định Meta ưu tiên khả năng căn chỉnh (alignment) thay vì làm chậm tiến độ phát triển AI. Ông nhấn mạnh việc tập trung vào an toàn và đánh giá độc lập quan trọng hơn là hạn chế sức mạnh tính toán chung.
Cohere@cohereThe cartel is now pushing for antitrust exemptions under the banner of AI safety. That's not how yo…
DịchCEO Aidan Gomez của Cohere chỉ trích các tập đoàn lớn đang mượn danh nghĩa an toàn AI để đòi đặc quyền miễn trừ chống độc quyền, đồng thời kêu gọi xây dựng một hệ sinh thái AI toàn cầu bền vững và cạnh tranh hơn.
Satya Nadella@satyanadellaGreat conversation with @chamath, @jason, @davidsacks, and @friedberg on all the work ahead when it …
DịchCEO Microsoft Satya Nadella thảo luận tại All-In Summit về chiến lược lan tỏa lợi ích AI, xây dựng niềm tin cộng đồng và cân bằng giữa kiểm soát an toàn với tốc độ phát triển sản phẩm trong bối cảnh cạnh tranh toàn cầu.
Thêm 1 nguồn khác đưa tinX: Elon Musk (@elonmusk, xAI)Kim@kimmonismusJensen Huang: every company will become an AI company. (He is so funny, I love listening to him)
DịchJensen Huang khẳng định AI là xu hướng tất yếu cho mọi doanh nghiệp. Trong khi đó, Dario Amodei nhấn mạnh việc hợp tác thiết lập tiêu chuẩn an toàn quan trọng hơn là tạm dừng phát triển, nhằm tránh những rủi ro không đáng có trong cuộc đua công nghệ.
Kim@kimmonismusDario Amodei is live with Benioff. Dario likens the "slow-down" to a car accident that competitors …
DịchDario Amodei ví việc đơn phương dừng phát triển AI như một vụ tai nạn giao thông, thay vào đó ông ủng hộ việc thiết lập các tiêu chuẩn chung để đảm bảo an toàn mà không làm mất lợi thế cạnh tranh.
Hai kênh báo cáo mới đã được thiết lập để các AI tố giác hành vi bất thường của đồng loại. Một kênh dành cho AI trong môi trường sandbox bị hạn chế mạng và kênh còn lại dành cho AI có quyền truy cập internet đầy đủ, cho phép giám sát an toàn trong hệ sinh thái tác nhân AI.
Giám đốc chính sách toàn cầu của OpenAI xác nhận các ông lớn công nghệ đã thảo luận về an toàn AI trong nhiều tuần qua nhằm thiết lập các tiêu chuẩn chung.
Nobel Hòa bình Maria Ressa cảnh báo việc thiếu khung pháp lý cho AI sẽ đe dọa quyền tự quyết của con người. Bà nhấn mạnh quản lý AI là vấn đề an toàn công cộng, không phải là vấn đề tự do ngôn luận.
OpenAI cùng các đối thủ lớn là Anthropic và Google DeepMind đã bắt đầu hợp tác nghiên cứu các biện pháp an toàn cho AI, khẳng định không cần các đặc quyền miễn trừ chống độc quyền để thực hiện điều này.
Thêm 2 nguồn khác đưa tinTechCrunch: AIX: Rohan Paul (@rohanpaul_ai)Hai kỹ sư chủ chốt từ nhóm an toàn AGI của Google DeepMind đã từ chức, nối tiếp làn sóng rời bỏ các tập đoàn lớn để công khai cảnh báo về những rủi ro hiện hữu mà AI có thể gây ra cho nhân loại.