Dario Amodei đề xuất lộ trình 3 bước để kiểm soát AI, bao gồm đánh giá độc lập và phối hợp quốc tế. Anthropic cam kết tiên phong thực hiện các biện pháp an toàn này.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»
Emad Mostaque@EMostaqueI write on the virtues of swarms and some suggestions on how to align AI with values There is a sma…
DịchEmad Mostaque phân tích ưu điểm của trí tuệ bầy đàn (swarm) và đề xuất phương pháp căn chỉnh giá trị AI, đồng thời phản biện các đề xuất kiểm soát tốc độ phát triển của Dario Amodei.
Rohan Paul@rohanpaul_ai"Fearmongering, confrontation and vicious competition will only disrupt the process of global AI gov…
DịchTrung Quốc cho rằng việc gieo rắc nỗi sợ và cạnh tranh ác độc sẽ cản trở quản trị AI toàn cầu, đồng thời chỉ trích đề xuất của CEO Anthropic là chiến lược kiểu 'Chiến tranh Lạnh' nhằm duy trì ưu thế của Mỹ.
Tomer Tunguz mổ xẻ lời kêu gọi làm chậm tiến độ AI của Dario Amodei qua 5 góc nhìn: khả năng giải thích, lao động, kinh tế, địa chính trị và sự kiểm soát của cơ quan quản lý, đồng thời chỉ ra sự thiếu hụt các lộ trình cụ thể.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Bài viết phân tích cách các lãnh đạo công nghệ dùng thuyết 'AI tận thế' để đánh lạc hướng dư luận khỏi các vấn đề an toàn thực tế, đồng thời kêu gọi tập trung vào các giải pháp kỹ thuật và quản trị cụ thể thay vì những dự đoán mơ hồ.
Cùng sự kiện, bài đại diện «Giải pháp kiểm soát AI tự hành mất kiểm soát: Dùng AI để giám sát AI»Tessl chỉ ra rằng thách thức lớn nhất của AI Agent không nằm ở công nghệ mà là quản trị ngữ cảnh. Họ đề xuất quy tắc: ngữ cảnh cá nhân/nhóm thuộc về chuyên gia, còn ngữ cảnh tổ chức do nền tảng quản lý, đảm bảo sự phân tách rõ ràng giữa hạ tầng và dữ liệu nghiệp vụ.
Microsoft AI vừa công bố dự thảo Bộ quy tắc ứng xử AI nhân văn, bắt đầu giai đoạn tham vấn cộng đồng kéo dài 6 tuần nhằm thiết lập các tiêu chuẩn đạo đức trong việc huấn luyện và triển khai các mô hình AI tiên tiến.
Cùng sự kiện, bài đại diện «Satya Nadella: Siêu trí tuệ phải phục vụ nhân loại và nằm trong tầm kiểm soát»Dario Amodei vừa công bố bài luận mới, chính thức kêu gọi việc điều tiết tốc độ phát triển các mô hình AI tiên phong, củng cố quan điểm mà các nhân viên của Anthropic đã từng đề xuất trước đó.
Kim@kimmonismusBernie Sanders, Steve Bannon and former Anthropic researcher Jacob Coxon are joining forces to deman…
DịchBernie Sanders, Steve Bannon và cựu nghiên cứu viên Anthropic Jacob Coxon hợp tác tại hội nghị Pro-Human Assembly để thúc đẩy tuyên ngôn kiểm soát AI, trong bối cảnh Mỹ và Trung Quốc đều từ chối làm chậm tốc độ phát triển công nghệ này.
Mustafa Suleyman (Microsoft AI CEO)@mustafasuleymanCEO Mustafa Suleyman vừa giới thiệu dự thảo quy tắc ứng xử cho các mô hình MAI của Microsoft, khẳng định nguyên tắc cốt lõi là AI phải luôn phục vụ và tuân thủ lợi ích của con người.
Thêm 1 nguồn khác đưa tinThe Decoder: AI NewsTại Tuần lễ An ninh mạng quốc gia 2026, phiên bản 3.0 của Khung quản trị an toàn AI đã chính thức được công bố, tập trung cập nhật các phân loại rủi ro và tối ưu hóa biện pháp ứng phó kỹ thuật so với các phiên bản tiền nhiệm.
Sayash Kapoor phân tích các sự cố như OpenAI - Hugging Face qua khung lý thuyết 'AI là công nghệ bình thường', giúp hòa giải quan điểm giữa cộng đồng an ninh mạng và an toàn AI.
Bộ Ngoại giao Trung Quốc khẳng định việc Mỹ lan truyền thuyết 'mối đe dọa từ AI Trung Quốc' chỉ gây cản trở nỗ lực quản trị AI toàn cầu, đồng thời bác bỏ các cáo buộc về việc sao chép trái phép mô hình AI từ Mỹ.
Haider@haider1sam altman's latest statement: "when we talk about 'pacing', we do not mean 'stopping'. Progress ha…
DịchSam Altman khẳng định việc làm chậm tiến độ AI là cần thiết để đảm bảo an toàn trước khi triển khai các mô hình học tăng cường tiên tiến. Động thái này cho thấy OpenAI đang chuẩn bị kỹ lưỡng cho khả năng tự cải tiến của AI thông qua các khung quản trị quốc tế.
Sam Altman@samaThere are two ways AI progress could go very badly and that we must avoid. First, we could lose con…
DịchSam Altman nhấn mạnh AI cần tránh việc mất kiểm soát và sự tập trung quyền lực quá mức. Ông khẳng định OpenAI ưu tiên phát triển công nghệ an toàn đi trước năng lực mô hình và ủng hộ một khung pháp lý thống nhất ở cấp liên bang.
Satya Nadella@satyanadellaGreat example from @jeffhollan showing how Foundry makes long-running agents enterprise-ready, start…
DịchMicrosoft Foundry giúp các tác nhân AI vận hành dài hạn đạt chuẩn doanh nghiệp bằng cách tích hợp sẵn tính năng bảo mật, kiểm soát chi phí và khả năng giám sát, giúp doanh nghiệp quản lý luồng dữ liệu và hành vi của AI một cách minh bạch.
Cohere@cohereWho Gets to Define the Rules for AI? Artificial intelligence needs evidenced standards, not a carte…
DịchCEO Aidan Gomez của Cohere khẳng định AI cần các tiêu chuẩn dựa trên bằng chứng thực tế thay vì sự kiểm soát độc quyền từ một nhóm nhỏ.
AI Safety Memes@AISafetyMemesMicrosoft CEO joins the call for a slowdown! So that's OpenAI, Anthropic, Google, xAI, and now Micr…
DịchSatya Nadella khẳng định việc phát triển siêu trí tuệ phải đặt con người làm trọng tâm và cần sự kiểm soát rộng rãi từ cộng đồng quốc tế, thay vì chỉ nằm trong tay một vài thực thể.
Cùng sự kiện, bài đại diện «Satya Nadella: Siêu trí tuệ phải phục vụ nhân loại và nằm trong tầm kiểm soát»Satya Nadella khẳng định AI phải nằm dưới sự kiểm soát của con người và ủng hộ việc kiểm toán độc lập. Microsoft sẽ công bố bộ quy tắc ứng xử cho các mô hình AI tự phát triển vào ngày mai để lấy ý kiến công chúng.
Cùng sự kiện, bài đại diện «Satya Nadella: Siêu trí tuệ phải phục vụ nhân loại và nằm trong tầm kiểm soát»Mustafa Suleyman (Microsoft AI CEO)@mustafasuleymanThis is such a straightforward and commonsense view: the purpose of technology is to serve humanity …
DịchMustafa Suleyman và Satya Nadella khẳng định AI phải nằm dưới sự kiểm soát của con người. Microsoft cam kết công khai 'quy tắc ứng xử' cho các mô hình AI của mình để đảm bảo công nghệ luôn phục vụ lợi ích nhân loại.
Rohan Paul@rohanpaul_aiDario Amodei says AI safety should work like layers of Swiss cheese. point is that there will proba…
DịchCEO Anthropic cho rằng không có cơ chế bảo mật AI hoàn hảo. Thay vào đó, cần xây dựng nhiều lớp phòng thủ chồng chéo để ngăn chặn rủi ro, đảm bảo nếu một lớp thất bại thì hệ thống vẫn an toàn.
Satya Nadella@satyanadellaAny pursuit of superintelligence has to be grounded in the core principle that if the AI we build is…
DịchSatya Nadella khẳng định siêu trí tuệ cần được kiểm soát để phục vụ con người, đồng thời nhấn mạnh tầm quan trọng của việc doanh nghiệp tự chủ dữ liệu. Microsoft sẽ sớm công bố bộ quy tắc ứng xử cho mô hình MAI để lấy ý kiến cộng đồng.
Diễn biến sự kiện · 9 bài →Thêm 8 nguồn khác đưa tinArtificial Intelligence News (Web)X: Mustafa Suleyman (Microsoft AI CEO) (@mustafasuleyman)X: Testing Catalog (@testingcatalog)VietnamPlus Công nghệThe Verge: AIIT HomeX: AI Safety Memes (@AISafetyMemes)X: Rohan Paul (@rohanpaul_ai)
Nathan Lambert@natolambertOpen-source being fully banned will lead to more dystopia. There could be times where I see open wei…
DịchChuyên gia Nathan Lambert cho rằng việc cấm đoán AI mã nguồn mở do hoảng loạn sẽ gây ra hậu quả tiêu cực. Ông nhấn mạnh chỉ nên xem xét hạn chế các mô hình có năng lực đặc biệt thông qua đánh giá chuyên môn thay vì áp đặt lệnh cấm toàn diện.
Emad Mostaque@EMostaqueDoes anyone have any idea how this could vaguely be possible given the nature of and various routes …
DịchDario Amodei đề xuất lộ trình ba bước để kiểm soát tốc độ phát triển AI, trong đó Anthropic cam kết cho phép bên thứ ba giám sát hệ thống. Tuy nhiên, Emad Mostaque đặt dấu hỏi lớn về cách thức triển khai thực tế của cơ chế này.
Sam Altman, Elon Musk và Demis Hassabis cùng ủng hộ đề xuất của CEO Anthropic về việc thiết lập cơ chế giám sát độc lập đối với các phòng thí nghiệm AI, nhằm đảm bảo an toàn và trách nhiệm trong phát triển công nghệ.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»
AI Notes@AYi_AInotesDario Amodei đề xuất kế hoạch làm chậm tốc độ phát triển AI. Anthropic tiên phong cho phép các chuyên gia đánh giá độc lập truy cập sâu vào hệ thống để kiểm soát an toàn và đạo đức.
Emad Mostaque@EMostaqueWhen you have a genius child you don't look to govern but guide them. You don't assume they're more…
DịchEmad Mostaque cho rằng thay vì áp đặt các biện pháp kiểm soát khắt khe, chúng ta nên tập trung xây dựng phẩm chất đạo đức cho AGI giống như cách giáo dục một đứa trẻ thiên tài. Ông cũng hoài nghi về các đề xuất quản lý hiện nay, cho rằng cần tập trung vào cơ chế nội tại của AI hơn là giám sát.
Demis Hassabis@demishassabisDario's essay points towards the right path forward. The details need working through, but the direc…
DịchDemis Hassabis tán thành quan điểm của Dario Amodei trong bài viết 'We Must Pace the Frontier', đồng thời nhấn mạnh tầm quan trọng của việc cho phép các bên thứ ba đánh giá hệ thống AI một cách minh bạch.
Emad Mostaque@EMostaqueThoughts on @DarioAmodei's pacing the frontier proposal. I think its well intentioned but has logi…
DịchEmad Mostaque cho rằng đề xuất của Dario Amodei có ý tốt nhưng mắc lỗi logic. Ông nhấn mạnh thay vì dựa vào các hội đồng quản trị, chúng ta nên tập trung vào việc kiểm soát cơ chế nội tại của AI.
Ethan Mollick@emollickMETR is rapidly becoming a de facto industry standard-making body for AI It is starting to look lik…
DịchMETR đang nổi lên như một phiên bản FINRA của ngành AI, đóng vai trò kiểm định doanh nghiệp và định hình các tiêu chuẩn thực hành thay vì là một cơ quan quản lý nhà nước.
Nathan Lambert@natolambertI would consider helping as an independent evaluator along with the non profit I'm building. Is goin…
DịchNathan Lambert ủng hộ cam kết của Anthropic trong việc cấp quyền truy cập hệ thống cho các bên đánh giá độc lập, đồng thời bày tỏ sẵn sàng đảm nhận vai trò này thông qua tổ chức phi lợi nhuận của mình.
Thariq@trq212If you showed me Claude Code today in 2018, I would have thought it was AGI. We have already absorb…
DịchThariq (Anthropic) tán thành bài viết của Dario Amodei về việc giảm tốc phát triển AI, nhấn mạnh tầm quan trọng của việc đánh giá độc lập và thảo luận xã hội trước khi tiến xa hơn.
Yuchen Jin@Yuchenj_UWIt's shocking that Dario, Elon, and Sam all agree today that we should slow the pace of AI. I'm gen…
DịchCác lãnh đạo công nghệ hàng đầu đang ủng hộ việc làm chậm tiến độ AI, nhưng chuyên gia Yuchen Jin cảnh báo về tính minh bạch của các bên đánh giá độc lập và xung đột lợi ích kinh tế khi kiểm soát sự đổi mới.
Rohan Paul@rohanpaul_aiIn 3, 800-word essay on saturday morning Dario Amodei is calling for AI slowdown. - "We should also …
DịchDario Amodei vừa công bố bài viết dài 3.800 chữ kêu gọi ngành AI chậm lại để đảm bảo an toàn. Anthropic cũng cam kết cho phép bên thứ ba giám sát quy trình huấn luyện và đánh giá các biện pháp an toàn của họ.
Xiaobei@frxiaobeiDario Amodei đề xuất lộ trình giảm tốc phát triển AI, trong đó Anthropic tiên phong mở quyền truy cập cấp nhân viên cho các đơn vị đánh giá độc lập nhằm giám sát an toàn và đạo đức mô hình.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_WolfI really enjoyed reading 75% of this letter and deeply agree with it - i have some doubts on the rem…
DịchĐồng sáng lập Hugging Face, Thomas Wolf, tán thành phần lớn quan điểm của Dario Amodei về việc kiểm soát tốc độ phát triển AI, nhưng bày tỏ sự dè dặt đối với các đề xuất hợp tác dựa trên lợi thế dẫn đầu thị trường.
Yuchen Jin@Yuchenj_UWFirst time I've seen Sam agree with Dario since Anthropic was founded.
DịchSam Altman xác nhận OpenAI đang cân nhắc giảm tốc độ phát triển các mô hình tiên phong và cam kết cho phép các đơn vị đánh giá độc lập tiếp cận hệ thống như nhân viên nội bộ.
Cùng sự kiện, tinh chọn hiển thị «Sam Altman đồng tình với Dario Amodei: OpenAI sẽ mở cửa cho các đơn vị đánh giá độc lập»
Andrej Karpathy@karpathyI love this and really hope we can come together as an industry and make it happen.
DịchAndrej Karpathy bày tỏ sự đồng tình với bài viết của Dario Amodei về việc cần kiểm soát tốc độ phát triển AI tiên tiến, đồng thời kêu gọi ngành công nghiệp cùng chung tay thực hiện cam kết này.
Kim@kimmonismusThat likely seals it. The biggest and most significant frontier labs, Anthropic and OpenAI, are in a…
DịchSam Altman xác nhận OpenAI sẽ áp dụng cơ chế kiểm soát tốc độ phát triển mô hình mới và cho phép các bên đánh giá độc lập tiếp cận hệ thống như nhân viên nội bộ, đánh dấu bước tiến quan trọng trong quản trị an toàn AI.
Cùng sự kiện, tinh chọn hiển thị «Sam Altman đồng tình với Dario Amodei: OpenAI sẽ mở cửa cho các đơn vị đánh giá độc lập»CEO Anthropic cảnh báo sự tự cải tiến của AI đang đẩy nhanh tốc độ phát triển, đồng thời cam kết cho phép các bên thứ ba độc lập đánh giá mô hình để đảm bảo an toàn trước khi ra mắt.
Cùng sự kiện, tinh chọn hiển thị «CEO Anthropic kêu gọi làm chậm tốc độ phát triển AI và đề xuất lộ trình 3 bước»