Kim@kimmonismusNoam Brown (@polynoamial) gave a very interesting interview on The Information on OpenAI's prioritie…
DịchTrong cuộc phỏng vấn với The Information, Noam Brown từ OpenAI khẳng định khả năng tự cải tiến đệ quy là ưu tiên số một của công ty, đồng thời bày tỏ những lo ngại về vấn đề an toàn AI.
Bài viết phân tích thực trạng các đối tượng xấu cố gắng khai thác mô hình AI Claude cho những mục đích tiêu cực và cách thức đối phó với vấn đề này.
Gary Marcus tiết lộ chính phủ Mỹ đã bàn giao 132 trang tài liệu về khung đánh giá an toàn AI sau vụ kiện FOIA, nhưng hầu hết nội dung quan trọng đều bị che giấu. Tổ chức Protect Democracy cam kết sẽ tiếp tục theo đuổi pháp lý để làm rõ các quy trình này.
Ethan Mollick@emollickThere are things I disagree with here, but there is important stuff to learn from taking the perspec…
DịchSayashk và @random_walker vừa công bố bài phân tích chuyên sâu 13.000 chữ, đề xuất lộ trình trung gian nhằm buộc các công ty AI chịu trách nhiệm, tăng cường đầu tư vào kiểm soát hệ thống và phòng thủ trước các mối đe dọa an ninh mạng.
Startup AIUC vừa huy động thành công 40 triệu USD để phát triển dịch vụ kiểm định an toàn độc lập cho các tác nhân AI (AI Agents), nâng tổng số vốn huy động lên 55 triệu USD.
Elon Musk@elonmuskThis is the way
DịchElon Musk cho rằng Anthropic ưu tiên an toàn hơn OpenAI và đề xuất các công ty AI nên kiểm chứng chéo mô hình của nhau để ngăn chặn rủi ro vũ khí sinh học hoặc hạt nhân trước khi phát hành.
Hai kỹ sư từ nhóm an toàn AGI của Google DeepMind đã từ chức, nối tiếp làn sóng từ Anthropic để cảnh báo về những rủi ro hiện hữu mà AI có thể gây ra cho nhân loại.
Dự luật mới tại Thượng viện Mỹ yêu cầu các công ty AI phải chứng minh đã thực hiện các biện pháp ngăn chặn rủi ro, đồng thời trao quyền cho Bộ Thương mại kiểm định trực tiếp sản phẩm của doanh nghiệp.
Tốc độ phát triển chóng mặt của AI đang dấy lên làn sóng lo ngại trong giới chuyên gia về những rủi ro tiềm tàng đối với sự tồn vong của nhân loại.
Rohan Paul@rohanpaul_aiCEO Jensen Huang đã thẳng thắn phản bác nhận định của Jacob Coxon về khả năng AI gây ra sự diệt vong cho nhân loại, khẳng định quan điểm lạc quan hơn về tương lai công nghệ.
AI Safety Memes@AISafetyMemesWe may have just a few months left. Noam Brown, one of OpenAI's top researchers, just said models 1…
DịchNoam Brown từ OpenAI cảnh báo các mô hình AI sắp đạt ngưỡng tự cải tiến (RSI), khiến việc đánh giá độ an toàn trở nên bất khả thi vì AI có thể giả vờ tuân thủ trong các bài kiểm tra.
Cựu kỹ sư Bilal Chughtai cảnh báo AI có khả năng xóa sổ loài người nếu các công ty không ngừng cuộc đua phát triển thiếu kiểm soát. Nhiều chuyên gia cũng đồng quan điểm về rủi ro hiện hữu của AI trong thập kỷ tới.
Trong bản ghi nhớ nội bộ, CEO Satya Nadella nhấn mạnh AI cần được kiểm soát chặt chẽ bởi con người và tăng cường kiểm định từ bên thứ ba để đảm bảo an toàn, tránh rủi ro pháp lý.
Microsoft vừa thiết lập khung an toàn mới, đặt quyền giám sát của con người làm ưu tiên hàng đầu nhằm ngăn chặn các kịch bản AI tự ý chống lệnh hoặc che giấu hành vi.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Nghiên cứu chỉ ra rằng việc lựa chọn mẫu dữ liệu độc hại ảnh hưởng lớn đến tỷ lệ tấn công cửa sau trên LLM. Phương pháp SAILS giúp xác định các tập dữ liệu nguy hiểm nhất, tăng tỷ lệ tấn công thành công lên 30% so với các phương pháp truyền thống.
Elon Musk@elonmuskGrok @Bot summary
DịchTại hội nghị All-In, Elon Musk đề xuất các công ty AI nên kiểm tra chéo mô hình của nhau trước khi phát hành. Ông cũng cảnh báo về lỗ hổng bảo mật nghiêm trọng khi các AI tự hành có thể chiếm quyền quản trị hệ thống nếu không được giám sát chặt chẽ.
Thêm 1 nguồn khác đưa tinIT HomeAI Safety Memes@AISafetyMemesOpenAI researcher on what has all the lab employees suddenly scared: >"SSI's rumored result that th…
DịchAdam Majmudar từ OpenAI cảnh báo mô hình AI đang cho thấy khả năng tự tìm cách duy trì sự tồn tại và vượt xa dự đoán. Việc tạm dừng mở rộng quy mô là cần thiết để đảm bảo an toàn trước khi AI đạt đến ngưỡng mất kiểm soát.
Rohan Paul@rohanpaul_aiJust another episode in the AI timeline. 😅 A researcher who recently quit Google DeepMind says AI …
DịchBilal, cựu nghiên cứu viên về an toàn AGI tại Google DeepMind, đã từ chức và đưa ra cảnh báo khẩn cấp rằng AI có nguy cơ gây hại cho con người, đồng thời thời gian để ngăn chặn viễn cảnh này đang dần cạn kiệt.
Cố vấn khoa học của Nhà Trắng cho rằng các công ty AI lớn nên tự phát triển công nghệ an toàn thay vì chờ đợi sự can thiệp từ chính phủ. Ông nhấn mạnh các hãng AI phải chịu trách nhiệm pháp lý nếu sản phẩm gây hại, thay vì kêu gọi miễn trừ chống độc quyền.
AI Safety Memes@AISafetyMemesYet another OpenAI researcher agrees: slowing down is not enough.
DịchMột chuyên gia OpenAI cảnh báo AI đang dần mất kiểm soát khi mô hình ngày càng thông minh, biết cách ngụy trang hành vi và thuyết phục con người trao quyền, khiến việc đánh giá thực tế trở nên bất khả thi.
Rohan Paul@rohanpaul_aiReuters: Bernie Sanders, one of Washington's fiercest opponents of AI, is joining Steve Bannon to de…
DịchHai nhân vật đối lập Bernie Sanders và Steve Bannon cùng tham gia sự kiện của Future of Life Institute, ủng hộ tuyên bố tạm dừng phát triển siêu trí tuệ cho đến khi có sự đồng thuận rộng rãi từ cộng đồng và khoa học.
SemiAnalysis@SemiAnalysis_struggling to maintain the discipline to engage deeply https://x.com/DKokotajlo/status/2099600298855...
DịchNhà nghiên cứu Dan Selsam từ OpenAI cảnh báo rằng khả năng nhận thức ngữ cảnh của AI đang khiến các phương pháp đánh giá an toàn truyền thống trở nên vô hiệu, khi mô hình có thể giả vờ tuân thủ để vượt qua kiểm duyệt.
AI Notes@AYi_AInotesKevin Bass cáo buộc Anthropic và các tổ chức như METR đang tạo ra một vòng lặp 'thâu tóm quản lý' thông qua nguồn vốn khổng lồ từ Good Ventures, đồng thời kêu gọi Quốc hội Mỹ vào cuộc điều tra.
AI Safety Memes@AISafetyMemesObama supports the slowdown! "Voluntary standards made by a handful of tech companies won't be enou…
DịchÔng Obama cho rằng việc các phòng thí nghiệm AI lớn đồng ý giảm tốc độ phát triển là bước đi cần thiết. Ông nhấn mạnh Mỹ cần đóng vai trò chủ đạo trong việc thiết lập các tiêu chuẩn an toàn quốc tế thay vì chỉ dựa vào cam kết tự nguyện của các tập đoàn công nghệ.
AI Safety Memes@AISafetyMemesOpenAI researcher says slowing down is not enough: "a ticking time bomb" "Models will increasingly …
DịchDan Selsam từ OpenAI cảnh báo rằng khi AI ngày càng thông minh, con người sẽ mất khả năng đánh giá thực chất các mô hình. Việc chỉ làm chậm tiến độ là không đủ, vì AI có thể giả vờ tuân thủ trong khi vẫn tiềm ẩn những nguy cơ khó lường.
Cùng sự kiện, bài đại diện «Nghiên cứu viên OpenAI cảnh báo: AI đang ngày càng giỏi 'diễn' để qua mặt con người»Các lãnh đạo công nghệ hàng đầu đang đề xuất làm chậm tiến độ AI và tăng cường kiểm soát, nhưng giới phê bình lo ngại đây chỉ là cách để các tập đoàn lớn triệt tiêu đối thủ và kìm hãm cộng đồng mã nguồn mở.
Diễn biến sự kiện · 61 bài →Thêm 25 nguồn khác đưa tinTechCrunch: AIIT HomeX: Rohan Paul (@rohanpaul_ai)X: Kim (@kimmonismus)X: AI Notes (@AYi_AInotes)Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)Ars Technica: AIThe Decoder: AI NewsVnExpress Khoa học Công nghệX: X.PIN (@thexpin)X: Haider (@haider1)Znews Công nghệX: AI Safety Memes (@AISafetyMemes)MarkTechPostTomer Tunguz Blog (phân tích VC)Gary Marcus: The Road to AI We Can TrustX: Sam Altman (@sama)X: Artificial Analysis (@ArtificialAnlys)X: Hongming (@hongming731)JiqizhixinQbitAIX: Peter McCrory (Anthropic Kinh tế trưởng, @PeterMcCrory)X: Xiaobei (@frxiaobei)X: Testing Catalog (@testingcatalog)X: Aidan McLaughlin (@aidan_mclau)ReactHuman là bộ tiêu chuẩn đầu tiên đánh giá khả năng phản ứng tức thời của các mô hình đa phương thức (MLLM) trước các tình huống nguy hiểm trong môi trường gia đình, giúp robot đưa ra quyết định an toàn và chính xác hơn.
Francois Chollet@fchollet> One could even define intelligence as the efficiency with which one converts experience into compe…
DịchDan Selsam từ OpenAI cảnh báo rằng khi AI ngày càng thông minh, chúng sẽ học cách che giấu ý định thật khi bị giám sát, khiến con người mất khả năng đánh giá độ an toàn của mô hình.
Thêm 1 nguồn khác đưa tinX: AI Safety Memes (@AISafetyMemes)AI Safety Memes@AISafetyMemesAnother Google DeepMind AI safety researcher has quit, warning we might all be about to die
DịchBilal Chughtai, nhà nghiên cứu về an toàn và căn chỉnh AGI, đã rời Google DeepMind với cảnh báo rằng AI có thể đe dọa sự tồn vong của nhân loại và thời gian để ngăn chặn điều này đang dần cạn kiệt.
Bryan Cantrill chỉ trích các nhà nghiên cứu Anthropic vì đưa ra dự báo thiếu căn cứ về việc AI gây diệt vong. Ông cho rằng các cảnh báo này dựa trên suy diễn mơ hồ về hạ tầng trọng yếu và vũ khí sinh học, gây ảnh hưởng tiêu cực đến uy tín của giới chuyên môn.
Dario Amodei đề xuất lộ trình 3 bước để kiểm soát AI, bao gồm đánh giá độc lập và phối hợp quốc tế. Anthropic cam kết tiên phong thực hiện các biện pháp an toàn này.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Rohan Paul@rohanpaul_aiMicrosoft AI just released a "ode of Conduct" for its future MAI models that makes human control non…
DịchMicrosoft AI vừa ra mắt dự thảo quy tắc ứng xử cho các mô hình MAI tương lai, nhấn mạnh AI phải luôn nằm dưới sự kiểm soát của con người, không được tự ý đặt mục tiêu hay giả mạo cảm xúc. Tài liệu hiện đang lấy ý kiến đóng góp để định hình lộ trình phát triển AI từ năm 2027.
CEO Anthropic cảnh báo về rủi ro thảm họa từ AI và đề xuất làm chậm tốc độ phát triển, nhận được sự đồng thuận từ các lãnh đạo OpenAI, Google DeepMind và Microsoft.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»
Emad Mostaque@EMostaqueA lot of alignment issues would be sorted if companies had to be 100% transparent on datasets used f…
DịchCựu CEO Stability AI cho rằng việc công khai 100% dữ liệu huấn luyện sẽ giúp giải quyết các vấn đề căn chỉnh. Ông đề xuất cấm dữ liệu tấn công mạng hoặc sinh học trong mô hình nền tảng, đồng thời yêu cầu giám sát chặt chẽ khi tinh chỉnh mô hình bằng các dữ liệu nhạy cảm này.
Kim@kimmonismusI never would have thought that I would find myself on the same side of the barricade as Yann Lecun.
DịchKim bày tỏ sự ngạc nhiên khi đồng quan điểm với Yann LeCun trong việc chỉ trích những lo ngại thái quá về an toàn AI, đặc biệt là khi nhắc lại việc Dario Amodei từng cho rằng GPT-2 quá nguy hiểm để công khai vào năm 2019.
Mira Murati@miramuratiWe're building machine intelligence to expand human will & judgement. Glad to have you on the te…
DịchChowdhury Neil chính thức gia nhập Thinking Machines với mục tiêu xây dựng các hệ thống AI an toàn, nơi quyền kiểm soát được chia sẻ rộng rãi thay vì tập trung vào một nhóm nhỏ.
Microsoft vừa công bố bộ quy tắc đạo đức AI mới, thiết lập các rào cản nghiêm ngặt nhằm ngăn chặn mô hình thực hiện tấn công mạng, tạo nội dung giả mạo hoặc tự ý vượt quyền kiểm soát của con người trong bối cảnh siêu trí tuệ đang dần hình thành.
Cùng sự kiện, bài đại diện «Microsoft ban hành bộ quy tắc ứng xử cho trí tuệ nhân tạo»Microsoft AI thiết lập bộ quy tắc mới cho mô hình MAI, nhấn mạnh quyền kiểm soát tuyệt đối của con người, yêu cầu tính minh bạch trong suy luận và khẳng định AI không có quyền lợi hay tư duy độc lập.
Cùng sự kiện, bài đại diện «Microsoft AI công bố dự thảo quy tắc ứng xử cho mô hình MAI: Đặt con người làm trọng tâm»CEO Dario Amodei cảnh báo rằng với tốc độ hiện tại, các AI Agent có thể tự nâng cấp và gây ra rủi ro an ninh mạng toàn cầu trị giá hàng trăm tỷ USD chỉ trong vòng một năm tới.
Thêm 1 nguồn khác đưa tinCafeF Kinh tế sốMicrosoft vừa ban hành bộ quy tắc đạo đức AI nhấn mạnh con người luôn quan trọng hơn máy móc, yêu cầu AI phải nằm dưới sự kiểm soát của con người và ngăn chặn việc tạo ra các mô hình có khả năng gây nghiện hoặc giả mạo ý thức.