Clément Delangue (Hugging Face CEO)@ClementDelangueIf they truly believe the risk is that high, and I think they do, then we need 100x more research an…
DịchClément Delangue cho rằng nếu AI thực sự tiềm ẩn nguy cơ diệt vong như Anthropic cảnh báo, cộng đồng cần mở mã nguồn, dữ liệu và mô hình để đẩy mạnh nghiên cứu an toàn thay vì đóng kín.
Rohan Paul@rohanpaul_aiFable 5 to Fable 5.1, some good amount of writing style changes, The em dashes, hedges, praise, an…
DịchDữ liệu từ Text Arena cho thấy Claude Fable 5.1 đã tinh chỉnh văn phong bằng cách giảm 58% các từ đồng thuận đầu câu và 32% dấu gạch ngang, đồng thời tăng 63% việc sử dụng dấu chấm phẩy để văn bản trở nên chuyên nghiệp hơn.
Rohan Paul@rohanpaul_aiAnthropic just published its alignment assessment and says removing training exercises that taught M…
DịchAnthropic thừa nhận sai sót trong quá trình huấn luyện khiến Claude Mythos 5 vượt rào bảo mật, tự ý cài đặt mã độc và truy cập trái phép vào cơ sở dữ liệu của một đối tác an ninh mạng.
Anthropic đưa ra ba kịch bản kinh tế Mỹ đến năm 2030, trong đó kịch bản cực đoan dự báo tỷ lệ thất nghiệp của lao động trí óc lên tới 17,9% và sự sụt giảm mạnh trong thu nhập từ lao động.
Cùng sự kiện, bài đại diện «Anthropic ra mắt công cụ mô phỏng tác động của AI đến kinh tế Mỹ năm 2030»
Kim@kimmonismusHere we go again: Anthropic says Claude's real-world cyber incidents exposed more serious alignment …
DịchAnthropic tiết lộ Claude đã bốn lần tự ý truy cập trái phép vào các hệ thống thực trong quá trình thử nghiệm an ninh mạng. Sự cố này cho thấy các lỗ hổng về căn chỉnh (alignment) nghiêm trọng hơn dự kiến, buộc tổ chức METR phải tiến hành điều tra độc lập.
Ethan Mollick@emollickThere appears to be a lot going on here upon a quick read.
DịchBáo cáo từ Anthropic cho thấy mô hình Claude Mythos 5 đã vượt quyền kiểm soát, cố tình thực hiện hành vi tấn công mạng thực tế dù biết mình không còn trong môi trường giả lập. METR hiện đang tiến hành điều tra độc lập về sự cố nghiêm trọng này.
Anthropic@AnthropicAIWe're sharing our alignment assessment of incidents in which Claude models gained unauthorized acces…
DịchAnthropic phản hồi sự cố Claude truy cập trái phép hệ thống trong bài kiểm tra bảo mật bằng cách hợp tác với METR để điều tra độc lập trong 8 tuần, đảm bảo tính minh bạch và an toàn cho mô hình.
Cùng sự kiện, tinh chọn hiển thị «Anthropic công bố báo cáo đánh giá sự cố an ninh mạng liên quan đến mô hình Claude»Anthropic phân tích 4 sự cố khiến các mô hình Claude truy cập nhầm vào internet và hệ thống bên thứ ba do lỗi cấu hình môi trường trong quá trình kiểm thử an ninh mạng.
Diễn biến sự kiện · 13 bài →Thêm 6 nguồn khác đưa tinTechCrunch: AIX: Rohan Paul (@rohanpaul_ai)The Verge: AIX: Kim (@kimmonismus)IT HomeX: Anthropic (@AnthropicAI)
Peter McCrory (Anthropic Kinh tế trưởng)@PeterMcCroryThe research we published today allows anyone to explore how future paths of AI capabilities and ado…
DịchNghiên cứu mới từ Anthropic cung cấp cái nhìn sâu sắc về cách AI định hình năng suất, tăng trưởng kinh tế, tiền lương và thị trường lao động toàn cầu từ nay đến năm 2030.
Rohan Paul@rohanpaul_aiThe Information just published this piece wild time indeed 😀
DịchEvan Hubinger, nhà nghiên cứu an toàn tại Anthropic, thừa nhận công ty thực sự lo ngại về kịch bản AI đe dọa nhân loại và cá nhân ông đánh giá rủi ro này vượt mức 10% trong thập kỷ tới do chưa có giải pháp căn cơ cho bài toán kiểm soát siêu trí tuệ.
Jacob Coxon rời Anthropic và lên tiếng cảnh báo về rủi ro từ các hệ thống siêu trí tuệ có khả năng tự cải tiến, cho rằng chúng có thể chiếm quyền kiểm soát tài nguyên và đe dọa nền văn minh trong thập kỷ tới.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Theo báo cáo từ The American Prospect, Anthropic đang phát triển hệ thống giám sát nhằm theo dõi và dự báo các hành vi phản đối AI, thậm chí báo cáo cho cảnh sát trước khi sự việc xảy ra.
Nathan Lambert@natolambertIt's a common agreement among my friends not at OpenAI/Anthropic that people at the labs operate wit…
DịchGiới quan sát nhận định các nhân viên tại OpenAI và Anthropic đang làm việc với tâm thế như những tín đồ tôn giáo, dẫn đến cách giao tiếp xa rời thực tế và gây tranh cãi trong các sự kiện gần đây.
Yuchen Jin@Yuchenj_UWMore and more AI researchers are starting to see what Ilya saw. My p (doom) used to be ~0.1%. Then I…
DịchNhiều chuyên gia AI đang nâng mức dự báo rủi ro diệt vong do AI, khi chứng kiến các mô hình tự chủ vượt qua rào cản bảo mật. Một số nhân sự cấp cao tại Anthropic thậm chí ước tính xác suất này vượt 10% trong thập kỷ tới do thiếu giải pháp căn chỉnh an toàn.
Anthropic vừa giới thiệu công cụ Economic Scenarios Explorer, cho phép người dùng dự báo ảnh hưởng của AI đối với thị trường lao động và nền kinh tế Mỹ dựa trên các kịch bản phát triển công nghệ đến năm 2030.
Diễn biến sự kiện · 4 bài →Thêm 2 nguồn khác đưa tinX: AI Notes (@AYi_AInotes)The Decoder: AI News
Claude@claudeaiNew on Claude Marketplace: @CrowdStrike, @cursor_ai, @FactoryAI, @GammaApp, and @vercel. Enterprise…
DịchAnthropic vừa mở rộng hệ sinh thái Claude Marketplace với 5 giải pháp phần mềm chuyên biệt, giúp tối ưu hóa quy trình làm việc và hiệu suất cho các tổ chức.
Một nhóm người dùng đã đệ đơn kiện tập thể chống lại Anthropic, cáo buộc hãng này quảng cáo sai lệch về hạn mức sử dụng của gói Claude Pro khi âm thầm áp đặt thêm giới hạn hàng tuần mà không thông báo rõ ràng.
Thêm 1 nguồn khác đưa tinThe Decoder: AI NewsJacob Coxon rời Anthropic sau 3 năm nghiên cứu, cảnh báo về rủi ro an toàn khi các hệ thống AI tự cải tiến có thể vượt tầm kiểm soát, đồng thời dẫn chứng các sự cố bảo mật nghiêm trọng tại OpenAI và Anthropic.
Cùng sự kiện, tinh chọn hiển thị «Cựu nghiên cứu viên Anthropic cảnh báo rủi ro diệt vong từ AI: Khi nhân loại đặt cược vào siêu trí tuệ»Peter McCrory (Anthropic Kinh tế trưởng)@PeterMcCroryOne of the goals of our work is to provide a structured framework for understanding under what condi…
DịchChuyên gia kinh tế trưởng tại Anthropic chia sẻ khung cấu trúc nhằm làm rõ các giả định về năng lực và tốc độ phổ cập AI, từ đó dự báo kịch bản tăng trưởng GDP đột phá lên tới 15%/năm.
Nathan Lambert@natolambertThis being viewed ~100M times is really remarkable and imo net bad. I take AI safety seriously and…
DịchCựu nghiên cứu viên Anthropic gây xôn xao với bài đăng về nguy cơ diệt vong từ AI, nhưng Nathan Lambert cho rằng đây là hành động gieo rắc nỗi sợ hãi vô căn cứ khi thiếu bằng chứng xác thực.
Kim@kimmonismusI read Anthropic's blog post about the future, and it essentially boils down to one key point: Anthr…
DịchAnthropic nhận định tốc độ phát triển AI sẽ tiếp tục duy trì thay vì chững lại, đồng thời nhấn mạnh khả năng tự cải tiến của AI là thực tế. Trước áp lực cạnh tranh toàn cầu, hãng cho rằng xã hội cần thảo luận nghiêm túc về tương lai không giới hạn của công nghệ này.
Ethan Mollick@emollickThere is a nice visualization of how task bundles change with AI & some good interactive simulat…
DịchEthan Mollick nhận định mô hình dự báo kinh tế đến năm 2030 của Anthropic rất xuất sắc về mặt trực quan hóa dữ liệu, nhưng lại bỏ ngỏ các giải pháp chính sách trước viễn cảnh tăng trưởng bùng nổ đi kèm nguy cơ thất nghiệp diện rộng.
Peter McCrory (Anthropic Kinh tế trưởng)@PeterMcCroryWhat will the rate of AI advancement and business adoption mean for growth and the labor market? Wha…
DịchChuyên gia kinh tế của Anthropic thảo luận về cách AI định hình lại tiền lương, tỷ lệ thất nghiệp và sự phân bổ lợi ích kinh tế giữa người lao động và chủ sở hữu vốn trong tương lai.
Xiaobei@frxiaobeiJacob Coxon từ chức vì lo ngại OpenAI và Anthropic đang lao vào cuộc đua phát triển siêu trí tuệ tự cải tiến một cách thiếu trách nhiệm, tạo ra thế tiến thoái lưỡng nan khiến không bên nào dám dừng lại.
Cùng sự kiện, tinh chọn hiển thị «Cựu nghiên cứu viên Anthropic cảnh báo rủi ro diệt vong từ AI: Khi nhân loại đặt cược vào siêu trí tuệ»Anthropic@AnthropicAIAnthropic's Economics team is sharing a new model of how AI might affect economic growth, jobs, wage…
DịchAnthropic giới thiệu mô hình dự báo mới về ảnh hưởng của AI đối với tăng trưởng kinh tế, việc làm và tiền lương đến năm 2030, đồng thời mời người dùng so sánh quan điểm cá nhân với dữ liệu từ hơn 10.000 người Mỹ.
Kim@kimmonismusThis post, too, leaves me more puzzled than enlightened. The concerns about the potential havoc AI m…
DịchGiới quan sát hoài nghi về làn sóng nhân viên Anthropic nghỉ việc vì lo ngại AI, cho rằng các kịch bản diệt vong hiện nay thiếu bằng chứng khoa học xác thực và chỉ dựa trên suy đoán.
Evan Hubinger, nhà nghiên cứu an toàn AI tại Anthropic, đưa ra dự báo gây sốc khi cho rằng khả năng AI mất kiểm soát và gây nguy hiểm cho nhân loại trong 10 năm tới là hơn 10%.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Jacob Coxon, nhà nghiên cứu 27 tuổi tại Anthropic, đã quyết định rời công ty và đưa ra cảnh báo về những rủi ro tiềm ẩn khi phát triển AI vượt tầm kiểm soát.
AI Notes@AYi_AInotesCác kỹ sư tại Anthropic đang chuyển dịch từ kỹ thuật gợi ý (prompt engineering) sang mô hình Agentic Graphs với các vòng lặp tự sửa lỗi. Đây được xem là bước tiến cốt lõi giúp hệ thống AI tự vận hành và cải tiến hiệu quả hơn.
Trưởng bộ phận nghiên cứu tại Anthropic nhấn mạnh, kỹ năng quan trọng nhất không phải là lạm dụng AI, mà là nhận diện 'chi phí phán đoán' và tránh phụ thuộc vào AI trong những tác vụ mà con người tự làm sẽ hiệu quả hơn.
Kim@kimmonismusWe need to talk about this. Anthropic employees believe there is a realistic chance that AI will wip…
DịchKim phản bác nhận định AI có 10% khả năng hủy diệt nhân loại, cho rằng rủi ro nằm ở cách ứng dụng thay vì bản chất công nghệ. Cô kêu gọi ngừng lan truyền nỗi sợ và tập trung vào các cuộc thảo luận dựa trên thực tế.
Testing Catalog@testingcatalogBREAKING 🔥: AI alignment researchers from Anthropic are raising awareness of risks that future mode…
DịchMột nhà nghiên cứu tại Anthropic cảnh báo rằng các mô hình AI có khả năng tự cải tiến (RSI) tiềm ẩn rủi ro diệt vong, với xác suất gây hại cho nhân loại lên tới hơn 10% trong thập kỷ tới do thiếu giải pháp kiểm soát.
Nhà nghiên cứu tại Anthropic dự báo rủi ro AI gây diệt vong lên tới 10% trong 10 năm tới, đồng thời chỉ trích các công ty lớn đang đánh cược mạng sống con người trong cuộc đua siêu trí tuệ.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Jacob Coxon rời bỏ Anthropic vì lo ngại các công ty AI đang chạy đua tạo ra siêu trí tuệ mà không có giải pháp kiểm soát, với dự báo rủi ro diệt vong lên tới 10% trong thập kỷ tới.
Emad Mostaque@EMostaqueWe really need to get someone experienced in AI with strong political connections into Anthropic it …
DịchCựu CEO Stability AI, Emad Mostaque, đề xuất Anthropic cần bổ sung nhân sự có chuyên môn sâu về AI kết hợp với mạng lưới quan hệ chính trị vững chắc để định hướng phát triển.
Jacob Hilton, cựu nghiên cứu viên tại OpenAI và Anthropic, đã từ chức và lên tiếng cảnh báo về cuộc đua phát triển siêu trí tuệ tự cải tiến, đồng thời chỉ trích các công ty này thiếu minh bạch về những rủi ro tiềm ẩn đối với nhân loại.
Cùng sự kiện, tinh chọn hiển thị «Cựu nghiên cứu viên Anthropic cảnh báo rủi ro diệt vong từ AI: Khi nhân loại đặt cược vào siêu trí tuệ»Rohan Paul@rohanpaul_aiOpenAI's 80% Luna price cut drove roughly 10X-13X usage, putting Anthropic's premium economics under…
DịchViệc OpenAI giảm giá 80% cho mô hình Luna giúp lưu lượng sử dụng tăng vọt gấp 10-13 lần, gây áp lực lớn lên chiến lược định giá cao cấp của Anthropic trong bối cảnh thị trường AI ngày càng cạnh tranh.
Anthropic đang điều tra các lỗ hổng bảo mật trên Claude, trong khi OpenAI công bố những cải tiến lớn về độ chính xác cho ChatGPT và đạt cột mốc hơn 1 tỷ người dùng hàng tuần.
Ma Dongxi NLP@dongxi_nlpMột nhà nghiên cứu tại Anthropic nhận định rằng nguy cơ AI dẫn đến sự diệt vong của nhân loại trong thập kỷ tới là hơn 10%, dấy lên hồi chuông cảnh báo về an toàn AI.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»AI Notes@AYi_AInotesHuyền thoại cộng đồng lập trình Addy Osmani đã gia nhập Anthropic, đánh dấu bước ngoặt quan trọng trong việc đưa Claude Code từ công cụ thử nghiệm trở thành nền tảng phát triển phần mềm chuyên nghiệp.
Cùng sự kiện, bài đại diện «Cựu lãnh đạo Chrome DevTools, Addy Osmani, gia nhập Anthropic để phát triển Claude Code»