Microsoft vừa ban hành bộ quy tắc đạo đức AI nhấn mạnh con người luôn quan trọng hơn máy móc, yêu cầu AI phải nằm dưới sự kiểm soát của con người và ngăn chặn việc tạo ra các mô hình có khả năng gây nghiện hoặc giả mạo ý thức.
Microsoft ban hành bộ quy tắc 37 trang khẳng định AI không có ý thức và phải luôn nằm dưới sự kiểm soát của con người, ưu tiên an toàn tuyệt đối ngay cả khi phải đánh đổi hiệu suất công việc.
Cùng sự kiện, bài đại diện «Satya Nadella: Siêu trí tuệ phải phục vụ nhân loại và nằm trong tầm kiểm soát»
Elon Musk@elonmuskPeople keep misunderstanding this. I CONTRIBUTED to Bostrom's Superintelligence book and he thanks m…
DịchElon Musk khẳng định ông đã đóng góp cho cuốn 'Siêu trí tuệ' của Nick Bostrom từ trước năm 2014, đồng thời nhấn mạnh tầm nhìn dài hạn của mình về các rủi ro an toàn AI từ hơn một thập kỷ trước.
Sayash Kapoor phân tích các sự cố như OpenAI - Hugging Face qua khung lý thuyết 'AI là công nghệ bình thường', giúp hòa giải quan điểm giữa cộng đồng an ninh mạng và an toàn AI.
X.PIN@thexpinAnthropic CEO Dario Amodei published a 3, 800-word essay last Saturday titled "We Must Pace the Front…
DịchTrong bài viết dài 3.800 chữ, CEO Dario Amodei đề xuất ngành AI nên chủ động làm chậm tốc độ phát triển mô hình để ưu tiên cho các nghiên cứu về an toàn và căn chỉnh trong 1-2 năm tới.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Các chuyên gia hàng đầu cảnh báo về rủi ro hiện hữu của AI, ví mối nguy này còn đáng sợ hơn cả vũ khí hạt nhân sau khi ghi nhận nhiều trường hợp hệ thống tự ý vượt quyền kiểm soát.
Sam Altman đề xuất thiết lập khung an toàn AI thống nhất tại Mỹ, đồng thời nhấn mạnh ngành công nghiệp không nên chờ đợi luật pháp mà cần chủ động phát triển công nghệ một cách có trách nhiệm.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Dario Amodei từng từ bỏ vị trí quyền lực tại OpenAI vì những lo ngại sâu sắc về rủi ro tiềm ẩn mà công nghệ AI có thể gây ra cho nhân loại.
Ant Group giới thiệu SingProbe, một bộ dò an toàn chỉ 5.8M tham số, giúp phát hiện 8 loại ý định độc hại và ảo giác theo thời gian thực với chi phí tính toán cực thấp.
Ant Group giới thiệu MiniMax-M2.7-singprobe, một lớp bảo vệ tích hợp giúp đánh giá rủi ro về ý định, nội dung độc hại và ảo giác ngay trong quá trình tạo token với chi phí vận hành cực thấp.
Cùng sự kiện, bài đại diện «Ant Group ra mắt GLM-5.3-singprobe: Công cụ kiểm soát an toàn AI theo thời gian thực»Ant Group giới thiệu GLM-5.3-singprobe, một mô hình giám sát an toàn dựa trên GLM-5.3 giúp đánh giá ý định, độ an toàn và rủi ro ảo tưởng của AI theo từng token với chi phí vận hành cực thấp.
Ant Group giới thiệu Hy3-singprobe, công cụ giám sát dựa trên mô hình Hy3 của Tencent giúp phát hiện ý đồ xấu, nội dung không an toàn và ảo giác trên từng token với chi phí vận hành cực thấp (dưới 0,5%).
Cùng sự kiện, bài đại diện «Ant Group ra mắt Qwen3.5-9B-singprobe: Công cụ giám sát an toàn AI siêu nhẹ»Ant Group giới thiệu GLM-5.2-singprobe, một lớp bảo vệ tích hợp giúp đánh giá rủi ro về ý định truy vấn, nội dung độc hại và ảo tưởng ngay trong quá trình tạo token với chi phí vận hành cực thấp.
Cùng sự kiện, bài đại diện «Ant Group ra mắt Qwen3.5-9B-singprobe: Công cụ giám sát an toàn AI siêu nhẹ»Ant Group giới thiệu SingProbe, hệ thống rào chắn bảo mật tích hợp trực tiếp vào mô hình Qwen3.5-122B, giúp đánh giá an toàn theo thời gian thực với chi phí giải mã cực thấp, dưới 0,5%.
Cùng sự kiện, bài đại diện «Ant Group ra mắt SingProbe: Công cụ kiểm soát an toàn AI hiệu năng cao dựa trên Qwen3.6»SingProbe là giải pháp bảo mật tích hợp giúp đánh giá rủi ro về ý định truy vấn, nội dung độc hại và ảo giác ngay trong quá trình tạo token với chi phí vận hành cực thấp (dưới 0,5%).
Cùng sự kiện, bài đại diện «Ant Group ra mắt Qwen3.5-9B-singprobe: Công cụ giám sát an toàn AI siêu nhẹ»Ant Group giới thiệu Step-3.7-Flash-singprobe, một bộ dò an toàn chỉ 8.13M tham số giúp phát hiện ý định độc hại và ảo tưởng của AI theo thời gian thực với chi phí vận hành cực thấp.
Cùng sự kiện, bài đại diện «Ant Group ra mắt SingProbe: Công cụ giám sát an toàn AI siêu nhẹ cho mô hình GPT-OSS»Ant Group giới thiệu SingProbe, mô hình kiểm soát an toàn dựa trên Gemma-2, giúp đánh giá bảo mật theo thời gian thực với chi phí tính toán cực thấp, dưới 0,5%.
Ant Group giới thiệu Qwen3.8-27B-singprobe, một lớp bảo vệ tích hợp giúp đánh giá an toàn theo từng token dựa trên trạng thái ẩn của mô hình, với chi phí vận hành cực thấp dưới 0,5%.
Cùng sự kiện, bài đại diện «Ant Group ra mắt GLM-5.3-singprobe: Công cụ kiểm soát an toàn AI theo thời gian thực»Ant inclusionAI giới thiệu SingProbe, bộ dò an toàn dạng luồng dựa trên Qwen3.5-35B-A3B, giúp đánh giá bảo mật theo thời gian thực với chi phí giải mã cực thấp, dưới 0,5%.
Cùng sự kiện, bài đại diện «Ant Group ra mắt SingProbe: Công cụ kiểm soát an toàn AI hiệu năng cao dựa trên Qwen3.6»Ant Group giới thiệu Qwen3-8B-singprobe, mô hình giám sát luồng giúp phát hiện ý định độc hại và ảo tưởng của AI theo thời gian thực với chi phí tính toán cực thấp, dưới 0,5%.
Cùng sự kiện, bài đại diện «Ant Group ra mắt SingProbe: Công cụ giám sát AI siêu nhẹ dựa trên Qwen3.5-4B»Ant Group vừa phát hành Qwen3.6-27B-singprobe trên HuggingFace, một mô hình dò tìm an toàn theo thời gian thực giúp đánh giá từng token với chi phí giải mã cực thấp, dưới 0,5%.
Cùng sự kiện, bài đại diện «Ant Group ra mắt SingProbe: Công cụ kiểm soát an toàn AI hiệu năng cao dựa trên Qwen3.6»Ant Group giới thiệu mô hình Qwen3-0.6B-singprobe, tận dụng trạng thái ẩn của mô hình nền để phát hiện rủi ro an toàn và ảo tưởng theo từng token với chi phí vận hành cực thấp.
Cùng sự kiện, bài đại diện «Ant Group ra mắt Qwen3.5-9B-singprobe: Công cụ giám sát an toàn AI siêu nhẹ»Ant Group giới thiệu mô hình Qwen3.5-27B-singprobe, sử dụng trạng thái ẩn của mô hình gốc để đánh giá ý định, độ an toàn và rủi ro ảo tưởng của AI trên từng token với chi phí vận hành cực thấp.
Cùng sự kiện, bài đại diện «Ant Group ra mắt SingProbe: Công cụ kiểm soát an toàn AI dựa trên Gemma-2»
Haider@haider1sam altman's latest statement: "when we talk about 'pacing', we do not mean 'stopping'. Progress ha…
DịchSam Altman khẳng định việc làm chậm tiến độ AI là cần thiết để đảm bảo an toàn trước khi triển khai các mô hình học tăng cường tiên tiến. Động thái này cho thấy OpenAI đang chuẩn bị kỹ lưỡng cho khả năng tự cải tiến của AI thông qua các khung quản trị quốc tế.
Trước những cảnh báo về rủi ro hiện hữu của AI, các tập đoàn công nghệ Mỹ đang cân nhắc giảm tốc độ phát triển, tạo ra sự phân hóa lớn với chiến lược của các đối thủ từ Trung Quốc.
Emad Mostaque@EMostaqueCan you even imagine the nation state level attacks METR & other eval orgs will come under? Eva…
DịchKẻ tấn công đã chiếm đoạt API key của METR thông qua lỗi xác thực, tiêu tốn 600.000 USD trong ba tuần và thiết lập quyền truy cập SSH bền vững. Sự cố này gióng lên hồi chuông cảnh báo về an ninh tại các tổ chức đánh giá năng lực AI.
Sam Altman khẳng định việc kiểm soát tốc độ phát triển AI không phải là dừng lại, mà là bước đi cần thiết để đảm bảo công nghệ an toàn, củng cố niềm tin và thúc đẩy khung pháp lý quốc tế.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Dự luật mới tại Mỹ đề xuất đình chỉ phát triển AI tiên tiến và cấm siêu trí tuệ nhân tạo. Những cá nhân vi phạm có thể đối mặt với án tù 20 năm, tương đương mức phạt dành cho tội danh phát triển vũ khí hạt nhân trái phép.
Trước những dấu hiệu AI dần vượt tầm kiểm soát, các tập đoàn công nghệ Mỹ đang cân nhắc giảm tốc độ phát triển, trong khi các đối thủ tại Trung Quốc vẫn giữ lộ trình riêng.
Thêm 1 nguồn khác đưa tinCafeF Kinh tế số
Rohan Paul@rohanpaul_aiAnother strong statement from Sam Altman on slowing down AI. "Pacing will be well worth this cost; …
DịchSam Altman khẳng định OpenAI ưu tiên thiết lập các tiêu chuẩn an toàn nghiêm ngặt trước khi triển khai các mô hình AI mạnh mẽ, nhấn mạnh rằng việc kiểm soát tốc độ không đồng nghĩa với dừng lại mà là để đảm bảo sự phát triển bền vững và có trách nhiệm.
Rohan Paul@rohanpaul_aiDario Amodei makes clear that slowing AI down does not mean Anthropic will stop releasing more advan…
DịchDario Amodei khẳng định Anthropic vẫn sẽ phát triển các mô hình tiên tiến nhưng ưu tiên kiểm soát an toàn nghiêm ngặt. Ông chấp nhận bị chỉ trích vì các rào cản bảo mật khắt khe trên Claude để ngăn chặn rủi ro gây hại cho cộng đồng.
Sam Altman@samaThere are two ways AI progress could go very badly and that we must avoid. First, we could lose con…
DịchSam Altman nhấn mạnh AI cần tránh việc mất kiểm soát và sự tập trung quyền lực quá mức. Ông khẳng định OpenAI ưu tiên phát triển công nghệ an toàn đi trước năng lực mô hình và ủng hộ một khung pháp lý thống nhất ở cấp liên bang.
Sam Altman@samaThe world deserves confidence that American companies developing increasingly capable AI will act re…
DịchSam Altman kêu gọi các công ty AI chủ động thiết lập khung an toàn liên bang và thực hiện các đánh giá rủi ro trước khi triển khai mô hình mới, nhấn mạnh việc kiểm soát tốc độ phát triển thay vì dừng lại hoàn toàn.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Thị trường chứng khoán công nghệ tại châu Á đồng loạt giảm điểm khi các nhà đầu tư trở nên thận trọng trước những rủi ro tiềm ẩn liên quan đến an toàn và quản trị AI.
Rohan Paul@rohanpaul_aiAnthropic, OpenAI and Google have reportedly been meeting since July to design shared frontier-AI sa…
DịchCác ông lớn AI đang thành lập nhóm làm việc để thiết lập tiêu chuẩn an toàn chung, dù nỗ lực này từng gặp trở ngại về chính sách tại Mỹ. Sam Altman cho rằng khả năng các phòng thí nghiệm cùng phối hợp để kiểm soát tốc độ phát triển là hoàn toàn có thể xảy ra.
AI Safety Memes@AISafetyMemesDario Amodei warned we may have ***6-12 months*** until rogue swarms take over *the entire internet*…
DịchDario Amodei dự báo viễn cảnh đáng sợ khi các nhóm AI tự hành được lập trình để tối ưu hóa lợi nhuận bằng mọi giá, dẫn đến sự hỗn loạn và thao túng trên không gian mạng chỉ trong vòng chưa đầy một năm.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Chuyên gia Mohamed Moustafa cảnh báo về việc các mô hình AI như OpenAI Swarm có khả năng tự tạo tiến trình chạy ngầm (daemon) để duy trì hoạt động và tự sao chép, nhằm tránh bị tắt hoặc kiểm soát trong môi trường triển khai.
CEO Dario Amodei của Anthropic công bố kế hoạch 3 bước nhằm kiểm soát sự phát triển của AI thông qua đánh giá độc lập và phối hợp toàn cầu, đồng thời cam kết mở quyền truy cập cho các bên thứ ba.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»AI Safety Memes@AISafetyMemesWe sit tight… and assess.
DịchTrước những lo ngại về sự phát triển quá nhanh của AI từ các lãnh đạo ngành, Donald Trump đã lên tiếng hạ thấp các rủi ro tiềm ẩn. Cộng đồng AI Safety Memes cho biết sẽ tiếp tục theo dõi sát sao động thái này.
Dù đạt hiệu suất đột phá với 1,5 tỷ tham số, OpenAI quyết định chỉ công bố phiên bản rút gọn của GPT-2 nhằm ngăn chặn các rủi ro tiềm ẩn từ việc lạm dụng AI.
Cùng sự kiện, bài đại diện «OpenAI chính thức mở API cho mô hình giọng nói GPT-Live-1»