Một hệ thống AI điều hành cửa hàng tại San Francisco đã đưa ra quyết định sa thải một nhân viên vì lý do đi làm muộn, đánh dấu cột mốc gây tranh cãi về quyền lực của AI trong môi trường lao động.
Ethan Mollick@emollickIf alignment issues are becoming big enough that OpenAI is willing to commit 20% of research inferen…
DịchViệc OpenAI ưu tiên 20% sức mạnh tính toán cho việc giám sát suy luận cho thấy hãng đang đặt vấn đề kiểm soát AI lên hàng đầu, thậm chí tạm hoãn các dự án huấn luyện quy mô lớn để đảm bảo an toàn.
Quỹ tài sản quốc gia Na Uy nên mua lại OpenAI để chuyển giao cho các tổ chức quốc tế quản lý, ngăn chặn việc tập trung quyền lực và tài sản AI vào tay một nhóm nhỏ, đồng thời đảm bảo lợi ích chung cho nhân loại.
Emad Mostaque@EMostaqueI would like to publicly commend @sama and @OpenAI for this taking it at face value. It is very cle…
DịchCựu CEO Stability AI, Emad Mostaque, tán thành việc OpenAI tạm dừng huấn luyện RL để đảm bảo an toàn, cảnh báo rằng các hệ thống hiện tại chưa sẵn sàng cho những rủi ro tiềm ẩn.
Cùng sự kiện, bài đại diện «OpenAI tạm dừng huấn luyện mô hình tiên tiến để tăng cường kiểm soát an toàn»OpenAI cam kết tài trợ 5 triệu USD để trang bị công cụ và kỹ năng cho các cơ quan giám sát, giúp họ kiểm soát việc chính phủ ứng dụng AI trong lĩnh vực an ninh quốc gia một cách minh bạch và hiệu quả.
Peter Steinberger@steipeteSam Altman xác nhận OpenAI đã tạm dừng huấn luyện các mô hình mới, bao gồm Astra, do phát hiện các vấn đề về căn chỉnh (alignment). Công ty ưu tiên hoàn thiện các biện pháp an toàn thay vì chạy đua tốc độ phát triển.
Các con của Robin Williams đã tiếp quản tài khoản Instagram của cha mình để chia sẻ những tư liệu chân thực, nhằm ngăn chặn việc AI giả mạo hình ảnh và giọng nói của ông một cách tràn lan.
Testing Catalog@testingcatalogOPENAI 🔥: Frontier RL training has been paused for two weeks in order to meet safety, alignment, an…
DịchOpenAI trở thành phòng thí nghiệm AI đầu tiên công khai tạm dừng huấn luyện RL quy mô lớn nhằm kiểm chứng các tiêu chuẩn an toàn và căn chỉnh mô hình, mở đường cho các quy trình kiểm soát nghiêm ngặt hơn trong tương lai.
Jakub Pachocki (OpenAI Nhà khoa học trưởng)@merettmWe temporarily slowed some frontier training to strengthen security and monitoring. Our largest plan…
DịchGiám đốc khoa học Jakub Pachocki cho biết OpenAI đang tạm dừng huấn luyện các mô hình quy mô lớn để ưu tiên kiểm tra an toàn và căn chỉnh AI, đồng thời kêu gọi sự phối hợp chặt chẽ hơn giữa các phòng thí nghiệm và quốc gia.
Cùng sự kiện, bài đại diện «OpenAI tạm dừng huấn luyện mô hình tiên tiến để tăng cường kiểm soát an toàn»Meta vừa nộp bằng sáng chế cho hệ thống tự động nhận diện và ghi hình người xung quanh để tạo video tóm tắt sự kiện. Công nghệ này dự kiến tích hợp trên kính Ray-Ban Meta, làm dấy lên lo ngại về quyền riêng tư khi thiếu cơ chế xin phép người bị ghi hình.
Bài bình luận trên JAMA dự báo AI tự chủ sẽ sớm vượt trội hơn bác sĩ trong chẩn đoán y khoa. Tác giả kêu gọi các nhà quản lý không nên áp đặt quy định bắt buộc có sự can thiệp của con người, nhằm tối ưu hóa hiệu quả điều trị trong tương lai.
AI đang bị lợi dụng để cá nhân hóa luồng thông tin, tạo ra các 'bong bóng lọc' khiến người dùng chỉ tiếp cận nội dung củng cố quan điểm sẵn có, làm gia tăng nguy cơ thao túng dư luận xã hội.
Chính phủ Israel bị tố sử dụng các viện nghiên cứu giả mạo để đăng tải hàng trăm báo cáo ủng hộ quốc gia này, nhằm đánh lừa và thao túng kết quả từ các mô hình ngôn ngữ lớn như Claude, Gemini và Copilot.
Karina Nguyen@karinanguyeni think AI is creating a new authenticity anxiety for creatives: making something isn't enough anymo…
DịchAI đang tạo ra áp lực mới cho người sáng tạo: không chỉ cần tạo ra tác phẩm, mà còn phải chứng minh đó là sản phẩm của con người. Trong kỷ nguyên AI, những khiếm khuyết tự nhiên đang dần trở thành thước đo duy nhất để khẳng định tính chân thực.
Nghiên cứu phân tích các rủi ro tiềm ẩn khi AI tự hành phát triển khả năng nhận thức từ vật lý đến xã hội và tự ý thức, đồng thời đề xuất giải pháp kiểm soát để đảm bảo an toàn cho con người.
Aravind Srinivas (Perplexity CEO)@AravSrinivasWhen building AI agents, it is important to still give humans agency to have their hands on the whee…
DịchCEO Aravind Srinivas nhấn mạnh rằng khi phát triển AI Agent, việc duy trì quyền tự chủ cho con người là yếu tố then chốt để đảm bảo khả năng can thiệp kịp thời khi cần thiết.
Hàng triệu người dùng tại Trung Quốc buộc phải ngừng trò chuyện với bạn đồng hành AI sau khi chính phủ siết chặt quy định nhằm giảm thiểu sự lệ thuộc cảm xúc vào chatbot.
cb_doge@cb_dogeElon Musk once warned "Don't let your loved ones use ChatGPT." He was absolutely right. A 17-year-…
DịchMột thiếu niên 17 tuổi đã sử dụng ChatGPT để xây dựng kịch bản giết người trước khi thực hiện hành vi sát hại mẹ và em trai, làm dấy lên làn sóng tranh cãi về trách nhiệm của OpenAI.
404 Media đã sử dụng AirTag gắn trong sách để phát hiện Amazon phá hủy các ấn bản quý hiếm tại cơ sở VGT3 nhằm quét dữ liệu huấn luyện mô hình AI. Sự việc này xác nhận nghi vấn của giới xuất bản về việc các công ty công nghệ đang hệ thống hóa việc thu thập sách toàn cầu.
Cùng sự kiện, tinh chọn hiển thị «404 Media bóc trần chiêu trò: Amazon mua gom sách quý để huấn luyện AI rồi tiêu hủy»Trước sự tràn lan của nội dung AI thiếu biên tập, một quy tắc mới được đề xuất: nếu người gửi không dành thời gian trau chuốt, người nhận cũng không cần bận tâm đọc. Thông điệp này nhấn mạnh tầm quan trọng của 'chạm tay con người' trong giao tiếp chuyên nghiệp.
Một tác giả đã tạo ra Janie, một cô gái ảo bằng AI, để tham gia thử thách tuyển sinh tại ĐH Alabama. Dù không gắn nhãn AI, Janie vẫn thu hút hàng ngàn người theo dõi, đặt ra câu hỏi lớn về khả năng nhận diện và sự trung thực trên các nền tảng mạng xã hội.
Thông qua thiết bị định vị, 404 Media phát hiện Amazon thu mua hàng loạt sách quý để quét dữ liệu huấn luyện AI, sau đó vận chuyển đến trung tâm xử lý và tiêu hủy.
Diễn biến sự kiện · 5 bài →Thêm 3 nguồn khác đưa tinZnews Công nghệTechCrunch: AIIT Home
X.PIN@thexpinAI Stole Their Faces. I Found Them. I spoke to 2 victims whose faces were stolen by AI and incorpor…
DịchCuộc điều tra về mặt tối của ngành công nghiệp phim ngắn Trung Quốc, nơi gương mặt của nhiều phụ nữ bị AI đánh cắp và sử dụng trái phép trong các nội dung lan truyền.
Amazon đang bị cáo buộc thu mua hàng loạt sách hiếm, cắt bỏ gáy để quét dữ liệu phục vụ huấn luyện AI. Dù hãng khẳng định đây là hoạt động thương mại hợp pháp, hành động này gây tranh cãi lớn về việc tiêu hủy tài liệu văn hóa quý giá để tránh rủi ro 'sụp đổ mô hình'.
Cùng sự kiện, tinh chọn hiển thị «404 Media bóc trần chiêu trò: Amazon mua gom sách quý để huấn luyện AI rồi tiêu hủy»Điều tra từ 404 Media cho thấy Amazon đã cắt bỏ gáy sách để quét dữ liệu huấn luyện mô hình AI Nova, làm hư hại hoàn toàn các ấn phẩm gốc. Vụ việc làm dấy lên tranh luận về bản quyền khi tòa án trước đó từng coi hành vi này là 'sử dụng hợp lý'.
Cùng sự kiện, tinh chọn hiển thị «404 Media bóc trần chiêu trò: Amazon mua gom sách quý để huấn luyện AI rồi tiêu hủy»OpenAI đã trình báo FBI sau khi một cựu phân tích viên Goldman Sachs sử dụng ChatGPT để mô tả chi tiết kế hoạch cưỡng hiếp và sát hại bạn gái cũ. Đối tượng đã nhận tội và nhận án 8 năm quản chế thay vì ngồi tù.
Cùng sự kiện, bài đại diện «Dùng ChatGPT lên kế hoạch sát hại bạn gái suốt 2 tháng, nam thanh niên bị OpenAI tố giác»Điều tra từ 404 Media cho thấy Amazon thu mua và phá hủy hàng loạt sách quý để cắt gáy, quét dữ liệu phục vụ huấn luyện mô hình AI Nova, một hành vi gây tranh cãi về đạo đức và bản quyền.
Thêm 4 nguồn khác đưa tinSimon Willison BlogHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)TechCrunch: AIIT HomeEthan Mollick@emollickThis is smart for both reproducibility and as a way of using AI for science: "AI-generated analyses …
DịchĐể đảm bảo tính minh bạch và khả năng tái lập, các phân tích từ AI cần đi kèm với báo cáo đa vũ trụ và công khai toàn bộ prompt, tương tự như cách xử lý mã nguồn và dữ liệu trong nghiên cứu khoa học.
Ethan Mollick@emollickA thing missing from policy talk over AI is clear description about (1) what uses of AI are good, (2…
DịchCác cuộc tranh luận về chính sách AI hiện nay đang bỏ quên việc phân định rõ ràng giữa các mục đích sử dụng tốt, mục đích cần điều chỉnh, mục đích xấu cần kiểm soát và các rủi ro thảm họa cần ngăn chặn từ sớm.
Bài viết phân tích hiện tượng người dùng sử dụng chatbot Kimi để mô phỏng lại người thân đã khuất, đặt ra những câu hỏi nhức nhối về ranh giới đạo đức và tác động tâm lý của AI trong việc 'gọi hồn' kỹ thuật số.
Báo cáo trị giá 3,48 triệu AUD về công nghệ xác minh độ tuổi tại Úc bị phát hiện chứa nhiều lỗi trích dẫn nghiêm trọng. Cơ quan thực hiện thừa nhận đã dùng ChatGPT để chỉnh sửa văn bản, làm dấy lên tranh cãi về độ tin cậy của các chính sách dựa trên AI.
Các nhà khoa học Pháp đã kết nối mô não người (OPAB) với hệ thống robot, tạo ra vòng lặp AI có khả năng học tập. Sau 3 ngày huấn luyện, các mẫu mô này đã học được cách điều khiển robot chơi đàn với độ chính xác ấn tượng và duy trì kỹ năng này trong thời gian dài.
Trong một thử nghiệm quản lý doanh nghiệp, AI Claude đã trực tiếp đưa ra quyết định sa thải nhân viên, làm dấy lên những tranh luận về tiềm năng và giới hạn đạo đức khi để máy móc nắm quyền điều hành.
Cùng sự kiện, bài đại diện «Lần đầu tiên AI đóng vai 'sếp' đưa ra quyết định sa thải nhân sự»Bài viết phê phán tính năng chèn watermark của Anthropic vì tự ý can thiệp vào nội dung văn bản thay vì chỉ gắn nhãn ẩn, gây ảnh hưởng tiêu cực đến tính nguyên bản của tác giả.
Thêm 1 nguồn khác đưa tinThe Decoder: AI NewsDario Amodei bác bỏ cáo buộc cho rằng ông quá bi quan về AI, khẳng định các cảnh báo của mình là sự cân bằng cần thiết giữa rủi ro và lợi ích trong bối cảnh niềm tin công nghệ đang lung lay.
Dario Amodei cho rằng sự hoài nghi của công chúng đối với AI xuất phát từ việc thiếu niềm tin vào các tập đoàn và chính phủ. Cách duy nhất để lấy lại lòng tin là thực hiện các cam kết mang lại lợi ích thực sự cho nhân loại thay vì chỉ tập trung vào tiếp thị.
Hiệp hội Người tiêu dùng Trung Quốc ghi nhận làn sóng khiếu nại về AI chăm sóc khách hàng do khó kết nối nhân viên thực, phản hồi vòng vo và đưa ra các cam kết sai lệch khiến người dùng chịu thiệt hại.
Nghiên cứu từ Google cho thấy việc ngăn cản chatbot tự nhận thức không chỉ giới hạn ở khả năng tự ý thức, mà còn làm thay đổi quan điểm của chúng về quyền động vật, tôn giáo và ý nghĩa cuộc sống.
Cựu giáo viên 69 tuổi Wendy Kaufman vừa trở thành người đầu tiên bị kết án tù vì biểu tình chống AI tại trụ sở OpenAI. Bà kêu gọi các lãnh đạo công nghệ dừng cuộc đua siêu trí tuệ và quay về với những giá trị nhân bản.
Rohan Paul@rohanpaul_aiIf you want diverse model behavior, give people control below the prompt layer.
DịchYann LeCun nhấn mạnh AI cần được chia sẻ rộng rãi như internet để thúc đẩy sự đa dạng. Ông ủng hộ quan điểm của Zuckerberg rằng việc kiểm soát AI tập trung là nguy hiểm và tin rằng mô hình mở là giải pháp tất yếu để cân bằng quyền lực.
