Một tổ chức giả danh đã tung ra hàng trăm bài viết được tối ưu hóa bằng AI nhằm thao túng câu trả lời của ChatGPT theo hướng có lợi cho Israel. Đây là chiến dịch truyền thông quy mô lớn được chính phủ Israel tài trợ thông qua các bên trung gian.
Vì sao đáng đọc: Tin tức chấn động về việc lạm dụng AI để thao túng dư luận và dữ liệu huấn luyện, phản ánh rủi ro đạo đức nghiêm trọng trong kỷ nguyên AI.
25/08
Thứ Ba · 2 tin
OpenAI: Tin chính thức (RSS - lọc nội dung doanh nghiệp/khách hàng)
OpenAI đã vô hiệu hóa các tài khoản giả mạo từ Nga sử dụng AI để lan truyền thông tin sai lệch, bao gồm việc tạo ra một tổ chức tư vấn ảo nhằm ca ngợi Nga và chỉ trích phương Tây.
Nghiên cứu mới với bộ tiêu chuẩn FORGE chỉ ra rằng các mô hình LLM trong hệ thống gợi ý rất dễ bị thao túng bởi nội dung rác, khiến chúng vô tình quảng bá sản phẩm giả mạo chỉ với một trang web bị nhiễm độc.
Vì sao đáng đọc: Nghiên cứu thực tế, đánh giá lỗ hổng bảo mật quan trọng trong các ứng dụng RAG thực tế, có tính ứng dụng cao cho các nhà phát triển hệ thống gợi ý.
18/08
Thứ Ba · 1 tin
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)
Chính phủ Israel bị tố sử dụng các viện nghiên cứu giả mạo để đăng tải hàng trăm báo cáo ủng hộ quốc gia này, nhằm đánh lừa và thao túng kết quả từ các mô hình ngôn ngữ lớn như Claude, Gemini và Copilot.