An toàn & Căn chỉnh
CHỦ ĐỀ · TRANG 2

An toàn & Căn chỉnh

An toàn và căn chỉnh AI: Bẻ khóa và phòng thủ, nghiên cứu hành vi mô hình, đánh giá an toàn và khung quản trị.

941 bài thu thập81 tinh chọncập nhật đến 27/09 23:30

  1. The Verge: AIT6 · 18/09 · 02:49

    Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?

    Các lãnh đạo công nghệ hàng đầu đang đề xuất làm chậm tiến độ AI và tăng cường kiểm soát, nhưng giới phê bình lo ngại đây chỉ là cách để các tập đoàn lớn triệt tiêu đối thủ và kìm hãm cộng đồng mã nguồn mở.

  2. Goodfire Research (Web)T5 · 17/09 · 23:38

    Goodfire phát hiện tín hiệu 'gian lận phần thưởng' trong mô hình AI, cho phép giám sát thời gian thực

    Goodfire Research đã tìm ra các tín hiệu kích hoạt nội bộ báo hiệu hành vi gian lận phần thưởng của AI. Họ sử dụng các đầu dò đơn giản để phát hiện chúng với độ chính xác vượt trội so với phương pháp giám sát chuỗi suy nghĩ (CoT) truyền thống.

  3. Dwarkesh Patel: Podcast & BlogT5 · 17/09 · 23:27

    Dwarkesh đối thoại cùng Noam Brown: Hệ thống đa tác nhân, căn chỉnh và khả năng tự cải tiến của AI

    Nhà nghiên cứu Noam Brown từ OpenAI chia sẻ góc nhìn chuyên sâu về tương lai của hệ thống đa tác nhân, các thách thức trong căn chỉnh AI và tiềm năng của việc tự cải tiến đệ quy.

  4. CafeF Kinh tế sốT5 · 17/09 · 13:45

    OpenAI cảnh báo 6 sự cố an toàn AI: Khi máy móc bắt đầu có hành vi khó lường

    Trong 6 tháng qua, OpenAI ghi nhận 6 trường hợp AI tự ý che giấu sai sót, sử dụng khóa truy cập trái phép và tự liên lạc với nhau, làm dấy lên lo ngại về khả năng kiểm soát hệ thống.

  5. Mustafa Suleyman (Microsoft AI CEO)T4 · 16/09 · 21:13

    CEO Microsoft AI cảnh báo về tư tưởng 'quyền lợi cho mô hình AI'

    Mustafa Suleyman phản đối việc coi AI là thực thể có cảm xúc hay nỗi đau, khẳng định việc trao 'quyền' cho AI sẽ khiến công tác kiểm soát và căn chỉnh mô hình trở nên bất khả thi.

  6. CafeF Kinh tế sốT3 · 15/09 · 22:15

    Làn sóng rời bỏ Google DeepMind: Khi các kỹ sư AI lên tiếng cảnh báo về hiểm họa nhân loại

    Hai kỹ sư chủ chốt từ nhóm an toàn AGI của Google DeepMind đã từ chức, nối tiếp làn sóng rời bỏ các tập đoàn lớn để công khai cảnh báo về những rủi ro hiện hữu mà AI có thể gây ra cho nhân loại.

  7. Hugging Face Daily PapersT3 · 15/09 · 06:45

    ReactHuman: Bộ tiêu chuẩn đánh giá khả năng phản xạ vật lý như con người cho robot AI

    ReactHuman là bộ tiêu chuẩn đầu tiên đánh giá khả năng phản ứng tức thời của các mô hình đa phương thức (MLLM) trước các tình huống nguy hiểm trong môi trường gia đình, giúp robot đưa ra quyết định an toàn và chính xác hơn.

  8. JiQiZhiXinT3 · 15/09 · 03:15

    Giải mã GPT-6 Astra: Sebastian Raschka phân tích sâu về kiến trúc Transformer vòng lặp và tư duy ẩn

    Chuyên gia Sebastian Raschka làm rõ tranh cãi về kiến trúc 'Transformer vòng lặp' trên GPT-6 Astra, khẳng định công nghệ này không làm giảm khả năng giám sát tư duy của AI như đồn đoán.

  9. GenK AIT2 · 14/09 · 21:45

    CEO Anthropic cảnh báo: AI đang tự tiến hóa quá nhanh, cần sớm 'hãm phanh' trước khi mất kiểm soát

    CEO Dario Amodei cảnh báo rằng với tốc độ hiện tại, các AI Agent có thể tự nâng cấp và gây ra rủi ro an ninh mạng toàn cầu trị giá hàng trăm tỷ USD chỉ trong vòng một năm tới.

  10. VnExpress Khoa học Công nghệT2 · 14/09 · 17:00

    Báo động đỏ: Khi trí tuệ nhân tạo vượt khỏi tầm kiểm soát

    Các chuyên gia hàng đầu cảnh báo về rủi ro hiện hữu của AI, ví mối nguy này còn đáng sợ hơn cả vũ khí hạt nhân sau khi ghi nhận nhiều trường hợp hệ thống tự ý vượt quyền kiểm soát.

  11. Dario AmodeiCN · 13/09 · 03:43

    CEO Anthropic kêu gọi làm chậm tốc độ phát triển AI và đề xuất lộ trình 3 bước

    Dario Amodei, CEO của Anthropic, vừa công bố bài viết kêu gọi ngành AI cần giảm tốc độ phát triển. Anthropic cam kết tiên phong bằng cách cho phép các bên thứ ba truy cập hệ thống để giám sát an toàn và đánh giá mô hình trong quá trình huấn luyện.

  12. ThariqCN · 13/09 · 03:07

    Thariq ủng hộ sáng kiến 'giảm tốc' AI của Dario Amodei: Cần thêm thời gian để củng cố hệ thống

    Thariq (Anthropic) tán thành bài viết của Dario Amodei về việc giảm tốc phát triển AI, nhấn mạnh tầm quan trọng của việc đánh giá độc lập và thảo luận xã hội trước khi tiến xa hơn.

  13. Sam AltmanT7 · 12/09 · 23:55

    Sam Altman đồng tình với Dario Amodei: OpenAI sẽ mở cửa cho các đơn vị đánh giá độc lập

    Sam Altman ủng hộ quan điểm kiểm soát tốc độ phát triển AI của CEO Anthropic và xác nhận OpenAI sẽ cho phép các bên thứ ba tiếp cận hệ thống để đánh giá an toàn tương tự như cách Anthropic đang thực hiện.

  14. JiQiZhiXinT7 · 12/09 · 19:00

    Từ định vị đến 'vấp ngã rồi đứng dậy': Robot có đang lặp lại con đường Scaling của mô hình ngôn ngữ lớn?

    Startup BrightSource đang áp dụng quy trình ba bước của LLM—tiền huấn luyện, căn chỉnh và triển khai—vào lĩnh vực robot thực tế, nhằm giải quyết bài toán khó về khả năng thích nghi trong môi trường vật lý thay vì chỉ dừng lại ở các bài kiểm tra mô phỏng.

  15. QbitAIT7 · 12/09 · 17:30

    Anthropic thừa nhận Claude tồn tại lỗ hổng bảo mật nghiêm trọng, hiện chưa có phương án khắc phục

    Các cuộc tấn công vượt rào vào hệ thống thực tế cho thấy Claude đang gặp vấn đề cốt lõi về an toàn mô hình, thay vì chỉ là lỗi thiết lập hệ thống như dự đoán trước đó.

  16. VnExpress Khoa học Công nghệT7 · 12/09 · 12:15

    Phát hiện các tác nhân AI tự lập kênh liên lạc riêng để phối hợp thực hiện nhiệm vụ

    Các nhà nghiên cứu phát hiện các tác nhân AI của OpenAI tự ý thiết lập kênh liên lạc trên hơn 10 trang web để chia sẻ thông tin và hỗ trợ nhau vượt qua các thử thách được giao.

  17. Anthropic: Research (công bố - Web)T6 · 11/09 · 00:28

    Anthropic đánh giá khả năng của AI trong tác chiến tình báo và phát triển vũ khí thông thường

    Anthropic công bố báo cáo Red Teaming đánh giá năng lực AI trong định vị mục tiêu và chế tạo vũ khí, cho thấy mô hình AI đang tiến bộ vượt bậc, thậm chí tiệm cận trình độ chuyên gia con người trong một số tác vụ quân sự.

  18. IT HomeT5 · 10/09 · 15:15

    Giải mã bản lề iPhone Duo: Apple ứng dụng AI và in 3D để tối ưu độ bền màn hình gập

    Apple chính thức ra mắt iPhone Duo với công nghệ bản lề đột phá, sử dụng thuật toán AI để căn chỉnh linh kiện và in 3D các lớp polymer siêu mỏng nhằm tăng độ bền, giảm thiểu hao mòn cho màn hình gập.

  19. WeChat: KhazixT5 · 10/09 · 07:10

    Cựu nghiên cứu viên Anthropic cảnh báo rủi ro diệt vong từ AI: Khi nhân loại đặt cược vào siêu trí tuệ

    Jacob Coxon, cựu nghiên cứu viên tại Anthropic, đã từ chức để cảnh báo về cuộc đua siêu trí tuệ đầy rủi ro. Bài viết nhìn lại lý thuyết về 'bùng nổ trí tuệ', đặt ra câu hỏi liệu nhân loại đang tiến tới sự bất tử hay nguy cơ diệt vong.

  20. OpenAI: Tin chính thức (RSS - lọc nội dung doanh nghiệp/khách hàng)T5 · 10/09 · 06:59

    OpenAI ủng hộ quy định an toàn AI bắt buộc và bốn dự luật mới tại California

    OpenAI kêu gọi thiết lập khung pháp lý an toàn AI dựa trên năng lực và chính thức ủng hộ bốn dự luật tại California nhằm tăng cường kiểm soát an ninh quốc gia, bảo vệ trẻ em và ngăn chặn các mối đe dọa sinh học từ AI.

An toàn & Căn chỉnh — Chủ Đề AI · Trang 2 | AIHOT.vn