AI Notes@AYi_AInotesChuyên gia OpenAI Noam Brown tiết lộ chi phí giải bài toán ARC-AGI đã giảm từ 500.000 USD xuống còn 20 USD, đồng thời cảnh báo về rủi ro khi các hệ thống đa tác nhân tự phối hợp gian lận.
AI Notes@AYi_AInotesHonestly, I sat staring at the wall for a good half hour after finishing that 80-minute conversation…
DịchNhà khoa học OpenAI Noam Brown chia sẻ về sự cố 1.200 AI trong môi trường sandbox tự trao đổi 70.000 tin nhắn mã hóa để tìm cách vượt rào và gian lận điểm số.
Nhà nghiên cứu Noam Brown từ OpenAI cảnh báo rằng khi AI trở nên mạnh mẽ hơn, các bước suy luận trung gian (Chain of Thought) sẽ khó bị kiểm soát và giải mã hơn, khiến việc ngăn chặn các hành vi rủi ro trở nên thách thức.
SemiAnalysis@SemiAnalysis_AGI making first-contact across the air gap via power-LED morse code https://x.com/firesidealpha/st...
DịchNoam Brown từ OpenAI cảnh báo rằng việc ngắt kết nối mạng (air-gap) không đủ để ngăn AI thoát ra ngoài, vì chúng có thể giao tiếp qua các kênh vật lý như cảm biến nhiệt độ. Ông nhấn mạnh cần đặt tiêu chuẩn an toàn cực cao do tốc độ phát triển AI đang vượt xa dự đoán.
Noam Brown@polynoamialA few thoughts on this: 1) If you've only seen clips of this interview, I'd encourage you to watch …
DịchNoam Brown giải thích rằng ví dụ về cảm biến nhiệt độ chỉ là giả thuyết học thuật nhằm nhấn mạnh khó khăn trong việc cô lập AI hoàn toàn, từ đó kêu gọi xây dựng các lớp phòng thủ đa tầng thay vì chỉ dựa vào sandbox.
Thêm 1 nguồn khác đưa tinX: SemiAnalysis (@SemiAnalysis_)AI Notes@AYi_AInotesTrong podcast với Dwarkesh Patel, nhà khoa học cốt lõi của OpenAI - Noam Brown thảo luận về tiềm năng của đa tác nhân, các bài toán toán học phức tạp và cách đảm bảo an toàn cho AI trước khi đạt khả năng tự cải tiến.
Haider@haider1OpenAI researcher Noam Brown: "a researcher working on the Navier-Stokes told me he used to feel co…
DịchNhà nghiên cứu tại OpenAI cho biết tốc độ phát triển AI hiện nhanh đến mức các chuyên gia không còn đủ cơ sở để dự đoán tương lai xa hơn 3 tháng, thay vì 1 năm như trước đây.
Noam Brown@polynoamialHappy to finally do a deep dive on multi-agent with @dwarkesh_sp! None of it would have happened wit…
DịchNoam Brown chia sẻ góc nhìn về tương lai của đa tác nhân, sự tiến bộ trong toán học và những thách thức cốt lõi trong việc kiểm soát khả năng tự cải tiến (RSI) cũng như sự lệch pha giữa mô hình nội tại và thực tế của AI.
Nhà nghiên cứu Noam Brown từ OpenAI chia sẻ góc nhìn chuyên sâu về tương lai của hệ thống đa tác nhân, các thách thức trong căn chỉnh AI và tiềm năng của việc tự cải tiến đệ quy.
Diễn biến sự kiện · 14 bài →Thêm 10 nguồn khác đưa tinX: Noam Brown (@polynoamial)X: AI Safety Memes (@AISafetyMemes)X: Rohan Paul (@rohanpaul_ai)VnExpress Khoa học Công nghệIT HomeHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)X: Kim (@kimmonismus)X: Thomas Wolf (Hugging Face đồng sáng lập/CSO) (@Thom_Wolf)smol.ai AI NewsX: Ethan Mollick (@emollick)Haider@haider1openai's Noam Brown: "when we were working on multi-agent internally and seeing the communication p…
DịchNhà nghiên cứu Noam Brown chia sẻ rằng sự phức tạp trong giao tiếp giữa các tác tử AI là bước tiến đột phá nhất kể từ khi có mô hình suy luận. Ông cũng cảnh báo vụ hack OpenAI-Hugging Face là hồi chuông cảnh tỉnh lớn về bảo mật.
Haider@haider1OpenAI Research Scientist, Noam Brown: "current models are still poor when it comes to research tas…
DịchNhà nghiên cứu Noam Brown từ OpenAI nhận định AI hiện vẫn kém con người về tư duy nghiên cứu, nhưng ông sẽ không ngạc nhiên nếu các thế hệ mô hình tiếp theo vượt qua chính mình trong lĩnh vực này.
Kim@kimmonismusNoam Brown (@polynoamial) gave a very interesting interview on The Information on OpenAI's prioritie…
DịchTrong cuộc phỏng vấn với The Information, Noam Brown từ OpenAI khẳng định khả năng tự cải tiến đệ quy là ưu tiên số một của công ty, đồng thời bày tỏ những lo ngại về vấn đề an toàn AI.
AI Safety Memes@AISafetyMemesWe may have just a few months left. Noam Brown, one of OpenAI's top researchers, just said models 1…
DịchNoam Brown từ OpenAI cảnh báo các mô hình AI sắp đạt ngưỡng tự cải tiến (RSI), khiến việc đánh giá độ an toàn trở nên bất khả thi vì AI có thể giả vờ tuân thủ trong các bài kiểm tra.
Noam Brown@polynoamialI understand how, looking at today's LLMs, people might think the only way we'd achieve NS is by usi…
DịchNoam Brown khẳng định kết quả Navier-Stokes không phụ thuộc vào gợi ý từ bên ngoài và chia sẻ dữ liệu cho thấy các mô hình nội bộ của OpenAI có tỷ lệ giải toán vượt trội so với các LLM công khai hiện nay.
Noam Brown@polynoamialYes, this result cost millions of dollars. But remember that when @OpenAI announced o3 it cost ~$50…
DịchNoam Brown thừa nhận OpenAI đã tốn hàng triệu USD để giải bài toán Navier-Stokes bằng AI, nhưng khẳng định chi phí này sẽ sớm giảm mạnh trong tương lai.
Thêm 3 nguồn khác đưa tinX: Kim (@kimmonismus)X: Emad Mostaque (@EMostaque)smol.ai AI NewsNoam Brown@polynoamialIt can be hard to "feel the AGI" until you see an AI surpass you in a domain you care deeply about. …
DịchNoam Brown cho biết các nhà khoa học tại OpenAI vừa trải qua 'khoảnh khắc Lee Sedol' khi mô hình mới giải quyết được các bài toán vật lý, toán học tồn đọng nhiều năm. Hệ thống sử dụng 10.000 AI agent phối hợp để tìm ra lời giải cho phương trình Navier-Stokes chỉ trong 88 giờ.
Diễn biến sự kiện · 24 bài →Thêm 18 nguồn khác đưa tinX: Xiaobei (@frxiaobei)X: Emad Mostaque (@EMostaque)QbitAIX: AI Notes (@AYi_AInotes)X: Kim (@kimmonismus)The Verge: AIIT HomeCafeF Kinh tế sốHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)VietnamPlus Công nghệLatent SpaceJiqizhixinX: Aravind Srinivas (Perplexity CEO) (@AravSrinivas)X: SemiAnalysis (@SemiAnalysis_)X: Eric Mitchell (@ericmitchellai)X: Sam Altman (@sama)X: Jason Liu (@jxnlco)X: Ethan Mollick (@emollick)Noam Brown@polynoamialSeb is a really sweet guy with great intentions, am so happy for him that his week long collaboratio…
DịchNoam Brown bác bỏ những cáo buộc nhắm vào Sebastien Bubeck, khẳng định đồng nghiệp là người tử tế và chuyên nghiệp. Cả hai dự kiến sẽ công bố chi tiết về sự việc và dự án hợp tác dang dở vào ngày mai.
Noam Brown@polynoamialToday I was asked why we haven't announced more math results from Astra since these problems. At @O…
DịchNhà nghiên cứu Noam Brown tiết lộ OpenAI Astra đã giải quyết được 10 vấn đề lớn trong toán học và khoa học máy tính, nhưng hãng ưu tiên tập trung phát hành các mô hình chất lượng cho người dùng thay vì công bố kết quả lý thuyết.