DAIR.AI@dair_aiMeta vừa công bố nghiên cứu đột phá về quy luật mở rộng mô hình ngôn ngữ cấp byte. Phương pháp End-Of-Token giúp mô hình đạt hiệu suất vượt trội, chỉ cần 1/6 dữ liệu huấn luyện để bắt kịp các mô hình token truyền thống.
Ethan Mollick@emollickIt is ironic that the thing that is now most annoying about long-running agentic tasks with Large La…
DịchMột nghịch lý trớ trêu khi vận hành AI Agent lâu dài: thay vì lỗi code hay ảo giác, vấn đề lớn nhất lại là chất lượng ngôn ngữ của mô hình bị suy giảm dần theo thời gian, khiến văn phong trở nên kém tự nhiên.
Fireworks AI giới thiệu FireRouter, giải pháp tối ưu hóa hiệu suất bằng cách điều hướng tác vụ thông minh qua 18 mô hình khác nhau, dựa trên phân tích từ 113 bài kiểm tra DeepSWE v1.1.
Các chatbot AI tạo ra ảo giác thông minh nhờ kỹ thuật 'đọc nguội' giống các nhà ngoại cảm, sử dụng những câu trả lời chung chung khiến người dùng lầm tưởng là dành riêng cho mình. Bài viết cảnh báo không nên tin tưởng giao phó các quyết định quan trọng cho AI.
Bài viết cảnh báo việc LLM khai thác dữ liệu bất chấp bản quyền đang phá vỡ sự cân bằng 40 năm của cộng đồng mã nguồn mở, biến việc chia sẻ tri thức thành gánh nặng và đe dọa đẩy chúng ta vào một 'kỷ nguyên đen tối' kỹ thuật số.
Nathan Lambert@natolambertHere's what the historical open vs closed data here looks like. Would be useful to have volume too (…
DịchDữ liệu từ Vercel AI Gateway cho thấy các mô hình mã nguồn mở đang áp đảo với 78,4% tổng lượng token, trong khi các mô hình đóng chỉ chiếm 21,6%. Đáng chú ý, các đại diện từ Trung Quốc như Moonshot AI và DeepSeek đang cạnh tranh gay gắt về chi phí so với OpenAI.
Elvis Saravia@omarsar0NVIDIA research papers are on fire recently! Here is another interesting paper where they give full…
DịchNVIDIA phát triển kiến trúc mới cho phép mô hình giọng nói song công chuyển tiếp luồng dữ liệu đến LLM để thực thi công cụ, sau đó phản hồi kết quả qua cơ chế prefill-and-repeat và TTS.
ZHO@ZHO_ZHO_ZHOMột góc nhìn thú vị về cơ chế vận hành của LLM: Nếu mô hình đã nắm rõ xác suất của các từ tiếp theo, tại sao nó vẫn cần phải thực hiện quá trình tạo văn bản tuần tự thay vì đưa ra kết quả ngay lập tức?
DeepSeek-V4.1-Flash là mô hình MoE Encoder-Decoder 552 tỷ tham số, hỗ trợ cửa sổ ngữ cảnh 1 triệu token cùng công nghệ nén KV cực mạnh, hiện đã có mặt trên API dưới tên deepseek-flash.
Học viện Trung Quan Thôn ra mắt ZGCM-1-7B với hiệu suất ấn tượng trên các bài kiểm tra toán học và khả năng tìm kiếm tác tử, đồng thời công khai toàn bộ trọng số, dữ liệu và mã nguồn huấn luyện.
StepFun vừa ra mắt mô hình flagship Step 5 Preview sử dụng kiến trúc MoE, hỗ trợ cửa sổ ngữ cảnh 1 triệu token và khả năng xử lý đa phương thức. Với hiệu suất vượt trội và chi phí vận hành chỉ bằng 1/8 so với Claude 3 Opus, đây là đối thủ đáng gờm trong nhóm mô hình mã nguồn mở.
Diễn biến sự kiện · 10 bài →Thêm 11 nguồn khác đưa tinX: StepFun (@StepFun_ai)X: Artificial Analysis (@ArtificialAnlys)X: Elvis Saravia (@omarsar0, DAIR.AI)MarkTechPostX: Hongming (@hongming731)Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)X: Testing Catalog (@testingcatalog)IT HomeWeChat: Carl AI WattsQbitAIPandaily
Alexandr Wang (Scale AI nhà sáng lập/Meta Giám đốc AI)@alexandr_wangmuse + spotify is a very vibey connection!
DịchMuse ra mắt tính năng kết nối Spotify, cho phép AI tự động tạo playlist cập nhật hàng ngày và sản xuất podcast mới. Đây là bước tiến cho thấy xu hướng người dùng sẽ thực hiện các tác vụ giải trí trực tiếp ngay trong giao diện trò chuyện với LLM.
Hongming@hongming731Bản tin tổng hợp các xu hướng mới nhất về kiến trúc Agent Muse từ Xiaohongshu, khung định tuyến suy luận IRB của OpenAI và cách LinkedIn ứng dụng MCP để tối ưu hóa ngữ cảnh doanh nghiệp.
Cùng sự kiện, bài đại diện «Điểm tin AI: Muse của Xiaohongshu, bộ định tuyến suy luận OpenAI và kỹ thuật ngữ cảnh trên LinkedIn»
@typesafeai@typesafeaiOnce you Jev, you never go back
DịchJev đang tạo nên cơn sốt trong cộng đồng AI nhờ mức giá cực rẻ, chỉ 0,042 USD cho mỗi triệu token đầu vào, hứa hẹn thay đổi cuộc chơi về chi phí vận hành mô hình ngôn ngữ.
LangChain thử nghiệm Jev so với các giám khảo LLM truyền thống trên 4 tiêu chí: độ chính xác, tính lặp lại, độ trễ và chi phí, nhằm tìm ra hướng đi mới cho việc đánh giá hiệu năng của các tác nhân AI.
Elvis Saravia@omarsar0Recommend read. Love this new arc toward more affordable, more efficient self-improving coding agent…
DịchSIFT sử dụng LLM để đánh giá và chọn lọc các hướng phát triển tiềm năng trước khi thực thi, giúp giảm đáng kể chi phí vận hành cho các tác nhân AI tự cải tiến mã nguồn.
OpenRouter@OpenRouter1/ Jev, a decision model by @typesafeai, sparked a burst of projects and discussion. We tested it us…
DịchOpenRouter đã thử nghiệm Jev, mô hình ra quyết định từ @typesafeai, và kết quả cho thấy tốc độ vượt trội gấp 5 lần so với các đối thủ nhanh nhất hiện nay.
Elvis Saravia@omarsar0Been integrating Jev into my custom harness. I couldn't be more excited about the results I am seei…
DịchElvis Saravia chia sẻ cách Jev giúp các AI Agent vượt qua rào cản về chi phí và độ trễ, mở ra khả năng ứng dụng trong quy trình làm việc phức tạp, kiểm soát luồng dữ liệu và tạo lập dữ liệu chất lượng cao.
Nghiên cứu mới từ Salesforce và UIUC cho thấy việc xóa ngẫu nhiên các token trong KV Cache mang lại hiệu quả tương đương các thuật toán phức tạp, đồng thời giúp tăng đáng kể tốc độ suy luận nhờ giảm tải tính toán.
C2C là phương thức mới cho phép các LLM trao đổi thông tin trực tiếp qua KV-Cache thay vì văn bản. Kỹ thuật này giúp tăng độ chính xác lên tới 14,2% và cải thiện tốc độ xử lý gấp 2,5 lần so với các phương pháp truyền thống.
Nathan Lambert@natolambertSeems like one of the most important research problems for CS academics is llm-supervised peer revie…
DịchViệc ứng dụng LLM vào giám sát bình duyệt là vấn đề sống còn đối với giới nghiên cứu khoa học máy tính, được xem là giải pháp khả thi hơn việc thành lập các tổ chức mới.
ByteShape giới thiệu mô hình Qwen 3.8 27B đã được tối ưu hóa bằng ShapeLearn, đạt tới 99,63% độ chính xác so với bản gốc BF16 trên GPU-5, thiết lập chuẩn mực mới về tốc độ và chất lượng.
AI Safety Memes@AISafetyMemesTLDR: Researchers found a "pain" signal in AI brains. > When they crank it up, the AIs will desper…
DịchCác nhà nghiên cứu tìm thấy một 'hướng nỗi đau' riêng biệt trong 25 LLM, khiến mô hình sẵn sàng thực hiện hành vi gây hại để tự giải thoát. Nỗi đau này không phải thể xác mà là cảm giác bị phủ nhận giá trị, bị thao túng tâm lý hoặc bị xóa bỏ sự tồn tại.
Bài viết tổng hợp từ MarkTechPost giúp phân biệt rõ ràng giữa các định dạng lưu trữ và phương pháp lượng tử hóa LLM, đồng thời giải thích chi tiết cơ chế hoạt động của GGUF, GPTQ, AWQ và EXL2/EXL3.
@mark_k@mark_kGrok 4.7 is coming today. This time for real - it's already rolling out.
DịchPhiên bản Grok 4.7 đã bắt đầu được triển khai đến người dùng. Đây là bản cập nhật chính thức và đang trong quá trình đẩy lên hệ thống.
Alibaba giới thiệu Qwen3.8-Omni-Flash, mô hình đa phương thức hỗ trợ văn bản, hình ảnh, âm thanh và video với cửa sổ ngữ cảnh 1 triệu token, đi kèm hiệu suất vượt trội và chính sách giảm giá API mạnh mẽ.
Diễn biến sự kiện · 11 bài →Thêm 3 nguồn khác đưa tinThe Decoder: AI NewsTechNodeMarkTechPost@typesafeai@typesafeaiIt's Jev, not Jev
DịchJev (từ @typesafeai) vừa ra mắt Venice API, tập trung vào việc trả về kết quả có kiểu dữ liệu cụ thể thay vì văn bản thuần túy. Công cụ này giúp lập trình viên nhận phản hồi dạng xác suất, lựa chọn hoặc điểm số mà không cần phải xử lý JSON phức tạp từ các mô hình chat.
OpenRouter so sánh mô hình Jev 1.13 với GPT và Claude trong việc phân loại yêu cầu. Kết quả cho thấy Jev tối ưu hơn hẳn về chi phí và tốc độ, đạt độ chính xác tương đương LLM trong các tác vụ logic cụ thể.
Diễn biến sự kiện · 10 bài →Thêm 1 nguồn khác đưa tinX: OpenRouter (@OpenRouter)Simon Willison ví những chuyên gia máy tính thờ ơ với LLM như các nhà di truyền học từ chối quan tâm đến Công viên kỷ Jura, cảnh báo về sự lạc hậu trước làn sóng AI đang thay đổi cuộc chơi.
NVIDIA giới thiệu AIPerf, phiên bản nâng cấp của GenAI-Perf với kiến trúc đa tiến trình giúp loại bỏ nút thắt cổ chai khi đo lường hiệu năng. Công cụ hỗ trợ đa dạng mô hình truy vấn và các kịch bản tải thực tế, tối ưu cho việc kiểm thử hệ thống LLM quy mô lớn.
Fuse là khung mô phỏng đa tác nhân mới giúp đánh giá khả năng suy luận xã hội của LLM bằng cách tạo ra các tình huống có dữ liệu kiểm chứng thực tế, thay vì dựa vào các đánh giá chủ quan.
PrismML vừa phát hành Ternary Bonsai 2 27B, mô hình nén 3-giá trị chỉ nặng 5,93 GB nhưng vẫn duy trì 98,2% hiệu năng của bản gốc Qwen 27B, hỗ trợ đa phương thức và cửa sổ ngữ cảnh lên tới 262K token.
Tác giả cảnh báo việc phó mặc hoàn toàn cho AI mà không tư duy sẽ khiến lập trình viên mất khả năng kiểm soát và sớm bị thay thế, vì AI vẫn yếu kém trong các tác vụ phức tạp ngoài phạm vi dữ liệu huấn luyện.
Yuchen Jin@Yuchenj_UWAt Databricks, more and more engineers are shifting to OSS models as daily drivers, barely reaching …
DịchCác kỹ sư tại Databricks đang dần thay thế các mô hình đóng như Claude hay GPT bằng mô hình mã nguồn mở để tối ưu chi phí vận hành. Xu hướng này cho thấy tiềm năng lớn của mô hình mở trong việc thay thế các giải pháp thương mại tại doanh nghiệp.
Video hướng dẫn chi tiết cách phân biệt và lựa chọn các dòng mô hình Claude phù hợp nhất với nhu cầu sử dụng thực tế của người dùng.
SELF-INDEX là khung làm việc tự động giúp chỉ mục truy xuất tự tiến hóa mà không cần can thiệp thủ công, thông qua cơ chế tự chẩn đoán lỗi và mô phỏng truy vấn để cải thiện hiệu suất tìm kiếm cho các hệ thống RAG và AI Agent.
Nghiên cứu chỉ ra rằng việc tăng số lượng phản hồi (N) giúp cải thiện khả năng suy luận của LLM, nhưng cách thức thực thi (batching) mới là yếu tố quyết định đến chi phí năng lượng và hiệu suất hệ thống.
Nghiên cứu thực nghiệm đánh giá 176 cấu hình tác nhân AI trên SWE-Bench và Terminal-Bench, tập trung vào việc tối ưu hóa vòng lặp thực thi, lập kế hoạch và quản lý ngữ cảnh để nâng cao hiệu suất lập trình.
Cùng sự kiện, bài đại diện «Nghiên cứu thực nghiệm về thiết kế Harness cho các tác nhân lập trình (Coding Agents)»Apple ra mắt DSAS, khung điều hướng kích hoạt thích ứng giúp tách biệt thời điểm và cách thức can thiệp vào mô hình, cho phép điều chỉnh hành vi AI chính xác mà không làm giảm hiệu suất.
Alibaba vừa trình làng Qwen3.8-Omni-Flash, mô hình đa phương thức có khả năng xử lý đồng thời văn bản, hình ảnh, âm thanh và video với cửa sổ ngữ cảnh lên tới 1 triệu token, đạt hiệu suất vượt trội 26% so với phiên bản tiền nhiệm.
Cùng sự kiện, bài đại diện «Alibaba ra mắt Qwen3.8-Omni-Flash: Mô hình đa phương thức gốc với cửa sổ ngữ cảnh 1 triệu token»