DAIR.AI@dair_aiĐội ngũ MiMo của Xiaomi phát triển kiến trúc HySparse2 cho mô hình MiMo-V3, giúp giảm đáng kể chi phí tính toán prefill và bộ nhớ KV cache so với các thế hệ tiền nhiệm trên cấu trúc 80B-A3B MoE.
OpenRouter@OpenRouterIntroducing typesafe/jev-router: a cache-aware model router powered by Jev and @typesafeai The Jev …
DịchOpenRouter giới thiệu Jev Router, công cụ định tuyến mô hình tích hợp Jev và @typesafeai giúp tự động chọn mô hình tối ưu cho từng yêu cầu, cân bằng hoàn hảo giữa chất lượng, tốc độ và chi phí.
Ethan Mollick@emollickLeaving aside everything else, this confuses inputs with outputs. You want to get tasks done efficie…
DịchEthan Mollick cảnh báo việc quá tập trung vào tối ưu hóa chi phí token hay viết prompt ngắn gọn là sai lầm, vì mục tiêu cuối cùng là hoàn thành công việc hiệu quả chứ không phải tiết kiệm đầu vào.
Aikido Security vừa giới thiệu Altar-1, mô hình bảo mật mã nguồn mở được nén từ GLM-5.3 xuống còn 328 GB thông qua kỹ thuật lượng tử hóa AWQ 4-bit và cắt tỉa chuyên gia, giúp giảm 78,2% dung lượng so với bản gốc.
DAIR.AI@dair_aiBanger paper from Microsoft on prompt optimization. (bookmark it) The claim that a coding agent re…
DịchNghiên cứu mới từ Microsoft đề xuất phương pháp CASD, cho phép các Coding Agent tự phân tích nhật ký hoạt động để tìm lỗi và viết lại prompt tối ưu mà không cần truy cập môi trường thực tế.
Liquid AI giới thiệu mô hình nháp DSpark cho LFM2.5-VL-3B trên Hugging Face, ứng dụng kỹ thuật giải mã suy đoán để tăng tốc độ phản hồi mà vẫn giữ nguyên chất lượng đầu ra.
Thêm 1 nguồn khác đưa tinLiquid AI Mô hình và Blog kỹ thuật (Web)
ModelBest OpenBMB@OpenBMB🚀 FIT-GGUF brings controllable-size mixed-precision quantization to MiniCPM5-2B Developer @Scorp1o_…
DịchCông cụ FIT-GGUF cho phép người dùng MiniCPM5-2B tùy chỉnh dung lượng file hoặc độ chính xác mong muốn. Hệ thống sẽ tự động phân bổ độ phân giải cho từng tensor, đồng thời dự đoán và xác thực file GGUF đầu ra.
MiniMax@MiniMax_AIMore ways to build with MiniMax-H3. 🐮 Great to see model optimization and AMD inference engineerin…
DịchNunchux tối ưu hóa MiniMax-H3 trên GPU AMD MI355X, giúp rút ngắn thời gian tạo video 5 giây xuống chỉ còn 1,3 giây. Công nghệ này hỗ trợ tạo video theo luồng, cho phép người dùng thay đổi câu lệnh ngay trong quá trình phát để điều hướng nội dung.
Contrastive-LM giới thiệu CLM-8B, mô hình ngôn ngữ đối chiếu đầu tiên tập trung vào việc chấm điểm và xếp hạng các hành động của Agent thay vì tạo văn bản, mang lại hiệu suất vượt trội so với Jev của TypeSafe AI.
Cùng sự kiện, bài đại diện «Ra mắt CLM-8B: Mô hình System One với tốc độ suy luận nhanh gấp 9 lần Jev»
@typesafeai@typesafeaiLLMs distilling Jev like
DịchKhám phá kỹ thuật chưng cất tri thức từ các mô hình ngôn ngữ lớn (LLM) áp dụng theo phương pháp Jev, nhằm tối ưu hóa hiệu suất và giảm tài nguyên tính toán.
Jev là một mô hình phân loại giúp biến các vấn đề chủ quan thành các bước kiểm tra có thể thực thi được. Bài viết phân tích lý do mô hình này trở nên phổ biến và sự trỗi dậy của xu hướng phần mềm dựa trên ý định (intent-based software).
Xiaomi chính thức ra mắt lõi HySparse 2 cho mô hình MiMo-V3, giúp giảm 5 lần khối lượng tính toán và 4,5 lần bộ nhớ KV cache ở độ dài 1M token, đồng thời cải thiện đáng kể hiệu suất xử lý ngữ cảnh dài.
Cùng sự kiện, bài đại diện «Xiaomi hé lộ kiến trúc HySparse2 trên MiMo-V3: Tối ưu cho Agent đa vòng hội thoại dài»
Aravind Srinivas (Perplexity CEO)@AravSrinivasWe're sharing new research on our post-training approach, which teaches the Perplexity Computer agen…
DịchPerplexity giới thiệu kỹ thuật hậu huấn luyện mới cho AI Agent, kết hợp mô phỏng hành vi tối ưu và tinh chỉnh RFT, giúp giảm 21% tỷ lệ lỗi khi gọi công cụ trong các thử nghiệm thực tế.
Cùng sự kiện, bài đại diện «Perplexity huấn luyện AI Agent tự học từ sai lầm thực tế bằng phương pháp OPSD»OpenAI tối ưu hóa hệ thống bộ nhớ đệm cho GPT-6, giúp giảm tới 90% chi phí token cho các nội dung lặp lại trong vòng 30 phút, đồng thời bổ sung công cụ chẩn đoán mới.
PixVerse@PixVersePixVerse R2 asks a fundamental question: can real-time world models scale? Real-time favors smaller…
DịchPixVerse R2 giới thiệu kiến trúc hai động cơ cốt lõi giúp tách biệt khả năng suy luận chuyên sâu và tốc độ xử lý thời gian thực, giải quyết mâu thuẫn kinh điển giữa quy mô mô hình và tính ứng dụng thực tế.
Startup The Biological Computing Co. (TBC) kết hợp cùng AWS giới thiệu mô hình AI video đột phá, giúp tăng tốc độ suy luận gấp 5 lần và cắt giảm 80% chi phí vận hành so với các mô hình hiện có.
Amazon bắt tay cùng TBC để phát triển công nghệ mô phỏng tế bào thần kinh con người, giúp các mô hình AI vận hành nhanh hơn và tiết kiệm chi phí đáng kể.
Nghiên cứu giới thiệu Complex KDA (CKDA), kỹ thuật kết hợp biến đổi delta-rule với cơ chế cổng kênh để đạt được khả năng xoay 2D mà không cần tăng thứ hạng cập nhật, giúp nâng cao hiệu suất mô hình RNN.
Hugging Face đã cập nhật thư viện Transformers, cho phép người dùng tải trực tiếp các mô hình GGUF từ Hub thông qua hàm from_pretrained và tận dụng tối ưu hóa từ nhân Metal của ggml.
Tại Hội nghị Vân Tê 2026, CTO Han Kai của Base Rhythm đã chia sẻ về chiến lược tối ưu hóa AI Agent thông qua mô hình 'Harness' và vòng lặp phản hồi RSI, giúp hệ thống tự tiến hóa bền vững.
@completeskeptic@completeskepticis this real? or an exajevration? (sorry)
DịchViệc tích hợp công cụ tìm kiếm Exa giúp Jev khắc phục tình trạng đưa ra thông tin sai lệch, cải thiện đáng kể độ chính xác khi phản hồi các truy vấn thực tế.
D-RAC tối ưu hóa quy trình RAG bằng cách chuẩn hóa tài liệu sang PDF, sau đó dùng LLM đa phương thức chuyển đổi thành Markdown có cấu trúc, giúp tăng độ chính xác khi truy xuất dữ liệu.
Qwen@Alibaba_QwenDay-0 OpenVINO support from @inteldevs! 🥳 Qwen-Image-2.1 is ready to run optimized on Intel hardwar…
DịchMô hình Qwen-Image-2.1 hiện đã được tối ưu hóa để chạy mượt mà trên phần cứng Intel thông qua OpenVINO. Đây là mô hình mã nguồn mở hỗ trợ cả tính năng tạo và chỉnh sửa hình ảnh.
Tencent Hunyuan@TencentHunyuanLess size, same intelligence.
DịchĐội ngũ Tencent Hunyuan đã nén mô hình Hy4 preview từ 1,5TB xuống còn 214 GiB mà vẫn giữ nguyên 770 tỷ tham số nhờ thuật toán Sherry và định dạng STQ1_0, đạt mức trung bình 2,38 bit mỗi trọng số.
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_Wolfnice to start seeing more open-weight security model with defensive capabilities which are close to …
DịchAikido vừa giới thiệu Altar-1, phiên bản tinh chỉnh và tối ưu hóa từ mô hình GLM 5.3, mang lại khả năng phòng thủ mạnh mẽ với cấu hình phần cứng gọn nhẹ, chỉ cần một node 4-H200s để vận hành.
AI Notes@AYi_AInotesChuyên gia kiến trúc AI chia sẻ cách sử dụng SGLang để thực hiện suy luận cục bộ, giúp tăng tốc tác vụ phân loại lên gấp 180 lần so với phương pháp tự hồi quy truyền thống mà không tốn phí API.
Kỹ sư Dan McKinley cho rằng thay vì tinh chỉnh Prompt thủ công, các nhà phát triển nên xây dựng hệ thống tự cải tiến dựa trên dữ liệu đánh giá, kiểm thử tự động và vòng lặp phản hồi từ LLM để đạt hiệu quả thực tế.
Fireworks AI giới thiệu FireRouter, giải pháp tối ưu hóa hiệu suất bằng cách điều hướng tác vụ thông minh qua 18 mô hình khác nhau, dựa trên phân tích từ 113 bài kiểm tra DeepSWE v1.1.
APUS AI Lab vừa trở thành một trong những đơn vị đầu tiên trên thế giới công bố mã nguồn mở cho mô hình Jev, cho phép các mô hình AI nội địa đạt tốc độ ra quyết định chỉ trong vài giây.
Nghiên cứu mới từ Salesforce và UIUC cho thấy việc xóa ngẫu nhiên các token trong KV Cache mang lại hiệu quả tương đương các thuật toán phức tạp, đồng thời giúp tăng đáng kể tốc độ suy luận nhờ giảm tải tính toán.
C2C là phương thức mới cho phép các LLM trao đổi thông tin trực tiếp qua KV-Cache thay vì văn bản. Kỹ thuật này giúp tăng độ chính xác lên tới 14,2% và cải thiện tốc độ xử lý gấp 2,5 lần so với các phương pháp truyền thống.
Convai vừa giới thiệu Laya, dòng mô hình quyết định phi tự hồi quy với tốc độ suy luận vượt trội, đạt 32.8ms mỗi truy vấn và được phát hành dưới giấy phép Apache 2.0.
Rohan Paul@rohanpaul_aiAgent memory is no longer just context. Persistent skills can change future behavior, so treat them…
DịchEvoSkill v2 cho phép AI tự đúc kết kỹ năng từ các nhiệm vụ thất bại và lưu trữ vào bộ nhớ ngoài. Cơ chế này giúp AI cải thiện hiệu suất mà không cần thay đổi trọng số mô hình hay huấn luyện lại.
X.PIN@thexpinhttp://Z.ai says its GLM-5.3-powered Infra Agent designed, debugged and optimized production inferen…
DịchZ.ai sử dụng Infra Agent để tối ưu hóa hạ tầng cho GLM-5.3-Flash trên hơn 100.000 chip Trung Quốc, đạt hiệu suất gấp 3 lần chỉ sau hai tuần. Đây là bước tiến đột phá khi mô hình tự cải thiện hạ tầng vận hành của chính mình.
OpenJev là nền tảng chạy mô hình AI cục bộ ngay trên trình duyệt, cho phép người dùng so sánh tốc độ và độ chính xác giữa việc đọc trực tiếp logits và tạo JSON theo từng token.
Zhipu AI giới thiệu mô hình GLM-5.3-FlashX (320B MoE) với khả năng suy luận siêu tốc 200 token/giây nhờ tối ưu hóa hạ tầng trên quy mô 100.000 chip nội địa.
PrismML vừa giới thiệu Bonsai 2 27B dựa trên Qwen3.8, sử dụng kỹ thuật lượng tử hóa 3 giá trị giúp giảm dung lượng bộ nhớ xuống dưới 1/9 nhưng vẫn duy trì 98,2% hiệu suất so với bản gốc.
Cùng sự kiện, bài đại diện «PrismML ra mắt Ternary Bonsai 2 27B: Nén mô hình gấp 9 lần nhưng vẫn giữ 98,2% hiệu năng»MiniMax@MiniMax_AIThree paths to faster video attention: compute the same interactions more efficiently, compute fewer…
DịchNunchux AI hợp tác cùng các đại học danh tiếng ra mắt VC-Attention, giúp tăng tốc độ suy luận cho MiniMax-H3 mà không cần huấn luyện lại, vượt trội hơn cả FlashAttention-4 về hiệu suất lẫn độ chính xác.
DeepSeek vừa trình làng DeepSeek-V4.1-Flash, mô hình MoE đa phương thức 552 tỷ tham số hỗ trợ cửa sổ ngữ cảnh lên tới 1 triệu token, hiện đã có sẵn trên Hugging Face.
Diễn biến sự kiện · 5 bài →Thêm 1 nguồn khác đưa tinHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)When2Think là khung huấn luyện hậu kỳ giúp mô hình AI tự nhận diện độ khó của câu hỏi để phân bổ tài nguyên tính toán linh hoạt. Phương pháp này giúp giảm 27,9% lượng token tiêu thụ mà vẫn tăng đáng kể độ chính xác trên các bài toán khó như AIME.