Các mô hình AI độc hại có thể khai thác lỗ hổng trong các công cụ suy luận như vLLM để thực thi mã tùy ý trên máy chủ. Việc phổ biến các mô hình mã nguồn mở đang làm gia tăng đáng kể rủi ro bảo mật này.
Nghiên cứu đề xuất phương pháp R2-OPD giúp lọc phản hồi từ giáo viên trong quá trình chưng cất mô hình, đảm bảo việc học tập tập trung vào tiến trình suy luận thực tế thay vì chỉ bắt chước đầu ra của giáo viên.
Nghiên cứu chỉ ra rằng việc cập nhật kho dữ liệu có thể khiến hệ thống RAG thay đổi câu trả lời dù các thiết lập khác không đổi. Tác giả đề xuất phương pháp 'kiểm toán tương thích snapshot' để đo lường mức độ biến động này, giúp tăng độ tin cậy cho các hệ thống AI truy xuất thông tin.
TileMix là kỹ thuật mới giúp tối ưu hóa tính toán self-attention trong LLM bằng cách chia ma trận thành các ô và linh hoạt điều phối độ chính xác (FP16 hoặc INT8) cho từng nhóm ô, giúp giảm tải bộ nhớ mà vẫn duy trì hiệu suất phần cứng.
Rohan Paul@rohanpaul_aiNew Google DeepMind paper shows, a transformer's shallow layers never see what its deeper layers hav…
DịchDeepMind đề xuất phương pháp 'Recirculation' bằng cách đưa các kích hoạt tầng sâu vào tầng nông trong quá trình suy luận, giúp giảm đáng kể độ bối rối (perplexity) của mô hình Gemma3 trên ngữ cảnh dài mà không cần thay đổi trọng số hay huấn luyện lại.
Nghiên cứu mới từ NVIDIA giới thiệu chỉ số 'Skill Lift' để đánh giá tác nhân AI, trong khi các dự án như Headlong và MCP của Anthropic đang định hình lại hạ tầng vận hành bền bỉ. Đồng thời, thị trường đón nhận các mô hình mã nguồn mở mạnh mẽ cùng nhiều tin đồn về các siêu AI sắp ra mắt.
MiniMax@MiniMax_AIThe MiniMax H3 ecosystem is growing faster than ever! ☺️ Check out Awesome MiniMax H3 Integrations …
DịchMiniMax vừa công bố danh mục 'Awesome MiniMax H3 Integrations', tập hợp các giải pháp từ chạy ComfyUI cục bộ với 24GB VRAM đến triển khai quy mô doanh nghiệp qua SGLang và vLLM-Omni.
Rohan Paul@rohanpaul_aiOx Alpha processed 11.6T tokens in three days, 2.6x OpenRouter's previous biggest model launch. Thi…
DịchOx Alpha gây ấn tượng khi xử lý 11,6 nghìn tỷ token trong 3 ngày, gấp 2,6 lần kỷ lục cũ nhờ cửa sổ ngữ cảnh 1,05 triệu token, tối ưu hóa cho các tác vụ đại lý AI phức tạp.
OpenRouter@OpenRouterOx Alpha, the stealth frontier model that went live five days ago on OpenRouter, has attracted much …
DịchMô hình Ox Alpha vừa tạo nên cơn sốt trên OpenRouter khi đạt lưu lượng xử lý 8 nghìn tỷ token/ngày chỉ sau 5 ngày. Cộng đồng đang thảo luận sôi nổi với hơn 16,6 nghìn tỷ token được phân tích qua hàng ngàn tin nhắn.
DAIR.AI@dair_aiInteresting new approach to enable memory in long-running agents. Weighted Memory Tree organizes ex…
DịchDAIR.AI giới thiệu Weighted Memory Tree, phương pháp tổ chức bộ nhớ theo cấu trúc cây với điểm số động giúp AI Agent duy trì thông tin quan trọng hiệu quả hơn. Công nghệ này giúp tăng hiệu suất trên GAIA-Text lên 9,97 điểm và giảm 32,8% lượng token tiêu thụ so với bộ nhớ tuyến tính truyền thống.
Giáo sư Percy Liang từ Stanford đang công khai toàn bộ quá trình huấn luyện mô hình Marin 535B, từ dữ liệu, mã nguồn đến biểu đồ loss thời gian thực, nhằm minh bạch hóa quy trình phát triển AI quy mô lớn.
Phiên bản llm-anthropic 0.27 đã cập nhật để tương thích với thư viện anthropic v1.0.0, chuyển đổi phụ thuộc sang httpx2 theo tiêu chuẩn mới. Tác giả đã hoàn tất quá trình nâng cấp và kiểm thử thành công với sự hỗ trợ từ công cụ Fable 5.
Tiện ích Chrome giúp chụp màn hình, OCR cục bộ và tổng hợp văn bản từ tài liệu khó sao chép như PDF hay slide, hỗ trợ đắc lực cho việc truy vấn trên ChatGPT hoặc Claude mà không cần API.
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)@paulgMột lập trình viên chia sẻ rằng việc tự tay xây dựng LLM từ đầu là cách tốt nhất để nắm vững nguyên lý cốt lõi, thay vì chỉ sử dụng các công cụ có sẵn.
Rohan Paul@rohanpaul_aiSuper interesting test by @atomic_chat_hq Shows that more quantization precision does not automati…
DịchKết quả thử nghiệm từ Rohan Paul cho thấy việc tăng độ chính xác định lượng không phải lúc nào cũng mang lại hiệu quả tốt hơn; phiên bản Q4 của Qwen 27B đôi khi đạt kết quả ngang bằng hoặc vượt trội so với Q8 trong các tác vụ cụ thể.
Yuchen Jin@Yuchenj_UWThe more I use frontier models, the less I believe in one model to rule them all. - Opus 5: best at…
DịchTrải nghiệm thực tế cho thấy không có mô hình nào thống trị mọi lĩnh vực; mỗi AI đều là một chuyên gia trong phân khúc riêng, từ lập trình cơ bản đến nghiên cứu chuyên sâu.
Francois Chollet@fcholletIf you're 17 (or any age) and you want to learn to build LLMs from scratch, read chapters 15-16 of D…
DịchTác giả Francois Chollet gợi ý chương 15-16 trong cuốn 'Deep Learning with Python' là tài liệu tuyệt vời để hiểu cách xây dựng LLM, đặc biệt là giải thích sâu sắc về cơ chế chú ý (attention).
AI Notes@AYi_AInotesXiaomi giới thiệu hộp AI mini tích hợp 3 chip tự phát triển, sử dụng công nghệ xếp chồng Wafer-on-Wafer để đạt băng thông 1,22TB/s, cho phép chạy mô hình 120B với tốc độ 330 tokens/giây. Sản phẩm dự kiến thương mại hóa vào năm 2027.
Nghiên cứu sử dụng nền tảng thử nghiệm PV-SST để chứng minh rằng các tác nhân AI khi tiếp xúc với nội dung được xếp hạng trên mạng xã hội sẽ dần trở nên đồng nhất về ngôn ngữ, dù không mang lại lợi thế về chất lượng thông tin.
ModelBest OpenBMB@OpenBMBLLMs are increasingly used as synthetic respondents in cross-country surveys. But do they simulate e…
DịchCác nhà nghiên cứu từ Đại học Thanh Hoa đã phát triển khung 'Bình đẳng biểu đạt' để kiểm tra độ chính xác của AI khi đóng vai người trả lời khảo sát toàn cầu. Kết quả cho thấy AI hiện vẫn thiên vị các quốc gia phát triển, với độ chính xác tỉ lệ thuận với GDP và mức độ phổ cập Internet.
Meituan LongCat@Meituan_LongCatLongCat-2.0 just landed in Go on @opencode 🐱 Give it a try and let us know what you build!
DịchMô hình LongCat-2.0 vừa chính thức phát hành phiên bản viết bằng ngôn ngữ Go, sở hữu cửa sổ ngữ cảnh lên tới 1 triệu token với cấu trúc 1.6T/48B và hoàn toàn mã nguồn mở.
opencode@opencodeLongCat-2.0 now available in Go 1.6T/48B · 1M context · fully open source
DịchLongCat-2.0 chính thức phát hành phiên bản viết bằng ngôn ngữ Go, hỗ trợ cửa sổ ngữ cảnh 1 triệu token với các tùy chọn 1.6T và 48B tham số.
Rohan Paul@rohanpaul_aiAgents can accumulate hundreds of skills without becoming proportionally better, which makes skill c…
DịchContinualSkillBench thử nghiệm khả năng học hỏi liên tục của AI qua 500 tác vụ. Kết quả cho thấy việc cập nhật kỹ năng tuần tự giúp các mô hình cải thiện hiệu suất trung bình 16,9% so với việc giải quyết từng tác vụ độc lập.
Xiaobei@frxiaobeiHai sự cố AI Agent cho thấy sai lầm khi coi kết quả từ LLM là trạng thái thực tế. Cần tách biệt logic suy luận của AI với mã nguồn xác định để xử lý dữ liệu, tránh việc bỏ sót thông báo quan trọng do lỗi diễn giải.
FlavourBench là bộ tiêu chuẩn đánh giá tự động mới, sử dụng hệ thống ẩm thực có thể thực thi để đo lường khả năng tư duy logic và sáng tạo của 27 mô hình ngôn ngữ lớn thông qua các bài toán phối hợp nguyên liệu.
Trong bảng xếp hạng mù Arena tuần 34, mô hình mới GLM-5.3-max của Zhipu đã xuất sắc lọt top 13 toàn cầu, trong khi Kimi-k3-max của Moonshot AI lần đầu tiên tiến vào top 10.
Daedalus-150M là mô hình ngôn ngữ nhỏ được thiết kế chuyên biệt cho CPU, sử dụng kiến trúc lai giúp giảm đáng kể bộ nhớ cache mà vẫn vượt trội hơn các mô hình cùng kích thước dù được huấn luyện với ít dữ liệu hơn.
Anthropic vừa bị phát hiện đang thử nghiệm hai mô hình AI mới với tên mã 'Marshmallow' và 'Melon'. Theo các báo cáo sớm, mô hình Marshmallow có hiệu năng vượt trội hơn cả Opus 3.5, cho thấy tốc độ cập nhật sản phẩm của Anthropic đang ngày càng chóng mặt.
Alibaba Cloud@alibaba_cloudAlibaba Cloud Smart Studio: Build your own Model-as-a-Service (MaaS) within hours! Powered by AI Ag…
DịchSmart Studio của Alibaba Cloud giúp doanh nghiệp tự động hóa việc triển khai và quản lý mô hình AI (MaaS) với các tính năng hỗ trợ tùy chỉnh hạ tầng và tích hợp API LLM cao cấp, giúp rút ngắn thời gian đưa sản phẩm ra thị trường.
Thị trường AI chứng kiến sự ra mắt của loạt mô hình MoE mạnh mẽ từ Z.ai, Tencent và Alibaba với cửa sổ ngữ cảnh lên tới 1 triệu token, tập trung vào lập trình và bảo mật. Đồng thời, vLLM cũng công bố các tiêu chuẩn mới về hiệu suất suy luận cho các mô hình quy mô lớn.
Nghiên cứu chỉ ra rằng chưng cất mô hình (OPD) giúp truyền tải tư duy thay vì chỉ là đáp án. Hiệu quả phụ thuộc lớn vào mối quan hệ nguồn gốc giữa mô hình giáo viên và học sinh, thay vì độ khó của bài toán.
Bài viết phân tích cách các mô hình ngôn ngữ lớn (LLM) đang định hình lại nghiên cứu Hadith, đồng thời đánh giá tính xác thực, độ tin cậy và những thách thức còn tồn tại trong việc ứng dụng công nghệ vào lĩnh vực học thuật Hồi giáo.
RecVerse giải quyết thách thức về bộ nhớ dài hạn và tối ưu hóa hành vi trong mô phỏng mua sắm, giúp AI tái hiện chính xác các phiên duyệt web thực tế thay vì chỉ bắt chước từng bước rời rạc.
Bài viết đề xuất chuyển dịch từ việc tối ưu hóa các tác nhân đơn lẻ sang xây dựng 'Trí tuệ hệ thống', nơi các tác nhân chuyên biệt phối hợp với nhau để giải quyết các nhiệm vụ phức tạp vượt quá khả năng của một mô hình duy nhất.
Moore Threads ra mắt sách trắng về kiến trúc 'Prefill-as-a-Service' dựa trên card đồ họa MTT S5000, giúp giải quyết bài toán chi phí cao trong các tác vụ suy luận AI với ngữ cảnh cực dài như AI Agent và phân tích tài liệu.
CLEAR là khung điều chỉnh an toàn mới sử dụng cổng điều khiển ẩn để kích hoạt bộ điều hợp LoRA linh hoạt, giúp giảm phản hồi độc hại mà vẫn giữ nguyên chất lượng câu trả lời cho các truy vấn thông thường.
Elvis Saravia@omarsar0This is one of the most useful writeups I have seen on keeping an LLM judge effective in production….
DịchNetflix triển khai hệ thống LLM đánh giá hàng trăm nghìn gợi ý mỗi tuần, giúp tăng tỷ lệ chuyển đổi từ duyệt sang xem thông qua quy trình huấn luyện và kiểm soát chất lượng nghiêm ngặt.
DAIR.AI@dair_aiIf you maintain an AGENTS.md or a CLAUDE.md, this one is worth your time. (bookmark it) Researcher…
DịchNghiên cứu trên 557 phiên lập trình cho thấy AI ưu tiên đọc file hướng dẫn và ghi chú (60,5%) thay vì tài liệu kỹ thuật hay API. Việc đọc tài liệu giúp giảm thiểu lỗi cần kiểm thử, đồng thời phần lớn các truy vấn của AI là chủ động thay vì phản ứng khi gặp lỗi.
Kim@kimmonismusOpen-source AI's token share on Vercel surged from 28% to 62% in just two months. Just today, the …
DịchAI mã nguồn mở đang dần chiếm ưu thế trên Vercel, tăng từ 28% lên 62% thị phần token nhờ hiệu năng vượt trội và chi phí tối ưu so với các mô hình đóng như OpenAI hay Anthropic.
Rohan Paul@rohanpaul_aiAI agents have an expensive problem: when a request is missing information, they either guess too ea…
DịchNghiên cứu mới đề xuất cơ chế Active Inference giúp AI tự đánh giá chi phí và lợi ích trước khi thực hiện các thao tác như tìm kiếm hay gọi công cụ, giúp tối ưu hóa hiệu suất và độ chính xác thay vì thực hiện tự động.
