Elvis Saravia@omarsar0It has been a bit surprising, to say the least, how powerful LLMs for code have turned out to be in …
DịchKhả năng lập trình vượt trội của LLM đang mở ra những tiềm năng mới, dự báo sẽ tiếp tục dẫn đầu và lấn lướt các mô hình khuếch tán trong tương lai gần.
Thariq@trq212all of the recent proc gen art, video editing and 3d game demos recently have made me update towards…
DịchDựa trên các tiến bộ gần đây trong lập trình nghệ thuật và chỉnh sửa video, các mô hình LLM đang cho thấy tiềm năng sáng tạo vượt trội hơn so với các mô hình khuếch tán truyền thống.
Thêm 1 nguồn khác đưa tinX: Elvis Saravia (@omarsar0, DAIR.AI)SGLang vừa tái cấu trúc hỗ trợ CUDA Graph, biến Breakable CUDA Graph (BCG) thành mặc định cho giai đoạn prefill. Giải pháp này giúp giảm 75% lượng code so với torch.compile và tăng tốc độ xây dựng lên tới 5,2 lần.
Amazon đang bị cáo buộc thu mua hàng loạt sách hiếm, cắt bỏ gáy để quét dữ liệu phục vụ huấn luyện AI. Dù hãng khẳng định đây là hoạt động thương mại hợp pháp, hành động này gây tranh cãi lớn về việc tiêu hủy tài liệu văn hóa quý giá để tránh rủi ro 'sụp đổ mô hình'.
Cùng sự kiện, tinh chọn hiển thị «404 Media bóc trần chiêu trò: Amazon mua gom sách quý để huấn luyện AI rồi tiêu hủy»Elvis Saravia@omarsar0Interesting paper demystifying agent skills. If you maintain skills for your agent, this one is wor…
DịchNghiên cứu chỉ ra rằng kỹ năng của AI Agent chủ yếu dựa vào việc thực thi quy trình (65,7%) thay vì bổ sung kiến thức (4,5%). Khi số lượng kỹ năng tăng lên, độ chính xác giảm mạnh, cho thấy giới hạn của việc mở rộng kho kỹ năng trong các tác vụ phức tạp.
Nghiên cứu chỉ ra rằng các mô hình tư duy hiện nay thường khuếch đại các hành vi như tự sửa lỗi nhưng lại bỏ qua những yếu tố thực sự quyết định độ chính xác. Việc hiểu rõ khoảng cách giữa 'biểu hiện suy luận' và 'hiệu quả thực tế' là chìa khóa để tối ưu hóa các mô hình AI thế hệ mới.
Nghiên cứu chỉ ra rằng các mô hình ngôn ngữ lớn (LLM) tự phát triển cấu trúc mô-đun tương tự não người, nơi các tác vụ khác nhau kích hoạt các nhóm neuron chuyên biệt riêng biệt.
Dựa trên nền tảng GLM-5.2, phiên bản GLM-5.3 mang lại hiệu suất vượt trội trong các bài kiểm tra về lập trình và an ninh mạng, thu hẹp đáng kể khoảng cách với các mô hình hàng đầu của Anthropic.
TensorCast là lớp quản lý tensor lập trình được giúp tối ưu hóa hạ tầng mô hình lớn, giảm đáng kể thời gian phản hồi token đầu tiên và tăng tốc khởi tạo mô hình trong các tác vụ AI đa nhiệm.
Bảng xếp hạng Arena tuần 33 chứng kiến sự áp đảo của các mô hình Claude mới từ Anthropic. Trong khi đó, đại diện Việt Nam Kimi-k3-max tiếp tục thăng hạng, khẳng định vị thế trong top đầu các mô hình AI toàn cầu.
TensorCast là lớp trừu tượng mới giúp quản lý vòng đời tensor (trọng số, KV Cache) một cách thống nhất, giải quyết tình trạng phân mảnh trong hạ tầng LLM hiện nay. Công nghệ này cho phép tối ưu hóa hiệu suất vượt trội, đặc biệt giảm tới 93.2% độ trễ phản hồi đầu tiên (TTFT) cho các tác nhân AI.
SimpleOPD giải quyết các thách thức khi chuyển giao khả năng suy luận từ mô hình ngữ cảnh dài sang mô hình ngữ cảnh ngắn, thông qua việc đồng bộ hóa không gian văn bản và tối ưu hóa quá trình huấn luyện để tránh lỗi độ dài và mất ổn định.
Các nhà nghiên cứu giới thiệu LittleCurriculum, bộ dữ liệu 88 tỷ token giới hạn kiến thức ở trình độ tiểu học, nhằm tạo ra LittleLearner - mô hình AI có khả năng kiểm soát và giải mã quá trình tiếp thu kiến thức một cách minh bạch.
Rohan Paul@rohanpaul_aiAgent skills have a new security problem: the model itself can become the extraction interface. Thi…
DịchNghiên cứu mới chỉ ra rằng kẻ tấn công có thể trích xuất tệp SKILL.md của AI Agent thông qua các tương tác hộp đen thông thường. Ngay cả với các biện pháp phòng thủ cơ bản, dữ liệu vẫn có nguy cơ bị rò rỉ về mặt ngữ nghĩa, đặt ra thách thức lớn về bảo mật cho các nền tảng AI.
Apple được báo cáo đã huấn luyện một mô hình ngôn ngữ lớn dành riêng cho người dùng Trung Quốc với sự hỗ trợ từ Alibaba, song song với kế hoạch tích hợp Qwen vào Apple Intelligence.
Second Thought là khung suy luận mới giúp các tác nhân AI tận dụng thời gian chờ phản hồi từ môi trường để thực hiện các suy luận phụ song song, giúp giảm đáng kể số bước cần thiết để hoàn thành tác vụ mà không cần huấn luyện lại.
Rohan Paul@rohanpaul_aiSome architecture choices that make transformers cheaper or more stable also make them harder to ext…
DịchNghiên cứu trên 26 mô hình 7B cho thấy các lựa chọn kiến trúc như QK-norm hay Sliding Window khi kết hợp có thể làm suy giảm nghiêm trọng khả năng xử lý ngữ cảnh dài, dù các bài kiểm tra ngắn hạn không thể hiện rõ điều này.
Xiaobei@frxiaobeiĐừng chỉ nhìn vào giá mỗi triệu Token, hãy chú ý đến hiệu suất của mô hình. Một mô hình có đơn giá thấp hơn có thể tốn kém hơn nếu nó tiêu tốn nhiều Token hơn để tạo ra cùng một kết quả so với các đối thủ.
Rohan Paul@rohanpaul_aiVery timely paper. An agent skill can be completely relevant to the task and still make the agent wo…
DịchNghiên cứu thực nghiệm chỉ ra rằng ngay cả khi kỹ năng bổ sung hoàn toàn phù hợp với nhiệm vụ, chúng vẫn có thể khiến AI Agent hoạt động kém hiệu quả do lỗi thực thi hoặc quy trình xác thực dư thừa. Các nhà phát triển cần kiểm tra kỹ lưỡng và so sánh hiệu suất trước khi tích hợp kỹ năng mới.
Nghiên cứu chỉ ra rằng việc lặp lại dữ liệu chất lượng cao là cần thiết khi mở rộng quy mô LLM, với số lần lặp tối ưu phụ thuộc vào độ khó và hiệu suất của từng lĩnh vực cụ thể.
Kim@kimmonismusQuick reminder: When they first introduced the increased context they said that anything over 272k w…
DịchKhi sử dụng cửa sổ ngữ cảnh mở rộng trên Codex, hãy cẩn thận vì phần dữ liệu vượt quá 272k token sẽ bị tính phí gấp đôi hạn mức thông thường.
Các mô hình AI hiện đại đang ưu tiên khả năng suy luận thay vì lưu trữ kiến thức. Điều này giúp GLM-5.2 đạt điểm số ấn tượng trong các bài kiểm tra toán học, nhưng lại khiến các mô hình nhỏ như Qwen3.5 9B dễ gặp ảo giác hơn khi truy vấn thông tin thực tế.
Ma Dongxi NLP@dongxi_nlpBest Read Week 33 R-lens: Making J-lens More Faithful on Early Layers Stealing Reasoning Traces fr…
DịchTuần này tập trung vào R-lens giúp J-lens tăng độ trung thực ở các lớp sớm và kỹ thuật mới cho phép đánh cắp dấu vết suy luận từ các API LLM độc quyền.
Rohan Paul@rohanpaul_aiNew Meta paper shows, small models may not be bad predictors of scale; they may just be getting unde…
DịchNghiên cứu của Meta chỉ ra rằng các mô hình nhỏ có thể đạt hiệu suất cao nếu được tinh chỉnh siêu tham số kỹ lưỡng. Các mô hình này bắt đầu tuân theo quy luật mở rộng từ quy mô 4 triệu tham số và cực kỳ nhạy cảm với cấu hình huấn luyện.
Timothy Gowers và Peter Sarnak cho rằng LLM giỏi kết hợp các phương pháp có sẵn nhưng thiếu trực giác để chọn lọc hướng đi hiệu quả, dẫn đến việc khó tạo ra những ý tưởng đột phá thực sự.
Hongming@hongming731Số tuần này tập trung vào tầng thực thi của AI Agent, phân tích cách các mô hình như Grok 4.6, DeepSeek V4 Pro và Gemini 3.7 Flash tối ưu hóa khả năng xử lý tác vụ dài hạn thông qua các cơ chế Harness và điều hướng thông minh.
Rohan Paul@rohanpaul_aiLLMs can suggest scientific mechanisms, but this paper finds that letting the agent choose experimen…
DịchMDA tối ưu hóa LLM bằng cách tách biệt việc tạo giả thuyết và suy luận Bayes, giúp đạt độ chính xác tương đương Opus 4.7 chỉ với 8 lần thử nghiệm thay vì 41, với tỷ lệ thành công vượt trội 93% so với 31%.
Bài viết phân tích lý do tại sao các mô hình tuần hoàn (recurrent models) thường gặp lỗi khi cố gắng suy nghĩ sâu hơn, đồng thời giải thích cách Transformer hiện nay đang dùng phương pháp 'vừa nói vừa nghĩ' để vượt qua giới hạn tính toán.
LittleLearner là dự án nghiên cứu huấn luyện các mô hình từ 0.6B đến 5B tham số bằng giáo trình tiểu học (K-5). Kết quả cho thấy việc mở rộng quy mô hay tinh chỉnh không thể giúp mô hình vượt qua giới hạn kiến thức đã được thiết lập từ giai đoạn tiền huấn luyện.
Tác giả lập luận rằng sự bùng nổ của AI Agent đang làm lu mờ các nguyên tắc cốt lõi như khả năng bảo trì và tư duy logic. Dù LLM mạnh mẽ, kỹ năng thiết kế hệ thống và quản lý tư duy vẫn là yếu tố quyết định sự thành công của một kỹ sư phần mềm.
Qwen@Alibaba_Qwen3000000000 downloads! Can you count the zeros at a glance? 😎 Thank you all for the incredible love….
DịchQwen chính thức trở thành mô hình AI có lượt tải xuống cao nhất thế giới, vượt qua cả Meta và Google trong sáu tháng qua theo báo cáo từ Bloomberg.
Thêm 1 nguồn khác đưa tinIT HomeTác giả cho rằng sau 4 năm, LLM vẫn chưa cải thiện đáng kể chất lượng phần mềm hay năng suất thực tế, đồng thời chỉ ra các vấn đề về chất lượng mã nguồn và bảo mật khiến ông từ chối sử dụng chúng trong công việc.
karminski@karminski3Video kiểm chứng hiệu năng thực tế của DeepSeek-V4-Pro-0813, giải đáp nghi vấn về khả năng suy luận so với bản Flash và liệu công cụ Harness có thực sự cải thiện chất lượng phản hồi.
Alibaba vừa ra mắt mô hình AI tối ưu hóa cực tốt, có thể chạy mượt mà trên máy tính cá nhân nhưng vẫn sở hữu hiệu năng vượt trội so với các đối thủ lớn gấp nhiều lần.
CORS Chat là công cụ web giúp kiểm thử các mô hình LLM chạy qua LM Studio hoặc OpenRouter, hỗ trợ hiển thị trực tiếp hình ảnh SVG ngay khi mô hình đang phản hồi và lưu trữ lịch sử trò chuyện cục bộ.
Hongming@hongming731Nghiên cứu mới chỉ ra lỗ hổng cho phép trích xuất chuỗi tư duy ẩn từ các mô hình AI hàng đầu của Anthropic, OpenAI và Google với chi phí thấp, đặt ra thách thức lớn về bảo mật mô hình.
Cùng sự kiện, bài đại diện «Lỗ hổng bảo mật nghiêm trọng: Chuỗi tư duy ẩn của các mô hình AI lớn bị giải mã»
cb_doge@cb_dogeGrok 4.6 ranks #1 on RuntimeWire's Newsroom Reliability v0.2 benchmark with a score of 0.79, beating…
DịchGrok 4.6 vừa xuất sắc giành vị trí quán quân trong bài kiểm tra Newsroom Reliability v0.2 của RuntimeWire với số điểm 0.79, vượt qua các đối thủ sừng sỏ như GPT-5.6 Sol, Claude Opus 4.8, Gemini và DeepSeek.
ThoughtDAG là công cụ canvas cục bộ cho phép người dùng trực quan hóa, phân nhánh và tinh chỉnh ngữ cảnh hội thoại gửi tới LLM thông qua cấu trúc đồ thị, giúp kiểm soát dữ liệu đầu vào hiệu quả hơn.
Elvis Saravia@omarsar0Interesting new research from IBM. If you pick models from benchmark deltas, some of that delta bel…
DịchNghiên cứu BenchDrift từ IBM chỉ ra rằng các mô hình AI mạnh thường nhạy cảm với cách diễn đạt hơn cả mô hình yếu, khiến thứ hạng trên các bảng xếp hạng benchmark không phản ánh chính xác năng lực thực sự.
Các nhà nghiên cứu đã ra mắt System Prompt Index, thư viện chứa hơn 1.000 chỉ dẫn hệ thống từ 400+ ứng dụng AI, kèm khung kiểm định AISPA nhằm đảm bảo tính an toàn và đạo đức cho các mô hình ngôn ngữ lớn.