Cal-OPD giải quyết vấn đề mô hình học sinh vô tình học phải các sai lệch nội tại của giáo viên trong quá trình chưng cất (distillation), bằng cách tách biệt và loại bỏ các nhiễu này để cải thiện khả năng suy luận.
Eric Mitchell@ericmitchellaiJust another night asking the computer to use the computer to fix the computer so I can get back to …
DịchMột góc nhìn thú vị về việc để AI tự chẩn đoán và sửa lỗi hệ thống, giúp các kỹ sư tối ưu hóa quy trình phát triển phần mềm một cách tự động.
GraphSkillEvo cải thiện hiệu suất tác nhân LLM bằng cách biểu diễn kỹ năng dưới dạng đồ thị có cấu trúc thay vì văn bản thuần túy, giúp tối ưu hóa quy trình thực thi và giảm thiểu sự dư thừa.
AI Notes@AYi_AInotesBài viết phân tích mô hình Jev, giải pháp thay thế việc tạo văn bản tự hồi quy tốn kém bằng cách chuyển đổi logic ra quyết định thành các trạng thái đầu vào và tùy chọn xác định, giúp tối ưu hóa chi phí và độ trễ.
karminski@karminski3Phiên bản Laya-mlx được tối ưu trên framework MLX giúp tăng tốc độ xử lý gấp 50 lần so với Jev, chỉ chiếm tối đa 1GB RAM. Mô hình này hiện có thể điều khiển game Rắn săn mồi ngay trên chip M3 Max với tốc độ 60 khung hình/giây.
Dex Horthy (HumanLayer)@dexhorthydon't mind me i'm just over here hillclimbing a jev harness for code search carry on
DịchDex Horthy từ HumanLayer đang thực hiện tinh chỉnh thuật toán leo đồi (hill climbing) cho bộ công cụ Jev, nhằm nâng cao hiệu suất tìm kiếm mã nguồn.
ModelBest OpenBMB@OpenBMBThis is a really practical way to use a small local model. Also pretty impressive that the whole pip…
DịchKhám phá cách vận hành các mô hình AI nhỏ hiệu quả ngay trên máy tính cá nhân. Sự kết hợp giữa OpenClaw và Ollama cho phép chạy mượt mà chỉ bằng CPU, chứng minh rằng thiết kế luồng công việc thông minh có thể nâng cao đáng kể sức mạnh của các mô hình quy mô nhỏ.
Elvis Saravia@omarsar0Recommend read. Love this new arc toward more affordable, more efficient self-improving coding agent…
DịchSIFT sử dụng LLM để đánh giá và chọn lọc các hướng phát triển tiềm năng trước khi thực thi, giúp giảm đáng kể chi phí vận hành cho các tác nhân AI tự cải tiến mã nguồn.
Elvis Saravia@omarsar0Been integrating Jev into my custom harness. I couldn't be more excited about the results I am seei…
DịchElvis Saravia chia sẻ cách Jev giúp các AI Agent vượt qua rào cản về chi phí và độ trễ, mở ra khả năng ứng dụng trong quy trình làm việc phức tạp, kiểm soát luồng dữ liệu và tạo lập dữ liệu chất lượng cao.
AI Notes@AYi_AInotesJev là mô hình AI tối ưu cho các tác vụ logic nhanh với khả năng đưa ra quyết định, lựa chọn và chấm điểm chỉ trong 0,07 giây. Bài viết cung cấp 8 ví dụ thực tế và các lưu ý quan trọng khi triển khai mô hình này.
ByteShape giới thiệu mô hình Qwen 3.8 27B đã được tối ưu hóa bằng ShapeLearn, đạt tới 99,63% độ chính xác so với bản gốc BF16 trên GPU-5, thiết lập chuẩn mực mới về tốc độ và chất lượng.
Dream-RSI cho phép các tác nhân AI cải thiện hiệu suất bằng cách phân tích lại lịch sử tìm kiếm cũ để thử nghiệm các chiến lược thay thế, mà không cần can thiệp vào mô hình gốc.
DeepSeek thông báo các ngày làm việc bù vào cuối tuần và ngày lễ theo quy định tại Trung Quốc sẽ được áp dụng mức phí thấp điểm cho API, giúp tối ưu chi phí cho người dùng doanh nghiệp.
AI Notes@AYi_AInotesDự án Qwen-2.5-1B-RLCD sử dụng framework MLX để trích xuất JSON trong một lần truyền duy nhất, giúp giảm đáng kể độ trễ suy luận trên thiết bị. Giải pháp này tối ưu cho các tác vụ phân loại và trích xuất dữ liệu cố định.
Rohan Paul@rohanpaul_aiIf 1 agent task launches many sandboxes, manage their memory together AgentZip shows that much of t…
DịchAgentZip tối ưu hóa hiệu suất bằng cách nén các dữ liệu trùng lặp trong bộ nhớ giữa các sandbox tác nhân AI. Công nghệ này giúp giảm tới 88,55% dung lượng bộ nhớ dư thừa khi chạy nhiều tác nhân từ cùng một khuôn mẫu, đặc biệt hiệu quả trong thời gian chờ phản hồi từ LLM.
DAIR.AI@dair_aiSuper interesting work from Zoom and colleagues. If you maintain a hand-built coding harness, there…
DịchĐội ngũ Zoom đã thực hiện thử nghiệm trên 176 cấu hình và 4 mô hình khác nhau, sử dụng SWE-Bench Verified và Terminal-Bench 2.1 để đánh giá tác động của việc lập kế hoạch, không gian hành động và quản lý ngữ cảnh đối với hiệu suất của các tác nhân AI lập trình.
Elvis Saravia@omarsar0Build your own harness, folks. This is absolute banger paper from NVIDIA on self-evolving agent har…
DịchNVIDIA giới thiệu SoL-Pi, khung tác nhân tự tiến hóa sử dụng cơ chế sàng lọc qua nhiều môi trường, giúp giảm một nửa lượng token tiêu thụ mà vẫn duy trì hiệu suất tương đương các mô hình hàng đầu.
Google Research giới thiệu MilleMiglia, công cụ tạo dữ liệu thực tế giúp tối ưu hóa logistics chặng trung gian, nơi hàng hóa cần luân chuyển phức tạp giữa các trung tâm phân phối để đảm bảo tiến độ giao hàng.
Cloudflare chia sẻ cách họ tối ưu hóa dịch vụ Pingora bằng các phương pháp thống kê, giúp cắt giảm đáng kể lượng RAM tiêu thụ trên quy mô mạng lưới toàn cầu.
Elvis Saravia@omarsar0Agents can self-improve without retraining. EvoSkill v2 achieves this with persistent agent skills….
DịchEvoSkill v2 cho phép các Agent tự học và lưu trữ kỹ năng mới vào tệp tin sau mỗi lần thất bại. Khi gặp tác vụ tương tự, Agent sẽ tự động tải các kỹ năng này để tối ưu hiệu suất mà không cần thay đổi trọng số mô hình.
Nghiên cứu chỉ ra rằng việc tăng số lượng phản hồi (N) giúp cải thiện khả năng suy luận của LLM, nhưng cách thức thực thi (batching) mới là yếu tố quyết định đến chi phí năng lượng và hiệu suất hệ thống.
AI Notes@AYi_AInotesBài viết hướng dẫn cách tích hợp Jev - mô hình tối ưu với tốc độ phản hồi 150ms và chi phí token bằng 0 - vào các hệ thống AI Agent như Codex, Claude Code và Hermes để tăng cường khả năng ra quyết định.
SemiAnalysis phân tích kiến trúc Engram giúp DeepSeek-V4.1-Flash giảm tải bảng nhúng (embedding) sang DRAM hoặc SSD, từ đó tiết kiệm dung lượng HBM mà vẫn duy trì chất lượng mô hình.
PolaFormer++ cải tiến cơ chế chú ý tuyến tính bằng cách tối ưu hóa ánh xạ đặc trưng thông qua tính toán phân cực và độ nhọn cấp kênh, giúp đạt hiệu suất vượt trội trên nhiều tác vụ thị giác máy tính.
Nghiên cứu chỉ ra rằng sự lệch pha giữa token kết thúc (EOS) của mô hình giáo viên và học sinh trong chưng cất chính sách trực tuyến (OPD) khiến mô hình phản hồi quá dài hoặc cạn kiệt tài nguyên tính toán.
Ma Dongxi NLP@dongxi_nlpLangChain vừa nâng cấp hệ thống harness với Jev, giúp tăng tốc đáng kể các tác vụ phân loại và điều hướng tác nhân hoặc mô hình nhờ khả năng xử lý cực nhanh.
RetireOPD giới thiệu cơ chế tự động loại bỏ giáo viên khi học sinh đạt ngưỡng hiệu suất, giúp tối ưu hóa quá trình huấn luyện tác nhân thông qua việc kết hợp học tăng cường và chưng cất chính sách.
Video DeltaNet (VDN) kết hợp cơ chế chú ý Softmax cục bộ với bộ nhớ tuyến tính hai chiều, giúp tối ưu hóa việc mô hình hóa không gian và duy trì ngữ cảnh video dài cho các ứng dụng livestream.
Rohan Paul@rohanpaul_aiNew Carnegie Mellon + Oxford Univ paper shows a model can "think longer" by repeatedly improving hid…
DịchCác nhà nghiên cứu đề xuất phương pháp 'Looped Flows', cho phép mô hình cải thiện trạng thái ẩn thay vì tạo thêm token dài dòng. Kỹ thuật này giúp các mô hình nhỏ đạt độ chính xác cao hơn thông qua các bước lặp suy luận, tối ưu hóa hiệu suất tính toán khi kiểm thử.
Jev là mô hình AI chuyên xử lý các quyết định logic thay vì tạo văn bản, giúp tăng tốc độ xử lý gấp 20-200 lần với chi phí cực thấp. Kết quả thực tế cho thấy Jev đạt hiệu suất vượt trội trong các tác vụ phân loại và sàng lọc dữ liệu song song.
Nghiên cứu giới thiệu Infinite-Parameter LLM, sử dụng siêu mạng để tạo trọng số từ dữ liệu thực tế thay vì lưu trữ cố định. Phương pháp này giúp mô hình liên tục cập nhật kiến thức vào trọng số, tối ưu hóa bộ nhớ và duy trì thông tin xuyên suốt các phiên hội thoại.
OpenAI Developers@OpenAIDevsGet more visibility into your usage. See how tasks, subagents, and individual chats contribute to y…
DịchNgười dùng hiện có thể theo dõi chi tiết mức tiêu thụ tài nguyên từ các tác vụ, tác nhân phụ và từng cuộc hội thoại, giúp tối ưu hóa quy trình làm việc hiệu quả hơn.
Anthropic@AnthropicAIBiologists use specialized open-source models for tasks like modeling the structure of molecular sys…
DịchAnthropic vừa công bố các kỹ thuật tối ưu hóa GPU giúp tăng tốc độ suy luận cho hơn 30 mô hình sinh học mã nguồn mở trong lĩnh vực thiết kế thuốc và dự đoán gen. Toàn bộ mã nguồn tối ưu đã được chia sẻ công khai để cộng đồng nghiên cứu ứng dụng.
Emad Mostaque@EMostaqueWho need words any more Words are just human kludge AI don't need no words
DịchCactus Compute vừa trình làng Needle 3, mô hình nền tảng tự động hóa với dung lượng chỉ từ 8-29MB nhưng sở hữu khả năng gọi hàm thuần túy, được kỳ vọng cạnh tranh trực tiếp với DeepSeek V4 Flash.
Elvis Saravia@omarsar0Things to try with Jev right now: 1. LLM-as-a-Judge evaluation 2. Routing for agent harnesses harne…
DịchElvis Saravia từ DAIR.AI chia sẻ 4 hướng ứng dụng của Jev, từ đánh giá LLM đến điều phối agent thông minh. Trong đó, việc dùng Jev làm bộ định tuyến (router) cho các meta-harness đang mang lại hiệu quả chi phí vượt trội.
vLLM vừa hỗ trợ giải mã video phần cứng (NVDEC), giúp chuyển tải xử lý từ CPU sang GPU. Trên hệ thống 8xH100, hiệu suất giải mã tăng gấp đôi so với phương pháp cũ, tối ưu hóa đáng kể cho các tác vụ AI đa phương thức.
Aravind Srinivas (Perplexity CEO)@AravSrinivasComputer is the best multi model harness for long horizon agentic workloads. It now has a few preset…
DịchPerplexity vừa bổ sung tùy chọn kiểm soát mức độ nỗ lực cho Computer, cho phép người dùng tùy chỉnh độ sâu và hiệu suất xử lý của mô hình AI. Tính năng này giúp tối ưu hóa các tác vụ phức tạp và hiện đã có mặt trên nền tảng web.
Lucius AI tối ưu hóa nền tảng đấu thầu với AlloyDB, tăng tốc truy vấn gấp 47 lần và tích hợp AI qua MCP để tự động hóa phân tích dữ liệu với bảo mật tối ưu.
Rohan Paul@rohanpaul_aiA brilliant post from the GLM-5.3 team on RSI (recursive self-improvement). GLM-5.3 was already use…
DịchĐội ngũ Zhipu AI chia sẻ quy trình tối ưu hóa hạ tầng cho GLM-5.3-Flash, giúp đạt hiệu suất sản xuất chỉ trong hai tuần với tốc độ xử lý (throughput) tăng gấp 3 lần so với ban đầu.
Kim@kimmonismusWhile the US is discussing a slowdown, China is currently putting full force into its RSI. Zai says…
DịchZhipu AI cho biết mô hình GLM-5.3 đã hỗ trợ kỹ sư tối ưu hóa hạ tầng suy luận, giúp tăng gấp 3 lần lưu lượng xử lý chỉ trong hai tuần nhờ quy trình phản hồi liên tục. Đây được xem là bước tiến quan trọng hướng tới khả năng tự cải tiến đệ quy của các thế hệ AI tương lai.
