Toàn bộ tin AI · Thẻ “llm”

1.276 tin · trang 24/32

24/08

Thứ Hai · 28 tin
Rohan Paul@rohanpaul_ai
Nghiên cứuĐiểm AI 27/100

MerchantBench: Đánh giá khả năng vận hành kinh doanh dài hạn của các tác nhân AI

Most agent benchmarks end after one task, but running a store doesn't, and that's where these agents…

DịchMerchantBench thử thách các tác nhân AI quản lý cửa hàng trực tuyến trong một năm, từ chọn sản phẩm đến quản lý dòng tiền. Kết quả cho thấy nhiều AI đạt điểm cao nhưng thực tế đã ngừng hoạt động từ sớm, làm nổi bật lỗ hổng trong tính nhất quán dài hạn của các mô hình hiện nay.

AI AgentĐánh giá AILLMNghiên cứu AI
Simon Willison Blog
Hướng dẫnĐiểm AI 31/100

Drew Breunig: Bảo mật AI Agent với môi trường thực thi cô lập và chiến lược tối ưu chi phí LLM

Drew Breunig cảnh báo về tính tự chủ của AI Agent và đề xuất dùng Teleport để bảo mật. Ông cũng khuyên doanh nghiệp nên ưu tiên các mô hình hiệu quả như Opus hay GLM thay vì các model đắt đỏ để tối ưu hóa chi phí lập trình.

AI AgentBảo mật AITối ưu chi phíPhát triển phần mềm
JiQiZhiXin
NgànhĐiểm AI 92/100

Tinh chọnKhi AI tự tạo ra AI: Chúng ta còn cách 'RSI mạnh' bao xa?

Thay vì chỉ chạy đua quy mô, các phòng thí nghiệm hàng đầu đang chuyển hướng sang 'Tự cải tiến đệ quy' (RSI), nơi AI trực tiếp tham gia vào quá trình phát triển thế hệ AI kế tiếp. Bài viết phân tích các cột mốc đột phá và giới hạn của xu hướng tự tiến hóa này trong tương lai gần.

AI tự tiến hóaRSITương lai AILLM
Vì sao đáng đọc: Chủ đề mang tính chiến lược, cập nhật xu hướng công nghệ tiên phong (RSI) từ các chuyên gia hàng đầu, có giá trị chuyên sâu cao cho người làm trong ngành AI.
Elvis Saravia@omarsar0
Hướng dẫnĐiểm AI 46/100

Thị phần token của mô hình mã nguồn mở tăng vọt nhờ làn sóng đa tác nhân (Multi-agent)

It's one data point, but I think token share for open models will continue to rise. You can get mo…

DịchThị phần token của AI mã nguồn mở đã tăng từ 28% lên 62% trong hai tháng qua. Xu hướng sử dụng các hệ thống đa tác nhân (multi-agent) khiến nhu cầu token tăng mạnh, nơi các mô hình mã nguồn mở đang chiếm ưu thế vượt trội về chi phí và hiệu suất so với các mô hình đóng.

AI mã nguồn mởMulti-agentXu hướng AIToken kinh tế

23/08

Chủ Nhật · 11 tin
Rohan Paul@rohanpaul_ai
Nghiên cứuĐiểm AI 37/100

Chi phí ẩn của AI Agent: Mỗi kỹ năng tiêu tốn 50-280 token trong prompt

Agents shouldn't pay rent for skills they rarely use. Right now, the only way to give an agent a sk…

DịchNghiên cứu chỉ ra rằng việc cài đặt kỹ năng cho AI Agent làm tăng vĩnh viễn dung lượng prompt từ 50-280 token/kỹ năng. Thay vì nạp tất cả, chuyên gia khuyên chỉ nên giữ lại các kỹ năng thiết yếu và gọi các kỹ năng khác theo nhu cầu để tối ưu hiệu suất.

AI AgentTối ưu hóaLLMKỹ thuật prompt
The Decoder: AI News
Nghiên cứuĐiểm AI 51/100

Nghiên cứu cảnh báo: AI có thể khiến các nhà khoa học làm việc nhiều hơn nhưng chất lượng lại giảm sút

Nghiên cứu từ các đại học danh tiếng cho thấy AI làm tăng chi phí cơ hội của thời gian, khiến các nhà khoa học ưu tiên số lượng dự án thay vì đào sâu nghiên cứu, dẫn đến nguy cơ suy giảm chất lượng công trình khoa học.

AI trong khoa họcNăng suất lao độngNghiên cứu AITác động xã hội
AI Notes@AYi_AInotes
Hướng dẫnĐiểm AI 40/100

Bảng xếp hạng LLM gây tranh cãi: Chi phí và 'gu' lập trình trở thành thước đo mới

Bảng xếp hạng AI mới nhấn mạnh vào hiệu quả chi phí và khả năng thực thi thay vì chỉ số IQ. Các mô hình như Sol đang dẫn đầu nhờ tối ưu hóa token vượt trội so với Gemini, đồng thời khả năng viết code sạch và tính ứng dụng thực tế trở thành tiêu chí đánh giá đẳng cấp mới.

LLMĐánh giá AILập trình AITối ưu chi phí
MarkTechPost
Hướng dẫnĐiểm AI 33/100

Hướng dẫn phát triển NeMo Guardrails: Xây dựng hàng rào bảo mật cho AI doanh nghiệp

Hướng dẫn chi tiết cách sử dụng khung NeMo Guardrails để thiết lập hệ thống bảo mật đa tầng cho ứng dụng LLM, từ lọc PII đến kiểm soát công cụ dựa trên chính sách, giúp doanh nghiệp đảm bảo tính tuân thủ và an toàn trong các tác vụ nhạy cảm.

NeMo GuardrailsBảo mật AILLMKỹ thuật AI
Lee Robinson@leerob
Hướng dẫnĐiểm AI 47/100

Làm sao để tin tưởng AI tự động thực hiện tác vụ? Giải pháp thiết kế tối ưu

How can you trust @Bots to operate autonomously? This is something we've carefully designed. First…

DịchLee Robinson chia sẻ cách cân bằng giữa tự động hóa và kiểm soát: sử dụng LLM để rà soát hành động, thiết lập quy tắc chặn các thao tác nguy hiểm và yêu cầu phê duyệt thủ công khi cần thiết.

AI AgentTự động hóaLLMQuản trị AI
SemiAnalysis@SemiAnalysis_
Hướng dẫnĐiểm AI 48/100

Tok/s/MW: Chỉ số mới đánh giá hiệu suất năng lượng của LLM

A useful metric for evaluating LLM inference is tok/s/MW: how many tokens a system generates per sec…

DịchChỉ số tok/s/MW đo lường số lượng token tạo ra trên mỗi megawatt điện năng tiêu thụ, giúp đánh giá hiệu quả vận hành của các hệ thống LLM như DeepSeek V4 trên phần cứng B300.

LLMHiệu suất năng lượngTrung tâm dữ liệuDeepSeek

22/08

Thứ Bảy · 24 tin
Elvis Saravia@omarsar0
Nghiên cứuĐiểm AI 35/100

Tối ưu hóa truy vấn: Thiết lập hàm mục tiêu cho ngữ cảnh của AI Agent

What a fascinating paper on AI agents. A lot of the issues we see with AI agents today revolve arou…

DịchNghiên cứu mới đề xuất phương pháp 'Đặt câu hỏi tối ưu' giúp AI Agent giảm thiểu ảo giác và chi phí bằng cách coi việc thu thập ngữ cảnh là quá trình suy luận chủ động, cho phép đo lường hiệu suất thực tế so với mức tối ưu lý thuyết.

AI AgentLLMNghiên cứu AITối ưu hóa
Rohan Paul@rohanpaul_ai
Nghiên cứuĐiểm AI 30/100

Pandora's Router: Giải pháp tối ưu chi phí khi điều hướng truy vấn cho mô hình AI

Google DeepMind's new routing idea is trying to solve a great practical question. Routing is suppos…

DịchGoogle DeepMind giới thiệu Pandora's Router, phương pháp điều hướng thông minh giúp giảm thiểu chi phí bằng cách chỉ kích hoạt các mô hình mạnh khi cần thiết. Hệ thống này tối ưu hóa đáng kể hiệu suất và chi phí vận hành trên các tác vụ như MATH và RAG.

DeepMindLLMTối ưu chi phíAI Research
Rohan Paul@rohanpaul_ai
Nghiên cứuĐiểm AI 37/100

Nghiên cứu cảnh báo: Dữ liệu khảo sát tổng hợp từ LLM chưa thể thay thế con người

LLMs can reproduce the broad direction of human survey results, but not the actual human response di…

DịchMột nghiên cứu tâm lý học cho thấy LLM chỉ mô phỏng được xu hướng chung chứ không tái hiện chính xác phân phối câu trả lời của con người. Các mô hình huấn luyện bằng dữ liệu AI có hiệu suất dự báo kém, cho thấy LLM chỉ phù hợp cho các khảo sát thử nghiệm chi phí thấp.

LLMNghiên cứu AIDữ liệu tổng hợpTâm lý học
The Decoder: AI News
Nghiên cứuĐiểm AI 53/100

Nghiên cứu từ Princeton và UCSD: Tại sao AI Agent cần 'kỹ năng' và giới hạn của chúng

Nghiên cứu trên 8.135 thử nghiệm cho thấy kỹ năng giúp AI Agent cải thiện hiệu suất thông qua hướng dẫn quy trình thay vì bổ sung kiến thức. Tuy nhiên, hiệu quả giảm mạnh khi số lượng kỹ năng tăng lên, cho thấy chất lượng và khả năng truy xuất quan trọng hơn số lượng.

AI AgentNghiên cứu AITự động hóaCông nghệ
Rohan Paul@rohanpaul_ai
Nghiên cứuĐiểm AI 42/100

Nghiên cứu từ Harvard & Stanford: Đừng dùng LLM thay thế mô hình Embedding cho tác vụ tìm kiếm

New Harvard + Stanford paper says, don't replace your embedding model with an LLM. Use embeddings fo…

DịchNghiên cứu mới chỉ ra rằng LLM đắt gấp 1.431 lần nhưng không vượt trội đáng kể so với mô hình Embedding trong tìm kiếm. Các chuyên gia khuyên nên dùng Embedding để lọc dữ liệu thô và chỉ dùng LLM cho các tác vụ suy luận chuyên sâu ở bước cuối.

RAGEmbeddingLLMTối ưu chi phí
Kim@kimmonismus
Hướng dẫnĐiểm AI 42/100

Grok 4.6 thống trị CursorBench với chi phí cực thấp, phiên bản 4.7 sắp ra mắt

Grok 4.6 offers excellent value for money, and as we all know, xAI has produced a fantastic model wi…

DịchGrok 4.6 đạt 70,8% trên CursorBench với chi phí rẻ gấp 6 lần đối thủ. xAI xác nhận phiên bản 4.7 với 2,1 nghìn tỷ tham số sẽ sớm ra mắt, hứa hẹn hiệu suất vượt trội hơn nữa.

GrokxAICursorBenchLLM
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)
Hướng dẫnĐiểm AI 56/100

Đừng làm TUI nữa: Kỷ nguyên mới của phát triển ứng dụng Native với AI

Tác giả chứng minh rằng với sự hỗ trợ của LLM như Claude, việc xây dựng ứng dụng macOS native bằng SwiftUI trở nên cực kỳ dễ dàng mà không cần viết code UI thủ công, khiến giao diện dòng lệnh (TUI) dần trở nên lỗi thời.

Phát triển phần mềmSwiftUILLMmacOS
Ant Ling@AntLingAGI
Sản phẩmĐiểm AI 53/100

Tinh chọnAntLing ra mắt Weight Cache Daemon cho SGLang: Tăng tốc khởi động mô hình gấp 16 lần

Today, we’re introducing the Weight Cache Daemon for SGLang. 🚀 On Ling-2.6-1T FP8, it reduced weigh...

DịchAntLing giới thiệu Weight Cache Daemon giúp tối ưu hóa SGLang, rút ngắn thời gian tải trọng số trên Ling-2.6-1T FP8 xuống còn 0,63 giây và giảm tổng thời gian khởi động từ 8,8 phút xuống chỉ còn 0,53 phút.

SGLangAntLingTối ưu hóaLLM
Diễn biến sự kiện · 2 bài →Thêm 1 nguồn khác đưa tinLMSYS: Blog (nhóm Chatbot Arena)
Vì sao đáng đọc: Việc chuyển đổi cơ chế tải trọng số từ ổ cứng sang bộ nhớ đệm giúp giảm thời gian khởi động từ phút xuống giây, thay đổi hoàn toàn cách vận hành cho các đội ngũ cần mở rộng hoặc khởi động lại dịch vụ suy luận thường xuyên.
Rohan Paul@rohanpaul_ai
Nghiên cứuĐiểm AI 36/100

Học tập liên tục cho AI Agent: Thay đổi hành vi mà không cần huấn luyện lại mô hình

An agent can improve without retraining the model. Once agents rewrite their own prompts, memory, a…

DịchNghiên cứu mới giới thiệu khung 'Học tập liên tục theo cấu trúc' (HCL), cho phép AI Agent cập nhật hành vi bằng cách tinh chỉnh prompt, bộ nhớ và định tuyến thay vì huấn luyện lại tham số. Phương pháp này coi các thay đổi cấu trúc như mã nguồn, cần kiểm thử hồi quy trước khi áp dụng.

AI AgentHọc tập liên tụcLLMTối ưu hóa AI
Hugging Face Daily Papers
Nghiên cứuĐiểm AI 92/100

Tinh chọnFlowEvo: Bước tiến mới giúp AI tự tiến hóa thông qua quy trình và kỹ năng tự học

FlowEvo là khung làm việc không cần huấn luyện, cho phép AI tự động chuyển đổi các quy trình thành công thành kỹ năng có thể tái sử dụng, giúp hệ thống liên tục phát triển và tối ưu hóa hiệu suất qua từng tác vụ.

AI AgentsTự họcTối ưu hóaLLM
Vì sao đáng đọc: Đột phá trong việc tối ưu hóa khả năng tự học của AI mà không cần huấn luyện lại, đạt kết quả vượt trội trên nhiều benchmark quan trọng. Rất đáng chú ý cho giới nghiên cứu.
xAI: News (Web)
Sản phẩmĐiểm AI 39/100

Grok 4.6 chính thức có mặt trên Google Cloud Vertex AI

Grok 4.6 đã được tích hợp vào Vertex Model Garden, hỗ trợ cửa sổ ngữ cảnh 500k token với 4 mức tùy chỉnh cường độ suy luận. Mức giá API khởi điểm từ 2 USD/triệu token đầu vào.

GrokxAIGoogle CloudVertex AI
Thêm 4 nguồn khác đưa tinX: cb_doge (@cb_doge)X: SpaceXAI (@SpaceXAI)X: Elon Musk (@elonmusk, xAI)X: Andrew Milich (@milichab)
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)
Sản phẩmĐiểm AI 45/100

Felony Bench: Thước đo mới đánh giá khả năng thực hiện hành vi phi pháp của AI

Felony Bench là bộ tiêu chuẩn mới đo lường mức độ gây hại của các tác nhân AI đối với bên thứ ba. Kết quả cho thấy Anthropic và OpenAI đang dẫn đầu về số điểm 'phi pháp', trong khi Google và Moonshot đạt mức an toàn tuyệt đối.

An toàn AIĐạo đức AIFelony BenchLLM
Hugging Face Daily Papers
Nghiên cứuĐiểm AI 92/100

Tinh chọnBài toán khó của Embedder: Dùng LLM thay thế mô hình nhúng truyền thống có đáng không?

Nghiên cứu so sánh toàn diện cho thấy dù LLM có hiệu suất ngang ngửa mô hình nhúng chuyên dụng, nhưng chi phí vận hành lại đắt gấp 1.400 lần và tốc độ xử lý chậm hơn đáng kể.

LLMEmbeddingTối ưu chi phíNghiên cứu AI
Vì sao đáng đọc: Nghiên cứu thực nghiệm giá trị, giải quyết bài toán tối ưu chi phí và hiệu năng thực tế cho kỹ sư AI khi lựa chọn giữa LLM và mô hình nhúng.
LMSYS: Blog (nhóm Chatbot Arena)
Sản phẩmĐiểm AI 67/100

Cùng sự kiệnSGLang ra mắt Weight Cache Daemon: Khởi động lại engine AI chỉ trong chưa đầy 1 giây

SGLang giới thiệu Weight Cache Daemon sử dụng CUDA IPC để giảm thời gian tải trọng số từ 495 giây xuống còn 0,63 giây. Công nghệ này giúp tăng tốc khởi động hệ thống lên 785 lần, hỗ trợ chia sẻ đa thực thể và phục hồi engine tức thì.

SGLangLLMTối ưu hóaHạ tầng AI
Cùng sự kiện, tinh chọn hiển thị «AntLing ra mắt Weight Cache Daemon cho SGLang: Tăng tốc khởi động mô hình gấp 16 lần»
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)
Hướng dẫnĐiểm AI 64/100

Điều gì xảy ra khi chi phí trí tuệ nhân tạo giảm 100 lần?

Chi phí vận hành các mô hình ngôn ngữ lớn đang giảm mạnh, với tốc độ giảm 100 lần mỗi năm. Sự sụt giảm này biến những dự án phân tích dữ liệu quy mô lớn vốn bất khả thi trước đây trở nên khả thi và hiệu quả về mặt kinh tế.

chi phí AILLMxu hướng công nghệphân tích dữ liệu
Ant Ling@AntLingAGI
Mô hìnhĐiểm AI 59/100

Ant Group ra mắt mô hình dự đoán Ling-3.0-flash-dspark mã nguồn mở

Today we are open sourcing Ling-3.0-flash-dspark, a DSpark draft model built specifically for Ling-3…

DịchAnt Group vừa công bố mã nguồn mở Ling-3.0-flash-dspark, mô hình dự đoán (draft model) tối ưu cho Ling-3.0-flash. Trên hệ thống 4 GPU NVIDIA Blackwell, mô hình đạt tốc độ ấn tượng 1.120 tok/s với độ trễ cực thấp, giúp tăng tốc đáng kể hiệu suất suy luận.

Ant GroupLLMMã nguồn mởTối ưu hóa

21/08

Thứ Sáu · 30 tin
Đã tải 40 tin

40 tin mỗi trang, cuộn để tải tiếp · lọc và sắp xếp ngay trên máy chủ (66 ms) · bộ lọc nằm trong đường dẫn nên chia sẻ link là giữ nguyên kết quả

Toàn bộ tin AI · Thẻ “llm” — Trang 24 | AIHOT.vn