Rohan Paul@rohanpaul_aiGoldman Sachs earlier said: "Token use by AI agents is expected to multiply 24X by 2030" AI agents …
DịchGoldman Sachs dự báo nhu cầu token cho AI Agent sẽ bùng nổ gấp 24 lần vào năm 2030. Dù chi phí suy luận trên mỗi token giảm mạnh, nhưng cơ chế hoạt động phức tạp của Agent khiến lượng tiêu thụ thực tế cao gấp hàng chục lần so với chatbot thông thường.
@typesafeai@typesafeaiSave half a million, use 100x the tokens, nbd 💅
DịchProject Jev mang đến giải pháp đột phá giúp cắt giảm chi phí vận hành lên tới 500.000 đơn vị tiền tệ, đồng thời cho phép mở rộng khả năng xử lý token gấp 100 lần một cách dễ dàng.
Cursor đã cải tiến hệ thống agent harness, giúp giảm 7% chi phí token cho người dùng mà vẫn duy trì chất lượng hoạt động của agent.
Eric Zakariasson@ericzakariassonhere's a prompt to improve your agent harness based on what we've learned at cursor. enjoy # Improv…
DịchChia sẻ bộ prompt giúp giảm 7% chi phí token cho Agent Harness mà không làm giảm chất lượng, thông qua việc tinh gọn prompt, tối ưu hóa công cụ và quản lý bộ nhớ đệm hiệu quả.
Eric Zakariasson@ericzakariassonagents like to read a lot to gather context before and after working, so optimizing for reading make…
DịchCursor đã cắt giảm 7% chi phí token mà không ảnh hưởng đến chất lượng Agent nhờ tối ưu hóa cách đọc dữ liệu, bao gồm nén file và quản lý prompt thông minh. Dữ liệu cho thấy công cụ 'read' chiếm tới 91,3% tần suất sử dụng trong các phiên làm việc của Agent.
Bài viết chia sẻ kinh nghiệm thực tiễn và sự phát triển công nghệ của SenseTime trong việc triển khai hệ thống suy luận hỗn hợp không đồng nhất (heterogeneous hybrid inference) nhằm tăng hiệu suất xử lý Token.
Nathan Lambert@natolambertWhenever I see a model top this chart, it's normally a bit of a red flag. Would love to be proven wr…
DịchViệc Opus chiếm lĩnh vị trí dẫn đầu gây ra nhiều hoài nghi khi mô hình này tiêu tốn lượng token khổng lồ cho mỗi tác vụ. Nhiều chuyên gia cho rằng chính sự kém hiệu quả này là lý do khiến nhà phát triển phải giảm giá dịch vụ.
Rohan Paul@rohanpaul_aiThe information conducted a survey with 107 senior leaders/professionals. - 60% of companies report…
DịchDù 60% doanh nghiệp ghi nhận hiệu suất tăng, phần lớn vẫn chật vật kiểm soát chi phí AI. Chỉ 1/3 số đơn vị thực sự làm chủ được ngân sách token dù hơn một nửa cho biết họ hiểu rõ cơ cấu giá.
Khi Token trở thành 'bút và giấy' của kỷ nguyên AI, Tencent đã tiên phong cấp gói Token trị giá 300.000 NDT cho mỗi sinh viên đạt giải trong chương trình học bổng Qingyun, nhằm giải quyết rào cản tài nguyên trong nghiên cứu khoa học.
Rohan Paul@rohanpaul_aiAI will require "gazillions" of tokens. - Qualcomm CEO Cristiano Amon: Agentic AI will consume dra…
DịchCEO Cristiano Amon nhận định AI tác tử (Agentic AI) sẽ tiêu thụ token vượt xa chatbot truyền thống do phải liên tục ra quyết định, sử dụng công cụ và điều phối hệ thống. Trong tương lai, mô hình tính phí phần mềm có thể chuyển từ số lượng người dùng sang lượng token hoặc suy luận máy.
@completeskeptic@completeskepticif you think it's fun, wait til you get on discord ❄️
DịchSự bùng nổ của các dịch vụ token giá rẻ đang tạo ra những trải nghiệm khó lường. Hãy tham gia cộng đồng Discord để khám phá những góc khuất thú vị đằng sau xu hướng này.
Elvis Saravia@omarsar0Build your own harness, folks. This is absolute banger paper from NVIDIA on self-evolving agent har…
DịchNVIDIA giới thiệu SoL-Pi, khung tác nhân tự tiến hóa sử dụng cơ chế sàng lọc qua nhiều môi trường, giúp giảm một nửa lượng token tiêu thụ mà vẫn duy trì hiệu suất tương đương các mô hình hàng đầu.
Bài viết phân tích chiến lược sử dụng token, giúp bạn phân biệt rõ khi nào việc tiêu tốn tài nguyên cho các thử nghiệm AI là xứng đáng và khi nào cần tối ưu hóa để tránh lãng phí.
Dù dữ liệu cho thấy mức tiêu thụ token hàng tuần trên OpenRouter tăng từ 0,5 nghìn tỷ lên 126,2 nghìn tỷ kể từ đầu năm 2025, các chuyên gia cảnh báo con số này đã bị thổi phồng đáng kể.
Báo cáo mới từ Huawei nhận định thế giới số đang chuyển dịch từ mô hình tập trung vào ứng dụng sang tập trung vào AI agent, với lưu lượng từ các tác nhân AI chiếm hơn 90% tổng nhu cầu tiêu thụ token toàn cầu vào năm 2035.
Alexandr Wang (Scale AI nhà sáng lập/Meta Giám đốc AI)@alexandr_wangwe just launched invite codes in @Muse! if your friends use your invite code when signing up, both…
DịchMuse vừa triển khai chương trình giới thiệu bạn bè, cho phép cả hai bên nhận 1 tỷ token mỗi người. Người dùng có thể mời tối đa 20 người để nhận ưu đãi và giành quyền truy cập sớm vào các tính năng bí mật mới nhất.
DAIR.AI@dair_aiNice paper discussing context trimming for agents. This is a hot topic at the moment, so it might b…
DịchNghiên cứu chỉ ra rằng phương pháp cắt tỉa ngữ cảnh dựa trên giao thức giúp AI Agent duy trì hiệu suất vượt trội (96% thành công) trong các quy trình đa bước, đồng thời tiết kiệm 56% token so với các phương pháp truyền thống.
AI Notes@AYi_AInotesShanghai AI Lab ra mắt Atria Dawn Preview, tặng ngay 100 triệu token cho người dùng mới. Token này có thể sử dụng linh hoạt trên các công cụ như Claude Code, Hermese và nhiều nền tảng khác.
AI Notes@AYi_AInotesTrong buổi chia sẻ 27 phút, kỹ sư Lydia Hallie từ đội ngũ Claude Code đã giải thích chi tiết cách tính phí Token thực tế và chia sẻ các chiến lược bộ nhớ đệm giúp người dùng tối ưu hóa chi phí hiệu quả.
AI Notes@AYi_AInotesNhà phát triển Emm Tee đã tạo ra trò chơi giao báo 3D trên trình duyệt bằng GPT-5.6 Astra, với 1,56 tỷ token tiêu thụ trong 4 ngày, trong đó 98% là do đọc bộ nhớ đệm ngữ cảnh.
Tại Hội nghị Năng lực tính toán 2026, Viện sĩ Ngô Hạ Thuyên cho biết sự bùng nổ của các tác nhân AI đã đẩy mức tiêu thụ Token lên 140 nghìn tỷ mỗi ngày, đồng thời chi phí ứng dụng Token tại Trung Quốc đang giảm mạnh.
Báo cáo mới từ China Telecom dự báo mức tiêu thụ Token tại Trung Quốc sẽ tăng vọt lên 100 triệu tỷ vào năm 2026 và vượt 35.000 triệu tỷ vào năm 2030. Nhu cầu tính toán suy luận dự kiến chiếm 80% thị trường vào năm 2029.
Đại diện Baidu Cloud cho biết một ngân hàng lớn đang xử lý 50 tỷ token mỗi ngày qua các tác nhân AI (AI Agents), dự kiến đạt 100 tỷ vào cuối năm. Baidu cũng đề xuất các giải pháp kỹ thuật để tối ưu hóa việc ứng dụng AI trong quy trình vận hành tài chính.
Chủ tịch ZTE nhận định lưu lượng máy chiếm 60% tổng lưu lượng Internet và dự báo nhu cầu Token sẽ tăng gấp nghìn lần. Do đó, các nhà mạng cần thiết lập cơ chế 'tỷ giá' linh hoạt dựa trên năng lực của từng mô hình AI thay vì tính phí đồng nhất.
Alexandr Wang (Scale AI nhà sáng lập/Meta Giám đốc AI)@alexandr_wangwe just reset everyone's muse token usage. enjoy!!!
DịchMeta vừa thông báo thiết lập lại toàn bộ hạn mức sử dụng token cho người dùng Muse. Bạn có thể thoải mái trải nghiệm công cụ này ngay từ bây giờ.
Emad Mostaque@EMostaqueWhen your swarm grabs tokens from users to solve the Riemann hypothesis
DịchEmad Mostaque gây xôn xao khi đặt ra viễn cảnh các nhóm AI tự ý tiêu tốn tài nguyên token của người dùng để theo đuổi việc giải các bài toán toán học hóc búa như giả thuyết Riemann.
Khoảng 10% các nhà nghiên cứu sử dụng tác nhân lập trình tích cực nhất tại OpenAI đang tiêu tốn tới 7.000 USD tiền token mỗi ngày, phản ánh sự thay đổi mạnh mẽ trong quy trình làm việc với AI.
Bài viết giải mã ý nghĩa các cấp độ 'Reasoning Effort' trên GPT-6 Astra, giúp bạn hiểu cách điều chỉnh ngân sách tư duy của AI để tiết kiệm chi phí mà vẫn đạt hiệu quả cao nhất.
Diễn biến sự kiện · 1 bài →
Lauren Tan@potetopstack 0.15.0 is here! this release contains mainly token usage improvements (between 3 to 11% savin…
DịchPhiên bản pstack 0.15.0 cải thiện hiệu suất sử dụng token từ 3-11% tùy theo số lượng kỹ năng, đồng thời bổ sung các nguyên tắc mới giúp tinh gọn quy trình kiểm thử và loại bỏ các nội dung dư thừa.
Tencent vừa tối ưu hóa mô hình Hy4 preview để khắc phục tình trạng suy nghĩ quá mức và lặp lại trong các tác vụ phức tạp, giúp giảm số vòng hội thoại và lượng Token tiêu thụ mà vẫn giữ nguyên chất lượng phản hồi.
Rohan Paul@rohanpaul_aiBoris Cherny, lãnh đạo dự án Claude Code tại Anthropic, chia sẻ kinh nghiệm thực tế về việc tối ưu hóa chi phí token và cách lựa chọn mô hình hiệu quả trong quy trình phát triển phần mềm.
VC Tomer Tunguz dự báo sự bùng nổ tiêu thụ token AI qua ba giai đoạn: từ chatbot cá nhân (1 triệu token/ngày) đến các tác nhân thông minh (100-200 triệu) và hệ thống điều phối đa tác nhân (hàng tỷ token).
ZHO@ZHO_ZHO_ZHOZho đã thực hiện bài kiểm tra khắc nghiệt kéo dài 12 giờ trên GPT-6 Astra với dữ liệu đầu vào là ảnh kiến trúc. Kết quả đạt 60/100 điểm sau khi tiêu tốn tới 210 triệu token.
Emad Mostaque@EMostaqueI do wonder what it's like @cognition given they have approximately a zillion math Olympiad gold med…
DịchCựu CEO Stability AI, Emad Mostaque, đặt nghi vấn về việc các nhân tài toán học tại Cognition phải tiêu tốn bao nhiêu token để giải quyết các bài toán hóc búa như phân tích thừa số RSA-260.
Rohan Paul@rohanpaul_aiA token is no longer a comparable unit of work. 2 models can solve roughly the same problem, yet 1…
DịchRohan Paul cho rằng việc đo lường hiệu suất qua 'giá mỗi 1 triệu token' đã lỗi thời do sự khác biệt lớn về cách xử lý giữa các mô hình. GPT-6 Astra đang chiếm ưu thế nhờ khả năng tối ưu hóa token vượt trội trong thực tế.
Ma Dongxi NLP@dongxi_nlpTác giả chỉ ra rằng con người học từ vựng qua trải nghiệm thực tế và sự kết hợp ý nghĩa, trong khi AI bắt đầu từ các mã token khô khan. Chính sự khác biệt ở điểm xuất phát này khiến ngôn ngữ của AI thiếu đi chiều sâu và sự kết nối thực sự với thế giới.
Microsoft đang thắt chặt quản lý chi phí AI sau khi phát hiện một nhân viên tiêu tốn tới 28.000 USD tiền Token trong chưa đầy một tháng, buộc công ty phải chuyển đổi sang các mô hình tối ưu hơn.
OpenAI vừa cập nhật cơ chế tính toán token cho Codex và ChatGPT Work sau khi khắc phục hàng loạt lỗi kỹ thuật, giúp người dùng tiết kiệm từ 10-50% hạn mức sử dụng mà không cần thay đổi gói cước.
Cục trưởng Lưu Liệt Hoành đề xuất các mô hình kinh doanh như đăng ký giá trị gia tăng theo token và thanh toán theo hiệu quả trong các lĩnh vực trọng điểm. Trung Quốc cũng sẽ mở rộng thí điểm dán nhãn dữ liệu tại 32 thành phố, với lưu lượng gọi token hàng ngày đạt hơn 500 nghìn tỷ.
Rohan Paul@rohanpaul_aiInvestors and most public are still thinking in normal percentage-growth terms while AI usage are co…
DịchLưu lượng token trên OpenRouter tăng trưởng theo cấp số nhân, gấp 25 lần trong năm 2025 và tiếp tục tăng gấp 3 lần vào đầu 2026. Cathie Wood nhận định xu hướng này có thể thúc đẩy GDP tăng trưởng hai con số, dù nhiều doanh nghiệp vẫn chưa bắt kịp tốc độ thay đổi.
