Laya, mô hình ra quyết định System 1 mã nguồn mở, đang thống trị bảng xếp hạng Hugging Face nhờ khả năng chạy cục bộ với độ trễ cực thấp, vượt xa Jev 1.13.0 trong các tác vụ tương tác thời gian thực.
Vì sao đáng đọc: Tin tức cập nhật xu hướng công nghệ mới, phân tích kỹ thuật thú vị về mô hình System 1 và sự chuyển dịch từ cloud sang local, rất hữu ích cho cộng đồng AI.
Phiên bản Laya-mlx được tối ưu trên framework MLX giúp tăng tốc độ xử lý gấp 50 lần so với Jev, chỉ chiếm tối đa 1GB RAM. Mô hình này hiện có thể điều khiển game Rắn săn mồi ngay trên chip M3 Max với tốc độ 60 khung hình/giây.
Laya (OS Jev) hiện đã hỗ trợ chạy offline trên chip Mac M4 thông qua CoreML với hiệu suất ấn tượng 45 quyết định mỗi giây. Người dùng có thể cài đặt qua uv và tải mô hình cục bộ để trải nghiệm trực tiếp.
Convai vừa giới thiệu Laya, dòng mô hình quyết định phi tự hồi quy với tốc độ suy luận vượt trội, đạt 32.8ms mỗi truy vấn và được phát hành dưới giấy phép Apache 2.0.
