PrismML giới thiệu mô hình Bonsai 1-bit với 2 tỷ tham số, tối ưu hóa để chạy cục bộ trên kính thông minh Snapdragon AR1 Gen 1, cho phép nhận diện và giải đáp thông tin về vật thể trong thời gian thực.
PrismML vừa giới thiệu Bonsai 2 27B dựa trên Qwen3.8, sử dụng kỹ thuật lượng tử hóa 3 giá trị giúp giảm dung lượng bộ nhớ xuống dưới 1/9 nhưng vẫn duy trì 98,2% hiệu suất so với bản gốc.
Cùng sự kiện, bài đại diện «PrismML ra mắt Ternary Bonsai 2 27B: Nén mô hình gấp 9 lần nhưng vẫn giữ 98,2% hiệu năng»
Emad Mostaque@EMostaqueThis is basically an Opus 4.5/4.6 level model that will work on anything with 8 Gb RAM
DịchDựa trên Qwen 27B, Ternary Bonsai 2 đạt hiệu suất 98,2% so với bản gốc nhưng chỉ nặng 5,9 GB, cho phép chạy trên các thiết bị có bộ nhớ hạn chế.
PrismML vừa trình làng Bonsai 2 27B, phiên bản tối ưu hóa từ Qwen 27B với dung lượng chỉ 5.9GB. Bước tiến này giúp giảm 10 lần bộ nhớ, cho phép chạy các mô hình AI mạnh mẽ ngay trên PC và smartphone cao cấp.
Thêm 2 nguồn khác đưa tinX: Emad Mostaque (@EMostaque)Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)