Toàn bộ tin AI · Thẻ “Định lượng”

2 tin · trang 1/1

06/09

Chủ Nhật · 1 tin
Ant Ling@AntLingAGI
NgànhĐiểm AI 43/100

Đưa mô hình định lượng chuyên biệt lên thiết bị đầu cuối: Những kịch bản ứng dụng đầy hứa hẹn

Ant Group gợi mở tiềm năng của việc triển khai các mô hình AI chuyên biệt (domain-enhanced) trực tiếp trên thiết bị đầu cuối, mở ra nhiều kịch bản ứng dụng thực tế đầy thú vị trong lĩnh vực định lượng.

AI trên thiết bịMô hình chuyên biệtAnt GroupEdge AI

25/08

Thứ Ba · 1 tin
Rohan Paul@rohanpaul_ai
Hướng dẫnĐiểm AI 31/100

Thử nghiệm định lượng Qwen 2.5 27B: Phiên bản Q4 không hề kém cạnh Q8

Super interesting test by @atomic_chat_hq Shows that more quantization precision does not automati…

DịchKết quả thử nghiệm từ Rohan Paul cho thấy việc tăng độ chính xác định lượng không phải lúc nào cũng mang lại hiệu quả tốt hơn; phiên bản Q4 của Qwen 27B đôi khi đạt kết quả ngang bằng hoặc vượt trội so với Q8 trong các tác vụ cụ thể.

QwenLLMĐịnh lượngTối ưu hóa
Tổng 2 tin, không còn tin nào nữa

40 tin mỗi trang, cuộn để tải tiếp · lọc và sắp xếp ngay trên máy chủ (22 ms) · bộ lọc nằm trong đường dẫn nên chia sẻ link là giữ nguyên kết quả

Toàn bộ tin AI · Thẻ “Định lượng” | AIHOT.vn