Mô hình
Ant Group ra mắt Ling-3.0-flash-singprobe: Công cụ giám sát an toàn AI siêu nhẹ
(giờ Việt Nam)
Tóm tắt AI
Ant Group vừa phát hành Ling-3.0-flash-singprobe, một bộ lọc an toàn dạng luồng giúp phát hiện ý định xấu, nội dung độc hại và ảo tưởng của AI với chi phí vận hành cực thấp (dưới 0,5%).
Chính văn · Bản dịch AI
Ling3-SingProbe
Tiếng Anh | Tiếng Trung
Mô tả mô hình
SingProbe là một cơ chế kiểm soát (guardrail) truyền phát nội tại dành cho inclusionAI/Ling-3.0-flash-singprobe, được xây dựng dựa trên inclusionAI/Ling-3.0-flash. Thay vì chạy một mô hình an toàn riêng biệt, bộ dò (probe) gọn nhẹ này tái sử dụng các trạng thái ẩn (hidden states) của mô hình cơ sở trong quá trình tạo văn bản để chấm điểm ý định truy vấn, mức độ không an toàn của phản hồi và rủi ro ảo tưởng (hallucination) trên từng token. Nó chỉ làm tăng chưa đến 0,5% thời gian giải mã.
Xem báo cáo kỹ thuật để biết phương pháp luận và kết quả đầy đủ. Mã nguồn huấn luyện có sẵn tại inclusionAI/SingProbe.
Đánh giá
Chỉ số càng cao càng tốt cho mọi thang đo. Kết quả là giá trị trung bình trên các bộ tiêu chuẩn đánh giá (benchmark suites) được chỉ định dưới đây.
Bắt đầu nhanh
SingProbe được hỗ trợ thông qua nhánh tích hợp SGLang hoặc nhánh tích hợp vLLM. Hãy tải bộ dò bằng ID Hugging Face của nó khi khởi chạy máy chủ:
Các tích hợp này trả về một từ điển điểm số cho mỗi token được tạo (label_0–label_9). Hiện tại, chúng chỉ hỗ trợ các mô hình cơ sở Ling-3.0 (BailingMoeV3ForCausalLM). Hãy sử dụng cặp mô hình cơ sở/bộ dò chính xác: inclusionAI/Ling-3.0-flash với checkpoint này.
Bài gốc còn tiếp — xem tiếp tại bài gốc ↗
Bài viết được AI dịch và tổng hợp tự động từ Ant Group inclusionAI: HuggingFace mô hình mới. Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.