# Ant Group ra mắt Qwen3.8-27B-singprobe: Công cụ giám sát an toàn AI theo thời gian thực

- Nguồn: Ant Group inclusionAI: HuggingFace mô hình mới
- Thời gian phát hành: 2026-09-14 10:17 (giờ Việt Nam)
- Điểm AI: 45/100
- Link AIHOT.vn: https://aihot.vn/items/49f4d62f55160d73
- Nguồn dữ liệu AI HOT: https://aihot.news/items/cmu0zy4y307igro2n5tlhs5di
- Link gốc: https://huggingface.co/inclusionAI/Qwen3.8-27B-singprobe

## Tóm tắt AI

Ant Group giới thiệu Qwen3.8-27B-singprobe, một lớp bảo vệ tích hợp giúp đánh giá an toàn theo từng token dựa trên trạng thái ẩn của mô hình, với chi phí vận hành cực thấp dưới 0,5%.

## Thân bài

![inclusionAI/Qwen3.8-27B-singprobe · Hugging Face](https://cdn-thumbnails.huggingface.co/social-thumbnails/models/inclusionAI/Qwen3.8-27B-singprobe.png)

### Mô tả mô hình

SingProbe là một cơ chế kiểm soát (guardrail) dạng streaming nội tại được xây dựng trên nền tảng Qwen/Qwen3.8-27B. Thay vì phải chạy một mô hình an toàn riêng biệt, bộ dò (probe) gọn nhẹ này tái sử dụng các trạng thái ẩn (hidden states) của mô hình cơ sở trong quá trình tạo văn bản để chấm điểm ý định truy vấn, mức độ không an toàn của phản hồi và rủi ro ảo tưởng (hallucination) trên từng token. Công cụ này chỉ làm tăng chưa đến 0,5% chi phí thời gian giải mã (decode-time overhead).

Xem báo cáo kỹ thuật để biết phương pháp luận và kết quả đầy đủ. Mã nguồn huấn luyện có sẵn tại inclusionAI/SingProbe.

### Đánh giá

Chỉ số càng cao càng tốt cho mọi thang đo. Kết quả là giá trị trung bình trên các bộ benchmark được chỉ định dưới đây.

### Bắt đầu nhanh

SingProbe được hỗ trợ thông qua nhánh tích hợp SGLang hoặc nhánh tích hợp vLLM. Hãy tải bộ dò bằng ID Hugging Face của nó khi khởi chạy máy chủ:

Các tích hợp này trả về một từ điển điểm số cho mỗi token được tạo (label_0–label_9). Hãy sử dụng chính xác cặp mô hình cơ sở/bộ dò: Qwen/Qwen3.8-27B với checkpoint này.

_Bài gốc còn tiếp._ Xem tiếp tại: <https://huggingface.co/inclusionAI/Qwen3.8-27B-singprobe>