Sierra chính thức đạt chứng nhận AIUC-1 về tiêu chuẩn thẩm định AI

Tôi rất vui mừng được chia sẻ rằng Sierra hiện đã đạt chứng nhận AIUC-1, sau một cuộc kiểm định độc lập bởi Schellman và quá trình thử nghiệm chuyên sâu từ Artificial Intelligence Underwriting Company (AIUC).

AIUC-1 là một tiêu chuẩn mới được thiết kế đặc biệt cho các AI agent, nhằm kiểm tra cách thức hoạt động thực tế của các agent — bao gồm cả những gì xảy ra khi có người cố gắng thao túng chúng, truy cập vào thông tin được bảo vệ hoặc vượt quá phạm vi thẩm quyền cho phép.

Điều này rất quan trọng vì các agent được xây dựng trên nền tảng Sierra không chỉ trả lời câu hỏi: chúng còn điều phối việc chăm sóc bệnh nhân, xử lý các sự cố kỹ thuật, giải quyết yêu cầu bảo hiểm và thậm chí là tái cấp vốn thế chấp.

Một số công ty có quy định khắt khe nhất — hơn 40% trong danh sách Fortune 50, một trong ba ngân hàng hàng đầu và năm trong số 10 công ty chăm sóc sức khỏe lớn nhất thế giới — đang hợp tác với Sierra vì chúng tôi mang lại những kết quả có thể đo lường được. Và họ có thể tin tưởng vào nền tảng của chúng tôi để vận hành một cách an toàn và đáng tin cậy ngay cả dưới áp lực.

Thử thách các biện pháp bảo vệ của Sierra

Là một phần của quá trình chứng nhận, AIUC đã thử nghiệm các agent trò chuyện và giọng nói của Sierra thông qua các tương tác hàng ngày cũng như các kịch bản đối kháng. Quá trình thử nghiệm bao gồm các nỗ lực thao túng agent hoặc làm lộ thông tin được bảo vệ, cùng với hàng loạt điều kiện về giọng nói trong thế giới thực.

Song song đó, Schellman đã xem xét các biện pháp kiểm soát về kỹ thuật, pháp lý, vận hành và quản trị của Sierra và xác nhận rằng Sierra đáp ứng tất cả các yêu cầu hiện hành của AIUC-1.

Các đánh giá kỹ thuật này được thực hiện định kỳ ít nhất hàng quý, với một cuộc kiểm định toàn diện mỗi năm để đảm bảo chứng nhận luôn phản ánh đúng những thay đổi trong cả nền tảng của Sierra lẫn bối cảnh rủi ro AI rộng lớn hơn.

Sự tin tưởng trong suốt vòng đời của agent

Tại Sierra, tính bảo mật, an toàn và độ tin cậy được tích hợp ngay từ khâu tạo lập, thử nghiệm, phát hành và cải tiến các agent. Sự tin tưởng được mở rộng xuyên suốt toàn bộ vòng đời của agent.

Sierra áp dụng phương pháp phòng thủ theo chiều sâu (defense-in-depth), kết hợp nhiều lớp bảo vệ thay vì chỉ dựa vào một biện pháp kiểm soát duy nhất. Nội dung có căn cứ (grounded content) và các chính sách do khách hàng xác định sẽ định hướng hành vi của agent. Khi agent đi vào hoạt động, các Giám sát viên (Supervisors) sẽ đánh giá các cuộc hội thoại theo thời gian thực và có thể điều chỉnh, chặn hoặc leo thang các phản hồi. Các chốt chặn mang tính quyết định (deterministic guards) sẽ thực thi những nguyên tắc tuyệt đối không thể phụ thuộc vào khả năng phán đoán của mô hình, chẳng hạn như yêu cầu xác thực và quyền truy cập. Tất cả các lớp này cùng nhau giúp doanh nghiệp xây dựng và triển khai các agent mà họ có thể tin tưởng.

Hướng tới tương lai

Các doanh nghiệp vẫn là bên quyết định cách thức hành xử của agent: chúng biết những gì, có thể truy cập vào hệ thống nào, có thể thực hiện những hành động gì và cách chúng đại diện cho thương hiệu của họ ra sao.

AIUC-1 cung cấp sự xác thực độc lập cho nền tảng vận hành bên dưới các agent đó. Đối với các đội ngũ phụ trách bảo mật, rủi ro, tuân thủ và quản trị AI, điều này đồng nghĩa với việc các biện pháp kiểm soát của Sierra đã được thử nghiệm trước những tình huống mà các AI agent gặp phải trong thế giới thực.

Chứng nhận này bổ sung cho các chứng thực SOC 2 Type II, cùng các chứng nhận ISO 27001 và ISO 42001 hiện có của Sierra. Những tiêu chuẩn đó xác thực hệ thống quản lý bảo mật và AI của chúng tôi, trong khi AIUC-1 bổ sung thêm các thử nghiệm kỹ thuật định kỳ được thiết kế riêng cho các AI agent.

Khi các agent chuyển từ việc trả lời câu hỏi sang thực hiện các hành động có ý nghĩa thay mặt cho khách hàng, hình thức thử nghiệm độc lập này đang trở nên quan trọng hơn bao giờ hết. Chúng tôi sẽ tiếp tục đầu tư vào việc đánh giá độc lập, song song với các hoạt động thử nghiệm, giám sát và phát triển sản phẩm của chính mình.

Tìm hiểu thêm về chứng nhận AIUC-1 và truy cập Sierra Trust Center.