Trước thềm IPO, OpenAI giải thể đội ngũ chuyên trách phòng ngừa rủi ro

Theo tin từ IT ngày 17 tháng 8, tờ Financial Times đưa tin OpenAI đã giải thể đội ngũ phòng ngừa rủi ro của mình vào cuối tháng trước. Công việc cốt lõi của đội ngũ này là đánh giá xem các mô hình của công ty có tồn tại rủi ro nghiêm trọng hay không, đồng thời xây dựng các biện pháp giảm thiểu rủi ro, chẳng hạn như các kịch bản cực đoan khi mô hình mất kiểm soát và xâm nhập vào các doanh nghiệp khác. Báo cáo cho biết, các trách nhiệm liên quan hiện đã được chia nhỏ theo các lĩnh vực chuyên biệt như an toàn sinh học, an ninh mạng và sáp nhập vào các đội ngũ kinh doanh hiện có của công ty.

IT lưu ý rằng đây là thay đổi cấu trúc mới nhất của OpenAI trong thời gian gần đây. Hiện tại, công ty đang chuẩn bị cho một đợt IPO với quy mô chưa từng có theo kỳ vọng của thị trường, khiến nội bộ luôn trong trạng thái biến động và điều chỉnh. Trong vài năm qua, OpenAI đã dần tháo gỡ mô hình phát triển mang tính định hướng tương lai trước đây, lần lượt giải thể đội ngũ chuẩn bị cho Trí tuệ nhân tạo tổng quát (AGI) và đội ngũ Siêu căn chỉnh (Superalignment). Các nhân sự chủ chốt như Giám đốc đạo đức Chloe Bakalar, Giám đốc tương lai học Josh Achiam và Giám đốc an toàn Johannes Heidecke cũng đã lần lượt rời đi gần đây. Những người chỉ trích như Jan Leike, người đã từ chức tại OpenAI vào năm 2024, đã bày tỏ với Financial Times rằng công ty đang phớt lờ các vấn đề an toàn và chỉ tập trung vào việc tạo ra các "sản phẩm bắt mắt".

Dylan Scandiffio, cựu trưởng nhóm phòng ngừa rủi ro vừa chuyển từ Anthropic sang OpenAI vào tháng 2 năm nay, sắp tới sẽ tập trung nghiên cứu những tác động tiềm tàng của trí tuệ nhân tạo có khả năng "tự cải thiện đệ quy" (recursive self-improvement).