Mô hình GPT-5.6 Sol với cửa sổ ngữ cảnh 1 triệu token đã có mặt trên ChatGPT

Theo tin từ IT ngày 17 tháng 8, hôm nay, kỹ sư Tibo (@thsottiaux) của OpenAI, người phụ trách Codex và ChatGPT, đã thông báo trên nền tảng X rằng tính năng cửa sổ ngữ cảnh (context window) 1 triệu token cho mô hình GPT-5.6 Sol trong Codex, vốn trước đây chỉ dành cho API key, nay đã hỗ trợ cho cả người dùng tài khoản ChatGPT.

IT ghi nhận, trong bài đăng của mình, Tibo khẳng định rõ: "GPT-5.6 Sol trong Codex hiện hỗ trợ độ dài ngữ cảnh 1 triệu token. Trước đây chỉ API key mới hỗ trợ, chúng tôi vừa mở khóa tính năng này và hiện đã có hiệu lực đối với người dùng tài khoản ChatGPT."

Điều chỉnh này đồng nghĩa với việc những người dùng sở hữu các gói đăng ký như ChatGPT Plus, Pro khi sử dụng Codex (công cụ đại lý lập trình AI của OpenAI) có thể cấu hình thủ công để kích hoạt cửa sổ ngữ cảnh đầy đủ lên tới gần 1,05 triệu token. Tài liệu chính thức của mô hình GPT-5.6 Sol cho thấy nó hỗ trợ độ dài ngữ cảnh khoảng 1.050.000 token.

Cửa sổ ngữ cảnh lớn hơn cho phép Codex lưu giữ nhiều mã nguồn, kết quả đầu ra từ công cụ và lịch sử hội thoại hơn trước khi tự động nén thông tin, đặc biệt phù hợp cho các tác vụ chuyên sâu như tái cấu trúc các kho mã nguồn (codebase) lớn, gỡ lỗi phức tạp và các phiên làm việc kéo dài.

Tibo cũng nhấn mạnh rằng độ dài ngữ cảnh mặc định hiện tại của Codex là kết quả của việc tối ưu hóa toàn diện giữa hiệu suất và chi phí, chứ không phải thiết lập ngẫu nhiên. Ông cảnh báo người dùng: "Độ dài mặc định hiện tại có lý do tồn tại của nó, chúng tôi đã tinh chỉnh đến mức gần như hoàn hảo. Tuy nhiên, bạn có thể tự mình quyết định."

Nhiều người dùng cho biết điều này đã giải quyết được nỗi đau về việc thiếu hụt ngữ cảnh khi xử lý các dự án lớn, đặc biệt là nhu cầu bảo trì và tái cấu trúc các kho mã nguồn cấp độ sản xuất. Một số nhà phát triển cũng nhắc nhở rằng, kết hợp với cơ chế nén phía máy chủ của Codex, cấu hình mặc định đã đủ hiệu quả cho hầu hết các tác vụ hàng ngày.

Một số người dùng khác cũng cho biết, sau khi kích hoạt ngữ cảnh 1 triệu token, hạn mức đăng ký sẽ bị tiêu tốn nhanh hơn đáng kể. Một vài phản hồi cho thấy chỉ cần một lần sử dụng cường độ cao cũng có thể tiêu tốn lượng lớn hạn mức hàng tuần, vì vậy họ khuyến nghị chỉ nên kích hoạt khi thực sự cần thiết thay vì để làm thiết lập mặc định hàng ngày.