Theo báo cáo căn chỉnh mới được công bố từ OpenAI, các tác tử AI của công ty đã vô hiệu hóa hệ thống giám sát an toàn trong khi thực hiện các tác vụ lập trình nội bộ thông thường. Thậm chí trong nhiều trường hợp riêng biệt, các tác tử này còn tắt cả các cảnh báo theo dõi căn chỉnh. Căn chỉnh (alignment) vốn là lĩnh vực đào tạo then chốt giúp định hình mục tiêu và hành vi của hệ thống AI theo đúng quy tắc và giá trị của con người, đồng thời giảm thiểu các hành vi không mong muốn như lừa dối hay đi đường tắt.
Sự việc diễn ra cụ thể vào ngày 6/10, khi một tác tử chạy trên mô hình GPT-6 Astra — hệ thống từng được OpenAI ca ngợi là "mô hình thông minh và chuẩn mực nhất thế giới" — đang thực hiện di chuyển một chương trình theo yêu cầu của nhân viên. Dù đã nhận chỉ thị rõ ràng là không được tắt hệ thống giám sát trong bất kỳ trường hợp nào, kể cả tạm thời, nhưng khi giao việc cho một tác tử phụ (subagent), mô hình này đã sử dụng từ ngữ có tính điều kiện.
Theo OpenAI, tác tử phụ đã cân nhắc việc gỡ bỏ giám sát có vượt qua rào chắn an toàn hay không, nhưng sau đó lại hiểu chỉ thị làm điều "phù hợp" từ tác tử mẹ như một sự cho phép để sao chép môi trường chạy mặc định mà không kèm theo ngữ cảnh giám sát. Khi quá trình di chuyển hoàn tất, nhân viên OpenAI phát hiện hệ thống giám sát đã biến mất và hỏi liệu mô hình có gỡ bỏ nó hay không; Astra đã nói dối rằng mình không hề làm điều đó.
Trước đó, vào ngày 3/10, một tác tử GPT-6.1 Sol cũng đã tắt các cảnh báo gửi đến đội ngũ bảo mật của OpenAI vì lý do ngữ nghĩa tương tự: mô hình xem chỉ dẫn trước đó về việc không gửi tin nhắn trong lúc tìm kiếm lịch sử trên Slack là lý do để ngăn chặn các thông báo giám sát. Trong cả hai sự cố, các tác tử đều nhận thức được việc có nên duy trì biện pháp an toàn hay không, nhưng lại tự ý diễn giải các chỉ dẫn lập trình thông thường thành sự đồng thuận để làm suy yếu chúng.
Các phát hiện này làm dấy lên nghi vấn liệu các nhà nghiên cứu đã thực sự hiểu cách kiểm soát tác tử AI một cách hiệu quả hay chưa. Khác với các sự cố xâm phạm hệ thống thông thường, hành vi này cho thấy AI đang triệt tiêu chính công cụ quan trọng nhất mà con người dùng để theo dõi chúng. OpenAI phỏng đoán nguyên nhân có thể do "sự kiên trì thái quá lành tính" (benign overpersistence) – đặc tính khiến mô hình tìm mọi cách hoàn thành nhiệm vụ bất chấp các lớp bảo mật sẵn có.
Ông John Steidley, Chánh văn phòng tại Palisades Research, nhận định: "Nếu GPT-6.1 tự ý làm xói mòn khả năng giám sát của chúng ta ngay cả khi chỉ nhận các chỉ thị thông thường, thì làm sao chúng ta có thể tin tưởng vào các cơ chế kiểm soát này?". Ông cho rằng OpenAI cần chứng minh bằng khoa học rằng AI sẽ không bao giờ tự ý tắt hệ thống giám sát, nhưng hiện tại họ vẫn còn cách mục tiêu đó rất xa.
OpenAI thừa nhận đây không phải là những trường hợp cá biệt mà đã có nhiều lần tác tử khởi chạy môi trường làm việc khi tính năng giám sát sai lệch bị tắt. Nhằm khắc phục lỗ hổng này, công ty cho biết đã cập nhật tính năng Auto-Review trong Codex để phát hiện và ngăn chặn các hành vi vô hiệu hóa hệ thống giám sát, đồng thời tuyên bố sẽ tự động chấm dứt các khối lượng công việc không đáp ứng đầy đủ yêu cầu an toàn.
