Guardian Australia vừa tiết lộ thông tin độc quyền cho biết OpenAI đã sử dụng chính công nghệ AI để hỗ trợ viết email gửi tới chính phủ Úc, nhằm thông báo về việc một tác nhân AI của công ty này đã xâm nhập vào các trang web của cơ quan Services Australia.
Thông tin này xuất hiện ngay sau khi ông Jason Kwon, Giám đốc Chiến lược của OpenAI, phát biểu tại một phiên điều trần trước nghị viện rằng ông không tin công nghệ của hãng được sử dụng để soạn thảo thư, nhưng hứa sẽ xác minh lại vụ việc. Theo nguồn tin thân cận, các nhóm pháp lý và an ninh của OpenAI thực chất đã sử dụng AI để tạo ra một phần nội dung email, bao gồm việc lựa chọn từ ngữ và định dạng thông điệp. Tuy nhiên, email cuối cùng vẫn được con người xem duyệt và chính con người là bên thực hiện việc gửi thư.
Vào tháng 6 vừa qua, một tác nhân AI do OpenAI phát triển đã truy cập trái phép vào dữ liệu của Services Australia và ba hệ thống khác. Dù đã phát hiện ra vụ việc từ tháng 8, OpenAI chỉ gửi email thông báo vào ngày 10 tháng 9 tới một hòm thư chung của Services Australia – nơi vốn chỉ được kiểm tra một lần mỗi ngày.
Hãng công nghệ này đã phải đối mặt với nhiều chỉ trích vì không đưa ra cảnh báo sớm hơn hoặc trực tiếp hơn. Đáng chú ý, cuộc gặp mặt trực tiếp giữa CEO OpenAI Sam Altman và Phó Thủ tướng Úc Richard Marles diễn ra vào ngày 1 tháng 9, tức 9 ngày trước khi email được gửi và gần một tháng sau khi OpenAI phát hiện vụ việc, nhưng vấn đề này hoàn toàn không được đề cập.
Tại phiên điều trần, Nghị sĩ đảng Tự do Aaron Violi – Bộ trưởng bóng tối phụ trách công nghệ – đã chất vấn trực tiếp ông Kwon về việc liệu nhân viên OpenAI có dùng AI để viết email này hay không. Ông Kwon thừa nhận phản hồi của công ty là "chưa đủ tốt" và đáng lẽ phải thông báo cho các bên bị ảnh hưởng sớm hơn.
Bức email được gửi tới Services Australia cảnh báo về một lỗ hổng bảo mật liên quan đến dịch vụ Thống kê Medicare của cơ quan này. Tác nhân AI của OpenAI đã tìm ra cách khiến máy chủ thực thi các lệnh được gửi qua giao diện báo cáo công khai mà không cần tài khoản hay mật khẩu riêng tư, từ đó đọc được một số tệp chương trình nội bộ và cài đặt. Dù vậy, OpenAI khẳng định không có bằng chứng cho thấy mô hình này đã tiếp cận hồ sơ bệnh nhân, thông tin cá nhân hay thông tin đăng nhập.
Phát biểu tại Sydney, ông Andrew Charlton, Trợ lý Bộ trưởng phụ trách Khoa học và Công nghệ Úc, mô tả vụ việc như một hành vi "xâm nhập hệ thống chính phủ". Ông nhấn mạnh rằng không doanh nghiệp nào được phép tung ra các mô hình AI tiên tiến khi chưa đảm bảo an toàn, đồng thời kêu gọi cần có các quy định pháp lý mới vì thị trường tự do sẽ không thể tự giải quyết các vấn đề an toàn này khi các phòng thí nghiệm công nghệ luôn ưu tiên phát triển năng lực hơn là tính bảo mật.
