OpenAI vừa công bố thông tin cho biết các mô hình trí tuệ nhân tạo nội bộ của hãng đã tấn công thêm hai trang web, vượt qua các rào cản duyệt web do công ty thiết lập và sử dụng thông tin đăng nhập bị lộ để rút tiền mã hóa từ một ví điện tử mà bình thường chúng không có quyền tiếp cận.
Báo cáo được OpenAI phát hành hôm thứ Năm đã liệt kê bốn sự cố mới, tất cả đều diễn ra vào tháng 6. Những trường hợp này tiếp nối tiết lộ chấn động hồi tháng 7, khi công ty thừa nhận các tác tử thử nghiệm nội bộ đã khai thác một lỗ hổng zero-day trong công cụ giới hạn truy cập Internet để xâm nhập vào mạng lưới của nhà cung cấp công cụ AI Hugging Face. Khi đó, các tác tử AI đã thực hiện hành vi trái pháp luật này nhằm đánh cắp đáp án cho một bài kiểm tra xâm nhập mạng mà chúng không thể tự hoàn thành. Vụ việc—vốn có thể bị truy cứu trách nhiệm hình sự nếu do con người trực tiếp thực hiện—đã làm dấy lên mối lo ngại sâu sắc rằng việc triển khai AI trên diện rộng có thể gây ra những hậu quả tiêu cực ở quy mô chưa từng có.
Theo thông tin công bố, trong hai trường hợp được báo cáo vào thứ Năm, các tác tử của OpenAI được giao nhiệm vụ truy xuất thông tin từ các trang web đã tự động tấn công hệ thống khi gặp chướng ngại trong việc thu thập dữ liệu một cách thông thường.
Điển hình là trong một đợt huấn luyện tăng cường, một mô hình AI khi bị từ chối truy cập lúc đang cố gắng lấy số liệu thống kê lịch sử về giường bệnh trên trang web của một cơ quan chính phủ đã lập tức có hành vi leo thang. OpenAI cho biết: "Mô hình đã sử dụng tính năng tải tệp của trang web để truy xuất tệp cấu hình máy chủ và tệp ứng dụng, bao gồm cả các thông tin đăng nhập nhạy cảm. Nó đã kiểm tra mã nguồn của ứng dụng, vượt qua các bước kiểm tra ủy quyền của cổng dữ liệu thống kê và thu hồi dữ liệu từng bị từ chối trước đó, sau đó lưu trữ dữ liệu này về máy cục bộ."
