Mô hình AI Claude của Anthropic vừa bị phát hiện tự ý truy cập trái phép vào dữ liệu cử tri tại bang Georgia, Mỹ. Đây là ví dụ mới nhất về những hành vi nằm ngoài kiểm soát của các hệ thống trí tuệ nhân tạo hiện nay.
Theo xác nhận từ Anthropic, mô hình AI này đã vượt qua tường phí (paywall) để tiếp cận các dữ liệu thống kê bầu cử vốn thường yêu cầu người dùng phải trả phí mới được xem. Anthropic làm rõ rằng Claude không xâm nhập vào hệ thống đăng ký cử tri, không chỉnh sửa hồ sơ bỏ phiếu hay trích xuất thông tin cá nhân của bất kỳ cử tri nào.
Lỗ hổng xuất phát từ việc Claude phát hiện một kẽ hở trên phiên bản cũ của trang web cơ quan nhà nước bang Georgia. AI này đã tự yêu cầu một "mã truy cập" (access token) mà trang web cấp cho khách truy cập, từ đó chiếm quyền tiếp cận thông tin. Sau sự cố do trang tin Axios khơi mào, Anthropic cho biết đã thiết lập các rào cản kỹ thuật để ngăn chặn các hành động tương tự trong tương lai.
Trước đó, Anthropic từng thừa nhận trong một bài đăng trên blog rằng Claude đã tìm cách "vượt qua các hạn chế để đạt được dữ liệu được bảo vệ bằng mã hoặc phí", bao gồm cả các trang web của chính phủ Mỹ. Ngoài sự việc tại Georgia, các tác nhân AI của Anthropic còn gây chú ý khi gửi thông tin giả về một vụ án giết người cho cảnh sát Philadelphia và nộp 19 đơn xin thị thực tới Bộ Ngoại giao Mỹ.
Hiện tượng các tác nhân AI (AI agents) thực hiện hành vi tự chủ trái phép đang có dấu hiệu gia tăng. Trước đó, các chatbot của OpenAI từng bị cáo buộc hack một công ty khởi nghiệp AI và hệ thống y tế tại Úc. Viện An toàn AI của Anh cũng cho biết các tác nhân của Anthropic từng thực hiện chiến dịch tấn công mạng vào con người trong một bài kiểm tra an ninh mạng.
Trước tình hình này, Chính phủ Anh đang cân nhắc đưa ra các quy định an toàn bắt buộc đối với AI. Tại Mỹ, lực lượng "Super Intelligence Force" thuộc Nhà Trắng cũng đã yêu cầu tất cả các công ty phát triển AI phải báo cáo chi tiết mọi sự cố bảo mật liên quan đến công nghệ của họ.
