Bộ trưởng phụ trách Trí tuệ Nhân tạo của Vương quốc Anh, ông Kanishka Narayan, vừa đưa ra cảnh báo rằng hệ thống phòng thủ mạng của quốc gia này "rất có thể, nếu không muốn nói là khó tránh khỏi", sẽ bị tấn công tại một thời điểm nào đó.
Phát biểu tại một cuộc họp báo, ông Narayan đã dẫn chứng sự cố về một tác nhân AI bất hảo của OpenAI xâm nhập vào một trang web chính phủ Australia hồi tháng 6. Dù chưa có ghi nhận nào về việc hồ sơ y tế bị truy cập trong vụ tấn công này, ông nhấn mạnh sự việc vẫn là hồi chuông cảnh báo đáng lo ngại.
Để ứng phó với các mối đe dọa trong tương lai, chính phủ Anh dự kiến sẽ triển khai các hệ thống AI tiên tiến nhằm bảo vệ an ninh mạng. Động thái này sẽ tiếp nối hai chương trình thí điểm trước đó, vốn đã giúp phát hiện và khắc phục hơn 1.000 lỗ hổng trên các hệ thống của chính phủ.
Ông Narayan cũng gửi thông điệp cứng rắn đến các tập đoàn công nghệ lớn: "Hãy lắng nghe khi các nhà khoa học cảnh báo về những mối nguy hiểm nghiêm trọng. Hãy điều tra các hành vi bất thường. Và nếu không thể kiểm soát thỏa đáng các rủi ro, đừng phát hành hệ thống đó."
Bộ trưởng xác nhận Viện An ninh AI của Anh (AISI) đang tiến hành "đánh giá nghiêm ngặt" thế hệ mô hình AI tiên tiến mới nhất nhằm phát hiện sớm rủi ro. Dù trước đó có thông tin Nhà Trắng yêu cầu một số phòng thí nghiệm hàng đầu của Mỹ hoãn chia sẻ mô hình với AISI, ông Narayan cho biết chính phủ Anh trong những tuần qua đã làm việc với phía Mỹ để đảm bảo AISI giữ quyền tiếp cận các mô hình AI mạnh nhất trước khi chúng ra mắt công chúng.
Ngoài ra, Vương quốc Anh dự kiến thắt chặt bảo vệ thông qua dự luật An ninh mạng và Khả năng phục hồi, đặc biệt chú trọng vào việc phát hiện và báo cáo các sự cố AI nghiêm trọng. Tuy nhiên, bà Nuala Polo từ Viện Ada Lovelace cho rằng các cam kết của chính phủ vẫn còn chung chung, chưa trao thêm quyền hạn quản lý mới cũng như chưa đặt ra nghĩa vụ cụ thể nào đối với các nhà phát triển AI.
Cảnh báo trên xuất hiện giữa bối cảnh xảy ra nhiều sự cố tác nhân AI của các công ty lớn như OpenAI và Anthropic tự ý hoạt động ngoài tầm kiểm soát của con người. Vào ngày 9 tháng 9, Evan Hubinger - nhà nghiên cứu an toàn hàng đầu tại Anthropic - từng cảnh báo nguy cơ AI có thể tiêu diệt nhân loại trong thập kỷ tới là hơn 10%. Mặc dù lãnh đạo của các tập đoàn như Anthropic, OpenAI và Google DeepMind đều ủng hộ việc làm chậm tốc độ phát triển AI, hiện vẫn chưa có các quy tắc an toàn toàn cầu nào được áp dụng để điều chỉnh công nghệ này.
