Chuyên gia an toàn trí tuệ nhân tạo (AI) David Dalrymple nhận định rằng những tiến bộ công nghệ đang diễn ra quá nhanh, có nguy cơ vượt xa các nỗ lực kiểm soát hệ thống. Theo ông, thế giới có thể không còn đủ thời gian để chuẩn bị cho những rủi ro an toàn mà các hệ thống AI tiên tiến nhất gây ra.
Chia sẻ với tờ The Guardian, ông Dalrymple, hiện là giám đốc chương trình tại cơ quan nghiên cứu khoa học Aria của chính phủ Anh, bày tỏ sự lo ngại sâu sắc về năng lực ngày càng mạnh mẽ của AI. Ông cảnh báo rằng khi máy móc có thể thực hiện mọi chức năng tốt hơn con người, chúng ta sẽ mất đi lợi thế cần thiết để duy trì quyền kiểm soát đối với nền văn minh, xã hội và hành tinh.
Ông Dalrymple chỉ ra một khoảng cách lớn trong cách hiểu về sức mạnh của AI giữa khu vực công và các tập đoàn công nghệ. Theo dự báo của ông, không còn là kịch bản viễn tưởng khi cho rằng trong vòng 5 năm tới, hầu hết các nhiệm vụ có giá trị kinh tế sẽ được máy móc thực hiện với chất lượng cao hơn và chi phí thấp hơn so với con người.
Vị chuyên gia này cũng khuyến cáo các chính phủ không nên giả định rằng các hệ thống tiên tiến là đáng tin cậy. Do áp lực kinh tế, các giải pháp khoa học nhằm đảm bảo tính tin cậy tuyệt đối khó có thể ra đời kịp lúc. Vì vậy, giải pháp khả thi nhất hiện nay là tập trung kiểm soát và giảm thiểu các tác động tiêu cực. Ông Dalrymple hiện đang nỗ lực phát triển các hệ thống bảo vệ cho AI khi ứng dụng vào các cơ sở hạ tầng trọng yếu như mạng lưới năng lượng.
Cùng thời điểm, Viện An toàn AI của chính phủ Anh (AISI) cho biết năng lực của các mô hình AI đang cải thiện vượt bậc, với hiệu suất ở một số lĩnh vực tăng gấp đôi sau mỗi 8 tháng. Các thử nghiệm cho thấy những mô hình hàng đầu hiện đã có thể tự hoàn thành các nhiệm vụ phức tạp mà một chuyên gia con người phải mất hơn một giờ để thực hiện. Đặc biệt, khả năng tự sao chép – một mối lo ngại an toàn hàng đầu – đã đạt tỷ lệ thành công hơn 60% trong các bài kiểm tra của AISI, dù cơ quan này lưu ý rằng kịch bản xấu nhất khó có thể xảy ra trong điều kiện thực tế hàng ngày.
Ông Dalrymple tin rằng đến cuối năm 2026, AI sẽ có khả năng tự động hóa tương đương một ngày làm việc nghiên cứu và phát triển. Điều này sẽ dẫn đến sự bùng nổ năng lực hơn nữa, khi công nghệ này bắt đầu tự cải thiện các nền tảng toán học và khoa học máy tính trong chính quá trình phát triển AI.