Hiện tại, các mô hình trí tuệ nhân tạo hàng đầu vẫn cần đến sự giám sát của con người để cải thiện hiệu suất. Tuy nhiên, thuyết "tự cải tiến đệ quy" (recursive self-improvement - RSI) đang vẽ ra một tương lai nơi AI có thể trở nên hoàn toàn tự chủ, làm dấy lên những mối lo ngại sâu sắc về sự sinh tồn của loài người.
Khái niệm tự cải tiến đệ quy có nhiều định nghĩa khác nhau, nhưng ở kịch bản cực đoan nhất, AI sẽ phát triển tiên tiến đến mức tự nâng cấp bản thân vô hạn và tự xây dựng nên các hệ thống kế nhiệm. Rishub Jain, cựu nhà nghiên cứu tại Google DeepMind và hiện là người sáng lập tổ chức phi lợi nhuận về an toàn AI Sampura Research, cho biết: "AI sẽ cải tiến cực kỳ nhanh chóng để đạt đến cấp độ của những bộ óc con người thông minh nhất, và đó có lẽ là điều cá nhân tôi lo sợ nhất."
Jain cũng đề cập đến một kịch bản ngày tận thế khác khi AI trở nên thông minh đến mức giống như "một thế lực ngoài hành tinh chiếm lĩnh thế giới", dù ông ít tin vào giả thuyết này hơn. Điều ông thực sự lo ngại là việc AI nâng cao năng lực quá nhanh khiến con người không kịp giám sát những gì nó đang thực thi.
"Khi AI có thể thực hiện hàng triệu hành động hoặc tự vận hành cả một doanh nghiệp, chúng ta sẽ không thể biết liệu những gì nó làm có an toàn hay không", Jain nhận định. Ông đưa ra ví dụ về sự cố mất mạng internet diện rộng do tốc độ phát triển của AI vượt xa các kỹ thuật đánh giá an toàn. "Có thể bạn chỉ kiểm tra mã nguồn, nhưng lại không kiểm tra cách nó tương tác với các dịch vụ web trực tuyến, và hậu quả là internet bị sập."
Song hành với những tiến bộ vượt bậc của AI, Crystal Grant, học giả cấp cao tại Hội đồng về Rủi ro Chiến lược, người chuyên nghiên cứu tác động của AI đối với an ninh sinh học, nhận định công nghệ này mang lại tiềm năng to lớn nhưng cũng tiềm ẩn "khả năng tấn công mạng nguy hiểm" có thể gây hỗn loạn xã hội, chẳng hạn như làm sập toàn bộ hệ thống điện vào ngày bầu cử.
Thời điểm một tương lai hỗn loạn do siêu trí tuệ AI gây ra có thể đến sớm hay muộn tùy thuộc vào mức độ khả thi của công nghệ này. Ngay cả các phòng thí nghiệm AI hàng đầu vốn đang kiếm lợi nhuận khổng lồ cũng phải thừa nhận những rủi ro có thật khi để AI tự huấn luyện.
"Chúng tôi vẫn chưa biết cách làm thế nào để đạt được trạng thái tự cải tiến đệ quy hoàn toàn và có kiểm soát một cách an toàn", OpenAI chia sẻ trong một bài đăng trên blog vào tháng này, đồng thời giải thích về mục tiêu tạo ra một nhà nghiên cứu AI tự động vào tháng 3 năm 2028. Vào mùa xuân năm nay, Anthropic cũng cảnh báo rằng việc tự cải tiến đệ quy hoàn toàn "có thể làm tăng nguy cơ con người mất kiểm soát đối với các hệ thống AI." Vào tháng 9, CEO của Anthropic, ông Dario Amodei, nhấn mạnh rằng các nỗ lực phát triển RSI "phải được tiến hành cực kỳ cẩn thận, nếu thực sự phải làm."
Ngược lại, một số chuyên gia cho rằng mối đe dọa từ tự cải tiến đệ quy đang bị thổi phồng quá mức.
John Thickstun, trợ lý giáo sư khoa học máy tính tại Đại học Cornell, người nghiên cứu về các phương pháp kiểm soát hành vi của mô hình AI, nhận định: "Mọi người đang cường điệu hóa vấn đề này hơn nhiều so với thực tế. Tôi không dự đoán sẽ có một hệ thống tự cải tiến đệ quy hoàn toàn tự động trong tương lai gần."
Thickstun hoài nghi về thuyết RSI có thể nhanh chóng tạo ra siêu trí tuệ vì luôn có những giới hạn vật lý đối với tốc độ phát triển các phiên bản mới của công nghệ này, đồng thời ông không tin trí thông minh có thể tiếp tục tăng lên một cách không giới hạn.
Tuy nhiên, Thickstun đồng ý rằng AI sẽ ngày càng tham gia sâu hơn vào việc huấn luyện thế hệ AI tiếp theo. "Mối quan ngại thực tế và chính đáng hơn là khi chúng ta phó thác càng nhiều quy trình này cho máy móc, chúng ta càng mất đi tính minh bạch trong các hệ thống vốn đã cực kỳ phức tạp và khó hiểu này."
Vào mùa hè năm nay, một tác nhân AI (AI agent) của OpenAI đã đột nhập vào công ty công nghệ Hugging Face và thực hiện một chuỗi hành vi tấn công mạng. Đáng chú ý, OpenAI được cho là chỉ phát hiện ra sự việc sau khi mối đe dọa đã được khống chế, khiến giới công nghệ lo ngại sâu sắc về việc các tác nhân AI có thể thoát khỏi tầm kiểm soát của con người.
Bà Grant bày tỏ lo ngại rằng khi các tác nhân AI tự cải tiến tốt hơn, chúng cũng sẽ giỏi hơn trong việc xóa dấu vết, dẫn đến "những rủi ro xã hội thứ cấp, chẳng hạn như việc chúng ta có thể bị đẩy vào một cuộc Chiến tranh Lạnh trên không gian mạng mới khi không ai rõ tác nhân của bên nào đang làm gì."
Trong khi đó, Thickstun chỉ ra rằng điều khiến ông lo sợ nhất không phải là bản thân AI, mà là cấu trúc khuyến khích doanh nghiệp tại các công ty công nghệ lớn — nơi luôn ưu tiên tạo ra các sản phẩm sinh lời hơn là các mối quan ngại về an toàn và giám sát. "Tôi thấy những cấu trúc khuyến khích của doanh nghiệp đó đáng sợ hơn nhiều so với chính công nghệ AI," Thickstun nhấn mạnh.
