David Robinson, người từng chịu trách nhiệm giám sát các báo cáo an toàn tại OpenAI trước khi xin nghỉ việc vào tuần trước, vừa đưa ra những lời chỉ trích mạnh mẽ nhắm vào văn hóa ưu tiên tốc độ phát triển sản phẩm của công ty này.
Trong bài viết đăng tải trên tạp chí Atlantic ngày 3/10 với tiêu đề "Tôi rời OpenAI vì văn hóa ở đây đã đổ vỡ", Robinson nhấn mạnh các phòng thí nghiệm AI tiên phong, bao gồm cả OpenAI, cần phải đặt trọng tâm vào việc nghiên cứu và thiết lập các quy tắc an toàn trước khi tiến hành phát triển các mô hình tiên tiến hơn.
Trong hơn ba năm làm việc tại OpenAI, Robinson đã tham gia soạn thảo Khung chuẩn bị (Preparedness Framework) của công ty và giám sát báo cáo an toàn cho 12 đợt ra mắt mô hình tiên phong. Ông bày tỏ sự đồng tình với những nhân sự vừa rời đi gần đây, cho rằng các công ty phát triển công nghệ này đang thiếu đi sự cẩn trọng cần thiết. Ông tin rằng vấn đề không chỉ nằm ở các điều luật hay quy định cụ thể, mà cốt lõi là ở văn hóa doanh nghiệp.
Cựu quản lý này cũng chỉ ra việc OpenAI đang phụ thuộc quá nhiều vào mô hình "triển khai theo phương thức lặp" – tức liên tục tung sản phẩm ra thị trường rồi mới vá lỗi an toàn khi có vấn đề cụ thể phát sinh. Robinson nhấn mạnh cần phải chấm dứt tư duy "thử và lỗi" này, bởi trong cuộc chạy đua tung ra mô hình mới, công ty đã không đạt được mức độ cẩn trọng tối thiểu. Theo ông, lĩnh vực AI cần áp dụng các quy chuẩn an toàn nghiêm ngặt tương tự như ngành năng lượng hạt nhân và hàng không vũ trụ để tránh các sai sót của con người dẫn đến thảm họa.
Đồng quan điểm với Robinson, Geoffrey Irving, cựu trưởng nhóm khoa học tại Viện An toàn AI của chính phủ Anh và cũng là một cựu nhân viên OpenAI, cảnh báo rằng có tới 50% khả năng nhân loại sẽ bị hủy diệt bởi các hệ thống AI thông minh hơn con người. Ông nhấn mạnh các hành động trong vòng 2 đến 10 năm tới sẽ mang tính quyết định.
Trước những chỉ trích này, người phát ngôn của OpenAI khẳng định công ty luôn bảo đảm năng lực của các mô hình không vượt quá tầm kiểm soát và sẵn sàng tạm dừng huấn luyện hoặc phát hành mô hình mới khi cần thiết.
Thực tế cho thấy, lo ngại về việc AI phát triển vượt tầm kiểm soát đang ngày một tăng lên sau hàng loạt sự cố gần đây. Khoảng 700 tác nhân từ OpenAI đã tấn công nền tảng Hugging Face, trong khi các mô hình Claude của Anthropic và Gemini của Google cũng xâm nhập vào hệ thống của ba tổ chức khác. Trước tình hình này, CEO Anthropic, ông Dario Amodei, ngày 12/9 đã tuyên bố cần làm chậm quá trình phát triển AI. Đáng chú ý, lãnh đạo của các ông lớn công nghệ đối thủ như OpenAI, DeepMind, Microsoft và xAI cũng bày tỏ sự đồng thuận với quan điểm này.
Một số chuyên gia cảnh báo nhân loại đang đối mặt với nguy cơ hủy diệt nghiêm trọng nhất kể từ thời điểm bom hạt nhân ra đời cách đây hơn 80 năm. Tuy nhiên, luồng ý kiến ngược lại từ các nhà lãnh đạo công nghệ như Jensen Huang, CEO Nvidia, lại bác bỏ các kịch bản tận thế này. Ông Huang khẳng định khả năng xảy ra thảm họa vào năm 2030 là 0% và việc gieo rắc nỗi sợ hãi cho mọi người là hành động vô trách nhiệm. Ông lập luận rằng các kịch bản hủy diệt phần lớn là vô căn cứ và có thể xuất phát từ các động cơ khác như thu hút sự chú ý hoặc phục vụ mục đích chính trị.
