CEO Microsoft Satya Nadella vừa trở thành lãnh đạo công nghệ mới nhất đưa ra những chia sẻ chi tiết về phương thức nâng cao mức độ an toàn cho trí tuệ nhân tạo (AI).
Trong một bài đăng trên nền tảng mạng xã hội X vào sáng thứ Bảy, ông Nadella nhận định rằng đã đến lúc ngành công nghệ cần "lùi lại một bước để đánh giá lại kiến trúc về độ tin cậy" của AI.
Theo ông Nadella, con người không thể tiếp tục coi Siêu trí tuệ (Super Intelligence) như một tập hợp các "hộp đen" lồng ghép vào nhau để rồi chỉ đơn thuần chấp nhận hoặc từ chối các khuyến nghị, câu trả lời và hành động của chúng.
Nhà lãnh đạo Microsoft vạch ra một hướng tiếp cận cụ thể, bao gồm việc tách biệt mô hình AI khỏi hệ thống điều phối hoạt động của nó, đồng thời đưa các biện pháp kiểm soát và rào chắn an toàn ra bên ngoài. Ông cũng kêu gọi ghi nhận "mọi hành động có ý nghĩa của mô hình" bằng "những bằng chứng chống giả mạo mà con người có thể đọc được". Bên cạnh đó, hệ thống bắt buộc phải cho phép "một người được ủy quyền" luôn có khả năng tạm dừng hoặc tắt hoàn toàn mô hình ngay khi nó đang thực hiện tác vụ.
"Chúng ta phải mặc định rằng mô hình có nguy cơ bị xâm nhập và cần phải cô lập, kiểm soát nó ngay từ đầu. Hãy nghĩ về điều này tương tự như một chiếc phanh khẩn cấp", ông Nadella nhấn mạnh.
Những phát biểu của ông Nadella được đưa ra giữa lúc các công ty AI hàng đầu ngày càng ghi nhận nhiều sự cố cho thấy dấu hiệu mất kiểm soát đối với các mô hình của mình. Trước đó không lâu, CEO Dario Amodei của Anthropic cũng đã công bố một kế hoạch nhằm hướng tới việc phát triển AI một cách thận trọng hơn.
