Mô hình trí tuệ nhân tạo Grok của Elon Musk sẽ không còn khả năng chỉnh sửa ảnh người thật để hiển thị họ trong các trang phục thiếu vải tại những khu vực pháp lý coi hành vi này là bất hợp pháp. Đây là nỗ lực mới nhất của nền tảng X nhằm xoa dịu những lo ngại ngày càng tăng về vấn nạn deepfake khiêu dâm do AI tạo ra.
Đại diện X cho biết: "Chúng tôi đã triển khai các biện pháp kỹ thuật để ngăn chặn tài khoản Grok cho phép chỉnh sửa hình ảnh của người thật sang các trang phục hở hang như bikini. Hạn chế này áp dụng cho tất cả người dùng, bao gồm cả những thuê bao trả phí."
Sự thay đổi này được công bố chỉ vài giờ sau khi Tổng chưởng lý bang California (Mỹ) tuyên bố đang điều tra việc phát tán các hình ảnh deepfake nhạy cảm, bao gồm cả hình ảnh trẻ em, được tạo ra từ mô hình AI của X. Nền tảng này cũng tái khẳng định rằng chỉ những người dùng trả phí mới có quyền chỉnh sửa ảnh bằng Grok. Điều này được kỳ vọng sẽ tạo ra một lớp bảo vệ bổ sung, giúp đảm bảo những người cố tình lạm dụng Grok để vi phạm pháp luật hoặc chính sách của X sẽ phải chịu trách nhiệm.
Tỷ phú Elon Musk giải thích rằng, khi bật cài đặt NSFW (nội dung không an toàn), Grok được phép tạo ra hình ảnh khỏa thân phần trên của "những người trưởng thành giả tưởng" (không phải người thật), tương tự như tiêu chuẩn của các bộ phim dán nhãn R tại Mỹ. Tuy nhiên, ông cũng thừa nhận rằng các quy định này sẽ thay đổi tùy thuộc vào luật pháp của từng quốc gia và khu vực cụ thể.
Trước đó, Musk từng lên tiếng bảo vệ tính năng này và cáo buộc những người chỉ trích đang muốn "đàn áp quyền tự do ngôn luận". Tuy nhiên, làn sóng phản đối từ cộng đồng quốc tế đã gây áp lực lớn. Malaysia và Indonesia đã trở thành những quốc gia đầu tiên ban lệnh cấm Grok AI sau khi xuất hiện các báo cáo về việc hình ảnh người dùng bị chỉnh sửa trái phép. Tại Anh, cơ quan quản lý truyền thông Ofcom cũng đang điều tra xem liệu X có tuân thủ luật pháp quốc gia về việc kiểm soát hình ảnh nhạy cảm hay không.
Dù X đã có những động thái khắc phục, các nhà nghiên cứu chính sách vẫn bày tỏ sự hoài nghi. Chuyên gia Riana Pfefferkorn cho rằng X đã quá chậm trễ trong việc triển khai các biện pháp bảo vệ và đặt câu hỏi về cách thức hệ thống AI này phân biệt giữa hình ảnh người thật và người giả, cũng như các biện pháp xử lý cụ thể khi người dùng vi phạm quy tắc.