YouTuber nổi tiếng tố cáo giọng AI nhái giọng anh ta đang được sử dụng để thu âm video "Doom"
Một cuộc xâm phạm quyền riêng tư đáng lo ngại đang diễn ra trong cộng đồng sáng tạo nội dung số. Mark Brown, YouTuber nổi tiếng với hơn 1,65 triệu người đăng ký trên kênh "Game Maker's Toolkit", đã phát hiện giọng AI mô phỏng giọng nói của anh đang được sử dụng trái phép để tường thuật video về tựa game "Doom: The Dark Ages" trên một kênh YouTube ít tên tuổi. Vụ việc này gióng lên hồi chuông cảnh báo về sự trỗi dậy của gian lận do AI gây ra, đặc biệt là deepfakes giọng nói, và những thách thức mà nó đặt ra cho những người sáng tạo nội dung.
Brown, người đã dành hơn một thập kỷ để phân tích thiết kế trò chơi, bày tỏ sự phẫn nộ và lo ngại sâu sắc. Anh cho rằng việc giọng nói của mình bị sao chép và sử dụng mà không được phép là một hành vi xâm phạm cá nhân trắng trợn. "Cái ý nghĩ rằng ai đó sẽ làm điều đó để sao chép hình tượng của tôi theo cách này - nó thật kỳ quái và xâm lấn," Brown chia sẻ. "Nó giống như đạo văn nhưng mang tính cá nhân hơn. Đó không phải là công việc hay sức lao động của tôi. Đó là một phần riêng biệt của con người tôi."
Kênh YouTube "Game Offline Lore", nơi đăng tải video sử dụng giọng AI của Brown, có khoảng 744.000 người đăng ký. Mặc dù nhiều video ngắn trên kênh này sử dụng giọng AI rõ ràng, video tường thuật về "Doom" lại thu hút hơn 60.000 lượt xem, cho thấy khả năng sinh lời từ hành vi xâm phạm này. Brown cho rằng kênh này có thể đang thu "một khoản tiền kha khá" từ quảng cáo trên video sử dụng giọng AI của anh.
Vụ việc này không chỉ là vấn đề vi phạm bản quyền mà còn là mối đe dọa tiềm tàng đối với danh tính và quyền riêng tư của những người sáng tạo nội dung. "AI-driven fraud is on the rise," như một báo cáo trên Wired đã chỉ ra, "deepfakes, once confined to damaging videos affecting celebrities and average citizens alike, is now advanced enough to happen in real time." (Gian lận do AI thúc đẩy đang gia tăng. Deepfake, từng giới hạn trong các video gây tổn hại đến người nổi tiếng và người dân bình thường, giờ đã đủ tiên tiến để xảy ra trong thời gian thực.)
Brown đã báo cáo vụ việc với YouTube và mặc dù nền tảng này có chính sách bảo vệ quyền riêng tư mở rộng, cho phép người dùng yêu cầu xóa nội dung AI tạo ra hoặc sửa đổi mô phỏng khuôn mặt hoặc giọng nói của họ, song đến nay, video vẫn chưa bị gỡ bỏ. Người phát ngôn của YouTube, Jack Malon, cho biết công ty đang xem xét nội dung để xác định xem có vi phạm chính sách hay không và "sẽ hành động nếu nội dung vi phạm chính sách của chúng tôi."
Sự việc này làm dấy lên những lo ngại sâu sắc về tương lai của nội dung số và trách nhiệm của các nền tảng trực tuyến trong việc bảo vệ quyền lợi của những người sáng tạo. Việc dễ dàng sao chép giọng nói bằng AI đặt ra một thách thức lớn, và các biện pháp bảo vệ hiện tại có vẻ chưa đủ để ngăn chặn tình trạng này. Brown nhấn mạnh rằng các video của anh thường là kết quả của hơn 100 giờ làm việc, nghiên cứu tài liệu, viết kịch bản, ghi lại trò chơi và chỉnh sửa. "Mỗi video là một dự án quan trọng, mất hai hoặc ba tuần để sản xuất - không có lối tắt nào như sử dụng AI," anh nói.
Trong bối cảnh công nghệ AI ngày càng phát triển, vụ việc của Mark Brown là một lời cảnh tỉnh về những nguy cơ tiềm ẩn và sự cần thiết phải có các biện pháp pháp lý và đạo đức mạnh mẽ hơn để bảo vệ quyền của những người sáng tạo nội dung trước sự lạm dụng công nghệ. Sự lan rộng của các deepfakes giọng nói có thể gây ra những hậu quả nghiêm trọng, không chỉ về mặt tài chính mà còn về mặt danh tiếng và cảm xúc. Các nền tảng trực tuyến cần phải chủ động hơn trong việc phát hiện và loại bỏ các nội dung vi phạm, đồng thời cung cấp cho người dùng các công cụ và tài nguyên để bảo vệ danh tính và quyền riêng tư của họ.