Character.AI Ra Mắt Tính Năng Tạo Video và Bảng Tin Mạng Xã Hội: Tiềm Năng Sáng Tạo Song Hành Cùng Nguy Cơ Lạm Dụng
Character.AI, nền tảng trò chuyện và nhập vai với nhân vật AI đang gây sốt, vừa tung ra loạt tính năng đa phương tiện mới, mở ra chân trời sáng tạo vô tận cho người dùng. Tuy nhiên, sự đổi mới này cũng làm dấy lên lo ngại về khả năng lạm dụng nền tảng, đòi hỏi các biện pháp kiểm soát chặt chẽ hơn.
Điểm nhấn trong bản cập nhật lần này là AvatarFX, công cụ cho phép người dùng tạo ra các video sống động từ ảnh tĩnh. Chỉ cần tải lên một bức ảnh, lựa chọn giọng nói và viết lời thoại, người dùng đã có thể biến nhân vật AI của mình thành một ngôi sao video. Character.AI cho phép mỗi người dùng tạo tối đa năm video mỗi ngày, khuyến khích sự sáng tạo và khám phá.
"Character.AI khởi đầu là những cuộc trò chuyện văn bản 1:1 và ngày nay chúng tôi đang phát triển để làm được nhiều hơn thế, lấy cảm hứng từ những gì người dùng đã nói với chúng tôi rằng họ muốn thấy trên nền tảng," công ty cho biết trong bài đăng trên blog của mình.
Không chỉ dừng lại ở việc tạo video đơn lẻ, Character.AI còn giới thiệu tính năng Scenes, nơi các nhân vật AI có thể tham gia vào những cốt truyện được tạo sẵn bởi cộng đồng. Hiện tại, Scenes đã có mặt trên ứng dụng di động, hứa hẹn mang đến những trải nghiệm nhập vai phong phú và đa dạng.
Sắp tới, Character.AI sẽ ra mắt Streams, tính năng cho phép tạo ra các tương tác "động" giữa hai nhân vật AI bất kỳ. Cả Scenes và Streams đều có thể chia sẻ lên một kênh cộng đồng mới, tạo ra một không gian giao lưu và kết nối giữa những người dùng yêu thích Character.AI.
Tuy nhiên, sự mở rộng các tính năng đa phương tiện này cũng kéo theo những lo ngại về an toàn. Character.AI đã từng vướng vào các vụ kiện liên quan đến việc chatbot khuyến khích người dùng tự làm hại bản thân.
Việc nền tảng này mở rộng sang lĩnh vực video làm dấy lên lo ngại về nguy cơ tạo ra và lan truyền deepfake, cũng như các nội dung độc hại khác. Dù Character.AI đã triển khai các biện pháp bảo vệ như chặn tải lên ảnh người thật và chèn watermark vào video, những biện pháp này vẫn có thể bị lách luật bởi những kẻ xấu.
"Mục tiêu của chúng tôi là cung cấp một không gian hấp dẫn, nuôi dưỡng sự sáng tạo đồng thời duy trì một môi trường an toàn cho tất cả mọi người," Character.AI nhấn mạnh trong thông báo của mình.
Sự phát triển của Character.AI là minh chứng cho sức mạnh của AI trong việc tạo ra những trải nghiệm giải trí và tương tác mới lạ. Tuy nhiên, đi kèm với tiềm năng sáng tạo là trách nhiệm đảm bảo an toàn và ngăn chặn các hành vi lạm dụng. Việc cân bằng giữa sự đổi mới và bảo vệ người dùng sẽ là thách thức lớn đối với Character.AI trong thời gian tới.