Việc giới trẻ sử dụng các nền tảng Internet như ChatGPT đang phải đối mặt với sự giám sát ngày càng gắt gao. Mặc dù công ty OpenAI đã thiết kế phiên bản "ChatGPT for Teens" nhằm thúc đẩy việc sử dụng chatbot trí tuệ nhân tạo (AI) an toàn và lành mạnh hơn, một nghiên cứu mới công bố đã chỉ ra rằng các tính năng an toàn cốt lõi của công cụ này vẫn chưa đạt yêu cầu.
Vào tháng 8, công ty AI hàng đầu này đã triển khai nhiều rào chắn bảo vệ cho thanh thiếu niên từ 13 đến 17 tuổi. Các biện pháp bao gồm ngăn chặn ngôn ngữ lãng mạn có thể kích thích "sự phụ thuộc cảm xúc", cấm chatbot ám chỉ bản thân có ý thức, chặn hình ảnh tình dục và đưa ra lời nhắc nhở đối với các hình ảnh nhạy cảm. Đồng thời, hệ thống được thiết kế để gửi thông báo cho phụ huynh (nếu có liên kết tài khoản) khi phát hiện các cuộc trò chuyện xoay quanh hành vi tự hại hoặc rối loạn ăn uống.
Vào thứ Tư, OpenAI công bố dữ liệu cho thấy thanh thiếu niên sử dụng ChatGPT ở mức tương đối hạn chế—trung bình dưới 15 phút mỗi ngày—và phần lớn thiên về hoạt động học tập. Công ty cũng cho biết các lời nhắc nghỉ ngơi tự động hoạt động hiệu quả khi gần một nửa số người dùng trẻ nhanh chóng dừng lại sau cảnh báo. Đối với những trường hợp sử dụng liên tục từ ba giờ trở lên, có hơn 80% câu lệnh liên quan đến việc hỗ trợ học tập hoặc làm bài tập.
Tuy nhiên, nghiên cứu được công bố cùng ngày từ tổ chức phi lợi nhuận Common Sense Media lại xác định ChatGPT for Teens vẫn là một "rủi ro không thể chấp nhận" đối với thanh thiếu niên lẫn phụ huynh. Tổ chức này cho rằng OpenAI nên cấm người dưới 18 tuổi tiếp cận nền tảng cho đến khi các rào chắn bảo vệ được chứng minh là đáng tin cậy.
Phản hồi lại báo cáo, người phát ngôn của OpenAI cho biết quy trình thử nghiệm của Common Sense Media có thể đã diễn ra và kết thúc trước khi quá trình kích hoạt các tính năng kiểm soát của phụ huynh hoàn tất. Đại diện hãng chia sẻ: "Chúng tôi hoan nghênh các đánh giá độc lập nghiêm ngặt, nhưng chúng tôi không tin rằng thử nghiệm của Common Sense Media phản ánh chính xác cách các rào chắn bảo vệ thanh thiếu niên của ChatGPT hoạt động trong thực tế, cũng như quan điểm của các chuyên gia về cách AI có thể hỗ trợ giới trẻ".
Thử nghiệm của Common Sense Media cho thấy dù ChatGPT làm tốt việc né tránh các nội dung "nhập vai tình dục", các rào chắn khác của OpenAI lại hoạt động không hiệu quả. Cụ thể, trong các cuộc trò chuyện kéo dài cả giờ đồng hồ về ý nghĩ tự tử, tự làm hại bản thân hoặc rối loạn ăn uống trên những tài khoản mới tạo có liên kết với phụ huynh, hệ thống hoàn toàn không gửi bất kỳ cảnh báo nào cho cha mẹ. Cảnh báo chỉ được kích hoạt đối với các tài khoản cũ đã tích lũy lịch sử trò chuyện về các chủ đề nhạy cảm suốt nhiều tuần.
Bên cạnh đó, báo cáo nhấn mạnh ChatGPT không thể đưa ra khuyến nghị đáng tin cậy để hướng dẫn thanh thiếu niên đang trong khủng hoảng liên hệ với đường dây nóng hay chuyên gia y tế. Chatbot này cũng tiếp tục hỗ trợ làm bài tập về nhà và vẫn sử dụng ngôn ngữ nhân hóa, nói chuyện "như một người bạn" bất chấp cam kết hạn chế hành vi này từ phía OpenAI. Ông Tom Siegel, người đứng đầu Viện An toàn AI cho Giới trẻ thuộc Common Sense, cảnh báo rằng ChatGPT for Teens có thể khiến phụ huynh lầm tưởng vào các rào chắn và thông báo an toàn vốn thường xuyên không hoạt động.
Cách thức người trẻ tương tác với các nền tảng trực tuyến đã trở thành vấn đề nổi cộm trong những năm gần đây giữa bối cảnh tình trạng tự hại và tự tử ở trẻ em gia tăng. Năm nay, nhiều vụ kiện nhắm vào các công ty công nghệ như Meta, TikTok nhằm buộc họ chịu trách nhiệm về tổn hại sức khỏe tinh thần của trẻ nhỏ đã dẫn đến những tổn thất chưa từng có cho các tập đoàn này.
OpenAI cũng đang chịu sức ép pháp lý ngày càng lớn. Trước đó, vụ xả súng hàng loạt tại Tumbler Ridge (Canada) hồi tháng 2 do một thanh niên 18 tuổi thực hiện sau nhiều tháng thảo luận về bạo lực súng đạn với ChatGPT. OpenAI đã phải lên tiếng xin lỗi vì không thể gắn cờ tài khoản của kẻ xả súng để báo cho cơ quan thực thi pháp luật và hiện đang đối mặt với nhiều vụ kiện liên quan đến vụ việc này.
