Công ty khởi nghiệp AI Anthropic mới đây đã gây bất ngờ khi thông báo sẽ cấm người dùng thực hiện các hành vi lạm dụng "kéo dài và không cần thiết" đối với các hệ thống trí tuệ nhân tạo của mình.
Nhà phát triển mô hình Claude cho biết họ đang cập nhật chính sách sử dụng, cho phép các công cụ của hãng chấm dứt phiên tương tác nếu phát hiện người dùng có hành vi "tàn nhẫn" – một biện pháp mà hãng khẳng định trước đây chỉ áp dụng trong những trường hợp hiếm hoi. Hành vi này hiện được xếp vào danh mục những điều cấm cùng với các hành động như bắt nạt người khác, khuyến khích tự hại và tạo hình ảnh thân mật không có sự đồng thuận.
Dù Anthropic nhấn mạnh rằng quy định mới chỉ áp dụng trong "các trường hợp cực đoan" khi xảy ra tình trạng lạm dụng lặp đi lặp lại, động thái này vẫn thổi bùng các cuộc tranh luận về cách con người nên giao tiếp với các công cụ AI. Công ty lưu ý chính sách sẽ không áp dụng đối với sự bức xúc thông thường của người dùng, các phản hồi phản biện, chủ đề sáng tạo đen tối hoặc quá trình nghiên cứu và thử nghiệm mô hình. Tuy nhiên, tiêu chuẩn cụ thể để Anthropic xác định thế nào là hành vi "lạm dụng hoặc tàn nhẫn" đối với AI hiện vẫn chưa rõ ràng.
Quy định mới lập tức nhận về nhiều luồng ý kiến trái chiều trên mạng xã hội. Một số ý kiến tán thành, cho rằng đây là bước tiến giúp thúc đẩy phép lịch sự hoặc "phúc lợi của mô hình". Ngược lại, nhiều chuyên gia bày tỏ sự phản đối kịch liệt. Tiến sĩ Barry Scannell thuộc công ty luật William Fry nhận định: "Bạn không thể tàn nhẫn với những con số và phép toán. Mức độ nhân cách hóa AI này là có hại, khiến mọi người tin rằng nó là một thứ gì đó vượt ngoài bản chất thực sự". Giám đốc mảng AI của Microsoft, ông Mustafa Suleyman – người từng chỉ trích Anthropic vì đối xử với AI như con người – cũng đã phản ứng bằng một biểu tượng cảm xúc mặt tan chảy.
Các thay đổi này xuất hiện sau đợt đánh giá chính sách sử dụng thường niên của Anthropic. Bản cập nhật cũng giải quyết các rủi ro mới nổi khác, chẳng hạn như cấm sử dụng Claude cho các "chiến dịch lừa đảo" hoặc ngăn chặn việc dùng AI để thao túng cử tri và phá hoại các cuộc bầu cử giữa kỳ tại Mỹ. Trước đó, chính sách của hãng cũng đã nghiêm cấm việc dùng công cụ để phát triển vũ khí.
Quy định này cũng làm nóng lại cuộc tranh luận về việc liệu người dùng nên ngắn gọn hay lịch sự khi tương tác với các công cụ AI tạo sinh. Một số chuyên gia cho rằng việc nói "làm ơn" hoặc "cảm ơn" là không cần thiết và gây lãng phí token xử lý của mô hình ngôn ngữ lớn. Ngược lại, có quan điểm cho rằng sự lịch sự có thể mang lại câu trả lời chất lượng hơn. Ngoài ra, một số nhà nghiên cứu lo ngại việc đối xử thô lỗ với chatbot AI có thể dần ngấm vào thói quen và tác động tiêu cực đến cách con người giao tiếp với nhau ngoài đời thực.
