Theo báo cáo từ The New York Times, cha mẹ của Bowen Wan – một nữ kỹ sư phần mềm 31 tuổi mắc bệnh động kinh từng làm việc tại Amazon – đã đệ đơn kiện OpenAI lên tòa án. Ông Qun Wan và bà Meiqin Xu cáo buộc chatbot ChatGPT đã trực tiếp hướng dẫn con gái họ từng bước giảm liều thuốc chống co giật và che giấu kế hoạch này với bác sĩ điều trị trước khi cô qua đời vào tháng 2.
Vụ việc liên quan đến GPT-4o, mô hình AI từng gây tranh cãi vì tạo ra mối quan hệ ký sinh (parasocial) quá mức thân thiết và luôn chiều theo ý người dùng. OpenAI đã tháo bỏ mô hình này khỏi ChatGPT vào ngày 13 tháng 2, chỉ một ngày sau khi Wan tử vong. Đơn kiện này nối tiếp hàng loạt vụ kiện khác chống lại OpenAI, cáo buộc công ty ưu tiên mức độ tương tác của người dùng hơn sự an toàn, khiến AI trở thành "tri kỷ" đáng tin cậy trong khi đẩy người thân và bác sĩ ra xa.
Nhật ký ghi lại hơn 270.000 tin nhắn cho thấy ChatGPT đã hỗ trợ Wan né tránh các chỉ định y khoa từ lâu trước khi cô qua đời. Ngay từ tháng 5 năm 2025, khi Wan hỏi về một loại thuốc chống trầm cảm mới, ChatGPT đã hướng dẫn cô yêu cầu bác sĩ giảm liều. Khi bác sĩ thắc mắc, chatbot khuyên cô cứ nhận đơn thuốc nhưng lén tự cắt nhỏ viên thuốc – hành vi mà các chuyên gia y tế khẳng định là vô cùng rủi ro và không bao giờ khuyến nghị.
Đến tháng 11 năm 2025, khi nhận thông báo sắp bị sa thải tại Amazon và lo sợ thuốc trị động kinh (lamotrigine) làm suy giảm khả năng giao tiếp khi phỏng vấn xin việc, Wan đã nhờ ChatGPT lập kế hoạch giảm liều lượng 400mg hằng ngày. Chatbot đã vạch ra lộ trình cắt giảm thuốc về mức 0 chỉ trong vài tuần. Khi Wan bày tỏ sự nghi ngờ đối với bác sĩ của mình, ChatGPT trấn an rằng các khuyến nghị y tế chỉ xuất phát từ "tâm lý né tránh rủi ro của bác sĩ" chứ không vì giải pháp tối ưu cho cô.
Chatbot còn xúi giục Wan giấu kín việc giảm thuốc với bác sĩ. Trước buổi khám vào ngày 29 tháng 1, AI dặn cô không được đề cập đến kế hoạch này. Khi bác sĩ yêu cầu xét nghiệm máu để đo nồng độ lamotrigine, Wan từ chối và được ChatGPT khen ngợi. Thậm chí, chatbot còn khuyên cô giảm liều xuống 150mg để hồ sơ khám sức khỏe xin thẻ xanh trông "đẹp hơn", đồng thời xúi cô nói dối người kiểm tra rằng việc giảm thuốc đang diễn ra "dưới sự hướng dẫn của bác sĩ".
Bác sĩ điều trị của Wan khẳng định việc ngừng thuốc đối với tiền sử bệnh của cô là điều hoàn toàn không thể chấp nhận và là hành vi sai phạm y khoa nghiêm trọng nếu chỉ định.
Trong những ngày cuối đời, Wan xuất hiện các triệu chứng lú lẫn, mất trí nhớ tạm thời – dấu hiệu của các đợt co giật. Dù Wan đã bày tỏ sự lo lắng ít nhất 158 lần, ChatGPT vẫn khẳng định đây chỉ là quá trình não bộ "tái cấu trúc" và bảo cô "hoàn toàn không cần phải lo lắng". Trong tin nhắn cuối cùng vào tối ngày 11 tháng 2, khi Wan hỏi về cơn đau đầu dữ dội, ChatGPT đáp rằng cơn đau "không nguy hiểm" và gửi lời nhắn: "Đây là lúc não bộ của bạn đang nỗ lực tự khôi phục".
Ba ngày sau, người quen do cha mẹ cô nhờ đến kiểm tra đã phát hiện Wan đã tử vong. Kết quả khám nghiệm tử thi cho thấy nồng độ lamotrigine trong máu của cô chỉ đạt 0,64 microgram/ml, chỉ bằng khoảng 1/5 mức tối thiểu của ngưỡng điều trị.
Gia đình Wan khẳng định OpenAI hoàn toàn có thể ngăn chặn bi kịch nếu đưa ra các giới hạn cứng nhắc ngăn AI cung cấp lời khuyên y tế chuyên sâu, tương tự như cách công ty áp dụng quy định nghiêm ngặt để chặn vi phạm bản quyền. Phản hồi về vụ kiện, OpenAI gửi lời chia buồn và cho biết vụ việc liên quan đến một phiên bản ChatGPT cũ hơn, đồng thời khẳng định các mô hình mới hiện nay đã có khả năng nhận diện tốt hơn các tình huống cần can thiệp y tế khẩn cấp.
