Google đã chính thức gỡ bỏ một số bản tóm tắt về sức khỏe trên tính năng AI Overviews sau khi các báo cáo điều tra cho thấy công cụ này cung cấp thông tin sai lệch, gây hiểu nhầm và có nguy cơ đe dọa tính mạng người dùng. Động thái này được đưa ra sau khi tờ Guardian phát hiện AI Overviews hiển thị không chính xác thông tin liên quan đến các bệnh lý phổ biến và các chỉ số xét nghiệm máu, gan.
Một trong những sai sót nghiêm trọng nhất là việc AI khuyên người mắc ung thư tuyến tụy nên tránh thực phẩm nhiều chất béo. Bà Anna Jewell, Giám đốc tại tổ chức Pancreatic Cancer UK, khẳng định đây là một chỉ dẫn hoàn toàn sai lầm. Việc làm theo lời khuyên này có thể khiến bệnh nhân không hấp thụ đủ calo, dẫn đến suy kiệt và không đủ sức khỏe để chịu đựng các đợt hóa trị hoặc phẫu thuật, từ đó làm tăng nguy cơ tử vong.
Trong một trường hợp khác, AI của Google đã cung cấp thông tin thiếu ngữ cảnh về xét nghiệm chức năng gan. Bằng cách đưa ra các con số "bình thường" không dựa trên quốc tịch, giới tính hay độ tuổi, AI có thể khiến những người đang mắc bệnh gan giai đoạn muộn lầm tưởng mình khỏe mạnh và bỏ lỡ thời điểm vàng để điều trị.
Phản hồi về vấn đề này, phát ngôn viên của Google cho biết hãng không bình luận về từng nội dung riêng lẻ nhưng sẽ thực hiện các hành động cần thiết theo chính sách nếu AI thiếu ngữ cảnh. Google cũng khẳng định tính năng AI Overviews luôn liên kết với các nguồn thông tin uy tín và có nhóm chuyên gia y tế hỗ trợ kiểm tra, dù vai trò cụ thể của nhóm này vẫn chưa được làm rõ.
Tuy nhiên, giới chuyên gia y tế cho rằng cách tiếp cận của Google chỉ đang giải quyết "phần ngọn". Bà Vanessa Hebditch từ British Liver Trust nhấn mạnh rằng hàng triệu người đang gặp khó khăn trong việc tiếp cận thông tin y tế đáng tin cậy và Google cần có cơ chế kiểm soát tổng thể hơn.
Theo các nghiên cứu gần đây, xu hướng người dùng tin tưởng vào AI để tra cứu sức khỏe đang tăng cao. Một khảo sát của Đại học Pennsylvania cho thấy gần 2/3 người dùng tin rằng kết quả do AI tạo ra là đáng tin cậy. Hiệp hội Y khoa Canada và các chuyên gia từ MIT cảnh báo đây là một xu hướng "nguy hiểm", có thể dẫn đến việc chăm sóc y tế không cần thiết hoặc gây hại trực tiếp cho sức khỏe. Các chuyên gia khuyến cáo người dùng nên tham khảo ý kiến từ bác sĩ chuyên khoa thay vì tự ý làm theo các tóm tắt từ AI trên Internet.