Trong bối cảnh trí tuệ nhân tạo (AI) tiếp tay cho các thủ đoạn lừa đảo và tội phạm mạng phát triển mạnh mẽ, công nghệ này cũng đang được huy động vào cuộc chiến bảo vệ các nạn nhân tiềm năng. Nhiều chính phủ trên thế giới từ lâu đã gặp bế tắc trong việc giải quyết khủng hoảng tội phạm trực tuyến toàn cầu do rào cản truy quét tội phạm ngoài biên giới. Thực trạng này đã thúc đẩy các giải pháp thay thế, chẳng hạn như ứng dụng tự động hóa để đối đầu hàng loạt với kẻ lừa đảo bằng cách "gậy ông đập lưng ông", làm tiêu hao nguồn lực của chúng. Hiện nay, các nền tảng AI đang hiện thực hóa các thử nghiệm này thành công cụ đắc lực chống tội phạm mạng.
Trong suốt hai năm qua, công ty Apate của Úc – đặt theo tên nữ thần lừa dối trong thần thoại Hy Lạp – đã xây dựng một hệ thống có khả năng chuyển hướng các cuộc gọi lừa đảo sang những bot AI. Những bot này được huấn luyện đặc biệt để duy trì cuộc trò chuyện càng lâu càng tốt mà không bao giờ thực sự sập bẫy. Mục tiêu là gieo cho kẻ lừa đảo hy vọng để chúng tiếp tục giữ máy, đồng thời tiến hành thu thập thông tin tình báo về thủ đoạn mà chúng đang sử dụng.
Dali Kaafar, nhà sáng lập kiêm Giám đốc điều hành của Apate, chia sẻ: "Điều chúng tôi thực sự hướng tới là xây dựng những nạn nhân hoàn hảo cho những kẻ lừa đảo. Một phút kẻ gian nói chuyện với bot hay trợ lý ảo là một phút có thể cứu được hàng trăm, thậm chí hàng nghìn người khỏi bị tiếp cận bởi chính kẻ đó", ám chỉ khả năng kẻ xấu sử dụng các công cụ quay số tự động.
Theo Kaafar, nền tảng của Apate hiện được các ngân hàng sử dụng và có sự hỗ trợ từ các công ty viễn thông, đang vận hành khoảng 350.000 bot. Lực lượng này không chỉ tiếp nhận cuộc gọi mà còn xâm nhập vào các hội nhóm lừa đảo trực tuyến và phản hồi tin nhắn văn bản với mục tiêu tương tự: làm kẻ lừa đảo nản lòng và thu thập tin tức từ chúng. Đến nay, công ty đã thu thập hơn 250.000 mẩu thông tin theo thời gian thực về các đối tượng gian lận, từ đường dẫn URL độc hại đến các tài khoản trung gian chuyển tiền và thông tin ngân hàng.
Để tránh bị phát hiện là AI, các bot được thiết lập với nhiều tính cách, khả năng ngôn ngữ và hồ sơ khác nhau. Kaafar cho biết, giống như người thật, đôi khi các bot dùng WhatsApp, đôi khi không; có lúc chúng nhấc máy, nhưng có lúc lại cúp máy và nhắn lại rằng "tôi sẽ liên hệ sau".
Qua thử nghiệm thực tế với phiên bản demo – nơi người dùng đóng vai kẻ lừa đảo trò chuyện với một "nạn nhân" AI của Apate, các nhân vật AI được thiết kế để thể hiện sự hoài nghi vừa phải nhưng vẫn để lại đủ kẽ hở nhằm kích thích đối phương tiếp tục thuyết phục. Chiến thuật tâm lý này khiến kẻ lừa đảo bị cuốn vào cuộc trò chuyện và cảm thấy vô cùng ức chế.
