Cảnh Sát Vũ Trang Còng Tay Thiếu Niên Sau Khi AI Nhầm Gói Bim Bim Thành Súng Ở Mỹ
Một sự cố hy hữu vừa xảy ra tại Mỹ, làm dấy lên lo ngại về việc lạm dụng trí tuệ nhân tạo (AI) trong trường học. Một thiếu niên 16 tuổi đã bị cảnh sát vũ trang còng tay sau khi hệ thống AI nhận diện nhầm gói bim bim trong túi em là một khẩu súng. Sự việc này đã đặt ra câu hỏi về độ chính xác và trách nhiệm của các hệ thống AI trong việc đảm bảo an ninh, cũng như những hệ lụy mà chúng có thể gây ra.
Vụ việc xảy ra tại trường học ở Baltimore County, Maryland. Taki Allen, nam sinh 16 tuổi, kể lại trải nghiệm kinh hoàng của mình với kênh truyền hình địa phương WMAR-2 News: "Cảnh sát ập đến, khoảng tám xe, tất cả đều bước ra với súng chĩa vào tôi, yêu cầu tôi nằm xuống."
Sở Cảnh sát Baltimore County cho biết các sĩ quan đã "phản ứng phù hợp và cân xứng dựa trên thông tin được cung cấp tại thời điểm đó". Theo đó, hệ thống AI đã gửi cảnh báo về một mối đe dọa tiềm ẩn đến người kiểm duyệt. Tuy nhiên, hiệu trưởng trường đã bỏ lỡ thông tin này và liên hệ với đội an ninh, dẫn đến việc cảnh sát được điều động.
Sau khi kiểm tra, cảnh sát phát hiện Taki Allen chỉ mang theo một gói bim bim Doritos đã ăn hết. Tuy nhiên, cậu bé đã phải trải qua những phút giây căng thẳng và tủi hổ. "Anh ta yêu cầu tôi quỳ xuống, bắt giữ tôi và còng tay tôi," Allen kể lại.
"Vụ việc đã được giải quyết an toàn sau khi xác định không có mối đe dọa nào," đại diện Sở Cảnh sát Baltimore County khẳng định với BBC News. Tuy nhiên, hậu quả tâm lý mà sự việc này để lại cho Taki Allen là không hề nhỏ. Cậu bé cho biết hiện tại cảm thấy không an toàn khi ra ngoài sau giờ tập bóng đá, "đặc biệt là khi ăn bim bim hoặc uống nước".
Vụ việc này đã làm dấy lên làn sóng phản đối mạnh mẽ từ dư luận và các nhà chính trị địa phương. Hội đồng viên Baltimore County, Izzy Pakota, đã viết trên Facebook: "Tôi kêu gọi Hệ thống Trường Công lập Baltimore County xem xét lại quy trình sử dụng hệ thống phát hiện vũ khí bằng AI của mình."
Omnilert, nhà cung cấp hệ thống AI, bày tỏ sự hối tiếc về sự cố. "Chúng tôi rất tiếc vì sự cố này đã xảy ra và muốn bày tỏ sự quan tâm của chúng tôi đến học sinh và cộng đồng rộng lớn hơn bị ảnh hưởng bởi các sự kiện sau đó," đại diện Omnilert nói với BBC News. Công ty này cho biết hệ thống của họ ban đầu đã phát hiện thứ có vẻ là vũ khí và hình ảnh của nó sau đó đã được đội ngũ đánh giá xác minh. Thông tin này sau đó đã được chuyển đến đội an ninh của BCPS cùng với thông tin chi tiết khác "trong vòng vài giây" để họ đánh giá.
Sự việc tại Baltimore County là một lời cảnh tỉnh về những rủi ro tiềm ẩn khi quá phụ thuộc vào công nghệ AI trong các tình huống nhạy cảm. Nó cho thấy tầm quan trọng của việc giám sát chặt chẽ và có các quy trình kiểm soát chặt chẽ để tránh những sai sót đáng tiếc có thể gây ra những hậu quả nghiêm trọng. Vụ việc này không chỉ gây tổn thương cho một cá nhân mà còn làm suy giảm lòng tin của cộng đồng vào các hệ thống an ninh được xây dựng dựa trên công nghệ AI. Rõ ràng, cần có sự xem xét lại toàn diện về cách sử dụng công nghệ này trong trường học để đảm bảo an toàn và công bằng cho tất cả mọi người.