Trong bài phát biểu thường niên về các mối đe dọa đối với quốc gia, Sir Ken McCallum, người đứng đầu cơ quan tình báo nội địa Anh MI5, đã cảnh báo rằng AI có tiềm năng "làm thay đổi cục diện" đối với các loại vũ khí sinh học hiện có và thậm chí là cả những loại vũ khí mới.
Mức độ rủi ro phụ thuộc vào đối tượng muốn chế tạo chúng. Đối với các tác nhân độc hại thiếu kỹ năng hoặc nhóm khủng bố làm việc tại nhà để tận dụng mầm bệnh và độc tố có sẵn, các chatbot AI có thể hỗ trợ nâng cao kỹ năng thông qua việc tổng hợp thông tin, lên kế hoạch thí nghiệm và khắc phục sự cố.
Trong khi đó, rủi ro lớn hơn đến từ các tổ chức có nguồn lực tốt và các quốc gia có sẵn nhà khoa học tay nghề cao cùng phòng thí nghiệm an toàn. Theo Tiến sĩ Filippa Lentzos từ King’s College London, AI không loại bỏ nhu cầu về chuyên môn mà khuếch đại chuyên môn sẵn có, ví dụ như giúp các nhà nghiên cứu xác định các chỉnh sửa di truyền để mầm bệnh độc hại hơn. Rủi ro xa hơn là việc các nhóm có tay nghề cao sử dụng AI để thiết kế hoàn toàn các mầm bệnh hoặc độc tố mới kháng thuốc.
Nhiều trường hợp lạm dụng đã ghi nhận. Cảnh sát Ấn Độ từng phát hiện âm mưu khủng bố sinh học sử dụng truy vấn chatbot AI để chế tạo ricin bằng dụng cụ nhà bếp. Công ty AI Anthropic cũng báo cáo 5 trường hợp các nhà khoa học cố gắng sử dụng chatbot Claude để thực hiện công việc nguy hiểm trên virus hoặc độc tố, bao gồm cả việc lập kế hoạch đột biến virus cúm gia cầm để dễ lây lan ở động vật có vú. Các bài kiểm tra tại MIT cũng cho thấy sinh viên không chuyên có thể dùng chatbot AI để liệt kê mầm bệnh đại dịch và cách tổng hợp chúng trong thời gian ngắn.
Mặc dù AI có thể cung cấp thông tin hướng dẫn, các chuyên gia khẳng định thông tin chỉ là một phần của vấn đề. Tiến sĩ Lentzos và chuyên gia Sonia Ben Ouagrham-Gormley chỉ ra rằng kiến thức ngầm (know-how không được viết thành văn), khả năng tiếp cận vật liệu sinh học, thiết bị, xác định thực nghiệm, mở rộng quy mô và phân phối vẫn là những rào cản đáng kể. Giáo sư Martin Pačesa tại Đại học Zurich cũng nhấn mạnh rằng việc tiếp cận vật liệu mới là yếu tố tối quan trọng.
Hiện nay, phần lớn các công ty AI vẫn chưa công bố các biện pháp ngăn chặn người dùng phát triển vũ khí sinh học, và chưa có quốc gia nào ban hành chính sách chính thức để bảo vệ trước loại hình lạm dụng này. Giáo sư Tom Inglesby kêu gọi cần có các đánh giá độc lập chính thức đối với các mô hình AI mới trước khi phát hành, đồng thời hạn chế dữ liệu sinh học có rủi ro cao.
