Cựu Chủ tịch Y Combinator Geoff Ralston Ra Mắt Quỹ "An Toàn" AI Mới: Hướng Đến Tương Lai AI Trách Nhiệm
Giữa cơn sốt đầu tư vào trí tuệ nhân tạo (AI), cựu chủ tịch Y Combinator Geoff Ralston vừa tung ra một "nước cờ" táo bạo: quỹ đầu tư Safe Artificial Intelligence Fund (SAIF) với sứ mệnh thúc đẩy sự phát triển của AI an toàn, bảo mật và có trách nhiệm. Thay vì chỉ chạy theo lợi nhuận, SAIF đặt trọng tâm vào việc giải quyết những rủi ro tiềm ẩn mà AI có thể mang lại cho xã hội.
Ralston dự kiến sẽ đầu tư 100.000 USD thông qua SAFE (Simple Agreement for Future Equity) vào các startup có cùng tầm nhìn. Mục tiêu của SAIF là tìm kiếm những công ty đang nỗ lực cải thiện tính an toàn của AI, làm rõ quy trình ra quyết định của AI, bảo vệ quyền sở hữu trí tuệ, đảm bảo tuân thủ các quy định, chống lại tin giả và phát hiện các cuộc tấn công do AI tạo ra.
"Phần lớn các dự án AI hiện nay đang sử dụng công nghệ để giải quyết vấn đề, tạo ra hiệu quả hoặc khả năng mới. Chúng không nhất thiết là nguy hiểm, nhưng sự an toàn không phải là mối quan tâm hàng đầu của họ," Ralston chia sẻ với TechCrunch. "Tôi dự định tài trợ cho các startup có mục tiêu chính là AI an toàn - theo cách tôi đã định nghĩa nó một cách rất rộng rãi."
Quỹ cũng nhắm đến các công cụ AI chức năng được xây dựng với sự an toàn được đặt lên hàng đầu. Ví dụ, các công cụ dự báo AI tốt hơn hoặc các công cụ đàm phán kinh doanh hỗ trợ AI nhưng vẫn bảo vệ bí mật của doanh nghiệp. Điều này cho thấy SAIF không chỉ tập trung vào việc ngăn chặn những tác động tiêu cực của AI, mà còn hướng đến việc xây dựng một hệ sinh thái AI bền vững và đáng tin cậy.
Tuy nhiên, Ralston cũng khẳng định sẽ không đầu tư vào các ứng dụng AI mang tính nguy hiểm, chẳng hạn như vũ khí tự động hoàn toàn. Ông nhấn mạnh sự cần thiết của việc kiểm soát chặt chẽ việc ứng dụng AI trong lĩnh vực quân sự và an ninh.
"Chắc chắn có những cách sử dụng AI sẽ (hoặc có thể) không an toàn: sử dụng công nghệ để tạo ra vũ khí sinh học, để quản lý vũ khí thông thường mà không có con người tham gia," ông giải thích.
Thậm chí, ông mong muốn tài trợ cho các "hệ thống an toàn vũ khí" có thể phát hiện hoặc ngăn chặn các cuộc tấn công từ vũ khí AI. Quan điểm này đi ngược lại với nhiều nhà sáng lập và nhà đầu tư công nghệ quốc phòng hiện nay, những người ủng hộ việc vũ khí AI nên hoạt động mà không cần sự can thiệp của con người.
Với kinh nghiệm dày dặn tại Y Combinator, Ralston hy vọng sẽ mang lại lợi thế cho các startup mà SAIF đầu tư. Ông dự định sẽ cố vấn cho họ theo phong cách của Y Combinator, giúp họ hoàn thiện hồ sơ đăng ký vào YC và kết nối họ với mạng lưới nhà đầu tư rộng lớn của mình.
Sự ra đời của quỹ SAIF là một tín hiệu đáng mừng cho thấy sự quan tâm ngày càng tăng đối với vấn đề an toàn AI. Trong bối cảnh AI đang phát triển với tốc độ chóng mặt, việc đảm bảo rằng công nghệ này được sử dụng một cách có trách nhiệm và mang lại lợi ích cho toàn xã hội là vô cùng quan trọng. SAIF hứa hẹn sẽ đóng vai trò quan trọng trong việc định hình tương lai của AI, hướng đến một thế giới nơi AI được phát triển và sử dụng một cách an toàn, minh bạch và đáng tin cậy.