Sau sự bùng nổ của ChatGPT vào năm 2023, những hạn chế của mô hình nghiên cứu cá nhân truyền thống tại Microsoft Research (MSR) đã trở nên rõ ràng. Trước sự đầu tư tập trung và nguồn lực mạnh mẽ từ các tổ chức đối thủ, một cá nhân dù có ý tưởng đột phá cũng khó có thể tiến hành thử nghiệm đủ nhanh và xây dựng các hệ quy chiếu đủ vững chắc. Để thích ứng với bối cảnh mới, nhóm AI Frontiers (AIF) đã được thành lập bên trong MSR với mục tiêu tổ chức các nỗ lực nghiên cứu bài bản, phối hợp chặt chẽ.
Dù đối mặt với sự thiếu hụt tài nguyên tính toán và quy mô khiêm tốn chỉ khoảng 50 nhân sự, AIF đã triển khai nhiều dự án tiên phong. Nhóm tập trung nghiên cứu cách vận hành các tác tử (agent) thông qua các dự án như khung điều phối Autogen hay tác tử sử dụng máy tính Fara. Tại chi nhánh New York, nhóm còn phát triển các năng lực nền tảng mới bao gồm mục tiêu Next Latent cho phép ngoại suy, thuật toán tối ưu hóa Dion3 và kiến trúc Full Bandwidth Transformer giúp nâng cao hiệu năng mô hình một cách hiệu quả thông qua đệ quy. AIF cũng đóng góp việc xây dựng một kho lưu trữ mã nguồn chung (monorepo) cho toàn bộ MSR, trong đó có cơ sở mã tiền huấn luyện quy mô biên (edge scale).
Tuy nhiên, bước ngoặt diễn ra vào đầu tháng 9 khi AIF bị sáp nhập vào tổ chức Microsoft AI (MAI). Dù về mặt lý thuyết việc hợp nhất có thể giúp tập trung nguồn lực, trên thực tế đã nảy sinh những mâu thuẫn cốt lõi về mặt triết lý. Ban lãnh đạo MAI, vốn xuất thân từ Inflection, theo đuổi định hướng mở rộng quy mô (scaling) triệt để và gạt bỏ nghiên cứu nền tảng. Trong môi trường chỉ tập trung vào scaling, nguồn lực chủ yếu dồn vào việc thu thập và tinh chỉnh dữ liệu do tính dự đoán được về mặt kinh doanh, hoàn toàn xa rời định hướng đổi mới học thuật của AIF.
Nhận định rằng chiến lược chỉ tập trung vào mở rộng quy mô là một sai lầm thiển cận và bỏ qua giá trị to lớn của các đột phá khoa học—chẳng hạn như việc tối ưu kiến trúc có thể giúp cắt giảm một nửa chi phí huấn luyện và suy luận—các thành viên sáng lập chủ chốt của AIF, bao gồm tác giả, đã quyết định rời đi.
Lý giải về việc không quay trở lại MSR, tác giả chia sẻ hai trở ngại lớn: cảm giác nghiên cứu không còn cơ hội được đưa vào ứng dụng thực tế và sự đổ vỡ niềm tin khi nhóm đã tạo ra những kết quả tốt nhưng vẫn bị tái cơ cấu ngoài ý muốn. Với việc AI Frontiers chấm dứt hoạt động, các chương trình thực tập của nhóm trong năm tới cũng sẽ bị hủy bỏ, đánh dấu hồi kết cho một nỗ lực đổi mới nghiên cứu AI tại Microsoft.
