AIEdge0-145B: Đưa năng lực AI tiên tiến lên chính máy tính cá nhân của bạn
Edge0-145B là mô hình AI nguồn mở chạy trên thiết bị đầu tiên trên thế giới với 145 tỷ tham số, mang lại khả năng lập trình, suy luận và tác vụ thông minh cạnh tranh trực tiếp với các mô hình đám mây hàng đầu. Bản phát hành này vượt qua các rào cản về bộ nhớ và băng thông bằng cách kết hợp kiến trúc tối ưu, huấn luyện chuyên biệt từ đầu, cơ chế nạp dữ liệu phân tầng qua GPU, RAM và SSD, cùng bộ lập lịch xử lý song song trên CPU và GPU. Nhờ đó, mô hình đạt tốc độ giải mã hơn 80 token/giây trên laptop cá nhân mà vẫn đảm bảo tính bảo mật và hiệu suất vượt trội.













