Tại sự kiện Microsoft Build 2024, Qualcomm Technologies, Inc. công bố việc mở rộng Trung tâm Trí tuệ Nhân tạo Qualcomm AI Hub nhằm hỗ trợ Nền tảng Snapdragon X Series.
Điều này giúp rút ngắn thời gian đưa sản phẩm ra thị trường cho các nhà phát triển và kích hoạt những lợi ích của AI tạo sinh trên thiết bị cho các dòng PC Windows thuộc thế hệ tiếp theo. Bên cạnh đó, các nhà phát triển giờ đây có thể dùng các mô hình AI của riêng họ và tối ưu hóa chúng để hoạt động trực tiếp trên thiết bị.
Khả năng chạy các mô hình AI trên thiết bị mang lại những lợi thế đáng kể, bao gồm phản hồi nhanh hơn, quyền riêng tư được tăng cường, độ tin cậy được cải thiện và mang đến trải nghiệm được cá nhân hóa hơn cho người dùng.
“Bằng việc hỗ trợ Nền tảng Snapdragon X Series trong Trung tâm Trí tuệ Nhân tạo Qualcomm AI Hub, chúng tôi đang cung cấp cho các nhà phát triển sự linh hoạt và sức mạnh để tạo ra các ứng dụng AI tiên tiến cho các sản phẩm PC Windows thuộc thế hệ tiếp theo,” ông Durga Malladi, Phó chủ tịch cấp cao kiêm Giám đốc điều hành mảng Chiến lược công nghệ và giải pháp biên của Qualcomm Technologies, Inc. cho biết. “Chúng tôi cam kết cung cấp cho các nhà phát triển những công cụ và tài nguyên cần thiết nhằm khai phóng toàn bộ tiềm năng của Trí tuệ Nhân tạo tạo sinh trên thiết bị.”
Qualcomm AI Hub là cổng thông tin dành cho các nhà phát triển, cung cấp tài nguyên, công cụ và dịch vụ, cho phép đạt được hiệu năng AI vượt trội trên thiết bị, đi kèm một thư viện đang được liên tục phát triển với hơn 100 mô hình AI được tối ưu hóa sẵn và sẽ có thể sử dụng ngay trên Hugging Face và GitHub.
Bên cạnh đó, Qualcomm AI Hub hiện cho phép các nhà phát triển “Xây dựng Mô hình của riêng mình” (Bring Your Own Model – BYOM) – với khả năng tải lên, tối ưu hóa và biên dịch các mô hình này để chạy hiệu quả trên các nền tảng Snapdragon và Qualcomm – trong đó bao gồm hỗ trợ tất cả các công cụ thư viện chính như PyTorch, TensorFlow và ONNX.
Với vài dòng code và trong chưa đầy năm phút, các nhà phát triển có thể dễ dàng kiểm chứng và xác thực các mô hình trên các thiết bị giả lập trên Cloud.
Bằng cách đơn giản hóa quá trình tối ưu hóa và xác minh mô hình, các nhà phát triển có thể tiết kiệm đáng kể thời gian và công sức, đẩy nhanh chu kỳ phát triển với chu trình triển khai, cải tiến sản phẩm được rút ngắn.
Các nhà sản xuất thiết bị gốc (OEMs) cho PC lớn, bao gồm Acer, ASUS, Dell, HP, Lenovo, Samsung và OEM7, dự kiến sẽ ra mắt các sản phẩm PC được trang bị Nền tảng Điện toán Snapdragon X Elite và/hoặc X Plus, cho phép các nhà phát triển sử dụng Qualcomm AI Hub nhằm mang lại trải nghiệm tốt cho thế hệ thiết bị mới này.
Nền tảng Snapdragon X Series hỗ trợ nhiều công cụ phát triển AI. Nhờ tích hợp sâu với ONNX Runtime và Hugging Face Optimum, cũng như hỗ trợ Llama.cpp, giờ đây các nhà phát triển có thể chạy hàng nghìn mô hình trên Nền tảng Snapdragon X Series và xây dựng các ứng dụng Windows phong phú được hỗ trợ bởi AI. Các nhà phát triển cũng có thể tìm hiểu về AI trên thiết bị và cách triển khai công nghệ này cho ứng dụng của mình trong khóa học trực tuyến do DeepLearning.AI hợp tác với Qualcomm Technologies cung cấp.
