COMPUTEX 2024: MediaTek tích hợp NVIDIA TAO ToolKit vào NeuroPilot SDK, thúc đẩy phát triển AI biên trong IoT

Theo thông tin từ MediaTek, đây là một phần trong lộ trình phát triển silicon chuyên về xử lý suy luận tại biên của hãng. Đáng chú ý, điều này sẽ giúp các công ty ở mọi quy mô khai thác tiềm năng của AI biên trong các lĩnh vực IoT đa dạng, bao gồm bán lẻ thông minh, sản xuất, chăm sóc sức khỏe, giao thông vận tải, thành phố thông minh, v.v.

MediaTek trang bị cho hơn hai tỷ thiết bị kết nối mỗi năm. Danh mục silicon tại biên của công ty được thiết kế để tối đa hóa hiệu suất của các ứng dụng AI biên, đồng thời đảm bảo chúng chạy rất hiệu quả. Danh mục này cũng tích hợp các công nghệ đa phương tiện và kết nối hàng đầu của MediaTek.

Với các chipset dành cho phân khúc cao cấp, tầm trung và giá rẻ, lộ trình silicon chuyên về xử lý suy luận tại biên của MediaTek cho phép các thương hiệu mang đến trải nghiệm AI đáng kinh ngạc cho các thiết bị ở nhiều mức giá khác nhau.

Việc tích hợp NeuroPilot SDK của MediaTek với NVIDIA TAO có thể giúp các nhà phát triển vượt khỏi giới hạn của Vision AI trên tất cả các thiết bị MediaTek - lớn và nhỏ, với giao diện dễ sử dụng và khả năng tối ưu hóa hiệu suất. Và với hơn 100 mô hình được đào tạo sẵn để sử dụng, NVIDIA TAO mở khóa các khả năng Vision AI tùy chỉnh cho nhiều giải pháp và trường hợp sử dụng. Bộ công cụ tích hợp này tự động hóa quá trình điều chỉnh các mô hình AI và giảm thời gian phát triển cũng như độ phức tạp, vì vậy mà các nhà phát triển có thể đưa sản phẩm ra thị trường nhanh chóng, ngay cả khi họ không có chuyên môn sâu về AI. 

“Việc tích hợp NVIDIA TAO với MediaTek NeuroPilot sẽ mở rộng tầm nhìn của chúng tôi về việc dân chủ hóa quyền truy cập vào AI, giúp thúc đẩy một làn sóng các thiết bị và trải nghiệm mới được hỗ trợ bởi AI,” ông CK Wang, Tổng giám đốc Đơn vị Kinh doanh IoT tại MediaTek cho biết. “Với các nguồn lực mở rộng này và dòng sản phẩm Genio của MediaTek, việc các nhà phát triển thiết kế các sản phẩm Edge AI sáng tạo vượt trội so với đối thủ cạnh tranh trở nên dễ dàng hơn bao giờ hết.”

“AI tạo sinh đang thúc đẩy thị giác máy tính với độ chính xác cao hơn cho các ứng dụng AIoT và Edge,” Deepu Talla, Phó chủ tịch phụ trách Robot và Điện toán biên tại NVIDIA cho biết. “Sự kết hợp sức mạnh của NVIDIA TAO và MediaTek NeuroPilot SDK mang lại các mô hình Vision AI mới nhất và tuyệt vời nhất cho hàng tỷ thiết bị IoT.”

Để tìm hiểu thêm về NeuroPilot SDK của MediaTek, vui lòng truy cập https://neuropilot.mediatek.com/

Có thể bạn muốn biết: 

NVIDIA TAO (Train, Adapt, and Optimize) là một bộ công cụ (toolkit) giúp đơn giản hóa và tăng tốc quá trình phát triển các mô hình AI. Nó cung cấp một thư viện gồm hơn 100 mô hình được đào tạo sẵn và các công cụ để điều chỉnh, tối ưu hóa các mô hình này cho các ứng dụng cụ thể.

Một số tính năng chính của NVIDIA TAO bao gồm:

1. Transfer Learning: Cho phép tinh chỉnh các mô hình được đào tạo sẵn với dữ liệu của riêng bạn.
2. Pruning: Giúp giảm kích thước mô hình mà không ảnh hưởng đáng kể đến độ chính xác.
3. Quantization: Giảm bộ nhớ và tăng tốc độ suy luận bằng cách giảm độ chính xác của trọng số mô hình.
4. Tối ưu hóa GPU: Tự động tối ưu hóa mô hình để chạy hiệu quả trên GPU NVIDIA.

Với NVIDIA TAO, các nhà phát triển có thể tạo ra các mô hình AI chất lượng cao mà không cần có chuyên môn sâu về học máy. Điều này đặc biệt hữu ích cho các ứng dụng AI biên, nơi tài nguyên phần cứng hạn chế và yêu cầu triển khai nhanh chóng.

Theo tạp chí Điện tử và Ứng dụng