AI tạo sinh và những thách thức mà có thể bạn chưa biết
Mới đây Tiến sĩ Yenchi Lee, Phó Tổng Giám đốc bộ phận Wireless Communications Business của Media Tek đã có bài chia sẻ về AI tạo sinh (Generative AI), tiềm năng và thách thức.
Ai cũng biết, AI tạo sinh có thể thay đổi cách chúng ta sống, giải trí, làm việc và sáng tạo. Tuy nhiên, vẫn còn đó những thách thức về mặt kỹ thuật mà chúng ta cần vượt qua trước khi công nghệ này có thể khai thác đầy đủ khả năng của dữ liệu toàn cầu.
Trong bài chia sẻ mới nhất của mình, MediaTek đã giúp giải quyết những thách thức của AI tạo sinh như thế nào, bao gồm việc giảm tài nguyên tính toán và giảm tiêu thụ điện năng cần thiết, khắc phục các vấn đề về kết nối và độ trễ, đồng thời đảm bảo quyền riêng tư dữ liệu để bảo vệ thông tin cá nhân và doanh nghiệp.
Những mục tiêu này có thể đạt được bằng cách tận dụng lợi ích của việc xử lý dữ liệu ngay trên thiết bị cuối và sử dụng NPUs của MediaTek được thiết kế riêng cho AI tạo sinh.
Đầu tiên là Tài nguyên tính toán khổng lồ: Tạo nội dung gốc từ kho dữ liệu khổng lồ đòi hỏi sức mạnh tính toán cực lớn. Ví dụ, việc phát triển ChatGPT-3 của OpenAI được cho là tiêu tốn đến 800 petaflops. Yêu cầu tài nguyên khổng lồ này đặt ra một rào cản lớn cho việc áp dụng rộng rãi AI tạo sinh.
Để giải quyết vấn đề này, thay vì dựa vào các mô hình ngôn ngữ lớn (LLM) cấp máy chủ tốn nhiều tài nguyên cho mọi truy vấn, MediaTek ưu tiên việc tối ưu hóa LLM cho điện thoại thông minh. Bằng cách sử dụng các mô hình nhỏ hơn, hiệu quả hơn (7B/8B) có khả năng xử lý các yêu cầu thông thường của người dùng, chúng ta có thể giảm đáng kể nhu cầu tính toán. Cách tiếp cận này được ước tính tiêu thụ chỉ một phần nhỏ năng lượng cần thiết để vận hành một ứng dụng tương tự ChatGPT-3.
Thứ 2 là năng lượng tiêu thụ: Để hỗ trợ nhu cầu tính toán của AI tạo sinh (Generative AI), chúng ta cần tiêu tốn rất nhiều điện năng. Chi phí năng lượng liên quan là một rào cản không hề nhỏ cho việc phát triển AI tạo sinh.
Để giải quyết vấn đề này, Media Tek đã sử dụng AI tạo sinh trên điện thoại thông minh sẽ tiết kiệm điện điện hơn và bền vững hơn. Bằng cách tìm một chiếc điện thoại được trang bị NPU thế hệ thứ 7 của MediaTek, hỗ trợ khả năng tiết kiệm năng lượng đáng kể và tăng tốc ấn tượng. Con chip tiên tiến này mang lại khả năng tiết kiệm năng lượng vượt trội và tăng tốc độ cực nhanh, với hiệu suất năng lượng cao gấp 27 lần so với CPU thông thường và gấp 15 lần so với GPU thông thường.
Thứ 3 và kết nối và độ trễ: Các ứng dụng AI tạo sinh đòi hỏi phải theo thời gian thực, như trợ lý ảo hay nhân vật trò chơi điện tử, có thể gặp phải thách thức về kết nối và độ trễ, gây ra sự chậm trễ hoặc thậm chí gián đoạn hoàn toàn trải nghiệm người dùng.
Để giải quyết vấn đề này, MediaTek đang xây dựng một tương lai nơi mà ngày càng nhiều ứng dụng AI tạo sinh có thể được xử lý trực tiếp ngay trên thiết bị, thay vì phụ thuộc vào dịch vụ đám mây và kết nối internet không ổn định.
Thứ 4 là quyền riêng tư: Khi các mô hình AI tạo sinh được lưu trữ trên đám mây, nội dung của bạn có thể bị chủ sở hữu dịch vụ nhìn thấy. Người dùng có thể không biết rằng họ đang tải lên dữ liệu cá nhân nhạy cảm, như thông tin y tế; hoặc dữ liệu doanh nghiệp, như bộ dữ liệu độc quyền.
Để giải quyết vấn đề này, MediaTek giữ những thông tin nhạy cảm trên thiết bị. Cách tiếp cận này loại bỏ nhu cầu tải dữ liệu lên các dịch vụ đám mây, giảm nguy cơ truy cập trái phép.
Bằng cách giải quyết những thách thức quan trọng này thông qua các giải pháp sáng tạo như Điện toán biên và NPU của MediaTek, chúng ta có thể đẩy nhanh quá trình phát triển và áp dụng AI tạo sinh, khai phóng toàn bộ tiềm năng của công nghệ này đồng thời đảm bảo tính bền vững, hiệu quả và an toàn dữ liệu.
Theo tạp chí Điện tử và Ứng dụng
