AI tạo sinh và những thách thức mà có thể bạn chưa biết

Công Trí
09/08/2024 06:10
D

Mới đây Tiến sĩ Yenchi Lee, Phó Tổng Giám đốc bộ phận Wireless Communications Business của Media Tek đã có bài chia sẻ về AI tạo sinh (Generative AI), tiềm năng và thách thức.

Ai cũng biết, AI tạo sinh có thể thay đổi cách chúng ta sống, giải trí, làm việc và sáng tạo. Tuy nhiên, vẫn còn đó những thách thức về mặt kỹ thuật mà chúng ta cần vượt qua trước khi công nghệ này có thể khai thác đầy đủ khả năng của dữ liệu toàn cầu.

Trong bài chia sẻ mới nhất của mình, MediaTek đã giúp giải quyết những thách thức của AI tạo sinh như thế nào, bao gồm việc giảm tài nguyên tính toán và giảm tiêu thụ điện năng cần thiết, khắc phục các vấn đề về kết nối và độ trễ, đồng thời đảm bảo quyền riêng tư dữ liệu để bảo vệ thông tin cá nhân và doanh nghiệp.

Những mục tiêu này có thể đạt được bằng cách tận dụng lợi ích của việc xử lý dữ liệu ngay trên thiết bị cuối và sử dụng NPUs của MediaTek được thiết kế riêng cho AI tạo sinh.

 AI tạo sinh và những thách thức mà có thể bạn chưa biết

Đầu tiên là Tài nguyên tính toán khổng lồ: Tạo nội dung gốc từ kho dữ liệu khổng lồ đòi hỏi sức mạnh tính toán cực lớn. Ví dụ, việc phát triển ChatGPT-3 của OpenAI được cho là tiêu tốn đến 800 petaflops. Yêu cầu tài nguyên khổng lồ này đặt ra một rào cản lớn cho việc áp dụng rộng rãi AI tạo sinh.

Để giải quyết vấn đề này, thay vì dựa vào các mô hình ngôn ngữ lớn (LLM) cấp máy chủ tốn nhiều tài nguyên cho mọi truy vấn, MediaTek ưu tiên việc tối ưu hóa LLM cho điện thoại thông minh. Bằng cách sử dụng các mô hình nhỏ hơn, hiệu quả hơn (7B/8B) có khả năng xử lý các yêu cầu thông thường của người dùng, chúng ta có thể giảm đáng kể nhu cầu tính toán. Cách tiếp cận này được ước tính tiêu thụ chỉ một phần nhỏ năng lượng cần thiết để vận hành một ứng dụng tương tự ChatGPT-3.

Thứ 3 và kết nối và độ trễ: Các ứng dụng AI tạo sinh đòi hỏi phải theo thời gian thực, như trợ lý ảo hay nhân vật trò chơi điện tử, có thể gặp phải thách thức về kết nối và độ trễ, gây ra sự chậm trễ hoặc thậm chí gián đoạn hoàn toàn trải nghiệm người dùng. Để giải quyết vấn đề này, MediaTek đang xây dựng một tương lai nơi mà ngày càng nhiều ứng dụng AI tạo sinh có thể được xử lý trực tiếp ngay trên thiết bị, thay vì phụ thuộc vào dịch vụ đám mây và kết nối internet không ổn định.

Thứ 2 là năng lượng tiêu thụ: Để hỗ trợ nhu cầu tính toán của AI tạo sinh (Generative AI), chúng ta cần tiêu tốn rất nhiều điện năng. Chi phí năng lượng liên quan là một rào cản không hề nhỏ cho việc phát triển AI tạo sinh.

Để giải quyết vấn đề này, Media Tek đã sử dụng AI tạo sinh trên điện thoại thông minh sẽ tiết kiệm điện điện hơn và bền vững hơn. Bằng cách tìm một chiếc điện thoại được trang bị NPU thế hệ thứ 7 của MediaTek, hỗ trợ khả năng tiết kiệm năng lượng đáng kể và tăng tốc ấn tượng. Con chip tiên tiến này mang lại khả năng tiết kiệm năng lượng vượt trội và tăng tốc độ cực nhanh, với hiệu suất năng lượng cao gấp 27 lần so với CPU thông thường và gấp 15 lần so với GPU thông thường.

AI tạo sinh và những thách thức mà có thể bạn chưa biết

Thứ 3 và kết nối và độ trễ: Các ứng dụng AI tạo sinh đòi hỏi phải theo thời gian thực, như trợ lý ảo hay nhân vật trò chơi điện tử, có thể gặp phải thách thức về kết nối và độ trễ, gây ra sự chậm trễ hoặc thậm chí gián đoạn hoàn toàn trải nghiệm người dùng.

Để giải quyết vấn đề này, MediaTek đang xây dựng một tương lai nơi mà ngày càng nhiều ứng dụng AI tạo sinh có thể được xử lý trực tiếp ngay trên thiết bị, thay vì phụ thuộc vào dịch vụ đám mây và kết nối internet không ổn định.

 AI tạo sinh và những thách thức mà có thể bạn chưa biết

Thứ 4 là quyền riêng tư: Khi các mô hình AI tạo sinh được lưu trữ trên đám mây, nội dung của bạn có thể bị chủ sở hữu dịch vụ nhìn thấy. Người dùng có thể không biết rằng họ đang tải lên dữ liệu cá nhân nhạy cảm, như thông tin y tế; hoặc dữ liệu doanh nghiệp, như bộ dữ liệu độc quyền.

Để giải quyết vấn đề này, MediaTek giữ những thông tin nhạy cảm trên thiết bị. Cách tiếp cận này loại bỏ nhu cầu tải dữ liệu lên các dịch vụ đám mây, giảm nguy cơ truy cập trái phép.

Bằng cách giải quyết những thách thức quan trọng này thông qua các giải pháp sáng tạo như Điện toán biên và NPU của MediaTek, chúng ta có thể đẩy nhanh quá trình phát triển và áp dụng AI tạo sinh, khai phóng toàn bộ tiềm năng của công nghệ này đồng thời đảm bảo tính bền vững, hiệu quả và an toàn dữ liệu.

Theo tạp chí Điện tử và Ứng dụng

Tin cùng chuyên mục

Bộ phát Wi-Fi nhà mạng cấp có khai thác được băng tần 6 GHz?

Bộ phát Wi-Fi nhà mạng cấp có khai thác được băng tần 6 GHz?

Làm chủ AI: Bài toán lớn nhất không nằm ở công nghệ, mà ở con người

Làm chủ AI: Bài toán lớn nhất không nằm ở công nghệ, mà ở con người

Fortinet mở rộng giải pháp SASE hợp nhất, đơn giản hóa bảo mật cho các chi nhánh quy mô nhỏ

Fortinet mở rộng giải pháp SASE hợp nhất, đơn giản hóa bảo mật cho các chi nhánh quy mô nhỏ

SpaceX chọn Qualcomm làm hạ tầng mạng 5G Starlink toàn nước Mỹ

SpaceX chọn Qualcomm làm hạ tầng mạng 5G Starlink toàn nước Mỹ

Zalo tiếp tục dẫn đầu các nền tảng nhắn tin tại Việt Nam về mức độ sử dụng.

Zalo tiếp tục dẫn đầu các nền tảng nhắn tin tại Việt Nam về mức độ sử dụng.

Bản đồ số Văn hóa Việt Nam ra mắt, công bố 391 sự kiện tại 34 địa phương

Bản đồ số Văn hóa Việt Nam ra mắt, công bố 391 sự kiện tại 34 địa phương

CEO của Ant International: 'AI sẽ bình đẳng hoá các cơ hội'

CEO của Ant International: 'AI sẽ bình đẳng hoá các cơ hội'

Viettel nâng cấp hệ thống tính cước cho 100 triệu thuê bao

Viettel nâng cấp hệ thống tính cước cho 100 triệu thuê bao

Đưa AI vào nền tảng, Agoda chốt chuyến chỉ trong một khung chat

Đưa AI vào nền tảng, Agoda chốt chuyến chỉ trong một khung chat

Vì sao Mỹ siết quyền tự đăng ký đầu số với doanh nghiệp rủi ro an ninh?

Vì sao Mỹ siết quyền tự đăng ký đầu số với doanh nghiệp rủi ro an ninh?

AI, bán dẫn, UAV và tham vọng làm chủ công nghệ chiến lược của Việt Nam

AI, bán dẫn, UAV và tham vọng làm chủ công nghệ chiến lược của Việt Nam

Fortinet ra dịch vụ bảo mật AI trực tuyến FortiGuard

Fortinet ra dịch vụ bảo mật AI trực tuyến FortiGuard

Tin mới cập nhật

Chính thức triển khai bán vé tàu hỏa trên VNeID từ ngày 9/11

Chính thức triển khai bán vé tàu hỏa trên VNeID từ ngày 9/11

Thị trường sản phẩm chăm sóc người cao tuổi có thêm lựa chọn mới

Thị trường sản phẩm chăm sóc người cao tuổi có thêm lựa chọn mới

Samsung đưa trải nghiệm AI Home vào không gian lưu trú tại KiN Wander

Samsung đưa trải nghiệm AI Home vào không gian lưu trú tại KiN Wander

Lụa Vạn Phúc hướng tới cấp hộ chiếu số cho 500 sản phẩm

Lụa Vạn Phúc hướng tới cấp hộ chiếu số cho 500 sản phẩm

Ai sẽ điều hành Nvidia nếu CEO Jensen Huang phải từ chức?

Ai sẽ điều hành Nvidia nếu CEO Jensen Huang phải từ chức?

Bộ phát Wi-Fi nhà mạng cấp có khai thác được băng tần 6 GHz?

Bộ phát Wi-Fi nhà mạng cấp có khai thác được băng tần 6 GHz?

HONOR X6e gia nhập phân khúc 7 triệu đồng

HONOR X6e gia nhập phân khúc 7 triệu đồng

Học sinh sử dụng điện thoại, mạng xã hội: Chính phủ yêu cầu siết quản lý

Học sinh sử dụng điện thoại, mạng xã hội: Chính phủ yêu cầu siết quản lý

Miền Bắc rét đột ngột, miền Trung mưa lớn trong 3 ngày tới

Miền Bắc rét đột ngột, miền Trung mưa lớn trong 3 ngày tới

Mua sắm trực tuyến: Làm gì để trả hàng thuận tiện, đúng hạn?

Mua sắm trực tuyến: Làm gì để trả hàng thuận tiện, đúng hạn?

Tổng Bí thư, Chủ tịch nước Tô Lâm dự Diễn đàn Công tư về hợp tác kinh tế và khoa học-công nghệ Việt Nam-Nhật Bản

Tổng Bí thư, Chủ tịch nước Tô Lâm dự Diễn đàn Công tư về hợp tác kinh tế và khoa học-công nghệ Việt Nam-Nhật Bản

Chính phủ ban hành 34 nghị quyết công bố diện tích 3.321 đơn vị hành chính cấp xã

Chính phủ ban hành 34 nghị quyết công bố diện tích 3.321 đơn vị hành chính cấp xã

Tin đọc nhiều

Bộ phát Wi-Fi nhà mạng cấp có khai thác được băng tần 6 GHz?

Bộ phát Wi-Fi nhà mạng cấp có khai thác được băng tần 6 GHz?

Làm chủ AI: Bài toán lớn nhất không nằm ở công nghệ, mà ở con người

Làm chủ AI: Bài toán lớn nhất không nằm ở công nghệ, mà ở con người

Fortinet mở rộng giải pháp SASE hợp nhất, đơn giản hóa bảo mật cho các chi nhánh quy mô nhỏ

Fortinet mở rộng giải pháp SASE hợp nhất, đơn giản hóa bảo mật cho các chi nhánh quy mô nhỏ

SpaceX chọn Qualcomm làm hạ tầng mạng 5G Starlink toàn nước Mỹ

SpaceX chọn Qualcomm làm hạ tầng mạng 5G Starlink toàn nước Mỹ

Zalo tiếp tục dẫn đầu các nền tảng nhắn tin tại Việt Nam về mức độ sử dụng.

Zalo tiếp tục dẫn đầu các nền tảng nhắn tin tại Việt Nam về mức độ sử dụng.

Bản đồ số Văn hóa Việt Nam ra mắt, công bố 391 sự kiện tại 34 địa phương

Bản đồ số Văn hóa Việt Nam ra mắt, công bố 391 sự kiện tại 34 địa phương

MISA AMIS OneAI: Nền tảng AI hợp nhất phổ cập cho tổ chức, doanh nghiệp và gia đình

MISA AMIS OneAI: Nền tảng AI hợp nhất phổ cập cho tổ chức, doanh nghiệp và gia đình

Hàng loạt Macbook M1 tự dưng vỡ màn hình, Apple có đồng ý bảo hành?

Hàng loạt Macbook M1 tự dưng vỡ màn hình, Apple có đồng ý bảo hành?

ITU Digital World 2020: Doanh nghiệp kỳ vọng vào các cơ hội mới

ITU Digital World 2020: Doanh nghiệp kỳ vọng vào các cơ hội mới

Google Maps: Xem tốc độ bạn đang lái xe như thế nào ngay trên Ứng dụng

Google Maps: Xem tốc độ bạn đang lái xe như thế nào ngay trên Ứng dụng

Video xem nhiều

Ford F-150 Lightning 2022 ra mắt: Bán tải chạy điện giá khởi điểm chưa đến 40 nghìn USD

Ford F-150 Lightning 2022 ra mắt: Bán tải chạy điện giá khởi điểm chưa đến 40 nghìn USD

Isuzu Mu-X 2021 hoàn toàn mới: Thiết kế hiện đại và đầy công nghệ

Isuzu Mu-X 2021 hoàn toàn mới: Thiết kế hiện đại và đầy công nghệ

Honda MSX 125 Grom 2021 mẫu xe côn tay phiên bản đường đua

Honda MSX 125 Grom 2021 mẫu xe côn tay phiên bản đường đua

Geneva Motor Show 2020: Bentley hé lộ siêu xe Bacalar triệu đô

Geneva Motor Show 2020: Bentley hé lộ siêu xe Bacalar triệu đô

Lộ diện siêu xe hypercar Czinger 21C tăng tốc 0-100km/h chưa tới 2 giây

Lộ diện siêu xe hypercar Czinger 21C tăng tốc 0-100km/h chưa tới 2 giây

Xe máy điện VinFast được CNN chọn là 1 trong 5 biểu tượng mới của Hà Nội

Xe máy điện VinFast được CNN chọn là 1 trong 5 biểu tượng mới của Hà Nội

Một ngày trải nghiệm giấc mơ trở thành tay đua F1 chuyên nghiệp ở Nhật Bản

Một ngày trải nghiệm giấc mơ trở thành tay đua F1 chuyên nghiệp ở Nhật Bản

Bắc Sơn mây hát

Bắc Sơn mây hát

Làm thế nào để nâng cao tương tác giữa loa và phòng nghe hiệu quả

Làm thế nào để nâng cao tương tác giữa loa và phòng nghe hiệu quả

Trực tiếp: Apple ra mắt Iphone 11 tại Cupertino, California, Mỹ

Trực tiếp: Apple ra mắt Iphone 11 tại Cupertino, California, Mỹ

Sếp nhà bán lẻ làm lộ ngày bán iPhone 11

Sếp nhà bán lẻ làm lộ ngày bán iPhone 11

5G thay đổi tương lai của bạn như thế nào?

5G thay đổi tương lai của bạn như thế nào?

Bàn về tầm nhìn và các trụ cột của công nghệ thông tin di động 6G
04/03/2022
Chip xử lý A15 Bionic của Apple có gì mới
15/09/2021
Sex Education mùa 3 được Netflix công chiếu vào 17/9
14/09/2021
iPhone 13 không thay đổi nhiều về ngoại hình, camera được nâng cấp mạnh
13/09/2021
Cách xem trực tiếp sự kiện ra mắt iPhone 13 và Apple Watch 7
10/09/2021
VNEID của Bộ Công an khác các ứng dụng đang được vận hành?
10/09/2021
'Cái tôi' thời 4.0 và tính hai mặt của mạng xã hội
04/09/2021
'Muôn màu' cảm xúc của trẻ trong ngày khai giảng online
24/08/2021
Chủ tịch Chu Ngọc Anh giải toả 'ách tắc' về Giấy đi đường cho người dân Thủ đô
10/08/2021
Hàng loạt Macbook M1 tự dưng vỡ màn hình, Apple có đồng ý bảo hành?
02/08/2021
6 bộ phim hay nhất để xem trên VieON
29/01/2021
Bắc Ninh: Không ký kết triển khai dự án Owifi 5G với CSE Singapore
27/06/2020
Bị World Bank cấm dự thầu 7 năm, công ty Sao Bắc Đẩu thừa nhận sai sót
27/06/2020
Wefinex - Mô hình hoạt động đa cấp "đội lốt" đầu tài chính trên mạng internet
10/06/2020
Khai trừ MISA khỏi Câu lạc bộ Chữ ký số và Giao dịch điện tử Việt Nam
27/05/2020
Chuyển đổi số - Nên hiểu như thế nào cho đúng
25/05/2020
Chống thất thu thuế là thách thức lớn đối với nền kinh tế số
29/04/2020
Cách chuyển tập tin sang máy tính mới
10/11/2019
VNPT, MobiFone, VTC sẽ hoàn thành cổ phần hóa trước năm 2021
20/08/2019
5G thay đổi tương lai của bạn như thế nào?
26/07/2019
Nhận diện hành vi lừa đảo trên không gian mạng
25/07/2019
Truyền hình OTT - Hướng đi mới của các “nhà Đài”
24/07/2019