NeMo Guardrails - Mô hình 'cảnh sát AI' cần thiết trong giới công nghệ

Vân Tước
29/04/2023 15:00
D

Trước sự phát triển mạnh mẽ của công nghệ AI cũng như những tác động của mặt trái mà công nghệ mang đến cho con ngườn, phần mềm NeMo Guardrails được Nvidia phát triển để buộc các siêu AI không trả lời lan man, tự sáng tác, tránh chủ đề độc hại và loại bỏ câu lệnh nguy hiểm.

Theo đó, NeMo Guardrails là lớp phần mềm nằm giữa người dùng và mô hình ngôn ngữ lớn hoặc các siêu AI. Nó lọc những kết quả được cho là độc hại của AI, giảm khả năng đưa ra câu trả lời vô nghĩa, hoặc từ khóa xấu có thể xuất hiện trong dữ liệu học máy của các nền tảng.

Cohen lấy ví dụ một chatbot phục vụ khách hàng, được thiết kế để nói về sản phẩm của công ty, sẽ được NeMo Guardrails hạn chế tối đa việc nói về các sản phẩm của đối thủ cạnh tranh dù được khách hàng hỏi. Thậm chí, phần mềm có thể ngăn chatbot trả lời những câu liên quan đến nhân sự nội bộ và thông tin bảo mật của công ty.

"Cảnh sát AI" của Nvidia dùng một mô hình ngôn ngữ lớn khác để kiểm tra câu trả lời tự bịa của siêu AI. Nếu chatbot không đưa ra câu trả lời phù hợp, Nemo Guardrails sẽ không hiển thị nội dung đến người dùng. NeMo Guardrails được cung cấp dưới dạng nguồn mở thông qua các dịch vụ của Nvidia và có thể dùng trong ứng dụng thương mại.

NeMo Guardrails được xem như mô hình cần thiết để có thể đảm bảo sự an toàn của con người trong trào lưu sử dụng AI
NeMo Guardrails được xem như mô hình cần thiết để có thể đảm bảo sự an toàn của con người trong trào lưu sử dụng và sự phát triển vượt bậc của AI.

Các công ty AI như Google, OpenAI, Microsoft cũng đang ngăn AI tự bịa nội dung hoặc nói thông tin độc hại bằng cách để con người "dạy" AI. Tuy nhiên, điều này cũng gây nên một làn sóng tranh cãi về đạo đức nghề nghiệp và rủi ro liên quan đến vấn đề thiên vị giới tính, sắc tộc.

Phần mềm NeMo Guardrails, được Nvidia công bố hôm 25/4, được đánh giá là một trong những bước tiến quan trọng của trí tuệ nhân tạo nhằm giải quyết vấn đề siêu AI bị "ảo giác" - vấn đề lớn mà những mô hình AI tạo sinh như GPT của OpenAI hay LaMDA của Google đang gặp phải.

Các siêu AI như ChatGPT, Bard được đào tạo trên hàng terabyte dữ liệu để trả lời như con người. Tuy nhiên, chúng có một xu hướng xấu là có thể bịa ra nội dung. Trong cuộc phỏng vấn với CBS tuần trước, CEO Google Sundar Pichai thừa nhận ngay cả hãng cũng không hiểu đầy đủ về AI khi nó có thể tạo ra câu trả lời có phần ngớ ngẩn, thậm chí nguy hiểm.

NeMo Guardrails có thể giảm thiểu các câu trả lời tự bịa bằng cách thêm nhiều lớp ngăn AI nói ra chủ đề ngoài tầm hiểu biết. Phần mềm mới buộc chatbot chỉ nói về một chủ đề cụ thể, loại bỏ nội dung độc hại và hạn chế việc thực thi các lệnh có hại trên máy tính.

"Một siêu AI cần được mã hóa cứng trong các logic thực thi của hệ thống bảo vệ, đảm bảo không nói luyên thuyên những thứ ngoài chủ đề người dùng đang đề cập hoặc nhắc đến nội dung độc hại", Jonathan Cohen, Phó chủ tịch nghiên cứu ứng dụng của Nvidia, nói.

Trong lĩnh vực phần cứng, Nvidia hiện chiếm hơn 95% thị trường chip đào tạo AI và đang cung cấp hàng nghìn bộ xử lý đồ họa cần thiết để xây dựng những siêu AI như ChatGPT.

Theo tạp chí Điện tử và Ứng dụng

Tin cùng chuyên mục

Hộ kinh doanh 'chạy đua' trước Nghị định 70 của Chính phủ

Hộ kinh doanh 'chạy đua' trước Nghị định 70 của Chính phủ

Giảm giá thành nhà ở xã hội để người dân có nhu cầu ở thực mua được

Giảm giá thành nhà ở xã hội để người dân có nhu cầu ở thực mua được

Xét công nhận đạt GS, PGS 2025: 5 ngành chuyên môn kê khai hồ sơ trực tuyến trước 30/6

Xét công nhận đạt GS, PGS 2025: 5 ngành chuyên môn kê khai hồ sơ trực tuyến trước 30/6

Home Credit khuấy động mùa hè

Home Credit khuấy động mùa hè

Liên lạc vệ tinh Seacom: Thiết bị hữu hiệu trong ứng phó thiên tai

Liên lạc vệ tinh Seacom: Thiết bị hữu hiệu trong ứng phó thiên tai

Nhà mạng phải báo cáo việc chặn Telegram tại Việt Nam trước ngày 2/6/2025

Nhà mạng phải báo cáo việc chặn Telegram tại Việt Nam trước ngày 2/6/2025

Thông tin mới nhất xung quanh nấm Ngưu Chương Chi 'Quốc bảo Đài Loan' tại Việt Nam

Thông tin mới nhất xung quanh nấm Ngưu Chương Chi 'Quốc bảo Đài Loan' tại Việt Nam

Thủ tướng dự lễ khởi công dự án Trump International Hưng Yên

Thủ tướng dự lễ khởi công dự án Trump International Hưng Yên

VietOffice 2025: Triển lãm của đột phá và hội nhập

VietOffice 2025: Triển lãm của đột phá và hội nhập

Nhiều đơn vị công an xây dựng không gian số

Nhiều đơn vị công an xây dựng không gian số

Thách thức sản xuất truyền hình trực tiếp tại Việt Nam

Thách thức sản xuất truyền hình trực tiếp tại Việt Nam

Hơn 1.500 tác phẩm góp phần lan tỏa tư tưởng Hồ Chí Minh trong kỷ nguyên mới

Hơn 1.500 tác phẩm góp phần lan tỏa tư tưởng Hồ Chí Minh trong kỷ nguyên mới

Tin mới cập nhật

Việt Nam sẽ thử nghiệm 6G năm 2030

Việt Nam sẽ thử nghiệm 6G năm 2030

TCL tổ chức thành công Hội nghị Khách hàng toàn quốc

TCL tổ chức thành công Hội nghị Khách hàng toàn quốc

Hộ kinh doanh 'chạy đua' trước Nghị định 70 của Chính phủ

Hộ kinh doanh 'chạy đua' trước Nghị định 70 của Chính phủ

Tối ưu hóa mạng 5G hỗ trợ triển khai dịch vụ công

Tối ưu hóa mạng 5G hỗ trợ triển khai dịch vụ công

Kỹ năng tiếng Anh quyết định thành bại trong ‘thời đại AI’

Kỹ năng tiếng Anh quyết định thành bại trong ‘thời đại AI’

Samsung Việt Nam đẩy mạnh tuyển dụng kỹ sư công nghệ, tìm kiếm nhân tài cho các dự án R&D

Samsung Việt Nam đẩy mạnh tuyển dụng kỹ sư công nghệ, tìm kiếm nhân tài cho các dự án R&D

Hội REV khẳng định vai trò thúc đẩy hạ tầng số Việt Nam

Hội REV khẳng định vai trò thúc đẩy hạ tầng số Việt Nam

ASUS trình làng hệ sinh thái AI toàn diện tại Computex 2025

ASUS trình làng hệ sinh thái AI toàn diện tại Computex 2025

FPT dẫn đầu Top 50 công ty đại chúng uy tín nhất Việt Nam 2025

FPT dẫn đầu Top 50 công ty đại chúng uy tín nhất Việt Nam 2025

Đại biểu đề nghị dừng luật Đấu thầu, Bộ trưởng nói sẽ 'hỗn loạn'

Đại biểu đề nghị dừng luật Đấu thầu, Bộ trưởng nói sẽ 'hỗn loạn'

Giảm giá thành nhà ở xã hội để người dân có nhu cầu ở thực mua được

Giảm giá thành nhà ở xã hội để người dân có nhu cầu ở thực mua được

Xét công nhận đạt GS, PGS 2025: 5 ngành chuyên môn kê khai hồ sơ trực tuyến trước 30/6

Xét công nhận đạt GS, PGS 2025: 5 ngành chuyên môn kê khai hồ sơ trực tuyến trước 30/6

Tin đọc nhiều

Hộ kinh doanh 'chạy đua' trước Nghị định 70 của Chính phủ

Hộ kinh doanh 'chạy đua' trước Nghị định 70 của Chính phủ

Giảm giá thành nhà ở xã hội để người dân có nhu cầu ở thực mua được

Giảm giá thành nhà ở xã hội để người dân có nhu cầu ở thực mua được

Xét công nhận đạt GS, PGS 2025: 5 ngành chuyên môn kê khai hồ sơ trực tuyến trước 30/6

Xét công nhận đạt GS, PGS 2025: 5 ngành chuyên môn kê khai hồ sơ trực tuyến trước 30/6

Bắc Ninh nỗ lực CĐS, ứng dụng CNTT phát triển kinh tế số

Bắc Ninh nỗ lực CĐS, ứng dụng CNTT phát triển kinh tế số

VieON với nội dung giải trí trực tuyến chất lượng cao và chiến lược thanh toán không dùng tiền mặt

VieON với nội dung giải trí trực tuyến chất lượng cao và chiến lược thanh toán không dùng tiền mặt

Quảng cáo trên nền tảng xuyên biên giới: Phải đóng thuế, tuân thủ Luật an ninh mạng

Quảng cáo trên nền tảng xuyên biên giới: Phải đóng thuế, tuân thủ Luật an ninh mạng

Chuyển đổi số làm gia tăng lợi thế của Việt Nam khi thực hiện EVFTA

Chuyển đổi số làm gia tăng lợi thế của Việt Nam khi thực hiện EVFTA

Ngành GTVT ứng dụng CNTT trong các hoạt động quản lý, điều hành

Ngành GTVT ứng dụng CNTT trong các hoạt động quản lý, điều hành

Đưa Luật Giao dịch điện tử vào thực tế trong lĩnh vực tài chính

Đưa Luật Giao dịch điện tử vào thực tế trong lĩnh vực tài chính

Tăng cường tiếp cận nền tảng kinh tế số ứng phó với dịch COVID-19

Tăng cường tiếp cận nền tảng kinh tế số ứng phó với dịch COVID-19

Video xem nhiều

Ford F-150 Lightning 2022 ra mắt: Bán tải chạy điện giá khởi điểm chưa đến 40 nghìn USD

Ford F-150 Lightning 2022 ra mắt: Bán tải chạy điện giá khởi điểm chưa đến 40 nghìn USD

Isuzu Mu-X 2021 hoàn toàn mới: Thiết kế hiện đại và đầy công nghệ

Isuzu Mu-X 2021 hoàn toàn mới: Thiết kế hiện đại và đầy công nghệ

Honda MSX 125 Grom 2021 mẫu xe côn tay phiên bản đường đua

Honda MSX 125 Grom 2021 mẫu xe côn tay phiên bản đường đua

Clip: Khuyến cáo đối với người lao động, người làm việc, người bán hàng tại khu dịch vụ trong dịch Covid-19

Clip: Khuyến cáo đối với người lao động, người làm việc, người bán hàng tại khu dịch vụ trong dịch Covid-19

Lộ diện siêu xe hypercar Czinger 21C tăng tốc 0-100km/h chưa tới 2 giây

Lộ diện siêu xe hypercar Czinger 21C tăng tốc 0-100km/h chưa tới 2 giây

“Rắn tiên tri” dự đoán đội tuyển Việt Nam thắng Thái Lan

“Rắn tiên tri” dự đoán đội tuyển Việt Nam thắng Thái Lan

Một ngày trải nghiệm giấc mơ trở thành tay đua F1 chuyên nghiệp ở Nhật Bản

Một ngày trải nghiệm giấc mơ trở thành tay đua F1 chuyên nghiệp ở Nhật Bản

Bắc Sơn mây hát

Bắc Sơn mây hát

Trực tiếp: Apple ra mắt Iphone 11 tại Cupertino, California, Mỹ

Trực tiếp: Apple ra mắt Iphone 11 tại Cupertino, California, Mỹ

Chiếc điều hòa cá nhân này của Sony là tất cả những gì bạn cần để sống sót qua mùa hè nóng nực

Chiếc điều hòa cá nhân này của Sony là tất cả những gì bạn cần để sống sót qua mùa hè nóng nực

Những gì bạn muốn biết về 5G

Những gì bạn muốn biết về 5G

5G thay đổi tương lai của bạn như thế nào?

5G thay đổi tương lai của bạn như thế nào?

Bàn về tầm nhìn và các trụ cột của công nghệ thông tin di động 6G
04/03/2022
Chip xử lý A15 Bionic của Apple có gì mới
15/09/2021
Sex Education mùa 3 được Netflix công chiếu vào 17/9
14/09/2021
iPhone 13 không thay đổi nhiều về ngoại hình, camera được nâng cấp mạnh
13/09/2021
Cách xem trực tiếp sự kiện ra mắt iPhone 13 và Apple Watch 7
10/09/2021
VNEID của Bộ Công an khác các ứng dụng đang được vận hành?
10/09/2021
'Cái tôi' thời 4.0 và tính hai mặt của mạng xã hội
04/09/2021
'Muôn màu' cảm xúc của trẻ trong ngày khai giảng online
24/08/2021
Chủ tịch Chu Ngọc Anh giải toả 'ách tắc' về Giấy đi đường cho người dân Thủ đô
10/08/2021
Hàng loạt Macbook M1 tự dưng vỡ màn hình, Apple có đồng ý bảo hành?
02/08/2021
6 bộ phim hay nhất để xem trên VieON
29/01/2021
Bắc Ninh: Không ký kết triển khai dự án Owifi 5G với CSE Singapore
27/06/2020
Bị World Bank cấm dự thầu 7 năm, công ty Sao Bắc Đẩu thừa nhận sai sót
27/06/2020
Wefinex - Mô hình hoạt động đa cấp "đội lốt" đầu tài chính trên mạng internet
10/06/2020
Khai trừ MISA khỏi Câu lạc bộ Chữ ký số và Giao dịch điện tử Việt Nam
27/05/2020
Chuyển đổi số - Nên hiểu như thế nào cho đúng
25/05/2020
Chống thất thu thuế là thách thức lớn đối với nền kinh tế số
29/04/2020
Cách chuyển tập tin sang máy tính mới
10/11/2019
VNPT, MobiFone, VTC sẽ hoàn thành cổ phần hóa trước năm 2021
20/08/2019
5G thay đổi tương lai của bạn như thế nào?
26/07/2019
Nhận diện hành vi lừa đảo trên không gian mạng
25/07/2019
Truyền hình OTT - Hướng đi mới của các “nhà Đài”
24/07/2019