Sử dụng trí tuệ nhân tạo lọc nội dung độc hại với trẻ em trên Internet

Tuấn Anh
24/05/2021 11:16
D

CybePurify Kids sẽ sử dụng trí tuệ nhân tạo (AI) trên trình duyệt để nhận dạng, ngăn chặn hiển thị 15 loại nội dung độc hại với trẻ em. Sản phẩm này sẽ được cung cấp miễn phí cho trường học, học lab và những nơi có máy tính công cộng

Công cụ giúp nhận diện, ngăn chặn 15 loại nội dung độc hại với trẻ em

CyberPurify - một startup sử dụng machine learning (học máy) để nhận dạng nội dung độc hại vừa chính thức ra mắt giải pháp miễn phí CyberPurify Kids giúp phụ huynh trên toàn cầu thiết lập một môi trường an toàn cho con cái chỉ sau vài cú click chuột.

Theo BBFC - Cơ quan quản lý nội dung truyền thông độc lập và phi lợi nhuận về hệ thống phân loại nội dung, phim, game đáng tin cậy ở Vương quốc Anh, giai đoạn dưới 10 tuổi là giai đoạn trẻ tiếp xúc và khám phá với thế giới bên ngoài, do đó trẻ rất dễ bắt chước và bị tác động bởi tác nhân tiêu cực.

Các nội dung không phù hợp như hình ảnh tai nạn, máu me, ngược đãi động vật, bạo lực... có thể khiến trẻ bị ám ảnh về sau.Sản phẩm chạy một mô hình deep learning (học sâu - PV) trên trình duyệt để nhận dạng và ngăn chặn hiển thị 15 loại nội dung độc hại với trẻ em, gồm cả nội dung bạo lực đẫm máu. Sản phẩm được cung cấp dưới dạng tiện ích mở rộng trên các trình duyệt phổ biến như Google Chrome, Microsoft Edge, Firefox và Safari.

Tuy nhiên, theo ông Nguyễn Hữu Bình, đồng sáng lập, CEO CyberPurify, việc xâm phạm quyền riêng tư của trẻ em bằng cách theo dõi trẻ làm gì, xem gì cũng sẽ gián tiếp ảnh hưởng đến tính cách, tinh thần và khả năng phát triển của chúng.

Trước đây, phụ huynh đối mặt với việc để bọn trẻ sử dụng máy tính bất chấp sự nguy hiểm đến từ không gian mạng hoặc xâm phạm nghiêm trọng không gian cá nhân riêng tư của trẻ khi sử dụng các phần mềm bảo mẫu truyền thống.

Cũng vì thế, CyberPurify tập trung vào việc xây dựng mô hình ứng dụng công nghệ AI cho phép nhận dạng và phân loại những nội dung độc hại; định nghĩa lại khái niệm về sự an toàn cho trẻ em bằng cách thay thế sự theo dõi kiểm soát bằng sự bảo vệ chủ động của AI trong việc nhận dạng theo thời gian thực ngay khi nội dung chưa hiển thị.

“Việc này giống như bạn đã trao cho mỗi đứa trẻ một người bảo vệ trung thành tận tụy, lại không phán xét hay soi mói đời tư, nó sẽ là một người bạn đồng hành thật sự với mỗi đứa trẻ trong hành trình khám phá tri thức trên Internet”, ông Nguyễn Hữu Bình chia sẻ.

CyberPurify Kids liên tục “tự học” để thông minh hơn

Theo nhóm phát triển, việc sử dụng CyberPurify Kids khá đơn giản, phụ huynh chỉ cần nhấn nút cài đặt CyberPurify Kids trong kho tiện ích mở rộng của các trình duyệt.

Mỗi khi đứa trẻ truy cập Internet trên trình duyệt, CyberPurify sẽ tự động phân tích các nội dung đang hiển thị, che mờ nếu phát hiện chúng độc hại hoặc gửi báo cáo đến phụ huynh khi phát hiện trẻ tìm hiểu về ma túy, dược phẩm. Khi đứa trẻ tìm cách gỡ bỏ bộ lọc này, phụ huynh cũng nhận được thông báo.

Ông Nguyễn Hữu Bình cho biết, ngoài các vấn đề về kỹ thuật như phải dùng thiết bị đặc biệt để huấn luyện mô hình AI với hàng chục triệu dữ liệu đầu vào, vấn đề lớn nhất vẫn là việc thu thập và phân loại để xây dựng dữ liệu cho AI.

Dù chỉ là một startup với 10 nhân sự nhưng đến nay, tập dữ liệu dữ liệu về các hình ảnh kinh dị và bạo lực được CyberPurify thu thập đã lên tới khoảng 1 triệu data.

Ông Nguyễn Hữu Bình cho biết, ngoài các vấn đề về kỹ thuật như phải dùng thiết bị đặc biệt để huấn luyện mô hình AI với hàng chục triệu dữ liệu đầu vào, vấn đề lớn nhất vẫn là việc thu thập và phân loại để xây dựng dữ liệu cho AI.

“Hàng ngày chúng tôi phải thu thập hàng chục nghìn hình ảnh độc hại, ví dụ như cảnh máu me , tai nạn, kinh dị, xác chết... Việc nhìn những hình ảnh này có thể gây những tác động tiêu cực đến sức khỏe tinh thần của người tham gia thu thập dữ liệu. Vì thế, CyberPurify không thuê ngoài được mà đều phải tự làm việc này liên tục trong nhiều tháng”, ông Nguyễn Hữu Bình bộc bạch.

Ngoài ra, trước đây CyberPurify cung cấp dịch vụ B2B dưới dạng phần cứng và phần mềm chuyên dụng với khách hàng là những doanh nghiệp cung cấp nội dung số hoặc platform sử dụng như một công cụ thay thế con người để kiểm duyệt tự động những nội dung do người dùng tạo ra; hiện xử lý trên 10 triệu nội dung hình ảnh và video mỗi ngày, tương đương với sức lao động của 20.000 người.

Với sự phát triển của 5G, smartphone và các mạng xã hội, thế giới hiện có 4,66 tỉ người dùng Internet, trung bình mỗi người tạo ra tới 1,7 GB dữ liệu mỗi ngày, tương đương 2.000 bức ảnh hoặc 150 video và ngày càng tăng cao trong tương lai, dẫn đến lượng nội dung cần được kiểm duyệt trước khi tiếp cận trẻ em ngày càng lớn.

"Đây là cơ hội để CyberPurify lấn sân sang cung cấp sản phẩm đến người dùng cuối, bắt đầu với phiên bản Kids trên trình duyệt. Điểm đặc biệt của CyberPurify Kids là bản thân nó cũng như một đứa trẻ, liên tục tự học thêm những nội dung độc hại được phát hiện mỗi ngày để trở nên thông minh hơn, ngăn chặn triệt để hơn về sau”, ông Nguyễn Hữu Bình nhấn mạnh. 

Theo Tạp chí Điện tử

Bình luận

Tối thiểu 10 chữ Tiếng việt có dấu Không chứa liên kết

Gửi bình luận

Tin cùng chuyên mục

Thống trị Big Tech Mỹ là CEO gốc Ấn Độ

Thống trị Big Tech Mỹ là CEO gốc Ấn Độ

4 dòng máy tính xách tay tốt nhất năm 2021 đến từ thương hiệu Lenovo

4 dòng máy tính xách tay tốt nhất năm 2021 đến từ thương hiệu Lenovo

VssID sẽ là cổng tra cứu thông tin hỗ trợ người lao động từ quỹ BHTN

VssID sẽ là cổng tra cứu thông tin hỗ trợ người lao động từ quỹ BHTN

3 triệu rouble là số tiền mà Nga phạt Google

3 triệu rouble là số tiền mà Nga phạt Google

Trí tuệ nhân tạo sẽ là lợi thế cạnh tranh cho ngân hàng nào sớm tích hợp vào hệ thống

Trí tuệ nhân tạo sẽ là lợi thế cạnh tranh cho ngân hàng nào sớm tích hợp vào hệ thống

Nhà đầu tư lo ngại về khả năng thất thoát tài sản khi ứng dụng TCBS bị lỗi

Nhà đầu tư lo ngại về khả năng thất thoát tài sản khi ứng dụng TCBS bị lỗi

GoDaddy: Hacker làm ảnh hưởng đến hơn 1 triệu người dùng WordPress

GoDaddy: Hacker làm ảnh hưởng đến hơn 1 triệu người dùng WordPress

Apple gây bất ngờ cho nhân viên với quy định mới

Apple gây bất ngờ cho nhân viên với quy định mới

Hàn Quốc dựa vào nội lưc để giải quyết khủng hoảng chip bán dẫn

Hàn Quốc dựa vào nội lưc để giải quyết khủng hoảng chip bán dẫn

Dimensity 9000 - 'Con cưng' được MediaTek kỳ vọng đối đầu trực diện với cả Qualcomm lẫn Samsung

Dimensity 9000 - 'Con cưng' được MediaTek kỳ vọng đối đầu trực diện với cả Qualcomm lẫn Samsung

Bản cập nhật mới nhất của Zalo có gì khác biệt?

Bản cập nhật mới nhất của Zalo có gì khác biệt?

Chiếc găng tay xúc giác giúp người dùng Facebook 'sờ' được vào vũ trụ ảo metaverse

Chiếc găng tay xúc giác giúp người dùng Facebook 'sờ' được vào vũ trụ ảo metaverse

Tin mới cập nhật

190 ứng dụng có chứa mã độc trên Huawei AppGallery

190 ứng dụng có chứa mã độc trên Huawei AppGallery

Họa sĩ Lâm Tráng đam mê với những dự án vẽ tranh thiện nguyện

Họa sĩ Lâm Tráng đam mê với những dự án vẽ tranh thiện nguyện

Thù lao 200 nghìn USD cho người đồng ý để robot ;mượn' khuôn mặt

Thù lao 200 nghìn USD cho người đồng ý để robot ;mượn' khuôn mặt

Người mắc biến thể Omicron được công nghệ giám sát chặt chẽ tại Israel

Người mắc biến thể Omicron được công nghệ giám sát chặt chẽ tại Israel

Hà Nội: Các cơ sở đào tạo cần đảm bảo an toàn dịch bệnh khi đón học sinh trở lại trường

Hà Nội: Các cơ sở đào tạo cần đảm bảo an toàn dịch bệnh khi đón học sinh trở lại trường

Tel Aviv - Thành phố đắt đỏ nhất thế giới

Tel Aviv - Thành phố đắt đỏ nhất thế giới

Omicron có thể gây tái nhiễm COVID-19 trong 90 ngày kể từ khi được chữa khỏi bệnh

Omicron có thể gây tái nhiễm COVID-19 trong 90 ngày kể từ khi được chữa khỏi bệnh

Thống trị Big Tech Mỹ là CEO gốc Ấn Độ

Thống trị Big Tech Mỹ là CEO gốc Ấn Độ

Phó Viện trưởng Trần Minh Tuấn: Cần tập trung giám sát không gian mạng để đảm bảo an toàn an ninh

Phó Viện trưởng Trần Minh Tuấn: Cần tập trung giám sát không gian mạng để đảm bảo an toàn an ninh

NASA hoãn chuyến đi bộ ngoài Trạm Vũ trụ quốc tế

NASA hoãn chuyến đi bộ ngoài Trạm Vũ trụ quốc tế

Công bố nhà tài trợ cho SEA Games 31 và Đội tuyển quốc gia Việt Nam

Công bố nhà tài trợ cho SEA Games 31 và Đội tuyển quốc gia Việt Nam

Phân tích kỹ thuật chứng khoán phiên chiều 3/12: Đà giảm điểm tiếp tục bị 'xoáy sâu'

Phân tích kỹ thuật chứng khoán phiên chiều 3/12: Đà giảm điểm tiếp tục bị 'xoáy sâu'

Tin đọc nhiều

Thống trị Big Tech Mỹ là CEO gốc Ấn Độ

Thống trị Big Tech Mỹ là CEO gốc Ấn Độ

4 dòng máy tính xách tay tốt nhất năm 2021 đến từ thương hiệu Lenovo

4 dòng máy tính xách tay tốt nhất năm 2021 đến từ thương hiệu Lenovo

VssID sẽ là cổng tra cứu thông tin hỗ trợ người lao động từ quỹ BHTN

VssID sẽ là cổng tra cứu thông tin hỗ trợ người lao động từ quỹ BHTN

3 triệu rouble là số tiền mà Nga phạt Google

3 triệu rouble là số tiền mà Nga phạt Google

Hàng loạt Macbook M1 tự dưng vỡ màn hình, Apple có đồng ý bảo hành?

Hàng loạt Macbook M1 tự dưng vỡ màn hình, Apple có đồng ý bảo hành?

MISA chính thức tham gia thị trường bảo hiểm xã hội điện tử

MISA chính thức tham gia thị trường bảo hiểm xã hội điện tử

Nox Ocean là một ứng dụng mới giúp "cai nghiện" smartphone

Nox Ocean là một ứng dụng mới giúp "cai nghiện" smartphone

5C of IoT - Tiêu chuẩn kỹ thuật cho công nghệ kết nối vạn vật của tương lai

5C of IoT - Tiêu chuẩn kỹ thuật cho công nghệ kết nối vạn vật của tương lai

Kiến trúc thế hệ mới trong ARM: Thay đổi cách nghĩ ở tương lai

Kiến trúc thế hệ mới trong ARM: Thay đổi cách nghĩ ở tương lai

Google Maps: Xem tốc độ bạn đang lái xe như thế nào ngay trên Ứng dụng

Google Maps: Xem tốc độ bạn đang lái xe như thế nào ngay trên Ứng dụng

Video xem nhiều

Ford F-150 Lightning 2022 ra mắt: Bán tải chạy điện giá khởi điểm chưa đến 40 nghìn USD

Ford F-150 Lightning 2022 ra mắt: Bán tải chạy điện giá khởi điểm chưa đến 40 nghìn USD

Mazda2 2021 Collection ra mắt Thái Lan: Bản nâng cấp vượt trội về công nghệ

Mazda2 2021 Collection ra mắt Thái Lan: Bản nâng cấp vượt trội về công nghệ

Honda MSX 125 Grom 2021 mẫu xe côn tay phiên bản đường đua

Honda MSX 125 Grom 2021 mẫu xe côn tay phiên bản đường đua

Lộ diện siêu xe hypercar Czinger 21C tăng tốc 0-100km/h chưa tới 2 giây

Lộ diện siêu xe hypercar Czinger 21C tăng tốc 0-100km/h chưa tới 2 giây

Xiaomi ra mắt Mi 10 và Mi 10 Pro: chip Snapdragon 865 và camera 108MP

Xiaomi ra mắt Mi 10 và Mi 10 Pro: chip Snapdragon 865 và camera 108MP

5G - Mạng truyền tải di động tốc độ cao của tương lai

5G - Mạng truyền tải di động tốc độ cao của tương lai

Một ngày trải nghiệm giấc mơ trở thành tay đua F1 chuyên nghiệp ở Nhật Bản

Một ngày trải nghiệm giấc mơ trở thành tay đua F1 chuyên nghiệp ở Nhật Bản

Bắc Sơn mây hát

Bắc Sơn mây hát

Mặt nạ LG Derma LED mask - Thiết bị làm đẹp da cá nhân

Mặt nạ LG Derma LED mask - Thiết bị làm đẹp da cá nhân

Chiếc điều hòa cá nhân này của Sony là tất cả những gì bạn cần để sống sót qua mùa hè nóng nực

Chiếc điều hòa cá nhân này của Sony là tất cả những gì bạn cần để sống sót qua mùa hè nóng nực

Những gì bạn muốn biết về 5G

Những gì bạn muốn biết về 5G

5G thay đổi tương lai của bạn như thế nào?

5G thay đổi tương lai của bạn như thế nào?

Chip xử lý A15 Bionic của Apple có gì mới
15/09/2021
Sex Education mùa 3 được Netflix công chiếu vào 17/9
14/09/2021
iPhone 13 không thay đổi nhiều về ngoại hình, camera được nâng cấp mạnh
13/09/2021
Cách xem trực tiếp sự kiện ra mắt iPhone 13 và Apple Watch 7
10/09/2021
VNEID của Bộ Công an khác các ứng dụng đang được vận hành?
10/09/2021
'Cái tôi' thời 4.0 và tính hai mặt của mạng xã hội
04/09/2021
'Muôn màu' cảm xúc của trẻ trong ngày khai giảng online
24/08/2021
Chủ tịch Chu Ngọc Anh giải toả 'ách tắc' về Giấy đi đường cho người dân Thủ đô
10/08/2021
Hà Nội: Người dân cần nhiều giấy tờ hơn là 'Giấy đi đường'
10/08/2021
Hàng loạt Macbook M1 tự dưng vỡ màn hình, Apple có đồng ý bảo hành?
02/08/2021
6 bộ phim hay nhất để xem trên VieON
29/01/2021
Bắc Ninh: Không ký kết triển khai dự án Owifi 5G với CSE Singapore
27/06/2020
Bị World Bank cấm dự thầu 7 năm, công ty Sao Bắc Đẩu thừa nhận sai sót
27/06/2020
Wefinex - Mô hình hoạt động đa cấp "đội lốt" đầu tài chính trên mạng internet
10/06/2020
Khai trừ MISA khỏi Câu lạc bộ Chữ ký số và Giao dịch điện tử Việt Nam
27/05/2020
Chuyển đổi số - Nên hiểu như thế nào cho đúng
25/05/2020
Cách chuyển tập tin sang máy tính mới
10/11/2019
VNPT, MobiFone, VTC sẽ hoàn thành cổ phần hóa trước năm 2021
20/08/2019
5G thay đổi tương lai của bạn như thế nào?
26/07/2019
Nhận diện hành vi lừa đảo trên không gian mạng
25/07/2019
Truyền hình OTT - Hướng đi mới của các “nhà Đài”
24/07/2019
Tiến sĩ Trần Văn Mạnh (Trung tâm Khuyến nông Quốc gia) đánh giá, việc phát triển sản xuất rau ứng dụng công nghệ cao nói riêng và sản xuất nông nghiệp ứng dụng công nghệ cao nói chung là hướng đi đúng, tạo động lực mới cho ngành nông nghiệp Việt Nam.
Kinh nghiệm quá hữu ích. Cần phổ biến ngay cho các cháu nhỏ.
Chúc mừng ngày thành lập ngành Bưu điện Việt Nam
Bài viết rất hay và ý nghĩa về eKGIS và hội thảo CNTT. Cảm ơn tác giả
Tình yêu , cống hiến ,nổ lực đã vượt qua những trở ngại tưởng chừng như không bao giờ qua được. Chúc Mừng Con người Đẹp , chúng tôi luôn tự hào !
Giờ mình mới biết - Chúc mừng chúc mừng con người Đẹp
Một con người dùng cả một cuộc đời cho tình yêu thiên nhiên . Ông đã đóng góp cống hiến cho nghành thực vật học nước nhà bảo tồn phát triển những loài lan quí hiếm . Xin chúc ngài có một sinh nhật ngài ấm áp hạnh phúc bên người thân . Mong xã hội và trên toàn thế giới có nhiều người tâm huyết như ông . Xin chúc cho tình cảm hữu nghị giữa hai đất nước TL & VN luôn bền chặt và thắm thiết . VN luôn yêu quí các bạn !
Con này chắc không bằng con Netgear Orbi RBS40 đâu mình đã dùng thử và đã lắp đặt nhiều nhà , cơ quan, resort , văn phòng , showroom . Con netgear Orbi có app kiểm tra từ xa và loại đối tượng thông qua tắt ip đối tượng đó
Nhu cầu tuyển dụng tăng gấp đột biến 4 lần trong một thời gian ngắn điều đó phản ánh tỉ lệ thất nghiệp trong những tháng đầu năm là 3/4 do ảnh hưởng của đại dịch covid-19 đây là một điều đáng buồn, rồi các cử nhân, kỹ sư sẽ đi đâu về đâu trong giai đoạn bất ổn này. Để cân bằng lại có thể mất một thời gian dài.