Trung Quốc mạnh tay với vấn nạn tin giả do AI sản xuất

Trước những tin tức giả mạo gần đây xuất hiện ngày càng nhiều đã khiến các nhà lập pháp Trung Quốc ban hành quy định về cấp sử dụng AI để sản xuất tin giả mạo, trong đó đặt biệt nhất mạnh đến "deepfake" thay đổi thông tin về âm thanh và hình ảnh video.

Trung Quốc mới đây đã ban hành các quy định mới cấm các nhà cung cấp âm thanh và video trực tuyến sử dụng trí tuệ nhân tạo (AI) và các công nghệ thực tế ảo để sản xuất tin giả.

Cơ quan quản lý không gian mạng của Trung Quốc (CAC) đã công bố quy định này hôm 29/11, theo đó cả nhà cung cấp và người sử dụng dịch vụ âm thanh và tin tức video trực tuyến đều không được phép sử dụng các công nghệ mới như deep learning (học sâu) và thực tế ảo để tạo, lan truyền và phát tin giả.

Ảnh minh hoạ.

Các quy định này sẽ bắt đầu có hiệu lực từ ngày 1/1/2020. CAC cho biết thêm những người cố tình không tuân thủ các quy định này sẽ bị coi là tội phạm, tuy nhiên cơ quan này không đưa chi tiết về các mức phạt.

Theo quy định này, cả nhà cung cấp cũng như người sử dụng các dịch vụ âm thanh và tin tức video trực tuyến đều "không được phép" sử dụng các công nghệ mới như học sâu (deep learning) và thực tế ảo để tạo ra, phân phối và lan truyền "tin giả".

Các quy định này đặc biệt nhấn mạnh đến sự nguy hiểm của “deepfake” (là thuật ngữ để chỉ những video giả mạo, bị chỉnh sửa, bóp méo khiến chúng trông như thật nhờ sự hỗ trợ của AI).

CAC cho rằng tin giả được tạo ra từ những công nghệ trên có thể "phá vỡ trật tự xã hội và vi phạm lợi ích của người dân, tạo ra rủi ro chính trị và mang lại tác động tiêu cực đến an ninh quốc gia và ổn định xã hội". Cơ quan này nêu rõ việc không tuân thủ các quy định nêu trên có thể bị coi là phạm tội hình sự, song không cung cấp thông tin chi tiết về các hình phạt.

Công nghệ “deepfake” có thể “phá vỡ trật tự xã hội và vi phạm lợi ích của con người, tạo ra rủi ro chính trị và gây ra tác động tiêu cực đến an ninh quốc gia và ổn định xã hội". Theo điều tra từ Mỹ, mối lo ngại về “deepfake” đã gia tăng kể từ chiến dịch bầu cử năm 2016 của Mỹ.

Hồi đầu năm nay, cơ quan lập pháp của Trung Quốc cho biết họ đang xem xét việc đưa công nghệ “deepfake” vào danh mục công nghệ bất hợp pháp. Hồi tháng 9/2019, ứng dụng thay đổi khuôn mặt Zao của Trung Quốc đã gây ra một cuộc tranh luận về việc lạm dụng các công nghệ “deepfake”.