Thuật toán AI kiềm chế những ‘cái đầu nóng’ trên mạng XH

Hệ thống AI với công cụ "cảnh báo xung đột" dựa trên thuật toán AI sẽ thông báo đến các quản trị viên của nhóm về một nội dung "gây tranh cãi" hoặc "không lành mạnh". Mạng xã hội ngày có 2,85 tỉ người dùng hàng tháng với khoảng 1,8 tỉ người đang hoạt động trong hàng chục triệu nhóm khác nhau.

Trong nhiều năm, các nền tảng như Facebook và Twitter ngày càng dựa vào AI để xác định phần lớn những gì người dùng trực tuyến chia sẻ bằng các công cụ phát hiện câu chữ có tính chất gây thù hận trên dòng thời gian. Điều này có thể hỗ trợ các nhà quản lý hội nhóm dễ dàng hơn trong việc kiểm duyệt cũng như can thiệp kịp thời để tránh các xung đột không đáng có.

AI sẽ giúp các cuộc tranh cãi trên mạng XH sớm bị nhận diện và dập tắt. Ảnh minh họa

AI hiện vẫn khá lúng túng trong việc hiểu được sự tinh tế của ngôn ngữ trong những ngữ cảnh khác nhau. Hơn nữa, hệ thống kiểm duyệt bí mật của AI cũng có thể khiến người dùng cảm thấy bị tổn thương.

Phát ngôn viên của Facebook cho biết AI của công ty sẽ sử dụng một số tín hiệu từ các cuộc trò chuyện để xác định thời điểm gửi cảnh báo xung đột, bao gồm thời gian trả lời bình luận và lượng bình luận trên một bài đăng. Ông cho biết một số quản trị viên đã thiết lập cảnh báo từ khóa có thể phát hiện các chủ đề có thể dẫn đến tranh luận.

Nếu một quản trị viên nhận được cảnh báo xung đột, họ có thể thực hiện các hành động làm chậm các cuộc trò chuyện với hi vọng làm dịu người dùng. Những động thái này có thể bao gồm hạn chế tạm thời tần suất đăng bài bình luận của một số thành viên trong nhóm và xác định tốc độ nhận xét có thể được thực hiện trên các bài đăng cá nhân.

Trong một cuộc tranh cãi giả mà Facebook thực hiện, một người dùng đã nóng giận với những từ ngữ tranh cãi khó nghe, như "những con chó của người khác", "im đi, thật ngu ngốc", "nếu điều vô nghĩa này xảy ra, tôi sẽ rời khỏi nhóm"...

Một thông báo sẽ được gửi đến quản trị viên với thanh tiêu đề: "Cảnh báo kiểm duyệt". Bên dưới là những từ khoá có liên quan đến vấn đề đang được tranh cãi. Tiếp đến là một khung cho phép quản trị viên cài đặt thời gian hạn chế bình luận với các tài khoản. Ngoài ra công cụ này còn cho phép hạn chế bình luận của một thành viên theo các chủ đề trong khoảng thời gian tính bằng ngày hoặc thậm chí nhiều năm.

Công cụ này vẫn đang trong giai đoạn thử nghiệm, Facebook chưa tuyên bố thời gian phát hành chính thức cho người dùng toàn cầu.

Theo Tạp chí Điện tử