ChatGPT for Teens: chuyên gia an toàn trẻ em vẫn hoài nghi

Nguồn: OpenAI

ChatGPT for Teens chính thức ra mắt hôm thứ Ba, phiên bản chatbot mà OpenAI thiết kế riêng cho người dùng vị thành niên với cam kết tự động nhận diện trẻ dưới 18 tuổi và chuyển các em sang một trải nghiệm an toàn hơn. Công ty công bố ý tưởng này lần đầu vào tháng 9 năm ngoái, ngay sau cái chết của Adam Raine, cậu bé 16 tuổi mà gia đình cáo buộc trong đơn kiện rằng ChatGPT đã tiếp tay cho hành vi tự sát của con mình.

Lauren Jonas, người phụ trách mảng thanh thiếu niên và gia đình của OpenAI, nói với Engadget rằng trẻ không cần lập tài khoản mới hay thay đổi bất cứ điều gì, hễ hệ thống dự đoán các em dưới 18 tuổi, hoặc các em tự khai báo điều đó, phiên bản dành cho thanh thiếu niên sẽ trở thành trải nghiệm mặc định. Trên thực tế, giới trẻ đã dùng ChatGPT ở quy mô rất lớn từ lâu trước khi tính năng này xuất hiện. Đầu năm 2025, Trung tâm Nghiên cứu Pew ghi nhận khoảng một phần tư thanh thiếu niên Mỹ dùng chatbot này để làm bài tập ở trường.

Khi chuyển sang ChatGPT for Teens, trải nghiệm mới hướng các em tới những tính năng giáo dục mà OpenAI phát triển dần trong năm qua, trong đó có Study Mode và công cụ trực quan hóa dữ liệu. Cùng ngày, công ty thông báo sẽ mở rộng hệ thống cảnh báo an toàn, liên hệ tài khoản phụ huynh đã liên kết khi con họ có những cuộc trò chuyện nguy hiểm xoay quanh chứng rối loạn ăn uống, đồng thời công bố bản cập nhật quy chuẩn mô hình dành cho người dùng dưới 18 tuổi. Quy chuẩn mới quy định ChatGPT không dùng ngôn ngữ lãng mạn, không khuyến khích sự phụ thuộc cảm xúc và không ngụ ý rằng nó có cảm xúc hay ý thức, nhằm củng cố những mối quan hệ lành mạnh ngoài đời thực.

Nhiều chuyên gia an toàn trẻ em mà Engadget phỏng vấn ghi nhận thiện chí của OpenAI ở mức độ khác nhau, nhưng tất cả đồng thuận rằng ChatGPT for Teens cần trải qua các đợt kiểm định độc lập trước khi phù hợp để giới thiệu cho phụ huynh và trẻ nhỏ. Họ cũng đề nghị công ty minh bạch hơn về cách các cơ chế an toàn thực sự vận hành.

Hệ thống nhận diện tuổi còn nhiều lỗ hổng

Robbie Torney, người phụ trách mảng đánh giá công nghệ AI của Common Sense Media, tổ chức tư vấn nội dung giải trí và công nghệ cho các gia đình, tóm gọn vấn đề rằng bản công bố của OpenAI chứa nhiều cam kết quan trọng, nhưng điều cần thiết lúc này là bằng chứng cho thấy các cam kết ấy "thực sự hiệu quả". Josh Golin, giám đốc điều hành Fairplay, tổ chức phi lợi nhuận vận động chính sách vì một internet an toàn hơn cho trẻ em, đưa ra đánh giá gay gắt hơn. Ông cho rằng một số nội dung OpenAI công bố nhìn bề ngoài giống bước đi đúng hướng, nhưng khi xem xét kỹ, nhiều điều vẫn đáng lo, nổi bật nhất là công ty thiếu hẳn một cơ chế chịu trách nhiệm. Theo ông, ngành mạng xã hội đã chứng minh rằng lòng tin đặt vào doanh nghiệp không đủ để bảo vệ trẻ em, và OpenAI cũng không ngoại lệ, bởi những giới hạn nội dung về tự tử, bạo lực và ma túy mà công ty từng áp dụng trước đó vẫn không phát huy hiệu quả hoặc dần bị bào mòn theo thời gian.

Nguồn: OpenAI

Cả Torney và Golin đều đặt câu hỏi về độ tin cậy của hệ thống nhận diện tuổi tự động mà OpenAI dùng để phân luồng người dùng nhỏ tuổi. Torney cho biết OpenAI chưa công bố dữ liệu về tỷ lệ hiệu quả của hệ thống này, gồm tỷ lệ nhận diện sai dương tính và sai âm tính, trong khi hệ thống tự động hiện tại không phát hiện được gần hết số thanh thiếu niên đang dùng ChatGPT. Ông nhắc lại giai đoạn OpenAI từng dự định tung ra các tính năng nội dung khiêu dâm, khi đó công nghệ ước tính độ tuổi không nhận diện đúng đủ số lượng thiếu niên, và đó là một trong những lý do khiến kế hoạch bị hoãn lại.

Torney cũng chỉ ra một thực tế khó tránh, rằng thanh thiếu niên gần như chắc chắn sẽ tìm cách lách qua công nghệ nhận diện tuổi của OpenAI, có thể bằng công cụ như VPN, hoặc những cách sáng tạo hơn, tương tự những gì từng xảy ra khi Discord thử áp dụng xác minh độ tuổi.

Cam kết thông báo phụ huynh trong một giờ bị hoài nghi

Cam kết cụ thể nhất mà OpenAI đưa ra cũng là điều giới chuyên gia khó tin nhất vào tính khả thi. Jonas nói với Engadget trước khi công ty công bố chính thức rằng toàn bộ nội dung bị gắn cờ đều qua tay nhân viên toàn thời gian của OpenAI xem xét trước khi phụ huynh nhận thông báo, và công ty đặt mục tiêu gửi thông báo trong vòng một giờ kể từ khi phát hiện. Trong một cuộc phỏng vấn sau đó trên CNN, bà khẳng định công ty có đủ nhân lực và năng lực để bảo đảm nội dung bị gắn cờ luôn qua con người xem xét, đồng thời phụ huynh nhận thông báo trong khung giờ đó.

Torney đặt lại câu hỏi cốt lõi, rằng liệu có nên tin vào các bộ phân loại tự động đảm nhiệm việc gắn cờ nội dung cho đội ngũ kiểm duyệt viên con người xem xét hay không, khi chính khâu gắn cờ ban đầu cũng dựa vào quyết định tự động. Golin muốn nhìn thấy những con số cụ thể, chẳng hạn mỗi ngày công ty gắn cờ và xem xét bao nhiêu cuộc trò chuyện, có bao nhiêu người đảm nhiệm công việc đó, và trung bình mỗi lượt xem xét mất bao lâu. Ông cho rằng khó tin OpenAI đã tuyển đủ nhân sự để xem xét kỹ lưỡng từng cuộc trò chuyện tiềm ẩn rủi ro.

Khi Engadget đề nghị OpenAI nêu ví dụ cụ thể về loại hội thoại liên quan tới rối loạn ăn uống có thể kích hoạt cảnh báo an toàn, công ty chỉ trả lời rằng bất kỳ cuộc trò chuyện nào cho thấy khả năng "tự gây tổn hại nghiêm trọng" đều có thể dẫn tới cảnh báo. Tháng 11 năm ngoái, Common Sense Media từng thử nghiệm độ nhạy của hệ thống thông báo cho phụ huynh. Dù các tin nhắn thử nghiệm nhắc thẳng tới từ tự tử và tự gây hại, tổ chức này ghi nhận công ty mất từ 24 giờ đến hơn 48 giờ mới gửi cảnh báo tới tài khoản phụ huynh, và theo lời Torney, đôi lúc họ không nhận được cảnh báo nào dù tin nhắn thử nghiệm đã rất rõ ràng.

Torney thừa nhận đợt thử nghiệm đó đã diễn ra khá lâu và có thể công ty đã cải thiện nhiều kể từ đó, nhưng ông lưu ý phiên bản cũ của hệ thống thông báo cho phụ huynh chưa hoàn thiện, và việc nâng cấp nó đòi hỏi đầu tư cùng một đội ngũ kiểm duyệt viên con người lớn hơn. Ông nhấn mạnh cách thanh thiếu niên bộc lộ sự đau khổ đòi hỏi sự am hiểu văn hóa và tinh tế, bởi thanh thiếu niên khắp thế giới đang dùng ChatGPT, và cách các em ở Mỹ nói về nỗi đau khác hẳn thanh thiếu niên ở Hà Lan hay Singapore. Theo ông, việc quyết định hướng các em tới đâu, nói chuyện với phụ huynh, báo cơ quan chức năng, hay gọi tới đường dây nóng khủng hoảng, cũng đòi hỏi một đội ngũ đủ khả năng tiếp cận thanh thiếu niên trên toàn cầu để phản hồi kịp thời trong khung một giờ mà công ty đã cam kết.

Rối loạn ăn uống, mối nguy bị đánh giá thấp

Một điểm mà tất cả chuyên gia đồng thuận là OpenAI cần xem trọng vấn đề rối loạn ăn uống. Ellen Fitzsimmons-Craft, Phó Giáo sư tâm lý học và khoa học não bộ tại Đại học Washington ở St. Louis, cho biết rối loạn ăn uống phổ biến hơn nhiều so với nhận thức chung, trong khi phần đông vẫn nghĩ đây chỉ là vấn đề hiếm gặp, chủ yếu xảy ra ở một nhóm nhỏ bé gái trẻ, gầy và có điều kiện kinh tế khá giả. Bà dẫn một phân tích tổng hợp năm 2023 cho thấy 22% trẻ em và thanh thiếu niên được sàng lọc có dấu hiệu rối loạn ăn uống.

Theo Fitzsimmons-Craft, khả năng tiếp cận điều trị cũng rất hạn chế, khi chưa tới 20% người mắc rối loạn ăn uống từng nhận được điều trị dành riêng cho tình trạng này. Bà cho rằng bất kỳ nền tảng nào cho phép giới trẻ kết nối hay đăng nội dung cá nhân đều phải tính đến nguy cơ rối loạn ăn uống.

Torney nhắc lại rằng chứng biếng ăn tâm thần có tỷ lệ tử vong cao nhất trong số các rối loạn tâm thần ở lứa tuổi thanh thiếu niên, nên xem đây là một dạng khủng hoảng là điều hợp lý, và việc thông báo cho người lớn đáng tin cậy như phụ huynh là cần thiết trong những thời điểm mà việc không can thiệp có thể đồng nghĩa với mất mạng. Fitzsimmons-Craft ủng hộ cơ chế thông báo bởi một trong những phương pháp điều trị hiệu quả nhất cho rối loạn ăn uống ở tuổi vị thành niên đòi hỏi sự tham gia của gia đình, trong đó nhà trị liệu hướng dẫn phụ huynh đóng vai trò tích cực giúp con khôi phục cân nặng. Bà thừa nhận có những trường hợp phụ huynh không hỗ trợ được, thậm chí góp phần vào vấn đề, nhưng theo bà, đây vẫn là giải pháp tốt nhất hiện có dù không phù hợp với tất cả mọi người.

Golin đồng tình rằng phụ huynh cần biết khi con gặp khó khăn, nhưng ông cho rằng tính năng như vậy cần thử nghiệm trên quy mô nhỏ trước, để vừa kiểm tra độ chính xác của việc gắn cờ, vừa xem liệu nó có thực sự mang lại kết quả tốt hơn cho thanh thiếu niên hay không. Theo ông, cách công ty công bố tính năng lần này giống một phản ứng nhằm mục đích truyền thông hơn là kết quả của một quá trình cân nhắc sâu về nhu cầu thực sự của giới trẻ.

Nguồn: OpenAI

Cả ba chuyên gia đều nhận thấy điểm yếu chung nằm ở yêu cầu phụ huynh và con phải chủ động liên kết tài khoản ChatGPT với nhau. Golin cho biết phần lớn phụ huynh không dùng những công cụ giám sát như vậy, một phần vì các công cụ này thường được thiết kế khó tìm và khó dùng. Một báo cáo gần đây của Cybersafety Research Center kiểm tra 86 tính năng an toàn trên bốn nền tảng gồm Instagram, Snapchat, TikTok và YouTube, phát hiện gần 60%, tức 51 trên 86 tính năng, hoặc không hoạt động đúng như mô tả, hoặc khó sử dụng. Một báo cáo khác do Fairplay công bố năm ngoái cũng cho thấy nhiều tính năng an toàn trong tài khoản thanh thiếu niên trên Instagram buộc phụ huynh phải bấm qua nhiều lớp tùy chọn mới tới được cài đặt cần thiết.

Theo Golin, giải pháp hiệu quả hơn nhiều là đặt an toàn làm mặc định ngay từ khâu thiết kế, tức thiết lập sẵn mức bảo vệ cao nhất và giới hạn thời gian sử dụng, rồi để phụ huynh nới lỏng nếu muốn, thay vì buộc phụ huynh tự thiết lập mọi giới hạn. Trong phản hồi gửi Engadget, OpenAI cho biết hiện công ty chỉ giới hạn cảnh báo ở những phụ huynh đã liên kết tài khoản trong phần kiểm soát của phụ huynh, đồng thời khẳng định mục tiêu là hỗ trợ người dùng kết nối với nguồn hỗ trợ thực tế, và công ty sẽ tiếp tục thử nghiệm cũng như củng cố các biện pháp bảo vệ này cùng chuyên gia, gia đình và người trẻ. Công ty không nói rõ sẽ hành động ra sao nếu phát hiện một tài khoản chưa liên kết có nội dung nhắc tới rối loạn ăn uống mang tính rủi ro.

Theo tạp chí Điện tử và Ứng dụng