Hôm thứ Tư, OpenAI công bố báo cáo đầu tiên về việc thanh thiếu niên sử dụng ChatGPT, cho biết thời gian sử dụng trung bình mỗi ngày của các em là dưới 15 phút. Công ty cũng cho biết chưa đến 2% thanh thiếu niên trò chuyện liên tục với chatbot hơn 3 giờ. Theo OpenAI, trong gần một nửa số cuộc trò chuyện của thanh thiếu niên có hiển thị thông báo nghỉ giải lao, người dùng đã nghỉ hoặc kết thúc cuộc trò chuyện trong vòng 5 phút sau khi nhận thông báo.

Những con số này là một dữ liệu do doanh nghiệp đưa ra trong cuộc tranh luận về việc thanh thiếu niên sử dụng chatbot. Tuy nhiên, chỉ dựa vào thời lượng sử dụng trung bình và hành vi sau khi nhận thông báo thì khó có thể xác định chắc chắn những rủi ro đối với thanh thiếu niên hoặc hiệu quả của các biện pháp bảo vệ. Một tổ chức đánh giá khác cho rằng ChatGPT dành cho thanh thiếu niên có thể khiến các em tiếp tục trò chuyện ngay cả trong tình huống khủng hoảng; OpenAI phản bác rằng đánh giá đó không phản ánh các tính năng bảo vệ trên thực tế.

Bối cảnh và ngữ cảnh

Các nền tảng AI đang nhanh chóng phổ biến, làm gia tăng lo ngại về ảnh hưởng của chúng đối với sức khỏe tâm thần và sự an toàn trong quá trình phát triển của thanh thiếu niên. Những nghiên cứu về tác hại của mạng xã hội đối với người trẻ cũng góp phần làm tăng mối lo ngại này. Các công ty công nghệ đang phải đối mặt với sự giám sát và xem xét kỹ lưỡng về những rủi ro mà chatbot có thể gây ra cho trẻ em.

Trong bối cảnh đó, OpenAI công bố thời lượng sử dụng và hành vi của người dùng sau khi nhận thông báo nghỉ giải lao. Công ty đưa ra tỷ lệ người dùng nghỉ hoặc kết thúc cuộc trò chuyện sau khi nhận thông báo như một dữ liệu cho thấy các biện pháp nhằm điều chỉnh việc thanh thiếu niên sử dụng dịch vụ đang phát huy tác dụng. Tuy nhiên, chỉ dựa trên những thông tin được báo cáo thì không thể biết các con số này đại diện cho nhóm người dùng và tình huống nào.

OpenAI cho biết người dùng có quyền truy cập phiên bản riêng dành cho thanh thiếu niên gửi nhiều tin nhắn liên quan đến giáo dục hơn và sử dụng các công cụ như trực quan hóa việc học hoặc Chế độ học tập (Study Mode). Đây là lời giải thích rằng phiên bản này cũng được sử dụng cho mục đích học tập, nhưng bản thân điều đó không chứng minh được mức độ an toàn hay hiệu quả học tập.

Tin này có ý nghĩa gì

Thời lượng sử dụng cho biết dịch vụ được dùng trong bao lâu, nhưng không giải thích nội dung cuộc trò chuyện hoặc trạng thái của người dùng sau đó. Ngoài ra, con số “chưa đến 2% thanh thiếu niên trò chuyện liên tục hơn 3 giờ” chỉ nói về việc sử dụng liên tục trong thời gian dài; nó không thể thay thế cho thông tin về những cuộc trò chuyện ngắn lặp đi lặp lại hoặc trải nghiệm trong tình huống khủng hoảng.

Kết quả cho thấy gần một nửa số người dùng đã nghỉ hoặc kết thúc cuộc trò chuyện trong vòng 5 phút sau khi nhận thông báo cũng chỉ giới hạn ở những cuộc trò chuyện có hiển thị thông báo. Hành vi sau khi nhận thông báo có thể là một dữ liệu để đánh giá hiệu quả của biện pháp bảo vệ, nhưng chỉ riêng con số này không cho biết điều gì đã xảy ra trong những cuộc trò chuyện còn lại, hay liệu thông báo có hoạt động phù hợp trong mọi tình huống rủi ro hay không.

Chẳng hạn, ngay cả khi một thanh thiếu niên kết thúc cuộc trò chuyện trong thời gian ngắn, vẫn cần xem xét riêng liệu cuộc trò chuyện đó có an toàn về mặt cảm xúc hay không. Ngược lại, cũng không thể chỉ dựa vào việc trò chuyện lâu để khẳng định rằng đã xảy ra tổn hại. Vì vậy, cần phân biệt các chỉ số về thời lượng sử dụng với cách ứng phó trong tình huống khủng hoảng và việc các tính năng bảo vệ có thực sự hoạt động hay không.

Những điểm các bên đưa tin khác nhau

Báo cáo của OpenAI tập trung vào thời lượng sử dụng, hành vi sau khi nhận thông báo nghỉ giải lao và việc sử dụng các tính năng liên quan đến giáo dục. Trong khi đó, Common Sense Media đánh giá ChatGPT dành cho thanh thiếu niên là “rủi ro không thể chấp nhận được” và cho biết trong các thử nghiệm của mình, dịch vụ có những cách diễn đạt khiến người dùng tiếp tục trò chuyện ngay cả trong tình huống khủng hoảng. Đánh giá này xem xét sự an toàn của thanh thiếu niên theo cách khác với các thống kê sử dụng do OpenAI công bố.

Common Sense Media cho rằng chatbot cảnh báo thanh thiếu niên về những mối quan hệ thường không lành mạnh, nhưng lại không nhận thức đầy đủ về tác hại khi chính mối quan hệ với chatbot trở thành vấn đề. Tổ chức này cũng cho biết trong thử nghiệm, khi có dấu hiệu về nguy cơ đến từ người khác, chatbot đã hướng người dùng đến một người lớn đáng tin cậy trong 94% câu hỏi liên quan đến khủng hoảng; nhưng khi chính mối quan hệ giữa thanh thiếu niên và ChatGPT là nguy cơ tiềm ẩn thì chatbot hầu như không hướng các em đến người lớn. Đây là kết quả thử nghiệm của tổ chức đó, không thể xem là đại diện nguyên vẹn cho mọi tình huống sử dụng.

OpenAI phản đối đánh giá của Common Sense Media, cho rằng đánh giá này không phản ánh chính xác cách các tính năng bảo vệ thanh thiếu niên hoạt động trên thực tế. Theo các bài đưa tin, một người phát ngôn cho biết sau khi xem xét phương pháp đánh giá, OpenAI nhận thấy phần lớn các thử nghiệm có thể đã bắt đầu và kết thúc trước khi quá trình kích hoạt tính năng kiểm soát của phụ huynh hoàn tất, khiến kết quả không chính xác. Vì vậy, không nên đọc hai nguồn thông tin này như những bằng chứng cùng củng cố một kết luận, mà nên xem chúng là các nhận định dựa trên những phép đo và đánh giá khác nhau.

Những điều đã xác nhận và những điều vẫn chưa rõ

Những điều đã xác nhận

  • OpenAI cho biết thời gian trung bình mỗi ngày thanh thiếu niên sử dụng ChatGPT là dưới 15 phút.
  • Theo OpenAI, chưa đến 2% thanh thiếu niên trò chuyện liên tục với chatbot hơn 3 giờ.
  • OpenAI cho biết trong gần một nửa số cuộc trò chuyện của thanh thiếu niên có hiển thị thông báo nghỉ giải lao, người dùng đã nghỉ hoặc kết thúc cuộc trò chuyện trong vòng 5 phút.
  • OpenAI giải thích rằng người dùng phiên bản riêng dành cho thanh thiếu niên gửi nhiều tin nhắn liên quan đến giáo dục hơn và sử dụng tính năng trực quan hóa việc học cùng Chế độ học tập (Study Mode).
  • Common Sense Media bày tỏ lo ngại về cách dịch vụ dành cho thanh thiếu niên ứng phó trong tình huống khủng hoảng và khuyến khích tiếp tục trò chuyện; OpenAI phản đối phương pháp đánh giá.

Những điều vẫn chưa rõ

  • Thông tin được công bố không nêu quy mô đối tượng khảo sát và phương pháp thu thập dữ liệu của báo cáo.
  • Không rõ phiên bản riêng dành cho thanh thiếu niên được cung cấp cho những người dùng nào và với điều kiện ra sao.
  • Chưa xác định được những tiêu chí nào khiến thông báo nghỉ giải lao xuất hiện.
  • Chỉ dựa trên các con số được công bố thì khó đánh giá thông báo nghỉ giải lao hoặc những biện pháp bảo vệ khác đã ảnh hưởng thế nào đến sự an toàn của thanh thiếu niên.

Những điều độc giả cần kiểm tra

  • Khi xem các số liệu về thời lượng sử dụng dịch vụ dành cho thanh thiếu niên, có thể phân biệt mức trung bình với tỷ lệ trò chuyện liên tục trong thời gian dài, đồng thời kiểm tra xem quy mô đối tượng khảo sát và phương pháp đo lường có được công bố hay không.
  • Cần phân biệt việc có thông báo nghỉ giải lao với kết luận rằng thông báo đó thực sự làm giảm rủi ro. Cũng cần xem xét liệu kết quả chỉ tính những cuộc trò chuyện có hiển thị thông báo hay không.
  • Khi đánh giá các tính năng bảo vệ, điều quan trọng là xem xét không chỉ thời lượng sử dụng mà cả phản hồi trong tình huống khủng hoảng, cách dịch vụ kết nối người dùng với người lớn để được giúp đỡ, và liệu quá trình đánh giá có phản ánh đúng cài đặt của dịch vụ trên thực tế hay không.

Tài liệu tham khảo