Mercredi, OpenAI a publié son premier rapport sur l’utilisation de ChatGPT par les adolescents et indiqué que ceux-ci y consacraient en moyenne moins de 15 minutes par jour. L’entreprise a également déclaré que moins de 2 % des adolescents échangeaient avec le chatbot plus de 3 heures d’affilée. Selon OpenAI, dans près de la moitié des conversations d’adolescents où une notification de pause s’est affichée, les utilisateurs ont fait une pause ou mis fin à la conversation dans les 5 minutes qui ont suivi.

Ces chiffres constituent un élément parmi d’autres dans le débat sur l’utilisation des chatbots par les adolescents. Toutefois, le temps d’utilisation moyen et le comportement après l’apparition d’une notification ne suffisent pas à établir les risques auxquels les adolescents sont exposés ni l’efficacité des mesures de protection. Un autre organisme d’évaluation a estimé que ChatGPT destiné aux adolescents pouvait prolonger les conversations même en situation de crise. OpenAI a rétorqué que cette évaluation ne tenait pas compte des protections réellement en place.

Contexte

La diffusion rapide des plateformes d’IA suscite des inquiétudes croissantes quant à leurs effets sur la santé mentale et la sécurité du développement des adolescents. Les études sur les effets néfastes des réseaux sociaux sur les jeunes utilisateurs ont également alimenté ces inquiétudes. Les entreprises technologiques sont soumises à une surveillance et à un examen minutieux concernant les risques que les chatbots peuvent présenter pour les enfants.

C’est dans ce contexte qu’OpenAI a publié des données sur le temps d’utilisation et le comportement après l’apparition d’une notification de pause. L’entreprise a présenté la proportion d’utilisateurs qui ont fait une pause ou mis fin à la conversation après cette notification comme un élément montrant que les mesures destinées à encadrer l’utilisation par les adolescents fonctionnaient. Cependant, les informations publiées ne permettent pas de savoir quels groupes d’utilisateurs et quelles situations ces chiffres représentent.

OpenAI a indiqué que les utilisateurs ayant accès à la version dédiée aux adolescents envoyaient davantage de messages liés à l’éducation et utilisaient des outils comme la visualisation de l’apprentissage ou le mode Étude (Study Mode). Selon l’entreprise, cela montre que cette version était également utilisée à des fins d’apprentissage, mais ne prouve pas en soi qu’elle est sûre ni qu’elle est efficace pour apprendre.

Ce que cela signifie

Le temps d’utilisation indique la durée pendant laquelle le service est utilisé, mais ne renseigne ni sur le contenu des conversations ni sur l’état de l’utilisateur après celles-ci. De plus, le chiffre selon lequel « moins de 2 % des adolescents ont des conversations ininterrompues de plus de 3 heures » porte sur les longues sessions sans interruption ; il ne rend donc pas compte des conversations courtes répétées ni de l’expérience vécue en situation de crise.

Le résultat selon lequel près de la moitié des utilisateurs ont fait une pause ou mis fin à la conversation dans les 5 minutes après l’apparition d’une notification concerne également uniquement les conversations où une notification s’est affichée. Le comportement observé après la réception d’une notification peut donner une indication de l’efficacité des mesures de protection, mais ce chiffre ne permet pas de savoir ce qui s’est passé dans les autres conversations ni si les notifications sont adaptées à toutes les situations à risque.

Par exemple, même si un adolescent a mis fin rapidement à une conversation, il faut examiner séparément si celle-ci était sûre sur le plan émotionnel. À l’inverse, le seul fait d’avoir eu une longue conversation ne permet pas de conclure qu’il y a eu un préjudice. Il est donc nécessaire de distinguer les indicateurs de temps d’utilisation de la réponse apportée en situation de crise et de l’efficacité réelle des protections.

Des aspects présentés différemment selon les rapports

Le rapport d’OpenAI portait principalement sur le temps d’utilisation, le comportement après l’apparition d’une notification de pause et l’utilisation des fonctionnalités éducatives. De son côté, Common Sense Media a qualifié ChatGPT destiné aux adolescents de « risque inacceptable » et a indiqué que, lors de ses tests, certaines formulations incitaient à poursuivre la conversation même en situation de crise. Cette évaluation portait sur la sécurité des adolescents selon une approche différente des statistiques d’utilisation publiées par OpenAI.

Common Sense Media a affirmé que, si les chatbots avertissaient généralement les adolescents des relations malsaines avec d’autres personnes, ils ne reconnaissaient pas suffisamment les préjudices lorsque la relation en cause était celle de l’adolescent avec le chatbot lui-même. L’organisme a également indiqué que, lorsque ses tests évoquaient un risque provenant d’une autre personne, le chatbot orientait l’adolescent vers un adulte de confiance dans 94 % des questions liées à une crise ; en revanche, il l’orientait rarement vers un adulte lorsque la relation entre l’adolescent et ChatGPT constituait elle-même un risque potentiel. Il s’agit des résultats des tests de cet organisme, qui ne peuvent être considérés comme représentatifs de toutes les situations d’utilisation.

OpenAI a contesté l’évaluation de Common Sense Media, affirmant qu’elle ne reflétait pas fidèlement le fonctionnement réel des protections destinées aux adolescents. Selon des informations rapportées, un porte-parole a déclaré qu’après examen de la méthodologie, l’entreprise estimait qu’une part importante des tests avait probablement commencé et pris fin avant que l’activation du contrôle parental soit terminée, ce qui rendait les résultats inexacts. Les deux rapports ne doivent donc pas être considérés comme étayant la même conclusion, mais comme des affirmations fondées sur des mesures et des évaluations différentes.

Ce qui est établi et ce qui reste à savoir

Ce qui est établi

  • OpenAI a indiqué que les adolescents utilisaient ChatGPT moins de 15 minutes par jour en moyenne.
  • Selon OpenAI, moins de 2 % des adolescents ont des conversations ininterrompues de plus de 3 heures avec le chatbot.
  • OpenAI a indiqué que, dans près de la moitié des conversations d’adolescents où une notification de pause s’est affichée, les utilisateurs ont fait une pause ou mis fin à la conversation dans les 5 minutes.
  • OpenAI a expliqué que les utilisateurs de la version dédiée aux adolescents envoyaient davantage de messages liés à l’éducation et utilisaient la visualisation de l’apprentissage et le mode Étude (Study Mode).
  • Common Sense Media s’est inquiété de la réponse du service destiné aux adolescents en situation de crise et de sa tendance à prolonger les conversations ; OpenAI a contesté la méthodologie de l’évaluation.

Ce qui reste à savoir

  • Les informations publiées ne précisent ni la taille de l’échantillon étudié dans le rapport ni la méthode de collecte des données.
  • On ne sait pas à quels utilisateurs la version dédiée aux adolescents est proposée ni sous quelles conditions.
  • Les critères de déclenchement des notifications de pause ne sont pas précisés.
  • Les chiffres publiés ne suffisent pas à déterminer l’effet des notifications de pause ou d’autres mesures de protection sur la sécurité des adolescents.

Points à vérifier pour les lecteurs

  • Lorsqu’ils examinent les chiffres sur le temps d’utilisation des services destinés aux adolescents, les lecteurs peuvent distinguer la moyenne de la proportion de longues conversations ininterrompues et vérifier si l’échantillon étudié et la méthode de mesure sont également publiés.
  • Il faut distinguer le fait qu’une notification de pause ait été affichée de la conclusion selon laquelle elle a effectivement réduit les risques. Il convient aussi de vérifier si les résultats ne portent que sur les conversations où une notification s’est affichée.
  • Pour évaluer les protections, il est important d’examiner non seulement le temps d’utilisation, mais aussi les réponses en situation de crise, la manière dont les adolescents sont orientés vers des adultes susceptibles de les aider et la mesure dans laquelle l’évaluation reflète les paramètres réels du service.

Références