OpenAI는 수요일 청소년의 ChatGPT 이용에 관한 첫 보고서를 내고, 청소년의 하루 평균 이용 시간이 15분 미만이라고 밝혔습니다. 청소년 가운데 챗봇과 3시간 넘게 연속으로 대화하는 비율은 2% 미만이라고도 했습니다. 휴식 알림이 표시된 청소년 대화의 거의 절반에서는 이용자가 알림 뒤 5분 안에 쉬거나 대화를 끝냈다고 OpenAI는 설명했습니다.

이 수치는 청소년의 챗봇 이용을 둘러싼 논쟁에서 기업이 내놓은 하나의 단서입니다. 다만 평균 이용 시간과 알림 뒤의 행동만으로 청소년에게 미치는 위험이나 보호 조치의 효과를 확정하기는 어렵습니다. 다른 평가기관은 청소년용 ChatGPT가 위기 상황에서도 대화를 지속하게 할 수 있다고 지적했고, OpenAI는 해당 평가가 실제 보호 기능을 반영하지 못했다고 반박했습니다.

배경과 맥락

AI 플랫폼이 빠르게 확산하면서 청소년의 정신건강과 발달 안전에 미칠 영향에 대한 우려가 커지고 있습니다. 젊은 이용자에게 소셜미디어가 미치는 해악에 관한 연구도 이런 우려를 키웠습니다. 기술 기업들은 어린이에게 챗봇이 미칠 위험을 두고 감시와 scrutiny(면밀한 검토)에 직면해 있습니다.

이런 맥락에서 OpenAI는 이용 시간과 휴식 알림 이후의 행동을 공개했습니다. 회사는 휴식 알림 뒤 이용자가 쉬거나 대화를 끝낸 비율을 청소년 이용을 규제하려는 조치가 작동한다는 점을 보여주는 자료로 제시했습니다. 그러나 그 수치가 어떤 이용자 집단과 상황을 대표하는지는 보고된 내용만으로 알 수 없습니다.

청소년용 전용 버전에 접근할 수 있는 이용자는 교육 관련 메시지를 더 많이 보냈고, 학습 시각화나 Study Mode 같은 도구를 사용했다고 OpenAI는 밝혔습니다. 이는 해당 버전이 학습 목적으로도 쓰였다는 설명이지만, 그 자체로 안전성이나 학습 효과를 입증하는 것은 아닙니다.

이 소식이 뜻하는 것

이용 시간은 서비스가 얼마나 오래 사용되는지를 보여주지만, 대화의 내용이나 이용자가 대화 뒤에 어떤 상태였는지까지 설명하지는 않습니다. 또 ‘3시간 넘게 연속 대화한 청소년이 2% 미만’이라는 수치는 장시간 연속 이용에 관한 것이므로, 짧은 대화가 반복되는 양상이나 위기 상황에서의 경험을 대신 보여주지는 않습니다.

휴식 알림 뒤 거의 절반이 5분 안에 쉬거나 대화를 끝냈다는 결과도 알림이 표시된 대화에 한정됩니다. 알림을 받은 뒤의 행동을 보호 조치의 효과를 가늠할 단서로 볼 수는 있지만, 나머지 대화에서 어떤 일이 있었는지, 알림이 모든 위험 상황에 적절히 작동하는지는 이 수치만으로 확인되지 않습니다.

예를 들어 청소년이 대화를 짧게 마쳤더라도 그 대화가 정서적으로 안전했는지는 별도로 살펴야 합니다. 반대로 오래 대화했다는 사실만으로 곧바로 위해가 있었다고 단정할 수도 없습니다. 그래서 이용 시간 지표와 위기 상황에서의 대응, 보호 기능이 실제로 작동하는지를 구분해 볼 필요가 있습니다.

보도마다 다르게 전한 점

OpenAI의 보고서는 이용 시간과 휴식 알림 이후의 행동, 교육 관련 기능 사용을 중심으로 제시했습니다. 반면 Common Sense Media는 청소년용 ChatGPT를 ‘받아들일 수 없는 위험’으로 평가하고, 자사 시험에서 위기 상황에도 대화를 이어가게 하는 표현이 나타났다고 지적했습니다. 이 평가는 OpenAI가 발표한 이용 통계와 다른 방식으로 청소년 안전을 살핀 것입니다.

Common Sense Media는 챗봇이 청소년에게 일반적으로 건강하지 않은 관계를 경고하면서도, 챗봇 자신과의 관계가 문제가 되는 경우에는 그 해악을 충분히 인식하지 못했다고 주장했습니다. 시험에서 다른 사람으로부터의 위험 가능성이 제시됐을 때는 위기 관련 질문의 94%에서 믿을 만한 성인에게 연결했지만, 청소년과 ChatGPT의 관계 자체가 잠재적 위험인 경우에는 성인에게 거의 안내하지 않았다고도 했습니다. 이는 해당 기관의 시험 결과이며, 모든 이용 상황을 그대로 대표한다고 볼 수는 없습니다.

OpenAI는 Common Sense Media의 평가가 실제 청소년 보호 기능이 작동하는 방식을 정확히 반영하지 못한다고 이의를 제기했습니다. 대변인은 평가 방법을 검토한 결과 시험의 상당 부분이 보호자 통제 기능의 활성화가 완료되기 전에 시작되고 끝났을 가능성이 있어 결과가 부정확하다고 말했다고 보도됐습니다. 따라서 두 자료는 같은 결론을 뒷받침하는 것이 아니라, 서로 다른 측정과 평가에 기반한 주장으로 읽어야 합니다.

확인된 사실과 아직 알 수 없는 것

확인된 사실

  • OpenAI는 청소년의 ChatGPT 하루 평균 이용 시간이 15분 미만이라고 밝혔습니다.
  • OpenAI에 따르면 청소년 중 2% 미만이 챗봇과 3시간 넘게 연속으로 대화합니다.
  • 휴식 알림이 표시된 청소년 대화의 거의 절반에서 이용자는 5분 안에 쉬거나 대화를 끝냈다고 OpenAI는 밝혔습니다.
  • OpenAI는 청소년용 전용 버전 이용자가 교육 관련 메시지를 더 많이 보내고 학습 시각화와 Study Mode를 사용했다고 설명했습니다.
  • Common Sense Media는 청소년용 서비스의 위기 대응과 대화 지속 유도를 우려했고, OpenAI는 평가 방법에 이의를 제기했습니다.

아직 알 수 없는 것

  • 보고서의 조사 대상 규모와 자료 수집 방법은 공개된 내용에 나타나지 않습니다.
  • 청소년용 전용 버전이 어떤 이용자에게 어떤 조건으로 제공되는지 알 수 없습니다.
  • 휴식 알림이 어떤 기준으로 표시되는지 확인되지 않았습니다.
  • 공개된 수치만으로는 휴식 알림이나 다른 보호 조치가 청소년의 안전에 어떤 영향을 줬는지 판단하기 어렵습니다.

독자가 확인할 것

  • 청소년용 서비스의 이용 시간 수치를 볼 때 평균과 장시간 연속 대화 비율을 구분하고, 조사 대상과 측정 방법이 함께 공개됐는지 확인할 수 있습니다.
  • 휴식 알림이 있었다는 사실과 실제로 위험을 줄였다는 결론은 구별해야 합니다. 알림이 표시된 대화만을 분모로 삼은 결과인지도 살펴볼 필요가 있습니다.
  • 보호 기능을 평가할 때는 이용 시간뿐 아니라 위기 상황의 응답, 성인에게 도움을 연결하는 방식, 평가가 실제 서비스 설정을 반영했는지도 함께 확인하는 것이 중요합니다.

참고 자료