OpenAI 于周三发布了首份关于青少年使用 ChatGPT 的报告，称青少年每天平均使用时间不到 15 分钟。该公司还表示，青少年中与聊天机器人连续对话超过 3 小时的比例不到 2%。OpenAI 介绍说，在出现休息提醒的青少年对话中，近半数用户在收到提醒后 5 分钟内休息或结束了对话。

这些数据为围绕青少年使用聊天机器人的争论提供了企业一方的参考。不过，仅凭平均使用时长和收到提醒后的行为，很难确定对青少年的风险或保护措施的效果。另一家评估机构指出，面向青少年的 ChatGPT 可能会在危机情境下让对话继续进行；OpenAI 则反驳称，该评估未能反映实际的保护功能。

背景与脉络

随着 AI 平台迅速普及，人们对其可能影响青少年心理健康和发展安全的担忧日益加剧。有关社交媒体对年轻用户危害的研究也加深了这种担忧。科技公司正因聊天机器人可能给儿童带来的风险而受到监督和审视。

在这一背景下，OpenAI 公布了使用时长以及用户收到休息提醒后的行为。该公司将用户在收到提醒后休息或结束对话的比例作为资料，称这表明旨在规范青少年使用的措施正在发挥作用。不过，仅凭报告中公布的内容，无法得知这些数据代表了哪些用户群体和情境。

OpenAI 表示，能够使用面向青少年的专属版本的用户发送了更多与教育相关的消息，并使用了学习可视化工具和学习模式（Study Mode）等工具。这说明该版本也用于学习，但这本身并不能证明其安全性或学习效果。

这则消息意味着什么

使用时长可以反映服务被使用了多久，却无法说明对话内容，也无法说明用户结束对话后的状态。此外，“连续对话超过 3 小时的青少年不到 2%”这一数据针对的是长时间连续使用，因此不能代表短对话反复发生的情况，也不能说明用户在危机情境下的经历。

收到休息提醒后，近半数用户在 5 分钟内休息或结束对话，这一结果也仅限于出现提醒的对话。用户收到提醒后的行为可以作为衡量保护措施效果的参考，但仅凭这一数据，无法确认其他对话中发生了什么，也无法确认提醒是否能在所有风险情境下恰当地发挥作用。

例如，即使青少年很快结束了对话，也仍需另行考察对话在情感层面是否安全。反过来，也不能仅凭对话时间长，就断定用户受到了伤害。因此，有必要区分使用时长指标、危机情境下的应对方式，以及保护功能是否真正发挥作用。

不同报道的侧重点

OpenAI 的报告主要介绍了使用时长、用户收到休息提醒后的行为，以及教育相关功能的使用情况。相比之下，常识媒体（Common Sense Media）将面向青少年的 ChatGPT 评为“风险不可接受”，并指出其测试中出现了即使在危机情境下也会让对话继续进行的措辞。这项评估以不同于 OpenAI 所公布使用统计的方式考察了青少年安全问题。

常识媒体称，聊天机器人会提醒青少年，人际关系通常不健康，但当问题涉及青少年与聊天机器人自身的关系时，却未能充分认识到其中的危害。该机构还表示，在测试中，当出现来自他人的潜在危险时，聊天机器人在 94% 的危机相关提问中会建议用户联系可信赖的成年人；但当青少年与 ChatGPT 的关系本身构成潜在风险时，聊天机器人几乎不会建议用户联系成年人。这些是该机构的测试结果，不能据此认为它们能够原样代表所有使用情境。

OpenAI 对常识媒体的评估提出异议，称该评估未能准确反映实际的青少年保护功能如何运作。据报道，一名发言人表示，该公司审查评估方法后认为，测试很大一部分可能是在家长控制功能尚未完成启用前就已开始并结束，因此结果并不准确。因此，这两份资料并非支持同一个结论，而应被视为基于不同测量和评估得出的主张。

已确认的事实与仍未知的信息

已确认的事实

  • OpenAI 表示，青少年每天平均使用 ChatGPT 不到 15 分钟。
  • 据 OpenAI 称，青少年中与聊天机器人连续对话超过 3 小时的比例不到 2%。
  • OpenAI 表示，在出现休息提醒的青少年对话中，近半数用户在 5 分钟内休息或结束了对话。
  • OpenAI 介绍说，面向青少年的专属版本用户发送了更多与教育相关的消息，并使用了学习可视化工具和学习模式（Study Mode）。
  • 常识媒体对面向青少年的服务如何应对危机、以及是否会诱导用户继续对话表示担忧；OpenAI 则对评估方法提出异议。

仍未知的信息

  • 已公开的内容未说明报告的调查对象规模和资料收集方法。
  • 无法得知面向青少年的专属版本向哪些用户提供，以及提供时有哪些条件。
  • 尚未确认休息提醒依据什么标准显示。
  • 仅凭已公开的数据，很难判断休息提醒或其他保护措施对青少年安全产生了什么影响。

读者可以留意的事项

  • 查看面向青少年的服务使用时长数据时，可以区分平均使用时长和长时间连续对话的比例，并确认是否同时公布了调查对象和测量方法。
  • 应当区分“出现了休息提醒”这一事实与“提醒确实降低了风险”这一结论。还需留意结果的分母是否仅包括出现提醒的对话。
  • 评估保护功能时，除使用时长外，还应一并考察危机情境下的回应、将用户引导至成年人求助的方式，以及评估是否反映了服务的实际设置。

参考资料