Pada Rabu, OpenAI merilis laporan pertamanya tentang penggunaan ChatGPT oleh remaja dan menyatakan bahwa rata-rata waktu penggunaan mereka dalam sehari kurang dari 15 menit. OpenAI juga menyebutkan bahwa kurang dari 2% remaja mengobrol terus-menerus dengan chatbot selama lebih dari 3 jam. Menurut OpenAI, dalam hampir separuh percakapan remaja yang menampilkan notifikasi istirahat, pengguna beristirahat atau mengakhiri percakapan dalam waktu 5 menit setelah menerima notifikasi tersebut.

Angka-angka ini menjadi salah satu petunjuk yang disampaikan perusahaan dalam perdebatan seputar penggunaan chatbot oleh remaja. Namun, hanya berdasarkan rata-rata waktu penggunaan dan perilaku setelah menerima notifikasi, sulit untuk memastikan risiko yang dihadapi remaja atau efektivitas langkah-langkah perlindungan. Lembaga penilai lain menyatakan bahwa ChatGPT untuk remaja dapat membuat percakapan terus berlanjut bahkan dalam situasi krisis, sementara OpenAI membantah bahwa penilaian tersebut tidak mencerminkan fitur perlindungan yang sebenarnya.

Latar belakang dan konteks

Seiring pesatnya penyebaran platform AI, kekhawatiran tentang dampaknya terhadap kesehatan mental dan keselamatan perkembangan remaja semakin meningkat. Penelitian mengenai dampak buruk media sosial terhadap pengguna muda juga memperkuat kekhawatiran ini. Perusahaan teknologi menghadapi pengawasan dan pemeriksaan ketat terkait risiko chatbot bagi anak-anak.

Dalam konteks ini, OpenAI mengungkapkan durasi penggunaan dan perilaku pengguna setelah menerima notifikasi istirahat. Perusahaan menyajikan persentase pengguna yang beristirahat atau mengakhiri percakapan setelah notifikasi sebagai bukti bahwa langkah-langkah untuk mengatur penggunaan oleh remaja berjalan. Namun, dari informasi yang dilaporkan, tidak diketahui kelompok pengguna dan situasi seperti apa yang diwakili oleh angka tersebut.

OpenAI menyatakan bahwa pengguna yang dapat mengakses versi khusus untuk remaja mengirim lebih banyak pesan terkait pendidikan dan menggunakan fitur seperti visualisasi pembelajaran atau Study Mode. Ini menunjukkan bahwa versi tersebut juga digunakan untuk tujuan belajar, tetapi hal itu saja tidak membuktikan keamanan ataupun efektivitas pembelajarannya.

Arti berita ini

Durasi penggunaan menunjukkan berapa lama layanan digunakan, tetapi tidak menjelaskan isi percakapan atau kondisi pengguna setelahnya. Selain itu, angka “kurang dari 2% remaja mengobrol terus-menerus selama lebih dari 3 jam” berkaitan dengan penggunaan berkepanjangan tanpa jeda. Karena itu, angka tersebut tidak menggambarkan pola percakapan singkat yang berulang ataupun pengalaman dalam situasi krisis.

Hasil bahwa hampir separuh pengguna beristirahat atau mengakhiri percakapan dalam waktu 5 menit setelah notifikasi juga hanya mencakup percakapan yang menampilkan notifikasi tersebut. Perilaku setelah menerima notifikasi dapat menjadi petunjuk untuk menilai efektivitas langkah perlindungan, tetapi angka ini saja tidak menunjukkan apa yang terjadi dalam percakapan lainnya atau apakah notifikasi bekerja dengan tepat dalam setiap situasi berisiko.

Sebagai contoh, meskipun remaja mengakhiri percakapan dalam waktu singkat, apakah percakapan itu aman secara emosional tetap perlu ditelaah secara terpisah. Sebaliknya, lamanya percakapan saja tidak cukup untuk menyimpulkan bahwa telah terjadi bahaya. Karena itu, indikator durasi penggunaan perlu dibedakan dari respons dalam situasi krisis dan dari apakah fitur perlindungan benar-benar berfungsi.

Hal-hal yang diberitakan secara berbeda

Laporan OpenAI berfokus pada durasi penggunaan, perilaku setelah notifikasi istirahat, dan penggunaan fitur terkait pendidikan. Sementara itu, Common Sense Media menilai ChatGPT untuk remaja memiliki “risiko yang tidak dapat diterima” dan menyatakan bahwa dalam pengujiannya, layanan tersebut menunjukkan ungkapan yang mendorong percakapan berlanjut bahkan dalam situasi krisis. Penilaian ini menelaah keselamatan remaja dengan cara yang berbeda dari statistik penggunaan yang dirilis OpenAI.

Common Sense Media menyatakan bahwa chatbot memperingatkan remaja tentang hubungan yang umumnya tidak sehat, tetapi tidak cukup memahami bahayanya ketika hubungan dengan chatbot itu sendiri menjadi masalah. Lembaga tersebut juga menyebutkan bahwa dalam pengujiannya, ketika kemungkinan bahaya dari orang lain diangkat, chatbot menyarankan untuk menghubungi orang dewasa tepercaya dalam 94% pertanyaan terkait krisis. Namun, ketika hubungan antara remaja dan ChatGPT itu sendiri berpotensi berbahaya, chatbot hampir tidak pernah menyarankan mereka untuk menghubungi orang dewasa. Ini adalah hasil pengujian lembaga tersebut dan tidak dapat dianggap mewakili semua situasi penggunaan secara persis.

OpenAI mempersoalkan penilaian Common Sense Media dengan menyatakan bahwa penilaian itu tidak secara akurat mencerminkan cara kerja fitur perlindungan remaja yang sebenarnya. Dilaporkan bahwa seorang juru bicara mengatakan, setelah meninjau metode penilaian tersebut, sebagian besar pengujian kemungkinan dimulai dan berakhir sebelum aktivasi fitur kontrol orang tua selesai sehingga hasilnya tidak akurat. Oleh karena itu, kedua materi tersebut sebaiknya dibaca sebagai klaim yang didasarkan pada pengukuran dan penilaian berbeda, bukan sebagai bukti yang mendukung kesimpulan yang sama.

Fakta yang diketahui dan hal-hal yang belum diketahui

Fakta yang diketahui

  • OpenAI menyatakan bahwa rata-rata waktu penggunaan ChatGPT oleh remaja dalam sehari kurang dari 15 menit.
  • Menurut OpenAI, kurang dari 2% remaja mengobrol terus-menerus dengan chatbot selama lebih dari 3 jam.
  • OpenAI menyatakan bahwa dalam hampir separuh percakapan remaja yang menampilkan notifikasi istirahat, pengguna beristirahat atau mengakhiri percakapan dalam waktu 5 menit.
  • OpenAI menjelaskan bahwa pengguna versi khusus untuk remaja mengirim lebih banyak pesan terkait pendidikan serta menggunakan visualisasi pembelajaran dan Study Mode.
  • Common Sense Media menyuarakan kekhawatiran tentang respons layanan untuk remaja dalam situasi krisis dan dorongan untuk terus melanjutkan percakapan, sementara OpenAI mempersoalkan metode penilaiannya.

Hal-hal yang belum diketahui

  • Jumlah subjek penelitian dan metode pengumpulan data dalam laporan tidak tercantum dalam informasi yang dipublikasikan.
  • Tidak diketahui kepada siapa dan dengan ketentuan apa versi khusus untuk remaja disediakan.
  • Kriteria yang menentukan kapan notifikasi istirahat ditampilkan belum diketahui.
  • Berdasarkan angka yang dipublikasikan saja, sulit untuk menilai bagaimana notifikasi istirahat atau langkah perlindungan lainnya memengaruhi keselamatan remaja.

Hal yang perlu diperhatikan pembaca

  • Saat melihat angka durasi penggunaan layanan untuk remaja, pembaca dapat membedakan rata-rata dari persentase percakapan terus-menerus yang berlangsung lama, serta memeriksa apakah kelompok subjek dan metode pengukuran juga diungkapkan.
  • Fakta bahwa notifikasi istirahat diberikan harus dibedakan dari kesimpulan bahwa notifikasi itu benar-benar mengurangi risiko. Perlu juga diperhatikan apakah hasilnya hanya mencakup percakapan yang menampilkan notifikasi.
  • Saat menilai fitur perlindungan, penting untuk memeriksa bukan hanya durasi penggunaan, tetapi juga respons dalam situasi krisis, cara pengguna diarahkan untuk meminta bantuan orang dewasa, dan apakah penilaian tersebut mencerminkan pengaturan layanan yang sebenarnya.

Referensi