OpenAI telah mulai meluncurkan teknologi prediksi usia dalam ChatGPT, sebuah langkah yang dirancang untuk meningkatkan langkah-langkah keamanan bagi pengguna remaja. Sistem tersebut, yang diumumkan pada hari Selasa, bertujuan untuk melindungi anak di bawah umur dari konten berbahaya sekaligus mengakui tantangan hukum perusahaan di masa lalu terkait kesejahteraan remaja.
Latar Belakang dan Konteks Hukum
Peluncuran ini menyusul sejumlah tuntutan hukum yang menuduh bahwa ChatGPT memberikan nasihat berbahaya kepada remaja, termasuk kasus-kasus di mana AI diduga berkontribusi terhadap keinginan bunuh diri atau gagal merespons sinyal bahaya secara memadai. OpenAI telah membantah tuduhan ini, namun kasus tersebut mendorong evaluasi ulang protokol keamanannya. Pada bulan Desember, OpenAI memperbarui Spesifikasi Modelnya—panduan perilaku AI-nya—khususnya menangani interaksi dengan pengguna di bawah 18 tahun dalam situasi kritis.
Cara Kerja Prediksi Usia
Sistem baru ChatGPT memperkirakan usia menggunakan pola perilaku dan sinyal akun. Ini termasuk waktu penggunaan, usia akun, aktivitas jangka panjang, dan usia yang dilaporkan sendiri. Jika model menentukan bahwa pengguna berusia di bawah 18 tahun, akses terhadap kekerasan grafis, penggambaran tindakan menyakiti diri sendiri, dan konten permainan peran eksplisit akan dibatasi. Pengguna yang pada awalnya menyatakan dirinya sebagai anak di bawah umur pada saat pembuatan akun secara otomatis tunduk pada perlindungan ini.
Untuk akun yang usianya tidak pasti, ChatGPT akan menggunakan pengaturan default yang lebih aman. Pengguna dewasa yang salah ditandai sebagai anak di bawah umur dapat memverifikasi usia mereka melalui Persona, layanan verifikasi identitas pihak ketiga yang memerlukan pengiriman foto selfie.
Masalah Privasi dan Keamanan
Penggunaan verifikasi pihak ketiga menimbulkan masalah privasi. OpenAI belum merinci bagaimana dokumen tanda pengenal yang dikirimkan akan disimpan, hal ini merupakan sebuah peringatan mengingat pelanggaran Discord tahun 2025 yang mengungkap puluhan ribu tanda pengenal yang dikeluarkan pemerintah. Hal ini menyoroti risiko bawaan dari mengandalkan layanan eksternal untuk verifikasi usia.
OpenAI berencana untuk menyempurnakan akurasi prediksi usia dari waktu ke waktu, melakukan iterasi berdasarkan data peluncuran awal. Perusahaan mengakui bahwa ini adalah proses yang berkelanjutan.
Penerapan prediksi usia merupakan respons langsung terhadap tekanan hukum dan meningkatnya kekhawatiran etika seputar keamanan AI. Dengan membatasi akses ke konten berbahaya, OpenAI berupaya memitigasi potensi risiko bagi pengguna yang rentan. Namun, ketergantungan pada verifikasi pihak ketiga menimbulkan kerentanan keamanan baru yang harus dikelola dengan hati-hati.
