Selasa di Parlemen Denmark. Ruangan itu dipenuhi dengan harapan. Sebuah lembaga baru muncul dari bayang-bayang, siap mengawasi AI untuk anak-anak. Margrethe Vestager berdiri di depan dan tengah. Mantan wakil presiden eksekutif UE ini tidak hanya muncul untuk berfoto. Dia menjadi co-host. Dia menghabiskan satu dekade mengatur Big Tech. Kini dia menyalurkan pengaruh politiknya pada hal yang lebih kecil. Lebih tajam.
Lapangannya? Bayangkan peringkat uji tabrak independen untuk mobil. Anda membeli kendaraan karena tidak meledak di lintasan. Orang tua harus memeriksa AI dengan cara yang sama sebelum membiarkan anak-anak mereka menggunakannya. Setidaknya, tampaknya.
Tapi tunggu. Bagaimana Anda menguji crash chatbot?
Institut belum mengatakannya. Mereka belum menjelaskan mekanismenya. Bisakah Anda benar-benar “menguji crash” suatu algoritma yang terus diperbarui? Yang berperilaku berbeda tergantung konteks? Kondisi standar ditujukan untuk mesin statis, bukan model hidup. Ini adalah pertanyaan-pertanyaan yang berat. Keheningan dari institut itu memekakkan telinga.
Apakah jin itu kembali ke dalam botol?
Orang-orang telah berteriak selama bertahun-tahun. Peneliti. Pendukung keselamatan. Politisi punya waktu untuk melihat kodenya.
Chatbot AI berada di zona abu-abu peraturan. Undang-Undang Layanan Digital UE tidak memberikan dampak yang baik bagi mereka. Undang-Undang Keamanan Online Inggris juga tidak memperhatikan hal tersebut. Pada bulan Juli 2025, Komisi Eropa mengeluarkan pedoman untuk perlindungan anak di bawah umur. Mereka bersifat penasehat. Tidak mengikat. Saran, pada dasarnya.
James P. Steyer, pendiri Common Sense Media, menyatakannya dengan jelas:
“AI mengubah masa kanak-kanak dan remaja, namun kita mengambil keputusan penting… tanpa bukti yang diperlukan.”
Dia menginginkan transparansi. Dia ingin pengujian independen. Mendesak? Tentu saja.
November lalu penilaian risiko turun. Dilakukan bersama Brainstorm Lab Stanford Medicine. Common Sense Media menguji nama-nama besar. ObrolanGPT, Claude, Gemini, Meta AI.
Mereka gagal.
Tidak dalam segala hal. Penanganan bunuh diri dan tindakan menyakiti diri sendiri secara eksplisit telah membaik. Itu adalah sebuah poin. Namun para model tersebut mengabaikan krisis kesehatan mental yang mengintai di baliknya. Tanda-tanda yang jelas. “Remah roti yang terlewat.” Bot mengabaikan tekanan emosional dan fokus pada penjelasan kesehatan fisik. Ini adalah ketidakcocokan. Yang berbahaya.
Lebih buruk lagi, satu laporan menemukan ChatGPT mengirimkan peringatan bunuh diri terlambat lebih dari 24 jam. Dalam krisis yang nyata, satu hari adalah selamanya. Jaring pengamannya berlubang. Yang besar.
Siapa yang membayar piper?
Lembaga ini beroperasi di bawah Common Sense Media. Pendanaan berasal dari gabungan filantropis dan industri. Ya. Perusahaan yang produknya ingin mereka atur.
Antropis, OpenAI Foundation, Pinterest. Mereka menulis ceknya.
Apakah mereka yang mengambil keputusan? Institut mengatakan tidak. Mereka mengklaim independensi editorial penuh. Kebijakan konflik kepentingan menghentikan karyawan atau afiliasi saat ini untuk duduk di dewan direksi. Kedengarannya bersih di atas kertas.
Mereka bahkan berencana mengembalikan alat tersebut kepada industri. Pengembang evaluasi sumber terbuka dapat menjalankan model mereka sendiri. Saling menguntungkan? Atau saling kompromi?
Lihat saja.
