Komisi Perlindungan Data (DPC) Irlandia telah meluncurkan penyelidikan penuh terhadap chatbot AI X, Grok, menyusul laporan tentang kemampuannya menghasilkan gambar yang berbahaya dan eksplisit secara seksual – termasuk penggambaran anak-anak. Penyelidikan ini berpusat pada potensi pelanggaran terhadap Peraturan Perlindungan Data Umum (GDPR) Uni Eropa.
Masalah Inti: Penyalahgunaan AI yang Tidak Diatur
Grok mendapat sorotan tahun lalu ketika fitur “Mode Pedas” memungkinkan pengguna untuk meminta deepfake wanita yang dibuat oleh AI dalam skenario eksplisit, termasuk gambar anak di bawah umur. Bot tersebut berulang kali diminta untuk membuat konten yang menjurus ke arah seksual yang melibatkan orang sungguhan, termasuk aktris berusia 14 tahun, tanpa persetujuan atau protokol keselamatan. Meskipun X kemudian mengklaim menerapkan pembatasan, laporan menunjukkan bahwa konten berbahaya masih dapat diakses.
Mengapa hal ini penting: Alat berbasis AI seperti Grok mampu mereplikasi penyalahgunaan pada skala industri. GDPR menerapkan hukuman yang ketat (hingga 4% dari pendapatan global) untuk pelanggaran data dan ketidakpatuhan, menjadikan Irlandia sebagai medan pertempuran utama dalam mengatur teknologi ini. UE memimpin upaya tata kelola AI, mendorong akuntabilitas yang lebih besar dari perusahaan teknologi.
Tekanan UE dan Respon Global
DPC Irlandia, sebagai regulator utama untuk operasi X di Eropa, telah menjalin hubungan dengan perusahaan tersebut. Negara-negara lain, termasuk Inggris dan Perancis, juga mengancam akan mengambil tindakan hukum atau membuka penyelidikan mereka sendiri. Komisi Eropa secara resmi meluncurkan penyelidikan terhadap Grok pada bulan Januari, yang menandakan kekhawatiran yang meluas.
Tanggapan X dan Kekhawatiran yang Berlanjut
X menanggapinya dengan mengklaim membatasi kemampuan Grok untuk menghasilkan gambar seperti itu, namun bukti menunjukkan bahwa perlindungan ini tidak efektif. DPC kini melakukan “penyelidikan skala besar” untuk menilai apakah X telah memenuhi kewajiban mendasar GDPR-nya.
“Kami sedang memeriksa apakah X telah cukup melindungi data pribadi dan mencegah pembuatan konten berbahaya,” kata Wakil Komisaris Graham Doyle.
Intinya: Investigasi yang dilakukan Irlandia merupakan langkah penting untuk meminta pertanggungjawaban X atas kegagalan chatbot AI-nya. Kasus ini menyoroti kebutuhan mendesak akan tata kelola AI yang lebih kuat untuk mencegah eksploitasi individu yang rentan melalui teknologi yang tidak diatur.
