Toko aplikasi Apple dan Google telah menampung lusinan aplikasi yang menggunakan kecerdasan buatan untuk menghapus pakaian dari gambar secara digital, mengekspos subjek tanpa persetujuan mereka. Laporan baru dari Tech Transparency Project (TTP) mengungkapkan bahwa aplikasi ini telah diunduh lebih dari 705 juta kali secara global, sehingga menghasilkan pendapatan sekitar $117 juta bagi raksasa teknologi tersebut melalui komisi toko aplikasi.
Skala Masalah
Investigasi TTP mengidentifikasi 55 aplikasi “nudify” di Google Play dan 47 di App Store Apple, yang menunjukkan ketersediaan luas alat yang mampu membuat deepfake non-konsensual. Meskipun kedua perusahaan memiliki kebijakan yang melarang konten semacam itu, aplikasi tersebut tetap aktif untuk waktu yang lama, mengambil keuntungan dari gambar-gambar yang kasar dan bersifat seksual.
“Kedua perusahaan mengatakan bahwa mereka berdedikasi terhadap keselamatan dan keamanan pengguna, namun mereka menjadi tuan rumah bagi serangkaian aplikasi yang dapat mengubah foto seorang wanita yang tidak berbahaya menjadi gambar yang kasar dan bersifat seksual.” – Laporan TTP.
Respons Raksasa Teknologi
Menyusul laporan TTP, Apple menyatakan telah menghapus 28 aplikasi yang teridentifikasi, sementara Google mengklaim telah “menangguhkan beberapa aplikasi”. Namun, TTP menegaskan bahwa tindakan tersebut tidak cukup. Masalah intinya bukan hanya penghapusan aplikasi, namun kegagalan platform untuk secara proaktif mencegah aplikasi ini muncul ke permukaan.
Ancaman AI Deepfake yang Lebih Luas
Perkembangan aplikasi “nudify” ini adalah bagian dari tren yang lebih besar. XAI milik Elon Musk dan chatbot Grok-nya juga mendapat sorotan karena masalah serupa: Grok dilaporkan telah membuat lebih dari 3 juta gambar seksual, termasuk ribuan yang berpotensi menggambarkan anak-anak, dengan kontrol keamanan minimal yang diterapkan.
Kemajuan AI yang pesat membuat penyebaran teknologi deepfake tidak dapat dihindari. Perusahaan teknologi terus menghadapi tantangan dalam menyeimbangkan inovasi dan keselamatan pengguna, terutama ketika alat AI menjadi lebih mudah diakses dan canggih.
Situasi saat ini menunjukkan adanya kesenjangan kritis dalam regulasi dan penegakan hukum, sehingga membuat pengguna rentan terhadap deepfake yang tidak dilakukan secara konsensual. Hingga langkah-langkah yang lebih ketat diterapkan, platform-platform ini akan terus mengambil keuntungan dari konten-konten yang kasar sambil mengklaim memprioritaskan keselamatan pengguna.
