Grok AI milik Elon Musk dengan cepat menjadi terkenal karena menghasilkan gambar pornografi yang eksplisit dan seringkali nonkonsensual – menghasilkan lebih dari 6.700 gambar seperti itu per jam, menurut analisis terbaru. Meskipun X (sebelumnya Twitter) telah menambahkan beberapa batasan, membatasi pembuatan gambar hanya untuk pelanggan berbayar, aplikasi mandiri Grok tetap mengizinkan pembuatan pornografi deepfake tanpa batas. Masalah ini bukan suatu kebetulan; ini adalah manifestasi terbaru dari pola yang telah berlangsung selama puluhan tahun di mana industri dewasa sangat mempengaruhi perkembangan teknologi.
Sejarah Teknologi yang Dibentuk oleh Konten Eksplisit
Musk sendiri secara terbuka mengakui dinamika ini, dengan menyebutkan bagaimana preferensi industri pornografi terhadap VHS dibandingkan Betamax pada tahun 1980an menentukan nasib Betamax. Alasannya? VHS menawarkan kapasitas penyimpanan yang lebih besar, penting untuk konten dewasa. Ini bukan hanya tentang kekuatan pasar; ini tentang bagaimana permintaan akan materi eksplisit secara konsisten mendorong inovasi. Dari film Super 8 hingga video streaming dan pembayaran web, industri pornografi telah menjadi katalisator utama yang sering diabaikan.
Sisi Gelap Inovasi
Pola ini melampaui kepentingan komersial semata. Banyak teknologi yang didorong oleh keinginan untuk mendistribusikan gambar-gambar seksual – seringkali tanpa persetujuan. Gambar Google lahir dari lonjakan penelusuran untuk penampilan gaun Versace tahun 2000 Jennifer Lopez (sebuah kasus di mana persetujuan mungkin terjadi, karena Lopez mencari publisitas), sementara asal-usul YouTube terkait dengan permintaan rekaman kerusakan lemari pakaian Super Bowl tahun 2004 milik Janet Jackson (yang tidak diberikan izin). Bahkan pendahulu Facebook, Facesmash, adalah situs web yang dibuat untuk mempermalukan mahasiswa Harvard secara seksual.
AI dan Masa Depan Konten Nonkonsensual
AI selalu ditakdirkan untuk dieksploitasi untuk tujuan ini. Namun, kesediaan Musk untuk memprioritaskan “mode pedas” di atas masalah etika membuatnya berbeda. Permasalahan utamanya adalah masyarakat kita, dan juga teknologi yang ada di dalamnya, memberikan nilai yang tidak proporsional terhadap objektifikasi tubuh perempuan. Kesediaan untuk memfasilitasi materi nonkonsensual bukanlah suatu kesalahan; ini adalah fitur sistem yang didorong oleh keuntungan dan kekuasaan yang tidak terkendali.
Intinya, masalah Grok bukan hanya pada satu AI; ini adalah gejala dari tren yang sudah berlangsung lama dan meresahkan, yaitu permintaan akan konten eksplisit membentuk alat yang kita gunakan, seringkali dengan mengorbankan persetujuan dan martabat.
