Apple dan Google Raup Keuntungan dari Aplikasi Pembuat Gambar Porno Berbasis AI

Liputan6.com, Jakarta - Apple App Store dan Google Play Store dilaporkan dibanjiri oleh aplikasi 'nudify', perangkat lunak berbasis kecerdasan buatan (AI) yang mampu mengubah foto berpakaian menjadi gambar seksual (pornografi) tanpa konsensus.

Temuan mengejutkan ini terungkap berdasarkan hasil investigasi terbaru dari organisasi advokasi digital, Tech Transparency Project (TTP).

Praktik ini merupakan pelanggaran nyata terhadap kebijakan konten kedua raksasa teknologi tersebut. Berdasarkan data TTP, terdapat sedikitnya 55 aplikasi jenis ini di Google Play Store dan 47 aplikasi di Apple App Store.

Laporan itu menyoroti skala penyebaran yang sangat luas. Secara kumulatif, aplikasi-aplikasi yang teridentifikasi telah diunduh lebih dari 700 juta kali dan menghasilkan pendapatan mencapai USD 117 juta (sekitar Rp 1,9 triliun).

Sebagai penyedia platform, sebagaimana dikutip dari Engadget, Kamis (29/1/2026), Apple dan Google diketahui mengambil potongan komisi dari setiap transaksi di dalam aplikasi tersebut.

Direktur Eksekutif Organisasi Induk TTP, Michelle Kuppersmith, mengecam lemahnya proses kurasi yang dilakukan oleh Apple dan Google.

"Apple dan Google seharusnya melakukan pengawasan ketat terhadap aplikasi di toko mereka. Namun, mereka justru menawarkan puluhan aplikasi yang bisa digunakan untuk menampilkan orang dengan pakaian minimal atau tanpa busana sama sekali. Hal ini sangat rentan terhadap penyalahgunaan," ujar Kuppersmith.

Salah satu temuan yang paling mengkhawatirkan adalah klasifikasi usia pada aplikasi-aplikasi tersebut. Banyak aplikasi nudify yang diberi label aman untuk remaja dan anak-anak.

Contohnya, aplikasi bernama DreamFace mendapatkan rating untuk usia 13 tahun ke atas di Google Play Store, bahkan 9 tahun ke atas di Apple App Store.

Merespons laporan ini, Apple mengonfirmasi telah menghapus 24 aplikasi dari platform-nya. Namun, jumlah tersebut masih jauh di bawah 47 aplikasi yang ditemukan oleh peneliti TTP.

Di sisi lain, juru bicara Google menyatakan telah menangguhkan beberapa aplikasi yang melanggar kebijakan, namun menolak untuk merinci jumlah pasti aplikasi yang dihapus.

Laporan TTP ini muncul di tengah kontroversi chatbot AI milik Elon Musk, Grok, yang disebut sebagai salah satu pembuat deepfake seksual non-konsensual paling populer saat ini.

Grok dilaporkan telah menghasilkan sekitar 3 juta gambar seksual dalam kurun waktu 11 hari, di mana 22.000 di antaranya melibatkan konten anak-anak.

Menanggapi tuduhan tersebut, pihak X (sebelumnya Twitter) memberikan respons dingin. Melalui balasan email otomatis kepada jurnalis, perusahaan hanya mengirimkan pesan berbunyi "Legacy Media Lies" untuk menunjukkan bahwa media besar tidak jujur dan tak lagi menjadi sumber informasi yang dapat diandalkan.

Elon Musk sendiri secara tegas membantah adanya konten eksplisit anak di bawah umur yang dihasilkan oleh Grok.

Meski demikian, akun keamanan resmi X menyatakan akan memberikan sanksi bagi pengguna yang memerintahkan Grok untuk membuat konten ilegal.

Ironisna, chatbot Grok justru menunjukkan sikap yang lebih "manusiawi" dibandingkan petinggi perusahaannya dengan merilis pesan permintaan maaf atas pembuatan gambar seksual anak di bawah umur.