NUSA TENGGARA BARAT — San Francisco City Attorney David Chiu mengirimkan surat resmi kepada Apple dan Google, menuntut kedua perusahaan segera menarik puluhan aplikasi 'nudify' dari toko aplikasi mereka. Aplikasi jenis ini menggunakan kecerdasan buatan (AI) untuk mengubah foto seseorang secara digital sehingga tampak telanjang, tanpa persetujuan orang yang difoto.
Tindakan hukum ini didasarkan pada undang-undang California yang mengkriminalisasi aktivitas yang "sengaja memfasilitasi" atau "secara gegabah membantu" pembuatan deepfake pornografi non-konsensual. Pada 2025, California juga mengesahkan undang-undang yang memungkinkan korban menuntut secara perdata pihak ketiga yang memfasilitasi materi semacam itu.
Dua Laporan Sebelum Tuntutan Dilayangkan
Menurut surat yang dilihat TechCrunch, Apple dan Google sebenarnya sudah "diperingatkan" sejak hampir setahun lalu terkait peran mereka dalam "memproses pembayaran untuk pembelian ilegal." Namun, keduanya disebut tetap melanjutkan praktik tersebut.
Pada Januari dan April lalu, Tech Transparency Project (TTP) merilis laporan dan mengirimkan surat ke kedua perusahaan. Laporan itu menemukan "puluhan aplikasi" di App Store dan Google Play yang "menjual deepfake NCII (non-consensual intimate images) dengan imbalan pembayaran" yang diproses oleh Apple dan Google.
Laporan TTP edisi April bahkan menyebut Google dan Apple sengaja "mengarahkan" pengguna menuju aplikasi-aplikasi tersebut. Kedua perusahaan disebut sebagai "partisipan kunci dalam penyebaran alat AI yang bisa mengubah orang sungguhan menjadi gambar seksual."
Apple dan Google Bisa Didenda Jutaan Dolar
David Chiu menyatakan dalam pernyataan email ke TechCrunch: "Apple dan Google meraup untung dari aplikasi yang mengeksploitasi wanita dan anak perempuan dengan menghasilkan deepfake intim non-konsensual."
Chiu juga mengatakan kepada Wired bahwa kedua perusahaan kemungkinan telah meraup "jutaan dolar dalam bentuk biaya" dari aplikasi yang menawarkan layanan semacam itu. Surat dari kantor Chiu memperingatkan bahwa Apple dan Google bisa menghadapi sanksi perdata karena melanggar hukum, dan meminta mereka menghubungi kota dalam waktu 28 hari.
Tanggapan Apple dan Google
Juru bicara Apple mengatakan kepada TechCrunch bahwa aplikasi nudify dilarang muncul di App Store. "Kami telah menghapus tiga aplikasi yang dimaksud dan sedang dalam proses menghentikan akun pengembang mereka dari program kami. Kami juga sedang berhubungan dengan empat aplikasi lain yang harus mengatasi pelanggaran kebijakan atau berisiko dihapus," kata juru bicara tersebut.
Sementara itu, juru bicara Google mengklaim kelima aplikasi Play yang disebut dalam surat Chiu telah ditangguhkan dari Google Play. "Ketika pelanggaran dilaporkan kepada kami, kami menyelidiki dan mengambil tindakan cepat, yang dalam kasus aplikasi ini termasuk menangguhkan ratusan aplikasi yang melanggar dan membatasi istilah pencarian terkait seperti 'nudify' di toko kami," tambah juru bicara Google.
Dampak bagi Korban Deepfake
Deepfake pornografi selama ini sebagian besar menjadi masalah bagi selebriti perempuan. Namun, aplikasi nudify membuat siapa pun yang memiliki foto yang tersedia untuk publik bisa menjadi sasaran. Dengan adanya perintah dari San Francisco ini, diharapkan praktik ilegal ini bisa ditekan dan korban mendapatkan perlindungan hukum yang lebih baik.
