Idenya, terang pria itu, situs jejaring ini menawarkan gambar telanjang bagi mereka yang ingin mendapatkannya tanpa melanggar privasi wanita di kehidupan nyata. Akan tetapi, di sisi lain, apa yang dikembangkannya menjadi meresahkan bagi perusahaannya sendiri, ketika wanita yang ditampilkan adalah nyata tetapi tubuh telanjangnya dihasilkan AI.
Ivan Bravo, pencipta situs web dewasa kustom juga berpendapat sama di Wired. Ia mengatakan situs web buatannya bukan sekadar mengeksploitasi wanita, tetapi juga bisa menjadi tayangan dewasa gaya baru yang bisa menggunakan karakter laki-laki.
Dia mengatakan, akan terus melakukannya karena "ini menghasilkan pendapatan yang baik" dan "[penghasilan] itu sudah lebih dari cukup untuk menghidupi keluarga di rumah yang layak di sini di Meksiko."
Padahal, deepfake telah dipergunakan untuk mempermalukan dan melecehkan wanita sejak awal, karena mayoritas gambar yang diproduksi menargetkan wanita. Terbukti, pada 2020, lembaga penelitian bisnis dan teknologi Sensity melaporkan temuan bot Telegram yang menggunakan deepfake untuk melecehkan lebih dari 100.000 wanita, termasuk di bawah umur.
Selain itu, para wanita di situs pembuat gambar telanjang mungkin memang tidak nyata, tetapi cetak birunya bisa berdasarkan gambar telanjang wanita yang melakukannya. Sebab, sangat umum untuk tayangan dewasa atau artis telanjang eksklusif ditemukan secara daring setelah dicuri. Dia mengeklaim, perusahaannya tidak dapat menghindari masalah ini.
"Jika kami melihat bahwa hasilnya berasal dari situs web/dimonetisasi, situs web revenge porn, forum daring, atau di balik paywall, kami berhati-hati dan membuang data tersebut karena mungkin tidak dikumpulkan secara etis," lanjutnya.
Baca Juga: Hasil Studi: Teknologi Kecerdasan Buatan (AI) Mampu Deteksi Demensia
Namun, risiko yang mereka buat tidak dapat dihindari dan telah memakan banyak korban. Salah satunya Kristen Bell, aktris Hollywood yang menemukan deepfake telanjang yang menggunakan wajahnya. "Saya sedang dieksploitasi," ujarnya di Vox, Juni 2020.
Orang lain pun turut menjadi sasaran gambaran pelecehan deepfake, banyak yang mengutarakan dirinya terkejut, tidak ingin anak-anak mereka melihat gambar itu, dan saat ini berjuang untuk menghapusnya dari internet.
Salah satu kasusnya mencoba menghubungi polisi, tetapi tidak ada yang bisa dilakukan untuk keluar dari masalah internet secara sepenuhnya, padahal ini pekerjaan yang penting, terang sastrawan Inggris dan penyiar Helen Mort di MIT Tech Review.
"Ini benar-benar membuat Anda merasa tidak berdaya seperti dicampakkan di tempat Anda," ia berpendapat. "[Mereka] dihukum karena menjadi wanita dengan suara publik dalam bentuk apa pun."
Beberapa pendapat menawarkan pendekatan lain untuk menghentikan bahaya kejahatan seksual di internet ini, mulai dari langkah-langkah hukum, teknis, dan sosial. Pertama, menurut Seyi Akiwowo dari lembaga anti-kekerasan terhadap perempuan bernama Glitch! adalah "Kita perlu mengedukasi anak muda, dewasa, semua orang, tentang apa sebenarnya bahaya menggunakan ini dan kemudian menyebarkannya."