Ada Situs AI Bisa Bikin Foto Telanjang Palsu, Bagaimana Etikanya?

Nationalgeographic.co.id - Jika Anda pernah melihat situs deepfake, di mana Anda bisa membuat foto bisa bergerak, biasanya digunakan untuk mengobati rasa rindu kepada kerabat yang sudah meninggal supaya terlihat hidup kembali.

Namun, perkembangan teknologi deepfake justru melahirkan situs internet—yang tidak bisa kami sebutkan namanya demi kenyamanan berinternet—yang mampu membuat gambar wanita telanjang dengan kecerdasan buatan (AI) sejak 2019.

Bahkan, dalam beberapa bulan di tahun 2020, situs itu memperluas layanannya untuk menghasilkan uang bagi mitra yang membuat karakter telanjang. Mereka pun secara digital memiliki fitur 'menghapus' pakaian dari foto non-telanjang untuk membuat tayangan dewasa non-konsensual.

Berdasarkan analisis pengunjung di SimilarWeb, situs itu memiliki 50 juta pengunjung sejak Januari hingga akhir Oktober 2021. Pengunjungnya memuncak pada Agustus 2021 dengan 6,92 juta pengunjung, dan pembuat situs mengeklaim ada "ratusan ribu" gambar yang telah diunggah per harinya.

Baca Juga: Mata Robot Kembangan MIT Ini Bisa Melihat dan Analisis Seperti Manusia

Mengutip Wired, pengunjung mereka turun setengahnya pada Oktober 2021 setelah mendapatkan perhatian media, yang disebabkan hostingnya offline dan mata uang kripto Coinbase (COIN) menangguhkan akun pembayarannya.

Namun, pembuatnya yang misterius itu menyatakan algoritmanya diperbarui beberapa kali, dan versi ketiganya akan dirilis awal tahun ini. Dia mengeklaim, versi terbaru mendatang akan memungkinkan orang untuk "memanipulasi atribut target seperti ukuran payudara, dan rambut kemaluan."

Pria anonim yang merupakan co-founder situs ini kepada Vice mengatakan, situs ini menggunakan algoritma yang disebut Generative Adversarial Network (GAN) untuk menghasilkan konten telanjang.

Mayoritas dari gambar yang dihasilkan teknologi ini adalah perempuan berkulit putih berusia 20 hinga 40 tahun. Kemudian, kecerdasan buatan dilatih pada banyak foto wanita telanjang sehingga dapat menghasilkan versi baru dan unik dari apa yang telah dipelajarinya supaya terlihat seperti manusia.

"Itu bukan karena pilihan apa pun berada di pihak kami, tetapi hanya karena itulah bagaimana kumpulan data yang diklasifikasikan dengan baik akhirnya tertuang," terangnya.

Baca Juga: Pencegahan Kepunahan Massal di Lautan Dengan AI, Robot, dan Printer 3D

"Kami sangat berhati-hati untuk hanya menggunakan domain publik atau membeli sumber data dari penyedia server terkemuka. Sementara kami akan menambahkan laki-laki di masa depan, kenyataannya tidak banyak permintaan untuk gambar telanjang laki-laki." Berdasarkan pantauan, memang sudah ada beberapa foto laki-laki, tetapi jumlahnya sangat sedikit dibandingkan foto perempuan.

Idenya, terang pria itu, situs jejaring ini menawarkan gambar telanjang bagi mereka yang ingin mendapatkannya tanpa melanggar privasi wanita di kehidupan nyata. Akan tetapi, di sisi lain, apa yang dikembangkannya menjadi meresahkan bagi perusahaannya sendiri, ketika wanita yang ditampilkan adalah nyata tetapi tubuh telanjangnya dihasilkan AI.

Ivan Bravo, pencipta situs web dewasa kustom juga berpendapat sama di Wired. Ia mengatakan situs web buatannya bukan sekadar mengeksploitasi wanita, tetapi juga bisa menjadi tayangan dewasa gaya baru yang bisa menggunakan karakter laki-laki.

Dia mengatakan, akan terus melakukannya karena "ini menghasilkan pendapatan yang baik" dan "[penghasilan] itu sudah lebih dari cukup untuk menghidupi keluarga di rumah yang layak di sini di Meksiko."

Padahal, deepfake telah dipergunakan untuk mempermalukan dan melecehkan wanita sejak awal, karena mayoritas gambar yang diproduksi menargetkan wanita. Terbukti, pada 2020, lembaga penelitian bisnis dan teknologi Sensity melaporkan temuan bot Telegram yang menggunakan deepfake untuk melecehkan lebih dari 100.000 wanita, termasuk di bawah umur. 

Selain itu, para wanita di situs pembuat gambar telanjang mungkin memang tidak nyata, tetapi cetak birunya bisa berdasarkan gambar telanjang wanita yang melakukannya. Sebab, sangat umum untuk tayangan dewasa atau artis telanjang eksklusif ditemukan secara daring setelah dicuri. Dia mengeklaim, perusahaannya tidak dapat menghindari masalah ini.

"Jika kami melihat bahwa hasilnya berasal dari situs web/dimonetisasi, situs web revenge porn, forum daring, atau di balik paywall, kami berhati-hati dan membuang data tersebut karena mungkin tidak dikumpulkan secara etis," lanjutnya. 

Baca Juga: Hasil Studi: Teknologi Kecerdasan Buatan (AI) Mampu Deteksi Demensia

Namun, risiko yang mereka buat tidak dapat dihindari dan telah memakan banyak korban. Salah satunya Kristen Bell, aktris Hollywood yang menemukan deepfake telanjang yang menggunakan wajahnya. "Saya sedang dieksploitasi," ujarnya di Vox, Juni 2020.

Orang lain pun turut menjadi sasaran gambaran pelecehan deepfake, banyak yang mengutarakan dirinya terkejut, tidak ingin anak-anak mereka melihat gambar itu, dan saat ini berjuang untuk menghapusnya dari internet.

Salah satu kasusnya mencoba menghubungi polisi, tetapi tidak ada yang bisa dilakukan untuk keluar dari masalah internet secara sepenuhnya, padahal ini pekerjaan yang penting, terang sastrawan Inggris dan penyiar Helen Mort di MIT Tech Review.

"Ini benar-benar membuat Anda merasa tidak berdaya seperti dicampakkan di tempat Anda," ia berpendapat. "[Mereka] dihukum karena menjadi wanita dengan suara publik dalam bentuk apa pun."

Beberapa pendapat menawarkan pendekatan lain untuk menghentikan bahaya kejahatan seksual di internet ini, mulai dari langkah-langkah hukum, teknis, dan sosial. Pertama, menurut Seyi Akiwowo dari lembaga anti-kekerasan terhadap perempuan bernama Glitch! adalah "Kita perlu mengedukasi anak muda, dewasa, semua orang, tentang apa sebenarnya bahaya menggunakan ini dan kemudian menyebarkannya."

Baca Juga: AI Temukan Genom 'Hantu' yang Berasal dari Nenek Moyang Misterius

Lalu Mikiba Morehead, peneliti seksual dunia maya dan seorang konsultan manajemen risiko berpendapat teknologi juga bisa menghentikan penyebarannya. Caranya mencakup pengguna identifikasi, penandaan lewat algoritma, yang selanjutnya bisa melaporkan materi deepfake. 

Dari segi hukum, ada banyak tantangan yang signifikan untuk menghadapinya, terang Honza Červenka, pengacara spesialis teknologi dan gambar non-konsensual. Perlu ada hukum yang jelas terkait hak cipta, gugatan privasi, dan lisensi artistik yang dapat digunakan untuk menghapus gambar dari web.

"Semakin lama kekosongan peraturan ini berlanjut, semakin banyak inisiatif seperti ini akan semakin cepat, akan menjadi industri, dan akan menjadi lebih sulit untuk diatur pada tahap selanjutnya," jelasnya di Wired.

Yang paling rumit, jika industri deepfake tayangan dewasa makin menjadi, akan menjadi sulit atau tidak mungkin untuk melacak dan mengadili pembuat teknologi yang menyalahgunakan dan mendistribusikannya.

Perlu ada peraturan interansional pula terkait dunia maya, karena bisa saja pembuatnya, misalnya, berbasis di negara-negara Asia tidak bisa dituntut di Amerika Serikat atau Inggris Raya tanpa ekstradisi.

PROMOTED CONTENT