Algoritma Internet Kita Ternyata Punya Bias dalam Kesetaraan Gender

Nationalgeographic.co.id—Internet, walau cuma 'alat', rupanya bukanlah hal yang netral soal memandang realitas, terutama soal gender. Penelitian terkait pengaruh algoritma memengaruhi persepsi kita sudah sejak lama diteliti. Pada April 2016 di jurnal Media Culture & Society, penelitian lain mengungkap bahwa algoritma membentuk realitas sosial.

"Hal itu berpendapat bahwa--mirip dengan konstruksi realitas oleh media massa tradisional--aplikasi seleksi algoritmik otomatis membentuk kehidupan dan realitas sehari-hari, memengaruhi persepsi dunia, dan memengaruhi perilaku," tulis para peneliti.

Terkait internet yang bias gender, secara algoritma, diungkap oleh penelitian terbaru di Proceedings of the National Academy of Sciences (PNAS) pada 12 Juli 2022. Dua peneliti dari New York University (NYU) menjelaskan, pencarian internet yang bias gender berdampak pada mempromosikan bias gender pula pada pengguna. Selain itu juga, dapat berpotensi memengaruhi keputusan untuk merekrut pekerja.

"Ada kekhawatiran yang meningkat bahwa algoritma yang digunakan oleh sistem AI modern menghasilkan keluaran yang diskriminatif, mungkin karena mereka dilatih pada data di mana bias sosial tertanam," kata Madalina Vlasceanu, penulis utama makalah dari Department of Psychology, New York University, AS.

Para ilmuwan sudah lama menyadari tentang dampak algoritma pada AI modern bisa menyebabkan diskriminasi, termasuk gender. Hal itu disebabkan karena data-data yang dipelajari, berdasarkan data di mana bias sosial sudah mendarah daging.

"Akibatnya, penggunaannya oleh manusia dapat mengakibatkan penyebaran, bukan pengurangan, dari perbedaan yang ada," lanjutnya di laman publikasi NYU.

Untuk mengungkapnya, Vlasceanu dan rekan mencoba mengungkap bagaimana tingkat ketidaksetaraan dalam suatu masyarakat, dan bagaimana pengaruhnya pada pola bias di dalam output algoritma.

Mereka mengambil data dari Global Gender Gap Index (GGGI) yang mengungap peringkat ketimpangan gender dari lebih 150 negara tahun 2020. Data ini mewakili angka ketidakestaraan gender dalam partisipasi dan peluang ekonomi, pencapaian pendidikan, kesehatan dan kelangsungan hidup, dan pemberdayaan politik.

Vlasceanu dan tim juga memeriksa beberapa kata kunci yang bisa merujuk probabilitas pada dua gender--laki-laki dan perempuan. Tujuannya adalah menilai kemungkinan bias gender dalam hasil pencarian, atau output algoritmanya. Kata kunci itu berupa hal yang sering diasumsikan sebagai laki-laki dalam bahasa Inggris seperti person (orang), student (siswa), atau human (manusia). 

Pelacakan dilakukan pada beberapa negara. Hasilnya menunjukkan bahwa proporsi gambaran laki-laki yang dihasilkan dari pencarian pada kata kunci, lebih tinggi di negara-negara yang secara gender tidak setara. Temuan itu mengungkap, para peneliti berpendapat, bias gender algoritma mengikuti ketidaksetaraan gender sosial di dunia nyata.

Penelitian algoritma dan gender itu diulangi tiga bulan kemudian untuk memastikan. Mereka mencoba dengan sampel 52 negara. 31 di antaranya sudah diteliti sebelumnya. Hasilnya pun konsisten.

Kemudian Vlasceanu dan rekan menentukan, apakah paparan output algoritma dari hasil mesin pencari dapat membentuk persepsi dan keputusan. Mereka melakukannya dengan serangkaian eksperimen yang melibatkan 400 pria dan wanita di AS.

PROMOTED CONTENT

REKOMENDASI HARI INI

Benarkah Kekaisaran Romawi Timur Runtuh Akibat Wabah dan Iklim?