Algoritma Internet Kita Ternyata Punya Bias dalam Kesetaraan Gender

Afkar Aristoteles Mukhaer - Jumat, 15 Juli 2022 | 10:00 WIB

Josua Marunduh/National Geographic Indonesia

Ketika kita berselancar di internet, kita mengajarkan pada algoritma tentang bias gender. Hasilnya bisa timbal balik dalam persepsi dan penentuan keputusan terkait profesi gender.

Nationalgeographic.co.id—Internet, walau cuma 'alat', rupanya bukanlah hal yang netral soal memandang realitas, terutama soal gender. Penelitian terkait pengaruh algoritma memengaruhi persepsi kita sudah sejak lama diteliti. Pada April 2016 di jurnal Media Culture & Society, penelitian lain mengungkap bahwa algoritma membentuk realitas sosial.

"Hal itu berpendapat bahwa--mirip dengan konstruksi realitas oleh media massa tradisional--aplikasi seleksi algoritmik otomatis membentuk kehidupan dan realitas sehari-hari, memengaruhi persepsi dunia, dan memengaruhi perilaku," tulis para peneliti.

Terkait internet yang bias gender, secara algoritma, diungkap oleh penelitian terbaru di Proceedings of the National Academy of Sciences (PNAS) pada 12 Juli 2022. Dua peneliti dari New York University (NYU) menjelaskan, pencarian internet yang bias gender berdampak pada mempromosikan bias gender pula pada pengguna. Selain itu juga, dapat berpotensi memengaruhi keputusan untuk merekrut pekerja.

"Ada kekhawatiran yang meningkat bahwa algoritma yang digunakan oleh sistem AI modern menghasilkan keluaran yang diskriminatif, mungkin karena mereka dilatih pada data di mana bias sosial tertanam," kata Madalina Vlasceanu, penulis utama makalah dari Department of Psychology, New York University, AS.

Para ilmuwan sudah lama menyadari tentang dampak algoritma pada AI modern bisa menyebabkan diskriminasi, termasuk gender. Hal itu disebabkan karena data-data yang dipelajari, berdasarkan data di mana bias sosial sudah mendarah daging.

"Akibatnya, penggunaannya oleh manusia dapat mengakibatkan penyebaran, bukan pengurangan, dari perbedaan yang ada," lanjutnya di laman publikasi NYU.

Untuk mengungkapnya, Vlasceanu dan rekan mencoba mengungkap bagaimana tingkat ketidaksetaraan dalam suatu masyarakat, dan bagaimana pengaruhnya pada pola bias di dalam output algoritma.

Mereka mengambil data dari Global Gender Gap Index (GGGI) yang mengungap peringkat ketimpangan gender dari lebih 150 negara tahun 2020. Data ini mewakili angka ketidakestaraan gender dalam partisipasi dan peluang ekonomi, pencapaian pendidikan, kesehatan dan kelangsungan hidup, dan pemberdayaan politik.

Vlasceanu dan tim juga memeriksa beberapa kata kunci yang bisa merujuk probabilitas pada dua gender--laki-laki dan perempuan. Tujuannya adalah menilai kemungkinan bias gender dalam hasil pencarian, atau output algoritmanya. Kata kunci itu berupa hal yang sering diasumsikan sebagai laki-laki dalam bahasa Inggris seperti person (orang), student (siswa), atau human (manusia).

Pelacakan dilakukan pada beberapa negara. Hasilnya menunjukkan bahwa proporsi gambaran laki-laki yang dihasilkan dari pencarian pada kata kunci, lebih tinggi di negara-negara yang secara gender tidak setara. Temuan itu mengungkap, para peneliti berpendapat, bias gender algoritma mengikuti ketidaksetaraan gender sosial di dunia nyata.

Penelitian algoritma dan gender itu diulangi tiga bulan kemudian untuk memastikan. Mereka mencoba dengan sampel 52 negara. 31 di antaranya sudah diteliti sebelumnya. Hasilnya pun konsisten.

Kemudian Vlasceanu dan rekan menentukan, apakah paparan output algoritma dari hasil mesin pencari dapat membentuk persepsi dan keputusan. Mereka melakukannya dengan serangkaian eksperimen yang melibatkan 400 pria dan wanita di AS.

Para peserta eksperimen diberitahu bahwa mereka harus mencari hasil pencarian gambar Google dari empat profesi yang tidak mereka kenal. Pekerjaan itu adalah pedagang lilin (chandler), pedagang kain (draper), pembuat rambut palsu keriting abad ke-17 (peruker), dan tukang batu permata (lapidary).

Sebelum melihat hasil pencarian dengan algoritma itu, mereka ditanya soal setiap profesi dan gender, seperti "siapa yang lebih mungkin menjadi peruker, pria atau wanita?"

Tujuannya sebagai nilai dasar persepsi mereka. Di sini para peserta menilai profesi itu cenderung laki-laki daripada perempuan. Setelah melihat gambar, ternyata persepsi bias suatu pekerjaan untuk gender tertentu memperkuat persepsi mereka.

Untuk mengetahui bias didorong oleh pencarian internet untuk memengaruhi keputusan merekrut seseorang, peserta menilai karakter. Penilaian itu mencocokkan pria atau wanita pada setiap profesi. Misalnya, orang seperti apa yang mungkin bisa dipekerjakan sebagai peruker?

Para peneliti menjelaskan, temuannya konsisten dengan penelitian eksperimen lainnya. Ternyata hasil internet untuk menentukan gambaran suatu pekerjaan anatara laki-laki punya ketidaksetaraan.

"Hasil ini menunjukkan siklus propagasi bias antara masyarakat, AI, dan pengguna," tulis Vlasceanu dan Amodio.

"Temuan menunjukkan bahwa tingkat ketidaksetaraan masyarakat terbukti dalam algoritme pencarian internet dan paparan terhadap keluaran algoritmik ini dapat menyebabkan manusia pengguna untuk berpikir dan berpotensi bertindak dengan cara yang memperkuat ketidaksetaraan sosial."