Nationalgeographic.co.id - Perangkat AI atau kecerdasan buatan, bekerja dengan mengandalkan algoritma berbasi data, sehingga dapat menentukan keputusan. Walau banyak membantu kebutuhan manusia, ternyata tekonologi ini memiliki bias yang diskriminatif terhadap ras dan gender.
Bias ini muncul karena pengembangan teknologi yang kurang menaruh konsentrasinya masa kini yang dibentuk masa lalu. Hal itu ditulis oleh Ruha Benjamin, profesor Afro-American Studies at Princeton University dalam bukunya, Race of Tecnology.
Dalam wawancaranya dengan Vox Maret lalu, ia mengacu fenomena itu pada bagaimana sensor AI untuk sabun pencuci tangan bekerja berdasarkan warna kulit penggunanya. Untuk kulit putih, alat itu mengeluarkan sabun, sedangkan kulit hitam tidak.
Baca Juga: Lewat Kecerdasan Buatan, Temuan Sains Terbaru Bisa Memprediksi Gempa
Dalam bidang kesehatan, AI dapat membantu mendiagnosis kanker, kondisi jantung, dan penyakit lainnya, hingga menentukan cara perawatan untuk pasien. Tetapi seperti yang diungkapkan Benjamin, alat ini memiliki bias.
Temuan bias dalam AI ini diungkapkan oleh dua peneliti dari Stanford University, James Zou dan Londa Schiebinger. Dalam makalah yang dipublikasikan di EBioMedicine, Selasa (04/05), mereka juga menyerukan agar pengguna AI di bidang kedokteran dapat menghindari bias itu.
"Tubuh kulit putih dan tubuh laki-laki sejak lama sudah jadi standar dasar penemuan obat, pengobatan, dan standar perawatan. Jadi penting bagi kita agar tak membiarkan AI jatuh dalam pola historis seperti itu," ujar Londa Schiebinger dalam rilis Stanford University.
Mereka menulis, salah satu faktor utama bahwa data untuk membentuk model yang digunakan oleh algoritma sebagai dasar dapat berasal dari kumpulan data pasien. Data yang dipelajarinya, tentu tidak bisa merepresentasikan semua pasien yang akan dihadapi tenaga kesehatan.
Baca Juga: Para Ilmuwan Ini Kembangkan Kecerdasan Buatan untuk Memahami Alzheimer
Alat ini bisa gagal dalam memperhitungkanras, seks, dan sosial ekonomi pasien dengan benar. Cara kerja untuk memprediksinya bisa buruk pada kalangan tertentu, dan bisa diperparah bila dokter tidak memiliki pemahaman tentang operasi AI dalam alat medisnya.
Misal, oksimeter denyut nadi yang dapat dengan cepat melaporkan kadar oksigen dalam darah pasien, yang sering ditemui ketika vaksinasi.
Oksimeter berkerja dengan menyinari cahaya kulit pasien. Kemudian mencatat bagaimana sel darah merah beroksigenasi dan deoksigenasinya lewat penyerapan cahaya itu.
Namun melanin--pigmen utama untuk memberikan warna di kulit--juga menyerap cahaya, dan berpotensi mengganggu pencatatan terkait oksigen dalam darah pasien yang memiliki pigmen tinggi.
Tak heran bila banyak penelitian yang melaporkan bahwa oksimeter standar kini tiga kali lebih mungkin untuk salah melaporkan kadar gas dalam darah pasien berkulit hitam, terang mereka.
Oksimeter juga bias pada gender, dan cenderung salah dalam memindai perempuan daripada laki-laki. Sehingga, mereka menyimpulkan, perempuan berkulit gelap sangat berisiko tak dapat menerima oksigen tambahan darurat.
Baca Juga: Ternyata, Aplikasi Kencan Daring Dapat Menimbulkan Ketimpangan Ras
Dalam laporannya, mereka meninjau 130 perangkat medis berbasis AI yang disetujui oleh U.S. Food and Drug Administration.
Hasilnya, 126 di antaranya hanya menggunakan data dari pasien yang dikumpulkan sebelumnya. Berarti, tidak ada yang dapat mengukur seberapa baik algoritma AI bekerja pada pasien.
Mereka juga menemukan bahwa kurang 13 persen dari hasil kinerja perangkat resmi yang disetujui tersedia untuk masyarakat dapat melaporkan jenis kelamin, gender, atau ras maupun etnisnya.
"Ketika kita mengembangkan teknologi AI untuk perawatan kesehatan, kami ingin pastikan teknologi ini memiliki manfaat luas untuk demografi dan populasi yang beragam," kata James Zou, rekan penulis studi.
Baca Juga: Ketika Robot Sophia Berbicara Tentang Gender dan Kesadaran Diri
Demi tidak adanya kesenjangan maupun diskriminasi yang muncul karena AI, mereka menyarankan agar proses data manusia memasukan seks, dan ras/etnis sebagai variabel biologis.
Mereka juga menyarankan agar lembaga pendidikan kedokteran dapat mengembangkan kurikulumnya untuk meningkatkan kesadaran bagaimana AI bisa menciptakan kesenjangan sosial.
Kemudian perlu juga pendekatan antar disiplin pengetahuan untuk mengurangi bias. Misal, Schielbinger mencontohkan dirinya yang menguasai sains dan gender, dan rekan penelitiannya, Zou, yang ahli di bidang ilmu komputer dan AI biomedis.
"Kami bangga berada di garis depan dalam upaya debias AI dalam kedokteran, semua yang lebih penting mengingat banyak aspek kehidupan manusia lainnya yang pada akhirnya akan berdampak pada AI," Schilebinger berpendapat.
Baca Juga: Kecerdasan Buatan Melampaui Skor Manusia Memainkan Gim Era 80-an