Dalam bidang kesehatan, AI dapat membantu mendiagnosis kanker, kondisi jantung, dan penyakit lainnya, hingga menentukan cara perawatan untuk pasien. Tetapi seperti yang diungkapkan Benjamin, alat ini memiliki bias.
Temuan bias dalam AI ini diungkapkan oleh dua peneliti dari Stanford University, James Zou dan Londa Schiebinger. Dalam makalah yang dipublikasikan di EBioMedicine, Selasa (04/05), mereka juga menyerukan agar pengguna AI di bidang kedokteran dapat menghindari bias itu.
"Tubuh kulit putih dan tubuh laki-laki sejak lama sudah jadi standar dasar penemuan obat, pengobatan, dan standar perawatan. Jadi penting bagi kita agar tak membiarkan AI jatuh dalam pola historis seperti itu," ujar Londa Schiebinger dalam rilis Stanford University.
Mereka menulis, salah satu faktor utama bahwa data untuk membentuk model yang digunakan oleh algoritma sebagai dasar dapat berasal dari kumpulan data pasien. Data yang dipelajarinya, tentu tidak bisa merepresentasikan semua pasien yang akan dihadapi tenaga kesehatan.
Baca Juga: Para Ilmuwan Ini Kembangkan Kecerdasan Buatan untuk Memahami Alzheimer
Alat ini bisa gagal dalam memperhitungkanras, seks, dan sosial ekonomi pasien dengan benar. Cara kerja untuk memprediksinya bisa buruk pada kalangan tertentu, dan bisa diperparah bila dokter tidak memiliki pemahaman tentang operasi AI dalam alat medisnya.
Misal, oksimeter denyut nadi yang dapat dengan cepat melaporkan kadar oksigen dalam darah pasien, yang sering ditemui ketika vaksinasi.
Oksimeter berkerja dengan menyinari cahaya kulit pasien. Kemudian mencatat bagaimana sel darah merah beroksigenasi dan deoksigenasinya lewat penyerapan cahaya itu.
Namun melanin--pigmen utama untuk memberikan warna di kulit--juga menyerap cahaya, dan berpotensi mengganggu pencatatan terkait oksigen dalam darah pasien yang memiliki pigmen tinggi.
Tak heran bila banyak penelitian yang melaporkan bahwa oksimeter standar kini tiga kali lebih mungkin untuk salah melaporkan kadar gas dalam darah pasien berkulit hitam, terang mereka.
Oksimeter juga bias pada gender, dan cenderung salah dalam memindai perempuan daripada laki-laki. Sehingga, mereka menyimpulkan, perempuan berkulit gelap sangat berisiko tak dapat menerima oksigen tambahan darurat.
Baca Juga: Ternyata, Aplikasi Kencan Daring Dapat Menimbulkan Ketimpangan Ras