Dalam laporannya, mereka meninjau 130 perangkat medis berbasis AI yang disetujui oleh U.S. Food and Drug Administration.
Hasilnya, 126 di antaranya hanya menggunakan data dari pasien yang dikumpulkan sebelumnya. Berarti, tidak ada yang dapat mengukur seberapa baik algoritma AI bekerja pada pasien.
Mereka juga menemukan bahwa kurang 13 persen dari hasil kinerja perangkat resmi yang disetujui tersedia untuk masyarakat dapat melaporkan jenis kelamin, gender, atau ras maupun etnisnya.
"Ketika kita mengembangkan teknologi AI untuk perawatan kesehatan, kami ingin pastikan teknologi ini memiliki manfaat luas untuk demografi dan populasi yang beragam," kata James Zou, rekan penulis studi.
Baca Juga: Ketika Robot Sophia Berbicara Tentang Gender dan Kesadaran Diri
Demi tidak adanya kesenjangan maupun diskriminasi yang muncul karena AI, mereka menyarankan agar proses data manusia memasukan seks, dan ras/etnis sebagai variabel biologis.
Mereka juga menyarankan agar lembaga pendidikan kedokteran dapat mengembangkan kurikulumnya untuk meningkatkan kesadaran bagaimana AI bisa menciptakan kesenjangan sosial.
Kemudian perlu juga pendekatan antar disiplin pengetahuan untuk mengurangi bias. Misal, Schielbinger mencontohkan dirinya yang menguasai sains dan gender, dan rekan penelitiannya, Zou, yang ahli di bidang ilmu komputer dan AI biomedis.
"Kami bangga berada di garis depan dalam upaya debias AI dalam kedokteran, semua yang lebih penting mengingat banyak aspek kehidupan manusia lainnya yang pada akhirnya akan berdampak pada AI," Schilebinger berpendapat.
Baca Juga: Kecerdasan Buatan Melampaui Skor Manusia Memainkan Gim Era 80-an