Kita. Dan Mereka

Mari kita perhatikan tolok ukur “nilai moral intrinsik”—apakah kita menganggap robot layak menerima perlakuan baik dan adil yang secara alami kita berikan kepada orang lain. Kahn meminta anak-anak dan remaja memainkan permainan tebak-tebakan dengan robot kecil mungil bernama Robovie. Setelah permainan berlangsung beberapa babak, seorang peneliti secara tiba-tiba menyela ketika tiba giliran Robovie untuk menebak, mengatakan kepada si robot bahwa sudah tiba waktunya dia disimpan dalam lemari. Robovie melancarkan protes, menyatakan tindakan itu tidak adil karena dia tidak diizinkan meneruskan permainan, padahal saat itu gilirannya main.
!break!

“Kamu ‘kan hanya robot. Tidak ada bedanya,” jawab si peneliti. Robovie terus melancarkan protes dengan sedih saat dia didorong pergi. “Lebih dari separuh orang yang kami uji mengatakan bahwa mereka sependapat dengan Robovie, dan ini tanggapan moral,” kata Kahn.

Bahwa manusia, terutama anak-anak, dapat berempati kepada robot yang diperlakukan tidak adil mungkin tidak terlalu mengherankan—anak-anak juga menunjukkan perasaan yang sama terhadap boneka dan tokoh cerita pahlawan. Bagi robot itu sendiri, agar mampu mengambil keputusan berdasarkan berbagai kemungkinan situasi, tampaknya masih membutuhkan waktu lama. Akankah kita bisa membuat mesin yang memiliki hati nurani, yang boleh dikatakan merupakan sifat kemanusiaan yang paling unik pada diri manusia?

Kini robot tengah dipersiapkan untuk melakukan peran yang semakin canggih dalam pertempuran—situasi di mana etika dan moral begitu diuji—dalam bentuk pesawat tanpa awak yang dioperasikan dari jarak jauh dan kendaraan darat yang diperlengkapi dengan senjata mesin dan granat. Berbagai negara mengembangkan model yang pada suatu saat kelak mungkin dapat menentukan sendiri kapan—dan kepada siapa—harus menembak.

Peneliti yang sudah melangkah paling jauh dalam merancang robot beretika ini adalah Ronald Arkin dari Georgia Institute of Technology di Atlanta.
!break!

Dalam hiruk-pikuk pertempuran, robot tidak akan terpengaruh oleh emosi yang bergolak. Dengan demikian, mereka cenderung jarang melakukan kesalahan dalam situasi mencekam, begitu pendapat Arkin, dan cenderung tidak akan menyerang penduduk sipil. Singkat cerita, mereka mungkin bisa mengambil keputusan lebih baik daripada manusia.

Dalam sistem Arkin, robot yang sedang berusaha memutuskan apakah akan menembak atau tidak akan dipandu oleh suatu “pengatur etika” yang ditanamkan ke dalam perangkat lunaknya. Ketika robot terpaku ke suatu sasaran, sistem pengatur akan memeriksa serangkaian kendala terprogram berdasarkan taktik dan hukum perang perang yang berterima. Sebuah tank musuh di lapangan terbuka, misalnya, mungkin sekali akan diizinkan untuk ditembak; upacara pemakaman di pekuburan yang dihadiri oleh penduduk sipil pihak musuh akan dinyatakan tidak patut ditembaki.

Komponen yang kedua, “penyesuai etika”, dapat membatasi pilihan senjata si robot. Jika suatu senjata yang terlalu hebat dapat menimbulkan bencana yang tidak dimaksudkan—katakanlah peluru kendali yang dapat menghancurkan sebuah apartemen selain menghancurkan tank—jenis senjata itu tidak boleh dipilih sebelum sistem itu disesuaikan. Pada akhirnya, dia menyediakan ruang bagi manusia melalui “penasihat tanggung jawab”, suatu komponen yang memungkinkan orang membatalkan pengatur etika. Sistem tersebut masih belum siap untuk digunakan di dunia nyata, Arkin mengakui, tetapi masih digarap “agar kalangan militer mempertimbangkan implikasi etika ini.

Di Carnegie Mellon, saya kembali untuk memerhatikan tim Proyek Yume memperkenalkan android mereka yang sudah diubah-bentuk kepada pimpinan fakultas. Yan Lin, programer komputer tim itu, membuat antarmuka perangkat lunak ramah-pengguna agar dapat lebih mulus mengendalikan gerakan Yume. Untuk membantu menyamarkan gerakannya yang patah-patah dan tatapan matanya yang kurang terarah, tim telah membayangkan karakter untuk Yume yang cenderung berperilaku seperti itu, mengenakan pakaian yang seronok—seorang remaja putri, menurut blog proyek itu.

Namun, meski dandanannya modern—termasuk baju lengan panjang untuk menyembunyikan tangan kakunya dan lipstik berwarna gelap yang menutupi ketidakmampuan-nya untuk menutup mulut dengan sempurna—dia masih tetap Actroid-DER yang dulu. Secara sadar, tim pun telah menurunkan pengharapan orang dan memberi Yume ke-sempatan untuk memperkenalkan diri.
“Saya bukan manusia!” kata Yume mengakui. “Saya tidak akan pernah menjadi sosok yang persis seperti Anda. Bahkan sebenarnya saya senang menjadi android.”