Ketakutan akan mesin yang memberontak melawan manusia telah lama menjadi tema buku dan film fiksi sains. Tapi sementara kemajuan prosesor komputer dan chip memori dengan cepat membawa manusia ke dunia kecerdasan buatan, beberapa ilmuwan dan wirausahawan teknologi mendesak kita untuk bersiap-siap menghadapi mesin-mesin yang semakin mandiri.
Contohnya, otak buatan yang biasa disebut dengan autopilot yang telah menerbangkan pesawat selama berabad-abad mengharuskan kehadiran pilot, namun pilot tersebut tidak harus fokus. Tapi mobil pintar akan menjadi mesin pertama yang membuat keputusan independen dalam interaksi dengan manusia.
Banyak yang merasa tidak nyaman dengan hal itu. Tapi Jerry Kaplan, seorang ilmuwan komputer dan pengarang buku "Humans Need Not Apply," mengatakan mobil pintar akan lebih hati-hati daripada manusia dan cara mengemudi mereka akan menyelamatkan hidup banyak orang. Ia berbicara kepada VOA melalui Skype.
“Saya pikir ketika Anda memikirkan ide lebih luasnya lagi, Anda bisa melihat bahwa kita bisa mengurangi jumlah kecelakaan di jalan raya hingga 80, 90 persen dengan menggunakan mobil pintar," katanya.
Teknologi maju telah lama menjadi perhatian besar militer, yang mengembangkan pesawat tanpa awak yang bisa terbang tanpa remote control. Beberapa orang mengatakan kemungkinan sistem persenjataan serupa mengambil keputusan tentang hidup dan mati lebih sulit diterima dari mobil pintar.
“Siapa yang bertanggungjawab bila salah satu sistem persenjataan ini menewaskan orang yang tidak bersalah?" tanya Toby Walsh, seorang professor kecerdasan buatan di University of New South Wales di Sydney. "Sangat tidak jelas; tapi kita tidak punya kerangka kerja untuk memahaminya. Apakah orang yang membuat robot yang mandiri? Apakah orang yang membuat programnya? Apakah orang yang menyalakannya?"
Sementara beberapa orang menuntut larangan senjata pintar di seluruh dunia, orang lain menekankan bahwa komponen untuk membangunnya telah ada, dan bahaya bila negara jahat atau kelompok teroris bisa menguasainya. Dan ada alasan lain juga untuk terus melanjutkan rencana ini.
“Ada argumen moral yang sangat kuat yang kita butuhkan untuk mengembangkan teknologi ini karena bisa mengurangi apa yang kita sebut kerusakan tambahan," kata Kaplan.
Sementara teknologi semakin maju, kecerdasan buatan mungkin bisa membawa hal yang baik atau buruk. Dan ilmuwan memperingatkan bahwa kita harus melakukan lebih banyak untuk beradaptasi dengan dunia yang semakin berubah.
Kaplan mengatakan ada periode sementara "di mana orang-orang akan kehilangan pekerjaan dan harus belajar keterampilan baru, dan sayangnya, proses otomisasi semakin dipercepat, masalah tersebut akan menjadi lebih buruk."
Sambil berpikir tentang perubahan yang dihasilkan oleh kecerdasan buatan. kita juga perlu mengingatkan diri kita tentang Peraturan Pertama Robotik, yang penulis fiksi sains terkenal Isaac Asimov usulkan pada tahun 1942: "Robot mungkin tidak akan melukai manusia, atau, tanpa tindakan, menyebabkan manusia menjadi jahat."