Namun, ada sebuah artikel satir yang banyak dibaca dari The Onion tentang memakan batu. Jadi kecerdasan buatan Google mendasarkan ringkasannya pada apa yang populer, bukan pada apa yang benar.
Masalah lainnya adalah sistem kecerdasan buatan generatif tidak memiliki nalar seperti kita. Mereka dilatih dengan begitu banyak isi kumpulan web.
Meskipun teknik-teknik canggih (yang dikenal dengan nama-nama eksotis seperti “pembelajaran penguatan dari umpan balik manusia” atau RLHF) digunakan untuk menghilangkan hal-hal terburuk, tidaklah mengherankan jika teknik-teknik tersebut mencerminkan beberapa bias, teori konspirasi, dan hal-hal buruk lainnya yang dapat ditemukan di web.
Apakah ini masa depan penelusuran?
Jika ini benar-benar masa depan penelusuran, maka kita berada dalam suatu masa sulit. Google, tentu saja, mengejar ketertinggalannya dari OpenAI dan Microsoft.
Insentif finansialnya untuk memimpin perlombaan AI sangatlah besar. Oleh karena itu, Google sekarang menjadi kurang bijaksana dibandingkan dahulu dalam menyebarkan teknologi ke tangan pengguna.
Pada tahun 2023, kepala eksekutif Google Sundar Pichai berkata, "Kami telah berhati-hati. Ada area di mana kami memilih untuk tidak menjadi yang pertama dalam mengeluarkan produk. Kami telah menyiapkan struktur yang baik seputar AI yang bertanggung jawab. Anda akan terus melihat kami bersikap santai dan tidak tergesa-gesa."
Tampaknya hal tersebut tidak lagi benar, sejak Google menanggapi kritik bahwa Google telah menjadi pesaing yang besar dan malas.
Sebuah langkah yang berisiko
Fitur AI Overviews adalah strategi yang berisiko bagi Google. Sebab, Google bisa kehilangan kepercayaan dari masyarakat sebagai tempat untuk menemukan jawaban (yang benar) atas berbagai pertanyaan.
Selain itu, Google juga berisiko merusak model bisnisnya yang bernilai miliaran dolar. Jika kita tidak lagi mengeklik link, cukup membaca ringkasannya, bagaimana Google terus menghasilkan uang?
Risikonya tidak terbatas pada Google saja. "Saya khawatir penggunaan AI akan berdampak buruk bagi masyarakat secara luas. Kebenaran sudah menjadi gagasan yang diperdebatkan dan dapat dipertukarkan. Ketidakbenaran AI kemungkinan besar akan memperburuk keadaan ini," tegas Toby.