Lewis memiliki pengalaman serupa di Earkick, chatbot AI Generatif freemium yang mengeklaim dapat meningkatkan kesehatan mental secara real-time. Earkick memiliki “puluhan ribu” pengguna aktif. Ketika Lewis memberi tahu bahwa ia merasa kewalahan dengan tenggat waktu yang semakin ketat, Earkick dengan cepat menyarankan solusi seperti hobi.
Salah satu pendiri dan COO Earkick, Karin Stephan, mengatakan aplikasi tersebut tidak mencoba bersaing dengan manusia. Namun sebaliknya, ingin melayani orang dengan cara yang membuat mereka lebih mungkin menerima bantuan.
Bagaimana bot dan manusia dapat bekerja sama
Sebagian besar terapis setuju bahwa aplikasi AI dapat menjadi langkah awal yang ideal dalam perjalanan kesehatan mental seseorang. Masalahnya terletak ketika mereka diperlakukan sebagai satu-satunya solusi.
Konsekuensinya bisa sangat buruk ketika seseorang secara eksklusif bergantung pada chatbot AI. Tahun lalu, seorang pria Belgia bunuh diri setelah sebuah chatbot memberi dorongan. Demikian pula, National Eating Disorders Association (NEDA) menangguhkan chatbot gangguan makan, Tessa, karena memberikan saran diet yang berbahaya.
Ellen Fitzsimmons-Craft, psikolog yang membantu mengembangkan Tessa, setuju bahwa perangkat AI dapat membuat gagasan perawatan kesehatan mental tidak terlalu menakutkan.
Tapi ia juga menambahkan bahwa perangkat tersebut harus dibuat aman, memiliki standar yang tinggi, dan diatur. Seperti ChatGPT, katanya, perangkat tersebut tidak boleh dilatih di seluruh internet, tempat banyaknya saran yang buruk.
Penelitian telah menemukan bahwa chatbot AI tidak hanya memuntahkan kiasan medis rasis. Namun juga gagal berfungsi sama sekali ketika diterapkan pada, misalnya, warga Amerika kulit hitam.
“Orang yang sedang dalam kesulitan bukanlah masalah yang harus diperbaiki,” kata Lewis, “mereka adalah orang-orang yang kompleks yang harus dilihat, didengar, dan dirawat. Sesederhana itu.”
--
Pengetahuan tak terbatas kini lebih dekat! Dapatkan berita dan artikel pilihan tentang sejarah, sains, alam, dan lingkungan dari National Geographic Indonesia melalui WhatsApp Channel di https://shorturl.at/IbZ5i dan Google News di https://shorturl.at/xtDSd. Jadilah bagian dari komunitas yang selalu haus akan ilmu dan informasi!
Source | : | National Geographic |
Penulis | : | Sysilia Tanhati |
Editor | : | Ade S |
Artikel ini merupakan bagian dari Lestari, program KG Media yang merupakan suatu rencana aksi global, bertujuan untuk menghapus kemiskinan, mengurangi kesenjangan dan melindungi lingkungan.
KOMENTAR