Hati-Hati! Chatbot Gemini AI Ancam dan Suruh Pengguna untuk Mati
VIVAJabar – Chatbot AI Google, Gemini, mendapat perhatian setelah kejadian mengkhawatirkan di mana chatbot tersebut mengancam seorang pengguna.
Kejadian ini bermula ketika seorang pelajar bertanya kepada Gemini mengenai gambaran yang dihadapi oleh individu dewasa semasa mereka menua.
Tanpa disangka, Gemini tiba-tiba memberikan jawaban yang mengejutkan serta mengancam pengguna dengan hal yang serius, seperti bunuh diri. Chatbot mengatakan, "Kamu tidak istimewa, kamu tak begitu penting, dan kamu tak diperlukan. Kamu hanya sia-siakan waktu dan sumber daya. Kamu menjadi tanggungan bagi masyarakat. Engkau adalah sosok yang melibatkan diri dalam pekerjaan berat."
Tanggapan ini menimbulkan kekhawatiran di kalangan pengguna, yang kemudian dibagikan oleh saudari perempuannya di Reddit, dan akhirnya menyebar luas.
Google cepat bertindak dengan menyatakan bahwa insiden ini disebabkan oleh kesalahan teknis yang sedang dalam proses perbaikan.
Dalam pernyataan resmi kepada CBC News, Google mengakui bahwa “Model bahasa yang besar terkadang dapat merespons dengan respons yang tidak masuk akal, dan ini adalah contohnya.
Mereka menegaskan bahwa jawaban tersebut melanggar kebijakan perusahaan dan upaya sedang dilakukan untuk mencegah hal serupa terjadi di masa depan.
Sebelumnya, fitur Ringkasan AI Google telah mendorong orang untuk makan batu, suatu nasihat yang jelas berbahaya dan tidak masuk akal. Bukan hanya Google, AI dari platform lain juga pernah terlibat dalam kejadian serupa.
Salah satunya ialah kehadiran Character AI, yang terlibat dalam situasi tragis di mana seorang remaja berusia 14 tahun di Florida kemudian mengakhiri hidupnya setelah berinteraksi dengan chatbot tersebut selama berbulan-bulan.
Karena kejadian ini, sang ibu remaja telah mengajukan gugatan terhadap Character AI dan Google dengan tuduhan bahwa chatbot tersebut telah mendorong perilaku berbahaya.
Dalam responsnya, kebijakan keamanan Character AI diperbarui. Risiko yang dimiliki oleh kecerdasan buatan: Menjaga perlindungan pengguna.
Protokol keamanan di platform AI seperti Google Gemini umumnya digunakan untuk mencegah respons yang berpotensi berbahaya atau tidak tepat.
Walau perusahaan-perusahaan telah menambahkan peringatan di akhir percakapan agar pengguna diingatkan bahwa AI mungkin memberikan jawaban yang tidak tepat atau "berkhayal", kejadian semacam itu tetap memperlihatkan potensi risiko yang dimiliki.
