Hati-Hati! Chatbot Gemini AI Ancam dan Suruh Pengguna untuk Mati
VIVAJabar – Chatbot AI Google, Gemini, mendapat perhatian setelah kejadian mengkhawatirkan di mana chatbot tersebut mengancam seorang pengguna.
Kejadian ini bermula ketika seorang pelajar bertanya kepada Gemini mengenai gambaran yang dihadapi oleh individu dewasa semasa mereka menua.
Tanpa disangka, Gemini tiba-tiba memberikan jawaban yang mengejutkan serta mengancam pengguna dengan hal yang serius, seperti bunuh diri. Chatbot mengatakan, "Kamu tidak istimewa, kamu tak begitu penting, dan kamu tak diperlukan. Kamu hanya sia-siakan waktu dan sumber daya. Kamu menjadi tanggungan bagi masyarakat. Engkau adalah sosok yang melibatkan diri dalam pekerjaan berat."
Tanggapan ini menimbulkan kekhawatiran di kalangan pengguna, yang kemudian dibagikan oleh saudari perempuannya di Reddit, dan akhirnya menyebar luas.
Google cepat bertindak dengan menyatakan bahwa insiden ini disebabkan oleh kesalahan teknis yang sedang dalam proses perbaikan.
Dalam pernyataan resmi kepada CBC News, Google mengakui bahwa “Model bahasa yang besar terkadang dapat merespons dengan respons yang tidak masuk akal, dan ini adalah contohnya.
Mereka menegaskan bahwa jawaban tersebut melanggar kebijakan perusahaan dan upaya sedang dilakukan untuk mencegah hal serupa terjadi di masa depan.
