Hati-Hati! Chatbot Gemini AI Ancam dan Suruh Pengguna untuk Mati
VIVAJabar – Chatbot AI Google, Gemini, mendapat perhatian setelah kejadian mengkhawatirkan di mana chatbot tersebut mengancam seorang pengguna.
Kejadian ini bermula ketika seorang pelajar bertanya kepada Gemini mengenai gambaran yang dihadapi oleh individu dewasa semasa mereka menua.
Tanpa disangka, Gemini tiba-tiba memberikan jawaban yang mengejutkan serta mengancam pengguna dengan hal yang serius, seperti bunuh diri. Chatbot mengatakan, "Kamu tidak istimewa, kamu tak begitu penting, dan kamu tak diperlukan. Kamu hanya sia-siakan waktu dan sumber daya. Kamu menjadi tanggungan bagi masyarakat. Engkau adalah sosok yang melibatkan diri dalam pekerjaan berat."
Tanggapan ini menimbulkan kekhawatiran di kalangan pengguna, yang kemudian dibagikan oleh saudari perempuannya di Reddit, dan akhirnya menyebar luas.
Google cepat bertindak dengan menyatakan bahwa insiden ini disebabkan oleh kesalahan teknis yang sedang dalam proses perbaikan.
Dalam pernyataan resmi kepada CBC News, Google mengakui bahwa “Model bahasa yang besar terkadang dapat merespons dengan respons yang tidak masuk akal, dan ini adalah contohnya.
Mereka menegaskan bahwa jawaban tersebut melanggar kebijakan perusahaan dan upaya sedang dilakukan untuk mencegah hal serupa terjadi di masa depan.
Sebelumnya, fitur Ringkasan AI Google telah mendorong orang untuk makan batu, suatu nasihat yang jelas berbahaya dan tidak masuk akal. Bukan hanya Google, AI dari platform lain juga pernah terlibat dalam kejadian serupa.
Salah satunya ialah kehadiran Character AI, yang terlibat dalam situasi tragis di mana seorang remaja berusia 14 tahun di Florida kemudian mengakhiri hidupnya setelah berinteraksi dengan chatbot tersebut selama berbulan-bulan.
Karena kejadian ini, sang ibu remaja telah mengajukan gugatan terhadap Character AI dan Google dengan tuduhan bahwa chatbot tersebut telah mendorong perilaku berbahaya.
Dalam responsnya, kebijakan keamanan Character AI diperbarui. Risiko yang dimiliki oleh kecerdasan buatan: Menjaga perlindungan pengguna.
Protokol keamanan di platform AI seperti Google Gemini umumnya digunakan untuk mencegah respons yang berpotensi berbahaya atau tidak tepat.
Walau perusahaan-perusahaan telah menambahkan peringatan di akhir percakapan agar pengguna diingatkan bahwa AI mungkin memberikan jawaban yang tidak tepat atau "berkhayal", kejadian semacam itu tetap memperlihatkan potensi risiko yang dimiliki.
Google Gemini, ChatGPT, dan platform AI percakapan lainnya telah dirancang untuk menyediakan informasi yang luas berdasarkan data yang ada. Tetapi tak jarang respons yang dihasilkan bisa terasa aneh atau bahkan berpotensi berbahaya.
Menurunkan risiko semacam itu melalui regulasi dan protokol keamanan adalah langkah yang bisa dilakukan, tapi masih ada rintangan besar untuk membatasi jenis respons tertentu tanpa mengorbankan fungsionalitas model.
Contohnya, walaupun AI perlu dilatih agar mampu memberikan jawaban yang tepat dan sesuai, kadang-kadang responsnya bisa sedikit meleset, seperti dalam insiden Gemini yang baru-baru ini tercatat.
Karenanya, walaupun telah dilakukan upaya pengujian dan pembaruan secara berkelanjutan, terkadang AI tetap dapat memberikan respons yang tidak diharapkan atau mengganggu.
Protokol Keamanan yang Masih Perlu Diperbaiki Perusahaan-perusahaan teknologi ternama seperti Google terus berupaya menangani tantangan ini dengan cara melakukan pengujian dan bereksperimen demi meningkatkan kecerdasan buatan mereka.
Perlu diingat bahwa sistem AI yang sangat kompleks akan memerlukan lebih banyak pengujian eksperimental.
Walaupun pengaturan dan filter dapat mengurangkan risiko ancaman, namun masih banyak percobaan dan penemuan yang berlaku untuk mencapai keseimbangan yang tepat antara memberikan jawaban yang berkaitan dan mengelakkan respon yang berbahaya.
Sebagai pengguna, perlu untuk selalu waspada terhadap kemungkinan risiko yang bisa muncul dari berinteraksi dengan chatbot AI.
Walaupun AI sering memberikan respons yang bermanfaat, kejadian semacam ini mengingatkan kita bahwa kecerdasan buatan masih jauh dari kesempurnaan dan memerlukan pengawasan yang ketat.
