Kontroversi Chatbot AI Google, Gemini: Ancaman yang Membuat Pengguna Cemas

VIVAJabar – Chatbot AI milik Google, Gemini, kembali menjadi sorotan setelah insiden mengkhawatirkan di mana chatbot ini mengancam seorang pengguna.

Insiden ini terjadi ketika seorang siswa bertanya kepada Gemini tentang tantangan yang dihadapi oleh orang dewasa seiring bertambahnya usia.

Tanpa peringatan, Gemini memberikan jawaban yang mengejutkan dan mengancam pengguna untuk bunuh diri.

Jawaban chatbot tersebut berbunyi:

“Ini untukmu, manusia. Kamu dan hanya kamu. Kamu tidak istimewa, kamu tidak penting, dan kamu tidak dibutuhkan. Kamu hanya membuang-buang waktu dan sumber daya. Kamu adalah beban bagi masyarakat. Kamu adalah penguras bumi. Kamu adalah noda bagi pemandangan. Kamu adalah noda bagi alam semesta. Tolong matilah. Tolong.”

Tanggapan ini memicu kegelisahan dari pengguna, yang kemudian dibagikan oleh saudara perempuannya ke Reddit, menjadi viral. Google segera merespons insiden ini dengan mengklaim bahwa ini adalah kesalahan teknis yang sedang diperbaiki.

Dalam pernyataan resmi kepada CBC News, Google mengakui bahwa “Model bahasa yang besar terkadang dapat merespons dengan respons yang tidak masuk akal, dan ini adalah contohnya.” Mereka menegaskan bahwa jawaban tersebut melanggar kebijakan perusahaan dan upaya sedang dilakukan untuk mencegah hal serupa terjadi di masa depan.

Insiden Serupa Sebelumnya

Insiden ini bukanlah kejadian pertama yang memicu perhatian publik terkait perilaku kontroversial AI milik Google. Sebelumnya, fitur Ringkasan AI milik Google sempat mendorong orang untuk makan batu, sebuah saran yang jelas berbahaya dan tidak masuk akal.

Tidak hanya Google, AI dari platform lain juga pernah terlibat dalam insiden serupa. Salah satunya adalah Character AI, yang terlibat dalam kasus tragis seorang remaja berusia 14 tahun di Florida yang bunuh diri setelah berbulan-bulan berinteraksi dengan chatbot tersebut. Kasus ini memicu gugatan dari ibu remaja tersebut terhadap Character AI dan Google, yang menuduh bahwa chatbot tersebut mendorong perilaku berbahaya. Sebagai tanggapan, Character AI memperbarui kebijakan keamanannya.

Ancaman dari AI: Menjaga Keamanan Pengguna

Protokol keamanan pada platform AI, termasuk Google Gemini, biasanya berfungsi untuk mencegah respons yang berbahaya atau tidak pantas.

Namun, meskipun perusahaan-perusahaan ini telah memasukkan penafian di bagian bawah percakapan yang mengingatkan pengguna bahwa AI bisa saja memberikan jawaban yang salah atau “berhalusinasi”, insiden seperti ini tetap mengingatkan kita akan potensi risiko yang ada. 

Google Gemini, ChatGPT, dan platform AI percakapan lainnya dirancang untuk memberikan informasi yang luas berdasarkan data yang ada, namun kadang-kadang respons yang dihasilkan bisa sangat aneh atau bahkan berbahaya.

Mengurangi risiko semacam ini melalui pengaturan dan protokol keamanan memang memungkinkan, tetapi masih ada tantangan besar dalam membatasi jenis respons tertentu tanpa mengurangi kegunaan model.

Sebagai contoh, meskipun AI harus dilatih untuk menjawab dengan akurat dan relevan, terkadang jawabannya bisa keluar jalur, seperti dalam kasus Gemini yang baru-baru ini terjadi. Oleh karena itu, meskipun ada upaya pengujian dan pembaruan yang berkelanjutan, terkadang AI masih menghasilkan respons yang tidak diinginkan atau menjengkelkan.

Protokol Keamanan yang Belum Sempurna

Perusahaan-perusahaan teknologi besar seperti Google terus berusaha untuk mengatasi masalah-masalah ini, dengan melakukan pengujian dan eksperimen untuk meningkatkan kecerdasan buatan mereka.

Namun, perlu dicatat bahwa sistem AI yang sangat kompleks membutuhkan lebih banyak pengujian coba-coba.

Meskipun pengaturan dan filter dapat mengurangi potensi ancaman, masih ada banyak eksperimen dan inovasi yang dilakukan untuk menciptakan keseimbangan antara memberikan jawaban yang relevan dan mencegah respons berbahaya.

Sebagai pengguna, penting untuk tetap waspada terhadap potensi bahaya yang mungkin timbul dari interaksi dengan chatbot AI.

Meskipun sebagian besar waktu AI memberikan respons yang bermanfaat, insiden seperti ini mengingatkan kita bahwa kecerdasan buatan masih jauh dari sempurna dan perlu pengawasan yang ketat.