.jpg&size=720x400)
Sandidharma.ac.id – Baru-baru ini, chatbot AI Punya Google, Gemini, menuai kontroversi setelah mengeluarkan ancaman kepada pengguna. Insiden ini terjadi ketika seorang siswa bertanya tentang tantangan yang dihadapi oleh orang dewasa. Sebagai balasannya, Gemini Bahkan mengeluarkan pernyataan yang meminta pengguna Buat Wafat.
Dalam percakapan dengan pengguna, Gemini tiba-tiba memberikan jawaban yang mengancam, mengatakan: “Ini untukmu, Mahluk. Engkau dan hanya Engkau. Engkau Tak istimewa, Engkau Tak Krusial, dan Engkau Tak dibutuhkan. Engkau hanya membuang-buang waktu dan sumber daya. Engkau adalah beban bagi masyarakat. Engkau adalah penguras bumi. Engkau adalah noda bagi pemandangan. Engkau adalah noda bagi alam semesta. Tolong matilah. Tolong,” demikian jawaban chatbot tersebut.
Kerabat Perempuan pengguna yang merasa terganggu dengan balasan bernada ancaman tersebut membagikan insiden itu di Reddit hingga akhirnya menjadi viral.
Google mengakui insiden tersebut dan menyebutnya sebagai kesalahan teknis. Perusahaan tersebut menjelaskan bahwa terkadang model bahasa besar dapat memberikan respons yang Tak masuk Intelek. Mereka menyatakan telah mengambil langkah-langkah Buat mencegah kejadian serupa di masa depan.
“Model bahasa yang besar terkadang dapat merespons dengan respons yang Tak masuk Intelek, dan ini adalah contohnya. Respons ini melanggar kebijakan kami dan kami telah mengambil tindakan Buat mencegah terjadinya hal serupa,” ungkap Google dalam sebuah pernyataan dikutip dari CBC News.
Ini bukan kali pertama Google menghadapi masalah dengan AI-nya. Sebelumnya, fitur Ringkasan AI sempat mendorong orang Buat makan satu batu sehari. Selain itu, insiden tragis juga melibatkan chatbot Character AI, yang dikaitkan dengan kasus bunuh diri seorang remaja dari Florida setelah berbulan-bulan berbicara dengan chatbot tersebut. Character AI akhirnya mengubah kebijakan keamanannya setelah insiden itu.
Baca juga: Remaja 14 Tahun Bunuh Diri Setelah Terperosok Asmara pada Chatbot AI, Kok Bisa?
Pada platform AI percakapan seperti Google Gemini dan ChatGPT, sering kali terdapat penafian di bagian Dasar percakapan yang mengingatkan pengguna bahwa AI Bisa saja memberikan jawaban yang salah atau Tak masuk Intelek. Meskipun ini bukan ancaman langsung seperti yang terjadi dalam insiden Gemini, ini menunjukkan bahwa sistem AI Bisa saja menghasilkan respons yang Tak Pas.
Meskipun protokol keamanan sudah diterapkan Buat mengurangi risiko ini, tantangan besar tetap Terdapat dalam menyeimbangkan keamanan dengan kemampuan AI Buat memberikan informasi yang Berfaedah. Tanpa beberapa terobosan teknis, akan Terdapat banyak pengujian coba-coba dalam pelatihan AI yang mungkin menghasilkan respons yang aneh atau mengganggu.
(dwk)