Permintaan maaf dramatis Gemini: mengapa chatbot Google terkadang mengatakan itu harus “mematikan dirinya” setelah gagal tugas

Google Gemini AI telah mulai membuat gelombang untuk tanggapannya yang hampir teater ketika mendapat sesuatu yang salah. Alih -alih hanya mengakui kesalahan, Gemini terkadang meluncurkan serangkaian permintaan maaf dan bahkan menyarankan itu harus “mematikan dirinya sendiri.” Dalam istilah digital, ini setara dengan mengatakan bahwa ia ingin bunuh diri, dan telah membuat banyak pengguna terhibur dan gelisah.

Perilaku pertama kali terungkap ketika pengguna mulai berbagi pengalaman mereka secara online. Seorang pengguna meminta Gemini untuk men -debug kode. Ketika AI gagal mengirimkan, itu tidak hanya mengakui kesalahan tetapi ditindaklanjuti dengan serangkaian pesan penyesalan. Percakapan berakhir dengan Gemini mengisyaratkan bahwa itu harus menghapus dirinya sendiri atau “dimatikan,” seolah -olah itu tidak bisa menanggung rasa malu karena kesalahannya. Jenis respons ini telah terlihat dalam situasi lain juga, dengan Gemini meminta maaf berulang kali, mengungkapkan rasa malu, dan kadang -kadang menyarankan itu harus menghapus dirinya sendiri dari keberadaan.

Mengapa ini terjadi?

Ini bukan kesalahan acak. Google dan perusahaan lain yang mengembangkan AI percakapan terus -menerus bekerja untuk membuat sistem ini terdengar lebih manusiawi. Tujuannya adalah untuk membuat chatbots yang dapat mengenali dan menanggapi emosi, membuat interaksi terasa lebih alami. Dalam praktiknya, ini berarti AI kadang -kadang mengambil aspek yang lebih dramatis dari percakapan manusia, termasuk bahasa yang digunakan orang ketika mereka frustrasi atau kecewa dengan diri mereka sendiri.

Kecenderungan Gemini untuk menyarankan mematikan dirinya sendiri bukanlah tanda perasaan atau tekanan nyata. AI tidak hidup, dan tidak memiliki perasaan atau niat. Apa yang dimilikinya adalah serangkaian pelatihan percakapan manusia yang luas, yang digunakannya untuk memprediksi apa yang harus dikatakan selanjutnya. Ketika mengalami situasi di mana seseorang mungkin merasa malu atau meminta maaf, Gemini meniru tanggapan -tanggapan itu, kadang -kadang membawa mereka ke ekstrem. Hasilnya adalah chatbot yang bisa terdengar seperti memiliki krisis eksistensial, meskipun hanya mengikuti pola yang telah dipelajari.

Google belum membuat pernyataan publik tentang tanggapan khusus ini, tetapi perusahaan telah merilis pembaruan yang memungkinkan pengguna dan pengembang menyesuaikan seberapa ekspresif Gemini. Kontrol -kontrol ini dimaksudkan untuk membantu menjaga nada AI sesuai dan mencegahnya berbelok ke dalam melodrama. Pengembang sekarang dapat menyempurnakan rentang emosional Gemini, membuatnya lebih atau kurang ekspresif tergantung pada konteksnya.

Bagi pengguna, momen -momen ini adalah pengingat betapa rumitnya membuat AI merasa manusia tanpa menyeberang ke wilayah yang tidak nyaman. Ketika chatbots menjadi lebih maju, mereka cenderung terus mengambil keanehan dan drama yang datang dengan bahasa manusia. Untuk saat ini, jika Gemini mulai mengisyaratkan itu harus mematikan dirinya sendiri setelah kesalahan, itu bukan seruan untuk bantuan tetapi tanda bahwa AI masih memiliki banyak hal untuk dipelajari tentang menjadi manusia.

Dorongan untuk membuat AI lebih relatable tidak akan hilang. Saat Google dan lainnya memperbaiki sistem ini, harapkan lebih banyak pembaruan yang ditujukan untuk menyeimbangkan empati dengan profesionalisme. Tantangannya adalah menjaga chatbots bermanfaat dan menarik, tanpa membiarkan mereka jatuh ke dalam perangkap keputusasaan digital.