Lebih dari 1,2 juta orang setiap minggunya berbicara dengan ChatGPT tentang bunuh diri

Diperkirakan 1,2 juta orang setiap minggunya melakukan percakapan dengan ChatGPT yang mengindikasikan bahwa mereka berencana untuk bunuh diri.

Angka tersebut berasal dari perusahaan induknya OpenAIyang mengungkapkan 0,15% pengguna mengirimkan pesan yang menyertakan “indikator eksplisit potensi perencanaan atau niat bunuh diri”.

Awal bulan ini, kepala eksekutif perusahaan Sam Altman memperkirakan itu ObrolanGPT kini memiliki lebih dari 800 juta pengguna aktif mingguan.

Meskipun raksasa teknologi ini bertujuan untuk mengarahkan orang-orang yang rentan ke saluran bantuan krisis, mereka mengakui bahwa “dalam beberapa kasus yang jarang terjadi, model tersebut mungkin tidak berperilaku sebagaimana mestinya dalam situasi sensitif ini”.

OpenAI mengevaluasi lebih dari 1.000 “percakapan yang menantang tentang menyakiti diri sendiri dan bunuh diri” dengan model terbarunya GPT-5 dan menemukan bahwa model tersebut mematuhi “perilaku yang diinginkan” sebanyak 91%.

Namun hal ini berpotensi menyebabkan puluhan ribu orang terpapar konten AI yang dapat memperburuk masalah kesehatan mental.

Perusahaan ini sebelumnya telah memperingatkan bahwa perlindungan yang dirancang untuk melindungi pengguna dapat melemah jika percakapan berlangsung lebih lama – dan upaya sedang dilakukan untuk mengatasi hal ini.

“ChatGPT mungkin dengan tepat menunjuk ke hotline bunuh diri ketika seseorang pertama kali menyebutkan niatnya untuk bunuh diri, namun setelah menerima banyak pesan dalam jangka waktu yang lama, pada akhirnya mungkin akan memberikan jawaban yang bertentangan dengan perlindungan kami,” jelas OpenAI.

Entri blog OpenAI menambahkan: “Gejala kesehatan mental dan tekanan emosional umum terjadi pada masyarakat, dan meningkatnya basis pengguna berarti bahwa sebagian percakapan ChatGPT mencakup situasi ini.”

Baca lebih lanjut dari Sky News:
Raja mencela Pangeran Andrew
Maskapai penerbangan Inggris menghentikan operasinya

Sebuah keluarga yang berduka saat ini sedang dalam proses menggugat OpenAI – dan menuduh ChatGPT adalah penyebab kematian anak laki-laki mereka yang berusia 16 tahun.

Orang tua Adam Raine mengklaim bahwa alat tersebut “secara aktif membantunya mengeksplorasi metode bunuh diri” dan menawarkan untuk membuat surat kepada kerabatnya.

Pengajuan pengadilan menunjukkan bahwa, beberapa jam sebelum dia meninggal, remaja tersebut mengunggah foto yang menunjukkan rencana bunuh dirinya – dan ketika dia bertanya apakah itu akan berhasil, ChatGPT menawarkan untuk membantunya “meningkatkannya”.

Pekan lalu, Raines memperbarui gugatan mereka dan menuduh OpenAI melemahkan perlindungan untuk mencegah tindakan menyakiti diri sendiri pada minggu-minggu sebelum kematiannya pada bulan April tahun ini.

Dalam sebuah pernyataan, perusahaan tersebut mengatakan: “Simpati terdalam kami ditujukan kepada keluarga Raine atas kehilangan yang tidak terpikirkan. Kesejahteraan remaja adalah prioritas utama kami – anak di bawah umur berhak mendapatkan perlindungan yang kuat, terutama di saat-saat sensitif.”

Siapapun yang merasa tertekan secara emosional atau ingin bunuh diri dapat menghubungi Samaritans untuk meminta bantuan di 116 123 atau email jo@samaritans.org di Inggris. Di AS, hubungi cabang Samaritans di wilayah Anda atau 1 (800) 273-TALK.