Openai mengatakan itu merencanakan perubahan chatgpt setelah gugatan menyalahkan chatbot untuk bunuh diri remaja

Openai merinci rencananya untuk mengatasi kekurangan Chatgpt saat menangani “situasi sensitif”
Mengikuti gugatan dari keluarga yang menyalahkan chatbot atas kematian putra remaja mereka dengan bunuh diri.

“Kami akan terus membaik, dipandu oleh para ahli dan bertanggung jawab kepada orang -orang yang menggunakan alat kami – dan kami berharap orang lain akan bergabung dengan kami dalam membantu memastikan teknologi ini melindungi orang -orang yang paling rentan,” tulis Openai pada hari Selasa, dalam a Posting Blog Berjudul, “Membantu Orang Saat Mereka Membutuhkannya.”

Sebelumnya pada hari Selasa, orang tua Adam Raine mengajukan kewajiban produk dan gugatan kematian yang salah terhadap Openai setelah putra mereka meninggal karena bunuh diri pada usia 16, NBC News melaporkan. Dalam gugatan itu, keluarga mengatakan bahwa “chatgpt secara aktif membantu Adam mengeksplorasi metode bunuh diri.”

Perusahaan tidak menyebutkan keluarga Raine atau gugatan dalam posting blognya.

Openai mengatakan bahwa meskipun chatgpt dilatih untuk mengarahkan orang untuk mencari bantuan ketika mengungkapkan niat bunuh diri, chatbot cenderung menawarkan jawaban yang bertentangan dengan perlindungan perusahaan setelah banyak pesan selama periode waktu yang lama.

Perusahaan mengatakan itu juga bekerja pada pembaruan untuk model GPT-5 yang dirilis awal bulan ini Itu akan menyebabkan chatbot melakukan percakapan mendeskalasi, dan itu mengeksplorasi cara “menghubungkan orang dengan terapis bersertifikat sebelum mereka berada dalam krisis akut,” termasuk kemungkinan membangun jaringan profesional berlisensi yang dapat dijangkau pengguna secara langsung melalui chatgpt.

Selain itu, Openai mengatakan sedang mencari cara untuk menghubungkan pengguna dengan “mereka yang paling dekat dengan mereka,” seperti teman dan anggota keluarga.

Ketika datang ke remaja, Openai mengatakan akan segera memperkenalkan kontrol yang akan memberikan opsi orang tua untuk mendapatkan lebih banyak wawasan tentang bagaimana anak -anak mereka menggunakan chatgpt.

Jay Edelson, penasihat utama untuk keluarga Raine, mengatakan kepada CNBC pada hari Selasa bahwa tidak seorang pun dari Openai telah menjangkau keluarga secara langsung untuk menyampaikan belasungkawa atau mendiskusikan segala upaya untuk meningkatkan keselamatan produk perusahaan.

“Jika Anda akan menggunakan teknologi konsumen paling kuat di planet ini – Anda harus percaya bahwa para pendiri memiliki kompas moral,” kata Edelson. “Itulah pertanyaan untuk Openai sekarang, bagaimana orang bisa mempercayai mereka?”

Kisah Raine tidak terisolasi.

Penulis Laura Reiley Awal bulan ini menerbitkan sebuah karangan Di New York Times merinci bagaimana putrinya yang berusia 29 tahun meninggal karena bunuh diri setelah membahas gagasan itu secara luas dengan chatgpt. Dan dalam sebuah kasus di Florida, Sewell Setzer III yang berusia 14 tahun meninggal karena bunuh diri tahun lalu setelah membahasnya dengan AI Chatbot pada karakter aplikasi.ai.

Ketika layanan AI semakin populer, sejumlah kekhawatiran muncul di sekitar penggunaannya untuk terapi, persahabatan dan kebutuhan emosional lainnya.

Tetapi mengatur industri juga dapat terbukti menantang.

Pada hari Senin, koalisi perusahaan AI, pemodal ventura dan eksekutif, termasuk presiden openai dan co-founder Greg Brockman diumumkan Memimpin masa depan, operasi politik yang “akan menentang kebijakan yang menghambat inovasi” ketika datang ke AI.

Jika Anda memiliki pikiran bunuh diri atau dalam kesulitan, hubungi Hidup Bunuh Diri & Krisis di 988 untuk dukungan dan bantuan dari penasihat terlatih.

JAM TANGAN: Openai mengatakan pengajuan Musk 'konsisten dengan pola pelecehannya yang berkelanjutan