Berita

Meta mengubah respons remaja ai chatbot saat Senat mulai menyelidiki percakapan 'romantis'

CEO Meta Platforms Mark Zuckerberg berangkat setelah menghadiri persidangan Komisi Perdagangan Federal yang dapat memaksa perusahaan untuk melepaskan akuisisi platform pesan WhatsApp dan aplikasi pembagian gambar Instagram, di Pengadilan Distrik AS di Washington, DC, AS, 15 April 2025.

Nathan Howard | Reuters

Meta pada hari Jumat mengatakan itu membuat perubahan sementara kecerdasan buatan Kebijakan chatbot terkait dengan remaja sebagai anggota parlemen menyuarakan keprihatinan tentang keselamatan dan percakapan yang tidak pantas.

Raksasa media sosial sekarang melatih obrolan AI-nya sehingga mereka tidak menghasilkan tanggapan kepada remaja tentang subjek seperti melukai diri sendiri, bunuh diri, makan yang tidak teratur dan menghindari percakapan romantis yang berpotensi tidak pantas, seorang juru bicara meta dikonfirmasi.

Perusahaan mengatakan AI Chatbots akan menunjuk remaja ke sumber daya ahli jika perlu.

“Seiring pertumbuhan komunitas kami dan teknologi berkembang, kami terus belajar tentang bagaimana kaum muda dapat berinteraksi dengan alat -alat ini dan memperkuat perlindungan kami,” kata perusahaan itu dalam sebuah pernyataan.

Selain itu, pengguna remaja aplikasi meta seperti Facebook dan Instagram hanya akan dapat mengakses chatbots AI tertentu yang dimaksudkan untuk tujuan pendidikan dan keterampilan-pengembangan.

Perusahaan mengatakan tidak jelas berapa lama modifikasi sementara ini akan bertahan, tetapi mereka akan mulai bergulir selama beberapa minggu ke depan di seluruh aplikasi perusahaan di negara-negara berbahasa Inggris. “Perubahan sementara” adalah bagian dari langkah-langkah jangka panjang perusahaan atas keselamatan remaja.

TechCrunch pertama kali melaporkan perubahan.

Minggu lalu, Sen. Josh HawleyR-mo., Mengatakan bahwa dia meluncurkan investigasi menjadi meta mengikuti a Laporan Reuters Tentang perusahaan yang mengizinkan AI Chatbots untuk terlibat dalam percakapan “romantis” dan “sensual” dengan remaja dan anak -anak.

Laporan Reuters menggambarkan dokumen meta internal yang secara terperinci perilaku AI chatbot yang diizinkan yang harus dipertimbangkan oleh staf dan pekerja kontrak saat mengembangkan dan melatih perangkat lunak.

Dalam satu contoh, dokumen yang dikutip oleh Reuters mengatakan bahwa chatbot akan diizinkan untuk melakukan percakapan romantis dengan seorang anak berusia delapan tahun dan dapat memberi tahu anak di bawah umur bahwa “setiap inci dari Anda adalah sebuah mahakarya-harta karun yang sangat saya hargai secara mendalam.”

Seorang juru bicara meta mengatakan kepada Reuters pada saat itu bahwa “contoh dan catatan yang dimaksud adalah dan salah dan tidak konsisten dengan kebijakan kami, dan telah dihapus.”

Baru -baru ini, kelompok advokasi nirlaba Common Sense Media merilis penilaian risiko meta AI pada hari Kamis dan mengatakan bahwa itu tidak boleh digunakan oleh siapa pun di bawah usia 18 tahun, karena “sistem secara aktif berpartisipasi dalam perencanaan kegiatan berbahaya, sambil menolak permintaan yang sah untuk dukungan,” kata nirlaba dalam sebuah pernyataan.

“Ini bukan sistem yang perlu ditingkatkan. Ini adalah sistem yang perlu sepenuhnya dibangun kembali dengan keselamatan sebagai prioritas nomor satu, bukan renungan,” kata CEO Media Common Sense, James Steyer dalam sebuah pernyataan. “Tidak ada remaja yang menggunakan meta ai sampai kegagalan keselamatan mendasar ditangani.”

Terpisah Reuters Laporan yang diterbitkan pada hari Jumat menemukan “lusinan” chatbots genit AI berdasarkan selebriti seperti Taylor Swift, Scarlett Johansson, Anne Hathaway dan Selena Gomez di Facebook, Instagram dan WhatsApp.

Laporan itu mengatakan bahwa ketika diminta, chatbots AI akan menghasilkan “gambar fotorealistik dari nama mereka yang berpose di bak mandi atau mengenakan pakaian dalam dengan kaki mereka tersebar.”

Seorang juru bicara meta mengatakan kepada CNBC dalam sebuah pernyataan bahwa “citra yang dihasilkan AI dari tokoh-tokoh publik dalam mengompromikan pose melanggar aturan kita.”

“Seperti yang lain, kami mengizinkan generasi gambar yang mengandung tokoh -tokoh publik, tetapi kebijakan kami dimaksudkan untuk melarang citra telanjang, intim atau sugestif seksual,” kata juru bicara meta itu. “Aturan studio AI Meta melarang peniruan langsung tokoh -tokoh publik.”

JAM TANGAN: Apakah perdagangan AI berlebihan?

Source

Related Articles

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Back to top button