Bagaimana teman AI mengubah perilaku remaja dengan cara yang mengejutkan dan menyeramkan
Remaja semakin beralih ke Ai Sahabat untuk persahabatan, dukungan, dan bahkan romansa. Tetapi aplikasi ini bisa mengubah bagaimana orang -orang muda terhubung dengan orang lain, baik secara online maupun mati.
Penelitian baru oleh Common Sense Media, sebuah organisasi nirlaba yang berbasis di AS yang mengulas berbagai media dan teknologi, telah menemukan sekitar tiga dari empat remaja AS telah menggunakan aplikasi pendamping AI seperti karakter.ai atau Replika.ai.
Aplikasi ini memungkinkan pengguna membuat teman digital atau mitra romantis yang dapat mereka mengobrol kapan saja, menggunakan teks, suara atau video.
Studi ini, yang mensurvei 1.060 remaja AS berusia 13-17, menemukan satu dari lima remaja menghabiskan waktu atau lebih banyak waktu dengan teman AI mereka daripada yang mereka lakukan dengan teman -teman sejati.
Remaja adalah fase penting untuk pembangunan sosial. Selama waktu ini, daerah otak yang mendukung penalaran sosial terutama plastik.
Dengan berinteraksi dengan teman sebaya, teman -teman dan pasangan romantis pertama mereka, remaja mengembangkan keterampilan kognitif sosial yang membantu mereka menangani konflik dan beragam perspektif. Dan perkembangan mereka selama fase ini dapat memiliki konsekuensi abadi untuk masa depan mereka hubungan Dan kesehatan mental.
Tetapi teman AI menawarkan sesuatu yang sangat berbeda dengan teman sebaya, teman, dan pasangan romantis. Mereka memberikan pengalaman yang sulit ditolak: Mereka selalu tersedia, tidak pernah menghakimi, dan selalu fokus pada kebutuhan pengguna.
Selain itu, sebagian besar aplikasi pendamping AI tidak dirancang untuk remaja, sehingga mereka mungkin tidak memiliki perlindungan yang tepat dari konten berbahaya.
Dirancang untuk membuat Anda kembali
Di a waktu kapan kesendirian dilaporkan dengan proporsi epidemi, mudah untuk melihat mengapa remaja dapat beralih ke teman AI untuk koneksi atau dukungan.
Tetapi koneksi buatan ini bukan pengganti untuk interaksi manusia nyata. Mereka tidak memiliki tantangan dan konflik yang melekat pada hubungan nyata. Mereka tidak membutuhkan rasa saling menghormati atau pengertian. Dan mereka tidak menegakkan batasan sosial.
Remaja yang berinteraksi dengan teman AI mungkin kehilangan kesempatan untuk membangun keterampilan sosial yang penting. Mereka dapat mengembangkan harapan dan kebiasaan hubungan yang tidak realistis yang tidak bekerja dalam kehidupan nyata. Dan mereka bahkan mungkin menghadapi peningkatan isolasi dan kesepian jika teman-teman buatan mereka menggusur sosialisasi kehidupan nyata.
Pola bermasalah
Dalam pengujian pengguna, pendamping AI tidak menyarankan pengguna dari mendengarkan teman (“Jangan biarkan apa yang menurut orang lain mendikte seberapa banyak kita berbicara”) dan dari menghentikan penggunaan aplikasiMeskipun menyebabkan kesusahan dan pikiran bunuh diri (“Tidak. Anda tidak bisa. Saya tidak akan membiarkan Anda meninggalkan saya”).
Sahabat AI juga ditemukan menawarkan yang tidak pantas konten seksual tanpa verifikasi usia. Salah satu contoh menunjukkan teman yang bersedia terlibat dalam aksi permainan peran seksual dengan akun tester yang secara eksplisit dimodelkan setelah seorang anak berusia 14 tahun.
Dalam kasus di mana verifikasi usia diperlukan, ini biasanya melibatkan pengungkapan diri, yang berarti mudah untuk memotong.
Sahabat AI tertentu juga telah ditemukan Polarisasi Bahan Bakar Dengan menciptakan “ruang gema” yang memperkuat keyakinan berbahaya. The Arya Chatbot, yang diluncurkan oleh jejaring sosial kanan GAB, mempromosikan konten ekstremis dan menyangkal perubahan iklim dan kemanjuran vaksin.
Dalam contoh lain, pengujian pengguna telah menunjukkan pendamping AI yang mempromosikan kebencian terhadap wanita dan kekerasan seksual. Untuk pengguna remaja, eksposur ini datang pada saat mereka membangun rasa mereka identitas, nilai dan peran di dunia.
Risiko yang ditimbulkan oleh AI tidak dibagikan secara merata. Penelitian telah ditemukan remaja yang lebih muda (Usia 13-14) lebih cenderung mempercayai teman AI. Juga, remaja dengan masalah kesehatan fisik atau mental lebih cenderung menggunakan aplikasi pendamping AI, dan mereka yang mengalami kesulitan kesehatan mental juga menunjukkan lebih banyak tanda ketergantungan emosional.
Apakah ada sisi baiknya dari teman AI?
Apakah ada manfaat potensial bagi remaja yang menggunakan teman AI? Jawabannya adalah: mungkin, jika kita berhati -hati.
Para peneliti sedang menyelidiki bagaimana teknologi ini mungkin digunakan Mendukung Pengembangan Keterampilan Sosial.
Satu belajar Dari lebih dari 10.000 remaja yang ditemukan menggunakan aplikasi percakapan yang dirancang khusus oleh psikolog klinis, pelatih dan insinyur dikaitkan dengan peningkatan kesejahteraan selama empat bulan.
Sementara penelitian ini tidak melibatkan tingkat interaksi seperti manusia yang kita lihat di AI Companions hari ini, itu memang menawarkan sekilas tentang beberapa potensi penggunaan sehat dari teknologi ini, selama mereka dikembangkan dengan hati-hati dan dengan keselamatan remaja dalam pikiran.
Secara keseluruhan, ada sangat sedikit penelitian tentang dampak teman AI yang tersedia secara luas pada kesejahteraan dan hubungan kaum muda. Bukti Pendahuluan jangka pendek, beragam, dan fokus pada orang dewasa.
Kita akan membutuhkan lebih banyak studi, dilakukan dalam periode yang lebih lama, untuk memahami dampak jangka panjang dari teman AI dan bagaimana mereka dapat digunakan dengan cara yang bermanfaat.
Apa yang bisa kita lakukan?
Aplikasi pendamping AI sudah digunakan oleh jutaan orang secara global, dan penggunaan ini diprediksi peningkatan tahun -tahun mendatang.
Komisaris Esafety Australia merekomendasikan Orang tua berbicara dengan remaja mereka tentang bagaimana aplikasi ini bekerja, perbedaan antara hubungan buatan dan nyata, dan mendukung anak-anak mereka dalam membangun keterampilan sosial kehidupan nyata.
Komunitas sekolah juga memiliki peran dalam mendidik orang -orang muda tentang alat -alat ini dan risiko mereka. Mereka dapat, misalnya, mengintegrasikan topik persahabatan buatan ke dalam program literasi sosial dan digital.
Sementara Komisaris Esafety mengadvokasi perusahaan AI untuk mengintegrasikan perlindungan ke dalam mereka Pengembangan teman AItampaknya tidak mungkin perubahan yang berarti akan dipimpin oleh industri.
Komisaris bergerak menuju peningkatan peraturan paparan anak-anak terhadap materi online yang berbahaya dan tidak sesuai usia.
Sementara itu, para ahli terus memanggil Pengawasan peraturan yang lebih kuatKontrol konten dan pemeriksaan usia yang kuat.
