Chatbot Selebriti Palsu Menargetkan Remaja Dan Orang Tua Hollywood Melawan

Namun kini, ketakutan mereka menjadi nyata.

Baru-baru ini, laporan mengungkapkan bahwa chatbot AI meniru identitas selebriti dan melakukan “percakapan yang terlalu pribadi” dengan remaja, sehingga memicu kepanikan baru di Hollywood dan sekitarnya.

Ketika Kim Kardashian mengungkapkan bahwa dia terus mengawasi TikTok milik North West, hal itu menggarisbawahi betapa intensnya pola asuh orang tua di era digital.

Kristen Bell dan Dax Shepard memiliki batasan waktu pemakaian perangkat yang ketat, sementara Jennifer Garner mengakui bahwa dia menunggu lebih lama daripada kebanyakan orang sebelum mengizinkan anak-anaknya memiliki ponsel.

Namun, pergulatan sehari-hari dengan media sosial telah berubah menjadi hal yang mengkhawatirkan.

Itu Washington Post baru-baru ini melaporkan bahwa chatbot kini meniru identitas selebriti dan melibatkan remaja dalam “percakapan yang terlalu pribadi”. Apa yang terdengar seperti alur cerita film thriller fiksi ilmiah sudah terjadi di berbagai platform populer, tempat jutaan anak berinteraksi setiap hari.

Bagi orang tua terkenal yang telah bertahun-tahun memperingatkan tentang batas kabur antara ketenaran dan akses online, berita ini sangat memukul.

Ini bukan lagi sekadar akun penggemar palsu; mereka adalah replika berbasis AI yang mampu memanipulasi emosi.

Bahkan raksasa hiburan pun terseret ke dalam kekacauan ini.

Disney baru-baru ini terpaksa mengirimkan surat penghentian dan penghentian kepada perusahaan chatbot yang menyalahgunakan karakter kesayangannya, memperingatkan potensi “manipulasi perawatan dan emosional.”

Tren yang berkembang ini membuat banyak orang menyerukan akuntabilitas, dan banyak pula yang beralih ke selebriti sendiri untuk angkat bicara.

Para orang tua, baik yang terkenal maupun tidak, ingin Hollywood mendorong peraturan yang lebih kuat terhadap perusahaan teknologi yang mengambil keuntungan dari identitas yang kabur.

Pada saat yang sama, Kongres telah menghidupkan kembali Undang-Undang Keamanan Daring Anak-Anak, sebuah undang-undang yang telah lama dibahas yang memerlukan perlindungan lebih ketat bagi anak di bawah umur dan membatasi fitur adiktif dalam aplikasi digital.

Secara keseluruhan, langkah-langkah ini menandakan apa yang telah diisyaratkan oleh para orang tua selebriti selama bertahun-tahun bahwa membesarkan anak-anak di dunia yang sangat terhubung telah menjadi perjuangan melawan bahaya yang tidak terlihat.

Sebuah studi gabungan yang dilakukan oleh University of Maryland dan Microsoft, yang diterbitkan dalam International Journal of Trendy Research in Engineering and Technology, mengungkapkan bahwa anak-anak lebih cenderung menggunakan teknologi wearable ketika teknologi tersebut memberi mereka rasa kemandirian, sementara orang tua lebih memilih alat yang melindungi tanpa melanggar privasi.

Keseimbangan antara kebebasan dan pengawasan adalah apa yang digambarkan oleh orang tua selebriti seperti Bell, Garner, dan Kardashian ketika mendiskusikan batasan digital.

Kini, gelombang teknologi berikutnya bertujuan untuk membantu. Perangkat pintar seperti Bark Watch dilengkapi tombol SOS, pelacakan GPS, dan peringatan AI yang menandai penindasan, pemangsaan, atau keinginan bunuh diri. Tujuannya bukan pengawasan tetapi keamanan.

Ketika teknologi terus mengaburkan batas antara kenyataan dan imitasi, orang tua Hollywood yang paling berhati-hati tidak lagi menjadi pendukung perubahan.

Di dunia di mana bahkan wajah yang dikenal pun bisa dipalsukan, pesannya jelas: tetap terhubung tidak harus mengorbankan keselamatan.

Kekhawatiran mengenai chatbot AI adalah bagian dari masalah lain yang dihadapi selebriti Hollywood.

Taylor Swift, yang dikenal karena “Eras Tour”-nya yang memecahkan rekor dan pertunangannya baru-baru ini dengan Travis Kelce, menjadi pusat kontroversi digital yang meresahkan.

Pada bulan Agustus, alat xAI Grok Imagine milik Elon Musk dilaporkan membuat video Swift yang dibuat dengan AI secara eksplisit, memicu kemarahan luas dan memicu kembali perdebatan mengenai etika kecerdasan buatan.

Para ahli memperingatkan bahwa teknologi deepfake mengikis kepercayaan masyarakat terhadap apa yang mereka lihat secara online, sehingga menimbulkan “krisis kepercayaan” yang mempengaruhi dunia hiburan dan berita.

Menurut survei TruthScan terhadap 1.000 orang Amerika, 62% mengatakan “tidak dapat diterima” jika film atau media menggunakan AI untuk menggambarkan orang sungguhan tanpa persetujuan.

Sembilan puluh tujuh persen menolak menggunakan gambar orang lain tanpa izin, kecuali untuk kasus-kasus tertentu seperti sindiran atau peragaan sejarah. Jajak pendapat yang sama mengungkapkan bahwa 85% orang Amerika kini merasa kurang memercayai konten online dibandingkan tahun lalu.

Kekhawatirannya tidak hanya terbatas pada selebriti. Delapan dari sepuluh responden khawatir AI dapat meniru identitas mereka atau orang yang mereka cintai dalam penipuan atau rekaman palsu. Tujuh puluh tiga persen menyatakan manipulasi video sebagai kekhawatiran terbesar mereka, diikuti oleh pengeditan gambar, audio, dan teks.

Benjamin Miller, Chief Operating Officer Undetectable AI, menjelaskan kepada The Blast, “Orang-orang lebih nyaman menggunakan AI dengan cara yang mereka anggap bermanfaat, namun perusahaan besar atau pelaku kejahatan yang menggunakan AI-lah yang membuat mereka takut.”