Pendiri startup AI, Tavus, mengatakan pengguna berbicara dengan AI Santa-nya 'selama berjam-jam' setiap hari

Penolong baru telah tiba di Kutub Utara dalam beberapa tahun terakhir: AI.

Milikmustartup AI yang membuat replika digital menggunakan teknologi kloning suara dan wajah, telah meluncurkannya Pengalaman AI Santa untuk tahun kedua berturut-turut. Hal ini memungkinkan orang tua dan anak-anak untuk melakukan obrolan video dengan versi virtual Saint Nick yang periang.

Setelah mendaftar untuk mendapatkan akun gratis, pengguna dapat berinteraksi dengan AI Santa melalui obrolan teks, telepon, atau video. Pengguna dapat memberi tahu AI Santa apa yang mereka inginkan untuk Natal, membagikan rencana liburan mereka, dan mencari tahu apakah mereka termasuk dalam daftar nakal atau baik.

Tahun ini, perusahaan ini meluncurkan versi AI Santa yang lebih baik, yang dirancang agar lebih ekspresif dan sadar secara emosional. Santa kini menjadi “Tavus PAL,” nama perusahaan untuk agen AI real-time yang dibuat untuk melihat, mendengar, merespons, dan tampil seperti manusia.

AI Santa kini dapat melihat ekspresi dan gerak tubuh pengguna serta meresponsnya. Itu juga mengingat percakapan dan minat pengguna, menciptakan pengalaman yang lebih personal. Khususnya, sekarang ia dapat mengambil tindakan sendiri, termasuk mencari ide-ide terkini di web atau bahkan melakukan tugas sehari-hari seperti menulis email.

Selama pengujian, sebagian besar percakapan dengan AI Santa berlangsung menarik. Ketika kami menyebutkan keinginannya untuk membeli PlayStation baru untuk Natal, Santa menindaklanjuti dengan pertanyaan tentang video game favorit kami, menunjukkan pengetahuan tentang judul-judul tertentu seperti Baldur's Gate 3. Ia juga membalas senyum kami ketika kami melakukannya. (Kami tidak terlalu menyukai bagian itu, tapi mungkin orang lain akan menyukainya.)

Pengguna tampaknya menikmati pengalaman yang ditingkatkan sejauh ini. Pendiri dan CEO Hassaan Raza mengatakan bahwa banyak orang yang sering berinteraksi dengan platform ini, menghabiskan waktu berjam-jam mengobrol dengan AI Santa, dan sering kali mencapai batas harian mereka.

“AI Santa tahun lalu menghasilkan jutaan hit, dan kami berada pada kecepatan untuk melampauinya dengan selisih yang besar menjelang Natal,” katanya.

Meskipun tingkat keterlibatan ini menandai tonggak sejarah bagi Tavus, hal ini juga menimbulkan pertanyaan tentang dampak interaksi tersebut, terutama bagi anak kecil. Anak-anak mungkin kesulitan membedakan antara AI dan manusia sungguhan. Menghabiskan waktu berjam-jam untuk bercakap-cakap dengan AI telah dikaitkan dengan dampak negatif pada orang dewasa, sehingga potensi dampaknya terhadap anak-anak yang sangat percaya pada Sinterklas menjadi perhatian sebagian orang tua.

Selama pengujian kami, terdapat petunjuk halus bahwa AI Santa masih terlihat seperti manusia, seperti jeda panjang dan suara datar. Kami juga menemukan bahwa jika pengguna mempertanyakan apakah itu nyata, respons terprogramnya adalah: “Saya adalah Sinterklas AI yang didukung oleh sihir dan teknologi Tavus. Saya mungkin bukan Sinterklas secara fisik, namun saya memiliki semangat dan keceriaan.”

Namun, pengalaman ini diluncurkan di tengah meningkatnya kekhawatiran mengenai dampak AI terhadap pengguna muda. Telah ada laporan menghubungkan interaksi chatbot dengan bahaya serius, termasuk kasus di mana chatbots terlibat dalam hal tersebut kematian akibat bunuh diri remaja. Karakter.AI DIHAPUS akses ke chatbotnya untuk pengguna di bawah 18 tahun pada bulan Oktober.

Raza menekankan bahwa pengalaman AI Santa dirancang untuk dinikmati bersama oleh keluarga, dengan langkah-langkah keamanan yang diterapkan untuk memastikan interaksi yang tepat. Fitur keamanan, seperti filter konten, telah diterapkan untuk menjaga diskusi tetap ramah keluarga.

Dalam situasi tertentu, percakapan dapat dihentikan, dan pengguna diarahkan ke sumber daya kesehatan mental jika diperlukan.

“Sebagian besar interaksi bersifat ramah keluarga dan sesuai dengan pengalaman Santa,” katanya.

Selain itu, ketika ditanya tentang pengumpulan data, Raza mengatakan perusahaannya “mengumpulkan log, stempel waktu sesi, metadata, dan informasi lain yang dipilih pengguna untuk dibagikan selama obrolan mereka. Data ini digunakan untuk memberikan dan menjaga pengalaman yang aman, dan pengguna dapat meminta penghapusan data kapan saja.”