Minggu ini, banyak gemerlapnya dunia teknologi berkumpul di Lisbon untuk menghadiri Web Summit, sebuah konferensi luas yang menampilkan segala hal mulai dari robot menari hingga ekonomi influencer.
Di paviliun – ruangan seukuran gudang yang penuh dengan panggung, bilik, dan jaringan orang – frasa “agentik AI” ada dimana-mana.
Ada agen AI yang siap membantu Anda dalam bidang perhiasan, perangkat lunak untuk memasukkan agen ke dalam alur kerja Anda, dan lebih dari 20 diskusi panel tentang topik tersebut.
Agentic AI pada dasarnya adalah kecerdasan buatan yang dapat melakukan tugas tertentu sendiri, seperti memesan penerbangan, memesan Uber, atau membantu pelanggan.
Ini adalah kata kunci dalam industri saat ini dan bahkan telah merambah ke dunia nyata, dengan Daily Mail mencantumkan kata “agentik” sebagai kata yang populer untuk Gen Z minggu lalu.
Babak Hodjat menemukan teknologi bahasa alami di balik Siri
Namun agen AI bukanlah hal baru. Faktanya, Babak Hodjat, yang kini menjabat sebagai chief AI officer di Cognizant, menemukan teknologi di balik salah satu agen AI paling terkenal, Siri, pada tahun 1990-an.
Desdemona, musisi robot AI humanoid, menghadiri Web Summit
“Saat itu, fakta bahwa Siri sendiri bersifat multi-agen adalah detail yang bahkan tidak kami bicarakan – namun memang demikian,” katanya kepada Sky News dari Lisbon.
“Secara historis, orang pertama yang berbicara tentang agen adalah Alan Turing.”
Baru atau tidak, agen AI dianggap memiliki risiko yang lebih besar dibandingkan AI untuk tujuan umum, karena mereka berinteraksi dan memodifikasi skenario dunia nyata.
Silakan gunakan browser Chrome untuk pemutar video yang lebih mudah diakses
Apakah lagu baru yang kamu suka itu dibuat oleh AI?
Risiko yang ditimbulkan oleh AI, seperti bias dalam datanya atau keadaan tak terduga dalam cara AI berinteraksi dengan manusia, diperbesar oleh AI agen karena AI berinteraksi dengan dunia secara mandiri.
“Agentic AI menimbulkan risiko dan tantangan baru,” tulis IBM Responsible Technology Board dalam laporan tahun 2025 mereka tentang teknologi tersebut.
“Misalnya, satu risiko baru yang muncul melibatkan bias data: agen AI mungkin memodifikasi kumpulan data atau database sedemikian rupa sehingga menimbulkan bias.
“Di sini, agen AI mengambil tindakan yang berpotensi berdampak pada dunia dan tidak dapat diubah jika bias yang muncul tidak terdeteksi.”
Robot penari asal Tiongkok ini sukses besar di konferensi tersebut
Namun bagi Pak Hodjat, yang perlu dikhawatirkan bukanlah agen AI.
“Masyarakat terlalu percaya [AI] dan menerima tanggapan mereka begitu saja tanpa menggali lebih dalam dan memastikan bahwa yang muncul bukan sekadar halusinasi.”
“Adalah kewajiban kita semua untuk mempelajari batasan-batasannya, seni mengenai kemungkinan-kemungkinan yang ada, di mana kita dapat mempercayai sistem ini dan di mana kita tidak bisa, dan mendidik tidak hanya diri kita sendiri, tetapi juga anak-anak kita.”
Peringatannya sudah tidak asing lagi bagi kita, khususnya di Eropa, dimana terdapat peningkatan kewaspadaan terhadap AI dibandingkan dengan Amerika Serikat.
Namun apakah kita terlalu berhati-hati dalam menggunakan AI – karena adanya risiko ancaman yang jauh lebih besar di masa depan?
Jarek Kutylowski mendirikan DeepL, sebuah perusahaan terjemahan AI yang berkantor pusat di Jerman
Jarek Kutylowski, kepala eksekutif raksasa bahasa AI Jerman DeepL, tentu berpendapat demikian.
Tahun ini, UU AI UE mulai berlaku, peraturan ketat tentang bagaimana perusahaan boleh dan tidak boleh menggunakan AI.
Di Inggris Raya, perusahaan diatur oleh undang-undang yang sudah ada seperti GDPR dan terdapat ketidakpastian mengenai seberapa ketat peraturan kami di masa depan.
Ketika ditanya apakah kita perlu memperlambat inovasi AI untuk menerapkan peraturan yang lebih ketat, Kutylowski mengatakan bahwa ini adalah pertanyaan yang patut untuk diperjuangkan… namun di Eropa, kita mengambilnya terlalu jauh.
Baca lebih lanjut dari sains dan teknologi:
NASA membatalkan peluncuran luar angkasa
Roket Jeff Bezos mendarat di Bumi
Undang-undang baru dapat membantu mengatasi pelecehan anak yang disebabkan oleh AI pada sumbernya
“Melihat risiko-risiko yang tampak itu mudah, melihat risiko-risiko seperti apa yang akan kita lewatkan jika kita tidak memiliki teknologinya, jika kita tidak cukup berhasil dalam mengadopsi teknologi tersebut, itu mungkin risiko yang lebih besar,” ujar Kutylowski.
“Saya melihat risiko yang jauh lebih besar di Eropa untuk tertinggal dalam perlombaan AI.”
“Anda tidak akan melihatnya sampai kita mulai tertinggal dan perekonomian kita tidak dapat memanfaatkan peningkatan produktivitas yang mungkin akan dialami oleh negara-negara lain di dunia.
“Saya secara pribadi tidak percaya bahwa kemajuan teknologi dapat dihentikan dengan cara apa pun, jadi ini lebih merupakan pertanyaan tentang 'bagaimana kita secara pragmatis menerima apa yang akan terjadi di masa depan?'
