Sebuah tim peneliti telah mengungkap apa yang mereka katakan sebagai penggunaan pertama yang dilaporkan kecerdasan buatan untuk mengarahkan a kampanye peretasan dengan cara yang sebagian besar otomatis.
Perusahaan AI Anthropic mengatakan minggu ini bahwa mereka mengganggu operasi dunia maya yang dikaitkan dengan para penelitinya pemerintah Tiongkok. Operasi tersebut melibatkan penggunaan sistem kecerdasan buatan untuk mengarahkan kampanye peretasan, yang oleh para peneliti disebut sebagai perkembangan yang meresahkan yang dapat memperluas jangkauan peretas yang dilengkapi AI.
Meskipun kekhawatiran mengenai penggunaan AI untuk menggerakkan operasi dunia maya bukanlah hal baru, hal yang mengkhawatirkan mengenai operasi baru ini adalah sejauh mana AI mampu mengotomatisasi beberapa pekerjaan, kata para peneliti.
“Meskipun kami memperkirakan kemampuan ini akan terus berkembang, hal yang menonjol bagi kami adalah seberapa cepat kemampuan tersebut berkembang dalam skala besar,” tulis mereka dalam laporannya.
Operasi tersebut menargetkan perusahaan teknologi, lembaga keuangan, perusahaan kimia, dan lembaga pemerintah. Para peneliti menulis bahwa para peretas menyerang “kira-kira tiga puluh target global dan berhasil dalam sejumlah kecil kasus.” Anthropic mendeteksi operasi tersebut pada bulan September dan mengambil langkah untuk menghentikannya dan memberi tahu pihak-pihak yang terkena dampak.
Anthropic mencatat bahwa meskipun sistem AI semakin banyak digunakan di berbagai lingkungan kerja dan rekreasi, sistem tersebut juga dapat dijadikan senjata oleh kelompok peretas yang bekerja untuk musuh asing. Anthropic, pembuat chatbot AI generatif Claude, adalah salah satu dari banyak perusahaan teknologi yang menawarkan “agen” AI yang melampaui kemampuan chatbot untuk mengakses alat komputer dan mengambil tindakan atas nama seseorang.
Dapatkan berita nasional terkini
Untuk berita yang berdampak pada Kanada dan seluruh dunia, daftarlah untuk mendapatkan peringatan berita terkini yang dikirimkan langsung kepada Anda saat hal itu terjadi.
“Agen sangat berharga untuk pekerjaan dan produktivitas sehari-hari – namun jika berada di tangan yang salah, mereka dapat secara signifikan meningkatkan kemungkinan terjadinya serangan siber skala besar,” para peneliti menyimpulkan. “Serangan-serangan ini kemungkinan besar akan semakin efektif.”
Juru bicara Kedutaan Besar Tiongkok di Washington tidak segera membalas pesan untuk meminta komentar mengenai laporan tersebut.
Microsoft memperingatkan awal tahun ini bahwa musuh asing semakin banyak yang menggunakan AI untuk membuat kampanye siber mereka lebih efisien dan tidak memakan banyak tenaga kerja. Kepala OpenAIpanel keselamatan, yang memiliki wewenang untuk menghentikan ObrolanGPT pengembangan AI pembuatnya, baru-baru ini mengatakan kepada The Associated Press bahwa dia sedang mewaspadai sistem AI baru yang memberikan “kemampuan jauh lebih tinggi” kepada peretas jahat.
Musuh Amerika, serta geng kriminal dan perusahaan peretasan, telah mengeksploitasi potensi AI, menggunakannya untuk mengotomatisasi dan meningkatkan serangan siber, menyebarkan disinformasi yang menghasut, dan menembus sistem sensitif. AI dapat menerjemahkan email phishing dengan kata-kata buruk ke dalam bahasa Inggris yang fasih, misalnya, serta menghasilkan tiruan digital dari pejabat senior pemerintah.
Anthropic mengatakan para peretas mampu memanipulasi Claude, menggunakan teknik “jailbreaking” yang melibatkan menipu sistem AI untuk melewati pagar pembatas terhadap perilaku berbahaya, dalam hal ini dengan mengklaim bahwa mereka adalah karyawan dari perusahaan yang sah. keamanan siber tegas.
“Hal ini menunjukkan tantangan besar pada model AI, dan tidak hanya terbatas pada Claude, yaitu bahwa model tersebut harus mampu membedakan antara apa yang sebenarnya terjadi dalam etika suatu situasi dan jenis skenario permainan peran yang mungkin ingin dibuat oleh peretas dan pihak lain,” kata John Scott-Railton, peneliti senior di Citizen Lab.
Penggunaan AI untuk mengotomatisasi atau mengarahkan serangan siber juga akan menarik kelompok peretas yang lebih kecil dan peretas tunggal, yang dapat menggunakan AI untuk memperluas skala serangan mereka, menurut Adam Arellano, CTO lapangan di Harness, sebuah perusahaan teknologi yang menggunakan AI untuk membantu pelanggan mengotomatisasi pengembangan perangkat lunak.
“Kecepatan dan otomatisasi yang disediakan oleh AI agak menakutkan,” kata Arellano. “Alih-alih manusia dengan keterampilan yang sudah diasah dengan baik mencoba meretas sistem yang sudah canggih, AI malah mempercepat proses tersebut dan lebih konsisten melewati rintangan.”
Program AI juga akan memainkan peran yang semakin penting dalam mempertahankan diri dari serangan semacam ini, kata Arellano, yang menunjukkan bagaimana AI dan otomatisasi yang dimungkinkan akan menguntungkan kedua belah pihak.
Reaksi terhadap pengungkapan Anthropic beragam, beberapa orang melihatnya sebagai taktik pemasaran untuk pendekatan Anthropic dalam membela keamanan siber dan pihak lain yang menyambut baik peringatan tersebut.
“Hal ini akan menghancurkan kita – lebih cepat dari yang kita perkirakan – jika kita tidak menjadikan regulasi AI sebagai prioritas nasional besok,” tulis Senator AS Chris Murphy, anggota Partai Demokrat dari Connecticut, di media sosial.
Hal itu menimbulkan kritik dari Metakepala ilmuwan AI Yann LeCun, seorang penganjur sistem AI sumber terbuka milik perusahaan induk Facebook yang, tidak seperti milik Anthropic, menjadikan komponen-komponen utamanya dapat diakses publik dengan cara yang dianggap terlalu berisiko oleh beberapa pendukung keselamatan AI.
“Anda dipermainkan oleh orang-orang yang menginginkan peraturan,” tulis LeCun dalam balasannya kepada Murphy. “Mereka menakut-nakuti semua orang dengan penelitian yang meragukan sehingga model open source tidak lagi ada.”
© 2025 Pers Kanada
