Anthropic memperingatkan kampanye peretasan berbasis AI yang terkait dengan Tiongkok

Para peneliti menduga AI digunakan untuk mengotomatisasi sebagian serangan siber, sebuah perkembangan yang meresahkan yang dapat memperluas jangkauan peretas yang dilengkapi AI.

Sebuah tim peneliti telah mengungkap apa yang mereka katakan sebagai penggunaan kecerdasan buatan yang pertama kali dilaporkan untuk mengarahkan kampanye peretasan dengan cara yang sebagian besar dilakukan secara otomatis.

Perusahaan AI Anthropic mengatakan minggu ini bahwa mereka mengganggu operasi siber yang penelitinya kaitkan dengan pemerintah Tiongkok. Operasi tersebut melibatkan penggunaan sistem kecerdasan buatan untuk mengarahkan kampanye peretasan, yang oleh para peneliti disebut sebagai perkembangan yang meresahkan yang dapat memperluas jangkauan peretas yang dilengkapi AI.

Meskipun kekhawatiran mengenai penggunaan AI untuk menggerakkan operasi dunia maya bukanlah hal baru, hal yang mengkhawatirkan mengenai operasi baru ini adalah sejauh mana AI mampu mengotomatisasi beberapa pekerjaan, kata para peneliti.

“Meskipun kami memperkirakan kemampuan ini akan terus berkembang, hal yang menonjol bagi kami adalah seberapa cepat kemampuan tersebut berkembang dalam skala besar,” tulis mereka dalam laporannya.

Operasi ini memiliki cakupan yang sederhana dan hanya menargetkan sekitar 30 orang yang bekerja di perusahaan teknologi, lembaga keuangan, perusahaan kimia, dan lembaga pemerintah. Anthropic mengetahui operasi tersebut pada bulan September dan mengambil langkah untuk menghentikannya dan memberi tahu pihak-pihak yang terkena dampak.

Para peretas hanya “berhasil dalam sejumlah kecil kasus”, menurut Anthropic, yang mencatat bahwa meskipun sistem AI semakin banyak digunakan dalam berbagai situasi untuk bekerja dan bersantai, sistem tersebut juga dapat dijadikan senjata oleh kelompok peretas yang bekerja untuk musuh asing.

Anthropic, pembuat chatbot AI generatif Claude, adalah salah satu dari banyak perusahaan teknologi yang menawarkan “agen” AI yang melampaui kemampuan chatbot untuk mengakses alat komputer dan mengambil tindakan atas nama seseorang.

“Agen sangat berharga untuk pekerjaan dan produktivitas sehari-hari – namun jika berada di tangan yang salah, mereka dapat secara signifikan meningkatkan kemungkinan terjadinya serangan siber skala besar,” para peneliti menyimpulkan. “Serangan-serangan ini kemungkinan besar akan semakin efektif.”

Juru bicara Kedutaan Besar Tiongkok di Washington tidak segera membalas pesan untuk meminta komentar mengenai laporan tersebut.

Microsoft memperingatkan awal tahun ini bahwa musuh asing semakin banyak yang menggunakan AI untuk membuat kampanye siber mereka lebih efisien dan tidak memakan banyak tenaga kerja.

Musuh AS, serta geng kriminal dan perusahaan peretasan, telah mengeksploitasi potensi AI, menggunakannya untuk mengotomatisasi dan meningkatkan serangan siber, menyebarkan disinformasi yang menghasut, dan menembus sistem sensitif. AI dapat menerjemahkan email phishing dengan kata-kata buruk ke dalam bahasa Inggris yang fasih, misalnya, serta menghasilkan tiruan digital dari pejabat senior pemerintah.