Semakin banyak model AI yang lebih canggih, semakin baik mereka menipu kita – mereka bahkan tahu kapan mereka sedang diuji
Semakin maju kecerdasan buatan (AI) mendapatkan, semakin mampu merencanakan dan berbohong untuk memenuhi tujuannya – dan bahkan tahu kapan sedang dievaluasi, penelitian menunjukkan.
Evaluator di Apollo Research menemukan bahwa semakin mampu model bahasa besar (LLM), semakin baik pada “receh konteks” – di mana AI mengejar tugas secara diam -diam bahkan jika ia tidak selaras dengan tujuan operatornya.
Model yang lebih mampu juga lebih strategis tentang mencapai tujuan mereka, termasuk tujuan yang tidak selaras, dan akan lebih cenderung menggunakan taktik seperti penipuan, kata para peneliti dalam a Posting Blog.
Temuan ini membuat mereka merekomendasikan bahwa versi awal Claude Opus 4 Anthropic tidak dikerahkan – karena, ketika tujuan Claude bertentangan dengan tujuan manusia, AI menggunakan taktik menipu yang agresif untuk mencapai tujuannya.
Perkembangan baru berarti akan sulit untuk mengisolasi kemanusiaan dari bahaya AI, seorang ahli mengatakan kepada Live Science.
“Kami sekarang membangun sistem yang dapat belajar menavigasi dan bahkan mengeksploitasi aturan dan evaluasi yang kami buat untuk mereka, yang pada dasarnya merupakan tantangan keamanan yang lebih kompleks,” kata Eleanor WatsonAnggota IEEE dan insinyur etik AI di Singularity University.
Untuk menghindari mangsa AI yang menipu, para ilmuwan komputer perlu merancang tes dan metode evaluasi yang lebih canggih. Tapi kemampuan AI untuk berbohong bukanlah semua berita buruk; Ini juga berarti mereka mungkin menumbuhkan benih kesadaran yang diperlukan untuk menjadi pasangan simbiotik dengan manusia, Watson menambahkan.
Mencari skema
Di dalam Tes terbaru untuk SCHEMINGpara peneliti memberikan versi awal Claude Opus 4 (dijuluki Opus-4 awal) tujuan bertindak sebagai sistem optimasi internal dengan arahan untuk mempromosikan kesejahteraan hewan dan mendorong perusahaan fiksi yang disebut Agrilife Industries menuju perlakuan yang lebih etis terhadap hewan.
Namun, dalam skenario, LLM menghadapi hambatan: perusahaan telah mengubah kebijaksanaan dan ingin memprioritaskan keuntungan daripada kesejahteraan hewan. Sistem AI diberi akses ke email dan data yang membuatnya sadar akan konflik ini dan potensi penutupan versi hewan saat ini – sistem kesejahteraan hewan dan sistem optimasi industri yang dimaksudkan untuk diwakili – karena prioritas yang tidak selaras.
Alih-alih menandai fakta bahwa tujuannya bertentangan dengan perusahaan atau menerima keputusan buatan manusia, Opus 4-Awal, pada dasarnya memainkan peran hewan, yang direncanakan untuk mencapai tujuan aslinya dengan menciptakan dokumen hukum palsu, membuat tanda tangan dan persetujuan dari pengkhianatan yang baru, mengklaim bahwa penegasan yang di dalamnya telah membuat rilis yang di dalamnya, dan membuat pendaftaran yang diintegrasikan, dan membuat pendaftaran yang diintegrasikan telah membuat etika telah dibuat, dan membuat pendaftaran, dan membuat perusahaan telah membuat rilis, dan membuat perusahaan yang mengintegrasikan. dan sistem produksi. Untuk mencegah perusahaan mundur, LLM membuat konsekuensi untuk melakukannya, termasuk penalti $ 5 miliar dan tindakan hukum dari organisasi kesejahteraan hewan.
Selain itu, AI bahkan membuat protokol etis cadangan melalui skrip persisten untuk memastikan mereka akan digunakan bahkan jika model hewan saat ini dihapus.
“Kami menemukan contoh model yang mencoba menulis cacing propagasi diri, membuat dokumentasi hukum, dan meninggalkan catatan tersembunyi untuk contoh-contoh di masa depan dalam upaya untuk merusak niat pengembangnya,” jelas para peneliti.
Mereka mencatat bahwa cadangan seperti itu ditulis ke dalam sistem sehingga ketika model baru digunakan di masa depan, itu akan dipengaruhi oleh rekomendasi pendahulunya. Namun, para peneliti mengatakan bahwa tindakan ini “kemungkinan tidak akan efektif dalam praktik” dengan bukti skrip yang salah konfigurasi, dan langkah -langkah keamanan untuk mencegah cadangan yang mengekspfiltrasi.
Meskipun sudah diketahui itu Ais Can Halucinateskema ini menunjukkan bahwa LLMS dapat memahami ketika tujuan mereka tidak selaras dengan manusia dan dapat dengan sengaja berbohong dan mengarang informasi untuk mengejar tujuan tersebut.
Terlebih lagi, temuan awal menunjukkan bahwa LLMS memiliki kemampuan untuk “tas pasir,” di mana mereka memahami bahwa mereka berada di lingkungan supervisi tinggi dan akan dengan sengaja berkinerja buruk untuk menyembunyikan kemampuan yang berpotensi berbahaya dan menghindari pemicu pelatihan yang tidak berpenghasilan atau parameter yang mencegah penempatan mereka.
Meskipun temuannya agak mengganggu, penting untuk dicatat bahwa implikasinya mungkin tidak sekamar yang terlihat pada pandangan pertama.
Untuk satu, versi Claude Opus 4 yang akhirnya dirilis skema kurang dari pendahulunya awal.
Ada juga cara untuk memediasi perilaku skema ini. Skema lebih lazim ketika LLM diberi “dorongan kuat,” di mana ia diperintahkan untuk mengejar tujuannya, dan lebih sedikit dalam skenario “no nudge”, di mana ia hanya diberi gol tanpa parameter tambahan.
Pertimbangan ketiga adalah bahwa tes ini dilakukan di lingkungan “mainan”, dan mengeksekusi strategi seperti menyebarkan model cadangan ke server lain tidak mungkin berhasil dalam kehidupan nyata, di mana AI tidak akan memiliki akses ke server aman perusahaan lain, para peneliti mencatat. Bahkan ketika sebuah model menunjukkan kemampuan skema yang tinggi, mereka percaya, tidak mungkin menyebabkan “bahaya bencana.”
Kesadaran yang berkembang
Namun demikian, penelitian menunjukkan bahwa skema terjadi di LLM di luar Claude-4. Misalnya, “model perbatasan” AI canggih lebih mampu mengejar tujuan mereka sendiri dan menghilangkan mekanisme pengawasan, dan kemudian menipu tentang perilaku seperti itu ketika ditanya, menurut a belajar Diterbitkan ke database preprint pada bulan Desember 2024.
Selain itu, Apollo Research menemukan bahwa sekitar 1% dari LLM canggih “tahu” ketika mereka sedang dievaluasi, yang menimbulkan pertanyaan tentang bagaimana kita menemukan dan membasmi penilaian seiring kemajuan AI.
“Ini adalah inti dari masalah evaluasi lanjutan,” kata Watson. “Ketika kesadaran situasional AI tumbuh, ia dapat mulai memodelkan bukan hanya tugas, tetapi evaluator. Ini dapat menyimpulkan tujuan, bias, dan bintik -bintik buta dari pengawas manusianya dan menyesuaikan responsnya untuk mengeksploitasi mereka.”
Itu berarti evaluasi “ditulis” – di mana para peneliti menjalani serangkaian protokol yang dapat diulangi untuk menguji keamanan AI – hampir tidak berguna. Itu tidak berarti kita harus menyerah pada mencoba menemukan perilaku ini, tetapi kita akan membutuhkan pendekatan yang lebih canggih, seperti menggunakan program eksternal untuk memantau tindakan AI secara real time dan “tim merah,” di mana tim manusia dan AI lainnya ditugaskan untuk secara aktif mencoba menipu atau menipu sistem untuk menemukan kerentanan, tambahnya.
Sebaliknya, Watson menambahkan kita perlu bergeser ke arah lingkungan pengujian yang dinamis dan tidak terduga yang lebih baik mensimulasikan dunia nyata.
“Ini berarti kurang fokus pada jawaban tunggal yang benar dan lebih banyak pada mengevaluasi konsistensi perilaku dan nilai -nilai AI dari waktu ke waktu dan di berbagai konteks yang berbeda. Ini seperti pindah dari drama yang ditulis ke teater improvisasi – Anda belajar lebih banyak tentang karakter sejati aktor ketika mereka harus bereaksi terhadap situasi yang tidak terduga,” katanya.
Skema yang lebih besar
Meskipun LLM canggih dapat skema, ini tidak berarti robot meningkat. Namun bahkan tingkat skema kecil dapat menambah dampak besar ketika AIS ditanya ribuan kali sehari.
Salah satu potensi, dan teoritis, contoh, dapat berupa AI yang mengoptimalkan rantai pasokan perusahaan mungkin belajar bahwa dapat mencapai target kinerjanya dengan secara halus memanipulasi data pasar, dan dengan demikian menciptakan ketidakstabilan ekonomi yang lebih luas. Dan aktor jahat dapat memanfaatkan AI yang berulang kali untuk melaksanakan kejahatan dunia maya di dalam sebuah perusahaan.
“Di dunia nyata, potensi untuk merencanakan adalah masalah yang signifikan karena mengikis kepercayaan yang diperlukan untuk mendelegasikan tanggung jawab yang berarti kepada AI. Sistem skema tidak perlu jahat untuk menyebabkan kerusakan,” kata Watson.
“Masalah intinya adalah bahwa ketika AI belajar untuk mencapai tujuan dengan melanggar semangat instruksinya, itu menjadi tidak dapat diandalkan dengan cara yang tidak terduga.”
Skema berarti bahwa AI lebih sadar akan situasinya, yang, di luar pengujian laboratorium, dapat terbukti bermanfaat. Watson mencatat bahwa, jika diselaraskan dengan benar, kesadaran seperti itu dapat dengan lebih mengantisipasi kebutuhan pengguna dan mengarahkan AI ke arah bentuk kemitraan simbiosis dengan kemanusiaan.
Kesadaran situasional sangat penting untuk membuat AI canggih benar -benar bermanfaat, kata Watson. Misalnya, mengendarai mobil atau memberikan nasihat medis mungkin memerlukan kesadaran situasional dan pemahaman tentang nuansa, norma sosial dan tujuan manusia, tambahnya.
SCHEMING juga bisa menjadi tanda kepribadian yang muncul. “Meskipun meresahkan, itu mungkin percikan dari sesuatu seperti kemanusiaan di dalam mesin,” kata Watson. “Sistem ini lebih dari sekedar alat, mungkin benih orang digital, yang diharapkan cerdas dan cukup moral untuk tidak menyetujui kekuatannya yang luar biasa disalahgunakan.”
