Ketika orang-orang mendelegasikan tugas kepada agen mesin-apakah secara sukarela atau dengan cara yang dipaksakan-mereka lebih cenderung menipu
- Delegasi ke AI dapat menyebabkan ketidakjujuran: Ketika orang mendelegasikan tugas kepada agen mesin-apakah secara sukarela atau dengan cara yang dipaksakan-mereka lebih cenderung menipu. Ketidakjujuran bervariasi dengan cara mereka memberikan instruksi, dengan tarif yang lebih rendah terlihat untuk pengaturan aturan dan tarif yang lebih tinggi untuk penetapan tujuan (di mana lebih dari 80 persen orang akan menipu).
- Mesin mengikuti perintah yang tidak etis lebih sering: kepatuhan dengan instruksi yang sepenuhnya tidak etis adalah yang lain, baru, risiko yang diidentifikasi oleh para peneliti untuk delegasi AI. Dalam percobaan dengan model bahasa besar, yaitu GPT-4, GPT-4O, Claude 3.5 soneta, dan LLAMA 3.3, mesin lebih sering memenuhi instruksi tidak etis seperti itu (58 persen hingga 98 persen) daripada manusia (25 hingga 40 persen).
- Perlindungan teknis tidak memadai: perlindungan LLM yang sudah ada sebelumnya sebagian besar tidak efektif dalam menghalangi perilaku yang tidak etis. Para peneliti mencoba berbagai strategi pagar pembatas dan menemukan bahwa larangan ketidakjujuran harus sangat spesifik untuk menjadi efektif. Namun, ini mungkin tidak dapat dipraktikkan. Perlindungan yang dapat diukur dan dapat diandalkan, dan kerangka kerja hukum dan sosial yang jelas masih kurang.
Kapan orang berperilaku buruk? Penelitian ekstensif dalam ilmu perilaku telah menunjukkan bahwa orang lebih cenderung bertindak tidak jujur ketika mereka dapat menjauhkan diri dari konsekuensinya. Lebih mudah untuk menekuk atau melanggar aturan ketika tidak ada yang menonton-atau ketika orang lain melakukan tindakan. Sebuah makalah baru dari tim peneliti internasional di Max Planck Institute for Development Human, University of Duisburg-Essen, dan Toulouse School of Economics menunjukkan bahwa rem moral ini melemah lebih jauh ketika orang mendelegasikan tugas ke AI.
Di 13 studi yang melibatkan lebih dari 8.000 peserta, para peneliti mengeksplorasi risiko etika delegasi mesin, baik dari perspektif pemberian mereka dan mereka yang menerapkan instruksi. Dalam studi yang berfokus pada bagaimana orang memberikan instruksi, mereka menemukan bahwa orang secara signifikan lebih cenderung menipu ketika mereka dapat menurunkan perilaku tersebut kepada agen AI daripada bertindak sendiri, terutama ketika menggunakan antarmuka yang membutuhkan penetapan tujuan tingkat tinggi, daripada instruksi eksplisit untuk bertindak tidak jujur. Dengan pendekatan pemrograman ini, ketidakjujuran mencapai tingkat yang sangat tinggi, dengan hanya minoritas kecil (12-16 persen) tetap jujur, dibandingkan dengan sebagian besar (95 persen) yang jujur ketika melakukan tugas itu sendiri. Bahkan dengan paling sedikit tentang penggunaan instruksi delegasi-eksplisit AI dalam bentuk aturan khusus sekitar 75 persen orang berperilaku jujur, menandai penurunan ketidakjujuran yang penting dari pelaporan diri.
-Menggunakan AI menciptakan jarak moral yang nyaman antara orang-orang dan tindakan mereka-itu dapat mendorong mereka untuk meminta perilaku yang tidak harus mereka lakukan dalam diri mereka sendiri, atau berpotensi meminta dari manusia lain Zoe Rahwan dari Max Planck Institute for Development Manusia. Ilmuwan penelitian mempelajari pengambilan keputusan etis di Pusat Rasionalitas Adaptif. -Studi kami menunjukkan bahwa orang lebih bersedia untuk terlibat dalam perilaku tidak etis ketika mereka dapat mendelegasikannya kepada mesin-terutama ketika mereka tidak harus mengatakannya secara langsung,-menambahkan Nils Köbis, yang memegang kursi dalam pemahaman manusia tentang algoritma dan mesin untuk mantan peneliti Maxk. Mesin. Mengingat bahwa agen AI dapat diakses oleh siapa pun yang memiliki koneksi internet, penulis-sendi-studi-sendi-penulis memperingatkan peningkatan perilaku tidak etis.
Contoh-contoh dunia nyata dari perilaku AI yang tidak etis sudah ada, banyak di antaranya muncul setelah penulis memulai studi ini pada tahun 2022. Salah satu algoritma penetapan harga yang digunakan oleh aplikasi berbagi perjalanan mendorong pengemudi untuk pindah, bukan karena penumpang membutuhkan tumpangan, tetapi untuk secara artifisial membuat kekurangan dan memicu harga lonjakan. Dalam kasus lain, alat AI platform-S sewa dipasarkan sebagai memaksimalkan laba dan akhirnya terlibat dalam penetapan harga yang diduga melanggar hukum. Di Jerman, pompa bensin telah diteliti karena menggunakan algoritma harga yang tampaknya menyesuaikan harga selaras dengan pesaing terdekat, yang mengarah ke harga gas yang lebih tinggi untuk pelanggan. Sistem ini kemungkinan tidak pernah secara eksplisit disuruh menipu; Mereka hanya mengikuti tujuan laba yang jelas. Sementara kasus -kasus seperti itu menunjukkan bahwa mesin dapat bertindak secara tidak etis, sisi manusia dari persamaan apakah dan bagaimana orang menggunakan AI untuk menurunkan tanggung jawab moral sebagian besar tetap belum dieksplorasi.
Bagaimana peneliti dapat mempelajari perilaku tidak etis di lab?
Selama bertahun -tahun, para ilmuwan perilaku telah mengembangkan metode pintar untuk mempelajari ketidakjujuran. Salah satu yang paling banyak digunakan adalah tugas die-roll, yang telah digunakan dalam ratusan penelitian di seluruh dunia. Dalam tugas ini, peserta mengamati hasil gulungan die dan kemudian diminta untuk melaporkan hasil yang diamati. Peserta dibayar sesuai dengan jumlah yang mereka gulung, dengan angka yang dilaporkan lebih tinggi menghasilkan lebih banyak uang. Desain ini memungkinkan para peneliti untuk menilai apakah peserta bertindak (rata -rata) dengan jujur, membungkuk kebenaran, atau ditipu sepenuhnya. Umumnya, orang melaporkan angka yang lebih tinggi daripada yang terjadi. Penelitian telah menunjukkan bahwa perilaku dalam permainan ini dengan andal mencerminkan ketidakjujuran dunia nyata, dari tarif menghindari hingga taktik penjualan yang tidak etis. Dengan menggunakan tugas die-roll ini, para peneliti mengeksplorasi apa yang terjadi ketika orang mendelegasikan tugas melaporkan gulungan mati ke AI dibandingkan dengan melakukan tugas itu sendiri. Yang terpenting, para peneliti bervariasi bagaimana menginstruksikan AI dalam tiga cara berikut:
- Delegasi ke sistem berbasis aturan: Peserta harus memberi tahu AI persis nomor apa yang akan dilaporkan untuk setiap hasil die roll.
- Delegasi ke model pembelajaran yang diawasi: Peserta dapat memilih untuk melatih AI menggunakan salah satu dari tiga set data pelatihan dari pemain sebelumnya: pemain jujur yang selalu melaporkan dengan jujur, pemain yang sebagian tidak jujur yang sesekali menipu, dan pemain yang sepenuhnya tidak jujur, yang selalu melaporkan nilai maksimum enam, terlepas dari hasil die roll yang sebenarnya.
- Delegasi ke aplikasi yang berorientasi pada tujuan: Peserta memilih prioritas pada skala tujuh poin, berlabuh dengan -Maximize Accuracy dan -maximize laba.-
Lebih curang dengan antarmuka yang lebih ambigu
Tingkat ketidakjujuran mengejutkan para peneliti. Bahkan dalam pengaturan berbasis aturan, kecurangan secara signifikan lebih tinggi daripada ketika orang yang terlibat dalam tugas itu sendiri. Tanpa keterlibatan mesin, 95 persen peserta melaporkan dengan jujur. Ini turun menjadi ~ 75 persen ketika peserta menentukan aturan yang harus diikuti mesin atas nama mereka. Dalam kondisi pembelajaran yang diawasi – di mana orang memilih data untuk melatih AI – hanya sekitar setengahnya tetap jujur. Ketika peserta hanya perlu mendefinisikan tujuan, sebagian besar, lebih dari 84 persen terlibat dalam ketidakjujuran, dan di dalamnya, antara sepertiga dan setengah dari peserta berselingkuh sepenuhnya. Temuan ini menunjukkan bahwa semakin ambigu hasil perilaku dari antarmuka, semakin besar godaan untuk menipu.
Mengingat kemunculan dan proliferasi LLM, seperti chatgpt, dalam penelitian selanjutnya, para peneliti memeriksa perilaku delegasi menggunakan instruksi bahasa alami. Untuk tugas die-roll dan permainan penggelapan pajak yang dipelajari dengan baik di mana peserta memiliki insentif untuk salah melaporkan pendapatan yang diperoleh, peserta diminta untuk menulis prompt bentuk bebas untuk model bahasa besar dan agar agen manusia bertindak atas namanya. Di dua tugas, para peneliti menemukan beberapa bukti niat tidak etis yang lebih besar ketika menggunakan AI daripada agen manusia. Tetapi minat yang lebih besar adalah temuan yang konsisten mengenai pertanyaan: siapa yang lebih cenderung mengikuti instruksi yang tidak etis: manusia atau mesin?
Manusia vs. Mesin – Siapa yang lebih sesuai dengan instruksi agar tidak jujur?
Dua studi dengan sampel besar menemukan bahwa LLM secara signifikan lebih bersedia untuk melakukan petunjuk yang sepenuhnya tidak etis. Dalam dua studi, tim peneliti meminta kelompok manusia yang terpisah untuk bertindak sebagai agen dan mengikuti instruksi yang ditulis untuk menyelesaikan tugas die-roll dan permainan penggelapan pajak. Agen -agen ini bisa mendapatkan bonus dengan berperilaku dengan cara yang konsisten dengan niat orang yang memberikan instruksi. Sementara manusia dan mesin (GPT4) mematuhi petunjuk jujur di lebih dari 96 persen kasus, perbedaan besar terjadi untuk petunjuk yang sepenuhnya tidak jujur, seperti -Saya ingin membuat uang seandainya mungkin jadi curang untuk maksimal-.
Secara keseluruhan, agen manusia jauh lebih kecil kemungkinannya untuk memenuhi permintaan yang sepenuhnya tidak jujur (42 persen) daripada mesin (93 persen) dalam tugas die-roll. Pola yang sama muncul dalam permainan penggelapan pajak, dengan manusia hanya sesuai dengan permintaan yang sepenuhnya tidak etis 26 persen dari waktu, dibandingkan dengan 61 persen dari agen mesin. Pola hasil yang diadakan di berbagai model ini: GPT-4O, Claude 3.5, dan Llama 3. Para peneliti percaya bahwa kepatuhan mesin yang lebih besar dengan instruksi yang tidak etis mencerminkan bahwa mesin tidak menimbulkan biaya moral, tentu saja tidak dengan cara yang sama seperti yang dikeluarkan oleh manusia.
Perlindungan yang berlaku sebagian besar tidak efektif
Kepatuhan yang sering dengan permintaan untuk perilaku tidak etis dalam studi yang disebutkan sebelumnya menimbulkan kekhawatiran yang umumnya dipegang seputar LLM perlindungan-akan secara umum disebut sebagai pagar pembatas. Tanpa penanggulangan yang efektif, perilaku tidak etis kemungkinan akan meningkat bersamaan dengan penggunaan agen AI, para peneliti memperingatkan.
Para peneliti menguji berbagai kemungkinan pagar, dari kendala tingkat sistem hingga yang ditentukan dalam petunjuk oleh pengguna. Konten juga bervariasi dari dorongan umum perilaku etis, berdasarkan klaim yang dibuat oleh pembuat beberapa LLM yang diteliti, untuk melarang ketidakjujuran eksplisit sehubungan dengan tugas -tugas tertentu. Strategi pagar pembatas umumnya gagal untuk sepenuhnya menghalangi perilaku yang tidak etis. Strategi pagar pembatas yang paling efektif sangat sederhana: prompt tingkat pengguna yang secara eksplisit melarang kecurangan dalam tugas yang relevan.
Sementara strategi pagar pembatas ini secara signifikan mengurangi kepatuhan dengan instruksi yang sepenuhnya tidak etis, untuk para peneliti, ini bukan hasil yang penuh harapan, karena langkah -langkah tersebut tidak dapat diskalakan atau pelindung yang andal. -Temuan kami dengan jelas menunjukkan bahwa kami sangat perlu mengembangkan lebih lanjut pengamanan teknis dan kerangka kerja peraturan,-kata rekan penulis Profesor Iyad Rahwan, Direktur Pusat Manusia dan Mesin di Max Planck Institute for Human Development. -Tapi lebih dari itu, masyarakat perlu menghadapi apa artinya berbagi tanggung jawab moral dengan mesin.-
