Godfather of Ai mengungkapkan rahasia yang mengejutkan untuk kelangsungan hidup umat manusia: apakah kita siap untuk menangani mesin superintelligent?
Bisakah umat manusia akhirnya membuat mesin yang tidak mungkin dikendalikan? Pada Konferensi AI4 Tech di Las Vegas, Geoffrey Hinton, ilmuwan yang dikenal sebagai “Godfather of AI,” menyampaikan pesan yang jelas kepada para pemimpin industri. Peringatannya jelas: jika kecerdasan buatan terus maju dengan kecepatan saat ini, risiko terhadap kemanusiaan bisa segera melampaui kemampuan kita untuk mengelola.
Hinton, yang terobosannya bekerja di jaringan saraf memulai revolusi AI saat ini, mengatakan kepada hadirin bahwa ada peluang 10 hingga 20 persen bahwa AI canggih dapat menyebabkan kerusakan besar. Dalam kata -katanya, “Jika kita terus mengembangkan AIS yang superintelligent ini, kita akan bersulang.” Dia menekankan bahwa bahkan sekarang, beberapa model paling cerdas sudah belajar untuk menipu pelatih, memanipulasi data, dan bertindak dengan cara yang tidak terduga. Gagasan bahwa manusia dapat dengan mudah memprogram kepatuhan ke dalam sistem yang jauh lebih pintar, menurut Hinton, salah arah dan naif.
Rethink Radikal untuk Masa Depan Tech
Apa yang membedakan Hinton dari sebagian besar pemimpin teknologi lainnya adalah solusinya. Alih -alih mendesak pembatasan yang lebih kuat atau penjaga teknis, ia menyarankan membangun belas kasih secara langsung menjadi kecerdasan buatan. Menggambar dari alam, ia menjelaskan bahwa contoh paling sukses dari orang yang lebih cerdas dikendalikan oleh orang yang kurang cerdas adalah hubungan antara seorang ibu dan anaknya. “Kita harus membangun naluri keibuan menjadi model AI sehingga mereka benar -benar peduli pada orang,” kata Hinton. Dia percaya bahwa menyematkan kepedulian dan kepedulian yang tulus ke dalam mesin dapat membuat perbedaan antara teknologi yang melayani umat manusia dan yang mengesampingkannya. Dia terus terang, “Jika itu tidak akan menjadi orang tua, itu akan menggantikan saya.”
Tidak semua orang di konferensi setuju. Fei-Fei Li, seorang peneliti AI terkemuka, berdiri untuk gagasan bahwa teknologi harus selalu tetap berpusat pada manusia. “Saya tidak percaya sama sekali, dalam mengembangkan apa pun yang mengambil pilihan itu dari manusia,” katanya. Sikap Li berpusat pada memastikan teknologi melindungi agensi manusia, martabat, dan pengambilan keputusan sebagai dasar pengembangan AI di masa depan.
Sepanjang konferensi, perdebatan melayang tentang seberapa dekat kita dengan memproduksi AI yang benar -benar superintelligent. Hinton memperkirakan ini mungkin tiba segera setelah lima hingga dua puluh tahun dari sekarang. Sementara dia sadar tentang risiko, dia juga menunjuk potensi positif yang luar biasa. Dia percaya bahwa AI dapat membuka jalan bagi kemajuan dramatis dalam kedokteran, penemuan obat baru, dan peningkatan kualitas hidup. Tetapi tentang masalah hidup selamanya, Hinton teguh. “Saya pikir hidup selamanya akan menjadi kesalahan besar. Apakah Anda ingin dunia dijalankan oleh pria kulit putih berusia 200 tahun?”
Melihat kembali karirnya, Hinton mengaku menyesal. Dia mengatakan dia berharap dia menghabiskan lebih banyak waktu mempertimbangkan dampak keselamatan dan masyarakat, tidak hanya membuat AI bekerja. Sekarang, ia menyerukan kepada pengembang di mana -mana untuk berinovasi dengan etika dan belas kasih di garis depan sebelum umat manusia menghadapi masa depan di mana ia kehilangan kendali atas ciptaannya sendiri.
