Meta AI mengambil langkah pertama ke Superintelligence – dan Zuckerberg tidak akan lagi merilis sistem yang paling kuat kepada publik
Peneliti di Meta mengklaim telah mengamati perusahaan kecerdasan buatan (AI) Sistem meningkatkan diri tanpa masukan manusia.
“Selama beberapa bulan terakhir kami mulai melihat sekilas sistem AI kami meningkatkan diri mereka sendiri,” kata CEO Meta Zuckerberg dalam sebuah makalah kebijakan yang diterbitkan 30 Juli di situs web perusahaan. “Peningkatannya lambat untuk saat ini, tetapi tidak dapat disangkal.”
Zuckerberg menambahkan bahwa AI yang meningkatkan diri adalah langkah pertama menuju pencapaian Superintelligence Buatan (ASI) – Kecerdasan buatan yang mampu melampaui kemampuan kognitif manusia.
Secara umum, peneliti AI mempertimbangkan kemampuan AI dalam tiga strata. Sementara model AI saat ini dapat mencapai prestasi manusia super yang luar biasa, seperti memprediksi struktur proteinkemampuan ini sangat sempit. Dalam kasus seperti itu, sistem hanya dapat melebihi manusia dalam satu bidang tertentu tetapi tidak memiliki kecerdasan umum untuk kemampuan ini untuk diterapkan di berbagai disiplin ilmu.
Tingkat berikutnya dipanggil Kecerdasan Umum Buatan (AGI), dan mengacu pada model yang dapat memahami, belajar, dan beradaptasi dengan cara yang sama seperti otak manusia.
ASI adalah keadaan terakhir yang dirujuk Zuckerberg dalam posting blog, dan menyangkut model yang telah berevolusi menjadi jauh melebihi potensi manusia – dan dapat meningkatkan diri pada tingkat yang eksponensial, yang mengarah ke “ledakan intelijen.”
Para ilmuwan merujuk pada momen hipotetis yang kita raih AGI sebagai Singularitas teknologi.
Referensi Zuckerberg untuk melihat pengembangan diri AI bukan pertama kalinya fenomena ini terlihat. Pada Oktober 2024, para peneliti di University of California, Santa Barbara menerbitkan sebuah makalah untuk pracetak arxiv Basis data berpusat pada gagasan peningkatan diri.
Di dalamnya, mereka mendefinisikan, membuat dan menguji kerangka kerja AI berdasarkan gagasan mesin Gödel – perangkat teoretis yang mampu meningkatkan dirinya dengan menulis ulang kode dan instruksi sendiri. Yang penting, mesin hanya akan menerapkan perubahan jika dapat menghasilkan bukti formal bahwa perubahan akan bermanfaat.
Tim bereksperimen dengan kerangka kerja AI berdasarkan konsep itu, dan membuktikan bahwa agen Gödel mereka dapat meningkatkan kinerjanya sendiri dalam berbagai tugas, termasuk pengkodean, sains, matematika, dan penalaran.
Hampir semua model biasanya tidak diberdayakan untuk menulis ulang kode mereka sendiri. Agen Gödel tidak hanya dapat mengakses seluruh basis kode tetapi juga kode yang digunakan untuk mengembangkan perbaikan, sambil menunjukkan bahwa perbaikan itu bermanfaat.
AI secara konsisten menunjukkan kinerja yang lebih baik di bidang-bidang utama daripada agen yang dirancang manusia yang dibandingkan, menurut penelitian. Zuckerberg mengatakan bahwa ASI dapat mewakili langkah transformatif dalam kemajuan teknologi manusia, dan bahwa hal itu dapat mengarah pada “penemuan hal-hal baru yang tidak dapat dibayangkan saat ini.”
Yang mengatakan, ia menambahkan bahwa meta akan jauh lebih berhati -hati tentang model mana yang dipilih perusahaan untuk merilis kepada publik di bawah kerangka kerja open source – yang berarti siapa pun dapat memiliki akses ke sana.
“Saya sangat optimis bahwa pengawasan akan membantu umat manusia mempercepat laju kemajuan kita. Tapi mungkin yang lebih penting adalah bahwa pengawasan memiliki potensi untuk memulai era baru pemberdayaan pribadi di mana orang akan memiliki agen yang lebih besar untuk meningkatkan dunia dalam arah yang mereka pilih,” tulis Zuckerberg.
“Suatu hari yang mendalam yang dihasilkan oleh AI suatu hari nanti, dampak yang bahkan lebih bermakna pada kehidupan kita kemungkinan akan datang dari semua orang yang memiliki pengawasan pribadi yang membantu Anda mencapai tujuan Anda, menciptakan apa yang ingin Anda lihat di dunia, mengalami petualangan apa pun, menjadi teman yang lebih baik bagi mereka yang Anda pedulikan, dan tumbuh menjadi orang yang Anda inginkan.” “” “
