Mengapa Sam Altman tidak tidur? CEO OpenAI membahas kontroversi dalam wawancara menyapu
Sam Altman, CEO Openai, dan Lisa Su, CEO Perangkat Mikro Lanjutan, bersaksi selama Sidang Komite Perdagangan Senat, Sains dan Transportasi berjudul “Memenangkan Perlombaan AI: Memperkuat kemampuan AS dalam Komputasi dan Inovasi,” di Hart Building pada hari Kamis, 8 Mei 2025.
Tom Williams | CQ-Roll Call, Inc. | Gambar getty
Dalam menyapu wawancara Pekan lalu, CEO OpenAI Sam Altman membahas sejumlah besar pertanyaan moral dan etika mengenai perusahaannya dan model AI chatgpt populer.
“Dengar, aku tidak tidur nyenyak di malam hari. Ada banyak hal yang aku rasakan banyak, tapi mungkin tidak lebih dari fakta bahwa setiap hari, ratusan juta orang berbicara dengan model kami,” Altman mengatakan kepada mantan pembawa acara Fox News Tucker Carlson dalam wawancara selama hampir satu jam.
“Aku sebenarnya tidak khawatir tentang kita yang salah membuat keputusan moral besar,” kata Altman, meskipun dia mengakui, “Mungkin kita akan salah juga.”
Sebaliknya, dia mengatakan dia kehilangan paling banyak tidur karena “keputusan yang sangat kecil” pada perilaku model, yang pada akhirnya dapat memiliki dampak besar.
Keputusan ini cenderung berpusat di sekitar etika yang menginformasikan chatgpt, dan pertanyaan apa yang dilakukan chatbot dan tidak menjawab. Berikut adalah garis besar dari beberapa dilema moral dan etika yang tampaknya membuat Altman tetap terjaga di malam hari.
Bagaimana chatgpt mengatasi bunuh diri?
Menurut Altman, masalah paling sulit yang dilakukan perusahaan baru -baru ini adalah bagaimana chatgpt mendekati bunuh diri, mengingat gugatan Keluarga yang menyalahkan chatbot untuk bunuh diri putra remaja mereka.
CEO mengatakan bahwa dari ribuan orang yang bunuh diri setiap minggu, banyak dari mereka mungkin bisa Berbicara dengan chatgpt menjelang.
“Mereka mungkin membicarakannya [suicide]dan kita mungkin tidak menyelamatkan hidup mereka, “Altman berkata dengan jujur.” Mungkin kita bisa mengatakan sesuatu yang lebih baik. Mungkin kita bisa lebih proaktif. Mungkin kita bisa memberikan saran yang sedikit lebih baik tentang, hei, Anda perlu mendapatkan bantuan ini. ”
Bulan lalu, orang tua Adam Raine mengajukan a Tanggung jawab produk dan setelan kematian yang salah Terhadap Openai setelah putra mereka meninggal karena bunuh diri pada usia 16 tahun. Dalam gugatan itu, keluarga mengatakan bahwa “Chatgpt secara aktif membantu Adam mengeksplorasi metode bunuh diri.”
Segera setelah itu, di a Posting Blog berjudul “Membantu Orang Saat Mereka Membutuhkannya,” Openai Rencana terperinci untuk mengatasi kekurangan Chatgpt saat menangani “situasi sensitif,” dan mengatakan akan terus meningkatkan teknologinya untuk melindungi orang -orang yang paling rentan.
Bagaimana etika chatgpt ditentukan?
Topik besar lainnya yang dibicarakan dalam wawancara duduk adalah etika dan moral yang menginformasikan chatgpt dan pelayannya.
Sementara Altman menggambarkan model dasar chatgpt sebagai terlatih tentang pengalaman kolektif, pengetahuan dan pembelajaran kemanusiaan, ia mengatakan bahwa Openai kemudian harus menyelaraskan perilaku chatbot tertentu dan memutuskan pertanyaan apa yang tidak akan dijawabnya.
“Ini adalah masalah yang sangat sulit. Kami memiliki banyak pengguna sekarang, dan mereka berasal dari perspektif kehidupan yang sangat berbeda … tetapi secara keseluruhan, saya terkejut dengan kemampuan model untuk belajar dan menerapkan kerangka kerja moral.”
Ketika ditekan tentang bagaimana spesifikasi model tertentu diputuskan, Altman mengatakan perusahaan telah berkonsultasi “ratusan filsuf moral dan orang -orang yang berpikir tentang etika teknologi dan sistem.”
Contoh yang dia berikan tentang spesifikasi model yang dibuat adalah bahwa chatgpt akan menghindari menjawab pertanyaan tentang cara membuat senjata biologis jika diminta oleh pengguna.
“Ada contoh yang jelas di mana masyarakat memiliki minat yang dalam ketegangan yang signifikan dengan kebebasan pengguna,” kata Altman, meskipun ia menambahkan perusahaan “tidak akan memperbaiki segalanya, dan juga membutuhkan masukan dunia” untuk membantu membuat keputusan ini.
Seberapa pribadi chatgpt?
Topik diskusi besar lainnya adalah konsep privasi pengguna mengenai chatbots, dengan Carlson berpendapat bahwa AI generatif dapat digunakan untuk “kontrol totaliter.”
Sebagai tanggapan, Altman mengatakan satu kebijakan yang telah ia dorong di Washington adalah “hak istimewa AI,” yang mengacu pada gagasan bahwa apa pun yang dikatakan pengguna kepada chatbot harus sepenuhnya rahasia.
“Ketika Anda berbicara dengan dokter tentang kesehatan Anda atau pengacara tentang masalah hukum Anda, pemerintah tidak bisa mendapatkan informasi itu, kan? … Saya pikir kita harus memiliki konsep yang sama untuk AI.”
Menurut Altman, itu akan memungkinkan pengguna untuk berkonsultasi dengan AI Chatbots tentang riwayat medis dan masalah hukum mereka, antara lain. Saat ini, pejabat AS dapat memanggil perusahaan untuk data pengguna, tambahnya.
“Saya pikir saya merasa optimis bahwa kita bisa membuat pemerintah memahami pentingnya ini,” katanya.
Apakah chatgpt akan digunakan dalam operasi militer?
Ditanya oleh Carlson apakah chatgpt akan digunakan oleh militer untuk menyakiti manusia, Altman tidak memberikan jawaban langsung.
“Aku tidak tahu cara orang -orang di militer menggunakan chatgpt hari ini … tapi aku curiga ada banyak orang di militer berbicara dengan chatgpt untuk meminta nasihat.”
Kemudian, dia menambahkan bahwa dia tidak yakin “bagaimana perasaannya tentang itu.”
Openai adalah salah satu perusahaan AI yang menerima kontrak $ 200 juta Dari Departemen Pertahanan AS untuk menempatkan AI generatif untuk bekerja untuk militer AS. Perusahaan kata dalam posting blog bahwa itu akan memberikan akses pemerintah AS ke model AI khusus untuk keamanan nasional, dukungan, dan informasi peta jalan produk.
Seberapa kuat openai?
Carlson, dalam wawancaranya, meramalkan bahwa pada lintasannya saat ini, AI generatif dan dengan ekstensi, Sam Altman, dapat mengumpulkan lebih banyak kekuatan daripada orang lain, sejauh menyebut chatgpt sebagai “agama.”
Sebagai tanggapan, Altman mengatakan dia sering khawatir tentang konsentrasi kekuatan yang dapat dihasilkan dari AI generatif, tetapi dia sekarang percaya bahwa AI akan menghasilkan “leveling besar” dari semua orang.
“Apa yang terjadi sekarang adalah banyak orang yang menggunakan chatgpt dan chatbots lainnya, dan mereka semua lebih mampu. Mereka semua melakukan lebih banyak. Mereka semua dapat mencapai lebih banyak, memulai bisnis baru, menghasilkan pengetahuan baru, dan itu terasa cukup bagus.”
Namun, CEO mengatakan dia pikir AI akan menghilangkan banyak pekerjaan yang ada saat ini, terutama dalam jangka pendek.
