Openai's Sora 2 menguji keamanan dan penyensoran ke dalam tes dengan video nyata yang menakjubkan

Segar dari a Penjualan saham $ 6,6 miliar Itu menjadikannya perusahaan swasta paling berharga di dunia, Openai Aplikasi video gaya tiktokdidukung oleh yang baru kecerdasan buatan Model, Sora 2, menjadi viral.

Terlepas dari rilis terjaga keamanannya yang membutuhkan kode undangan, alat pembuatan video telah memotret ke tempat nomor tiga ApelApp Store dan memicu gelombang Deepfake, termasuk klip virus CEO Sam Altman mengutil GPU.

Secara internal, peluncuran telah menyalakan kembali debat yang sudah berjalan lama di dalam openai tentang bagaimana menyeimbangkan keamanan dengan kebebasan kreatif.

Seseorang yang akrab dengan strategi internal di perusahaan mengatakan pandangan kepemimpinan yang ketat sebagai hal yang penting, tetapi juga kekhawatiran tentang menahan kreativitas atau dianggap terlalu banyak menyensor.

Ketegangan itu tetap belum terselesaikan.

Budaya Openai telah lama lebih menyukai kecepatan, seringkali mengirimkan alat baru di depan saingan dan membiarkan publik beradaptasi secara real time.

Seorang mantan karyawan, yang meminta untuk tidak disebutkan namanya untuk membahas masalah -masalah internal, mengatakan kepada CNBC bahwa selama masa jabatan mereka, kepemimpinan Openai memiliki pola memprioritaskan peluncuran cepat. Strategi itu dipajang sepenuhnya setelah Deepseek China merilis model yang kuat pada akhir tahun lalu yang lebih murah dan lebih cepat dibangun daripada apa pun dari Lembah Silikon.

Openai merespons dalam beberapa minggu, memulai debutnya dua yang baru model Dalam apa yang secara luas dipandang sebagai langkah defensif untuk melestarikan keunggulannya.

Tetapi Openai memiliki keuntungan utama: otot kelembagaannya yang terus bertambah.

Setelah laboratorium penelitian yang berkelahi di distrik misi San Francisco, perusahaan telah menjadi lebih terstruktur, memungkinkannya untuk memutar tim lintas fungsi lebih cepat dan mempercepat siklus pengembangan dan penyebaran untuk produk seperti Sora.

Kata Openai Sora mencakup beberapa lapisan perlindungan yang dimaksudkan untuk mencegah konten yang tidak aman dihasilkan, menggunakan pemfilteran cepat dan moderasi output di seluruh bingkai video dan transkrip audio. Ini melarang konten eksplisit, propaganda teroris, dan materi yang mempromosikan melukai diri sendiri. Aplikasi ini juga menggunakan tanda air dan melarang peniruan rupa.

Tetapi beberapa pengguna telah menemukan cara untuk mengitari perlindungan itu.

Sora 2, model AI yang memberi daya pada aplikasi Openai, adalah peningkatan yang tajam dari versi pertama. Sistem baru ini menghasilkan klip yang lebih lama dan lebih koheren yang terlihat sangat nyata.

Beberapa video viral menampilkan Altman setelah ia memberikan izin untuk kemiripannya untuk digunakan di platform, sementara yang lain menggambarkan karakter kartun populer seperti Pikachu dan Spongebob Squarepants dalam peran yang meresahkan.

Konten telah memicu kritik bahwa Openai sekali lagi bergerak lebih cepat daripada pagar pembatasnya sendiri. Penggunaan materi yang dilindungi hak cipta – kecuali jika pemegang hak memilih keluar – konsisten dengan kebijakan perusahaan saat ini, meskipun pendekatan itu ditantang di pengadilan.

Altman telah menepis kekhawatiran, mengatakan dalam sebuah posting di X bahwa Sora adalah tentang transparansi – menunjukkan kepada publik apa yang dapat dilakukan teknologi – seperti halnya membangun momentum komersial untuk mendanai ambisi Openai yang lebih luas di sekitar kecerdasan umum buatan.

Peluncuran datang di tengah kompetisi yang mengintensifkan. Meta diluncurkan Atmosfer Pekan lalu, umpan video AI bentuk pendek baru di dalam aplikasi Meta AI-nya. Google memiliki Saya melihat 3saat bytedance dan Alibaba juga Sistem saingan yang memulai debutnya.

Openai, sementara itu, hanya berkomitmen untuk segar pengeluaran dari $ 850 miliar, memperdalam dorongannya ke dalam infrastruktur dan model generasi berikutnya.

Para ahli mengatakan dorongan ke dalam video bukan hanya tentang menarik lebih banyak pengguna ke dalam ekosistem dengan aplikasi konsumen lengket lainnya.

Profesor Hao Liseorang ahli terkemuka dalam sintesis video, mengatakan kepada CNBC bahwa sebagian besar sistem AI saat ini masih dilatih tentang data linguistik seperti buku dan teks internet. Tetapi untuk bergerak menuju kecerdasan umum, katanya, model perlu belajar dari informasi visual dan audio, seperti bayi menemukan dunia melalui penglihatan.

“Kami menggunakan AI untuk menghasilkan konten untuk kemudian melatih model lain untuk berkinerja lebih baik,” katanya.

Li menambahkan bahwa labnya sudah menggunakan video yang dihasilkan AI untuk meningkatkan kinerja model, memberi makan data sintetis kembali ke sistem.

Ini adalah bagian dari tren yang lebih luas di antara para peneliti yang melihat generasi video sebagai cara untuk mensimulasikan realitas dan membantu model lebih mirip manusia.

Mantan eksekutif OpenAI Zack Kass, yang bukunya yang akan datang “The Next Renaissance: AI dan perluasan potensi manusia” mengeksplorasi implikasi sosial dari kecerdasan buatan, menggemakan pandangan itu.

Pada pertanyaan yang lebih luas tentang bagaimana pembuat model harus mendekati penyebaran, Kass berpendapat bahwa pertukaran merilis teknologi yang kuat lebih awal sangat berharga.

“Ada dua alternatif untuk membangun di tempat terbuka: tidak membangun sama sekali, atau membangun secara pribadi. Dan alternatif itu, bagi saya, lebih buruk,” katanya kepada CNBC. “Jika kita memiliki teknologi inovatif, saya pikir orang harus mengetahuinya dan menggunakannya sehingga kita semua dapat memperbaruinya.”

JAM TANGAN: Openai Sements Status sebagai perusahaan swasta paling berharga di dunia