OpenAI, Anthropic Mahu 'Melambatkan' AI? David Sacks Mengatakan Mereka Boleh Melakukannya Sendiri - 'Berhenti Berpura-pura Anda Memerlukan Kebenaran Orang Lain'
Bekas AI Rumah Putih dan Crypto Czar David Sacks berpendapat pada hari Sabtu bahawa OpenAI dan Anthropic tidak memerlukan penggubal undang-undang atau pengawal selia untuk “mempercepatkan sempadan” jika mereka benar-benar percaya model seterusnya mereka terlalu berisiko untuk dikeluarkan. Dia menyatakan perkara itu ketika soalan berputar di sekitar peletakan jawatan Jacob Coxon dan amaran viral mengenai AI yang memperbaiki diri, suar yang telah menimbulkan kecurigaan orang ramai tentang siapa yang mendapat manfaat apabila makmal meminta kemajuan yang lebih perlahan.
Dalam catatan di X, Sacks men ulis bahawa jika Ketua Pegawai Eksekutif Anthropic Dario Amodei dan Ketua Pegawai Eksekutif OpenAI Sam Altman ingin melambatkan, mereka harus melakukannya sendiri kerana mereka sudah berada di canggih dengan langkah-langkah umum seperti penggunaan, pertumbuhan dan kekuatan model. Dia merangka kedudukan mereka sebagai pasaran dua pemain de facto di hujung kemampuan model, dengan alasan bahawa mereka adalah orang yang menentukan apa yang dianggap sebagai sempadan.
Perlukah Pemaju AI Mengatur Sendiri Untuk Keselamatan?
Mesej Sacks bersandar pada senario mudah: makmal yang menegaskan kekangan adalah makmal yang sama dengan kawalan paling banyak mengenai apakah sistem yang paling berkemampuan dihantar. Dia mengatakan bahawa jika kerja dalaman cukup membimbangkan untuk membenarkan kelewatan, dia menyokong memilih berhati-hati, tetapi dia menolak idea bahawa “kebenaran” di luar diperlukan.
Panggilan untuk bertindak dari Sacks datang di tengah-tengah latar belakang kebimbangan yang meningkat mengenai keselamatan dan penjajaran AI. Panggilannya untuk bertindak datang di tengah-tengah kebimbangan yang meningkat mengenai keselamatan dan penjajaran AI. Altman baru-baru ini mengatakan syarikat itu tidak akan dipublikasikan pada tahun 2026, di tengah-tengah perbincangan yang lebih luas mengenai keselamatan AI, penyelarasan dan risiko yang ditimbulkan oleh model yang semakin berkebolehan.
Selain itu, Evan Hubinger, seorang penyelidik di Anthropic, menyoroti risiko eksistensial yang boleh ditimbulkan oleh AI, menganggarkan kemungkinan lebih daripada 10% AI menimbulkan ancaman kepada manusia dalam satu dekad. Kebimbangan ini digemari oleh bekas penyelidik Antropik Jacob Coxon, yang telah bersuara mengenai potensi bahaya AI, walaupun terdapat kritikan dari Sacks, yang mencabar bukti di sebalik tuntutan Coxon.
Sacks juga menandakan kelajuan jangkauan Coxon secara tiba-tiba, menunjukkan kekurangan catatan atau pengikut sebelumnya di akaun tersebut sebelum benang peletakan jawatan bermula. Dia mengatakan bahawa jika aktiviti sebelumnya wujud, ia nampaknya telah dikeluarkan, dan dia berpendapat bahawa daya tarikan pesat menjadikan pelancaran kelihatan diselaraskan dan bukannya organik.
Pada perbincangan podcast yang sama, tuan rumah bersama Jason Calacanis mengatakan Coxon telah menghubungi rancangan itu untuk mencari penampilan dan kemudian membatalkan pagi wawancara dijadualkan. Sacks mencadangkan penarikan balik itu mungkin berlaku setelah Coxon menyedari “ia akan menjadi wawancara yang sukar,” dan dia mengatakan dia ingin bertanya siapa yang menghubungkan Coxon dengan Wall Street Journal sebelum jawatan itu diedarkan.
Kepentingan Tinggi Risiko Liabiliti AI
Dalam catatan X-nya, Sacks mengikat dorongan untuk melambatkan risiko penurunan yang kelihatan kurang seperti altruisme dan lebih seperti pendedahan undang-undang. Beliau berpendapat bahawa jika model memungkinkan kejadian siber besar, syarikat-syarikat di belakangnya boleh menghadapi akibat liabiliti produk yang besar, dan beliau berkata pasaran sudah menghukum sistem yang bertindak dengan cara yang tidak dijangka atau tidak dibenarkan.
Tema liabiliti itu juga muncul dalam perdebatan podcast mengenai cita-cita IPO yang dilaporkan oleh Anthropic, yang digambarkan sebagai menyasarkan penilaian $2 trilion. Panel berpendapat bahawa jika kakitangan keselamatan dalaman percaya teknologi itu boleh menimbulkan bahaya eksistensial, kepercayaan itu dapat menimbulkan komplikasi pendedahan untuk pemfailan Suruhanjaya Sekuriti dan Bursa di samping potensi tuntutan liabiliti produk.
Ketua penjajaran antropik Evan Hubinger secara terbuka menyokong Coxon dan mengatakan bahawa dia melihat kemungkinan lebih besar daripada 10% bahawa AI menyebabkan kepupusan manusia dalam satu dekad. Komen itu menambah bahan api untuk dikaji sama ada penilaian dalaman yang mengerikan selaras dengan penskalaan dan pengkomersialan yang berterusan.
Catatan X Sacks juga menggambarkan rasional perniagaan untuk berdagang keupayaan maksimum untuk tingkah laku yang lebih stabil, dengan alasan bahawa pelanggan menghargai kebolehpercayaan dan ramalan. Dia menggambarkan “penjajaran” sebagai berpotensi bertindih dengan jangkaan produk biasa dan bukannya misi moral yang berasingan.
Lihat lebih banyak liputan Teknologi Pengguna Benzinga dengan mengi kuti pautan ini.
Baca Seterusnya: California Harus Membenarkan Penjualan EV China Di Tengah Harga Gas Tinggi, Kata Pengasas Bersama Ripple
Penafian: Kandungan ini sebahagiannya dihasilkan dengan bantuan alat AI dan telah dikaji dan diterbitkan oleh editor Benzinga.
Foto ihsan: Shutterstock