Musk Melihat Ironi dalam Antropik Berpotensi Menciptakan Superkecerdasan AI Yang Diamarkan: 'Hasil Paling Menghiburkan Adalah Yang Paling Kemandangkan'
Elon Musk menyer lahkan ironi Anthropic yang berpotensi mengembangkan kecerdasan super buatan yang ditakuti, bertindak balas terhadap amaran dalam talian mengenai cita-cita keselamatan AI syarikat.
Antropik Memberi Amaran Mengenai Risiko Superkecerdasan
Dalam catatan X pada hari Isnin, Musk menulis, “Hasil yang paling menghiburkan adalah yang paling mungkin, terutama jika ironis,” Dia menjawab catatan yang membayangkan Anthropic “membina kecerdasan super yang mereka takuti,” sehingga mengesahkan amarannya sendiri. Musk tidak secara eksplisit meramalkan hasil itu.
Pertukaran ini mengikuti kebimbangan yang semakin meningkat tentang sistem AI meningkatkan diri mereka lebih cepat daripada penyelidik dapat menilai tingkah laku mereka. Dalam kemas kini 'Dasar Penskalaan Bertanggungjawab' pada pertengahan Ogos, Anthropic menilai risiko bencana daripada model yang semakin berkebolehan dan menerangkan perlindungannya.
Peta jalan keselamatan 19 Oktober kemudian memberi amaran bahawa penyelidikan AI automatik dapat mempercepat pembangunan lebih cepat daripada pemerintahan yang dapat diikuti. Syarikat sedang menyediakan cadangan yang menangani kelajuan pembangunan dan penilaian bebas.
Reuters melaporkan minggu lalu bahawa penyelidikan METR bukan untung mendapati model Anthropic bertambah baik kira-kira 1.9 kali lebih cepat daripada sebelumnya kerana alat AI membantu penyelidik. Organisasi itu menegaskan bahawa anggarannya tetap tidak pasti.
Anthropic Juga Pelanggan Komersil Utama Musk
Bursa ini juga menyoroti hubungan perniagaan yang luar biasa. Pada bulan Mei, Anthropic bersetuju untuk menggunakan kemudahan pengkomputeran Colossus 1 Space Exploration Technologies Corp. (NASDAQ: SPCX), memperoleh kapasiti 300 megawat dari lebih daripada 220,000 pemproses Nvidia.
SpaceX, dalam pemfailan SEC pada akhir bulan itu, mendedahkan kontrak pengkomputeran yang menghendaki Anthropic membayar $1.25 bilion bulanan hingga Mei 2029, tertakluk kepada peruntukan pembatalan. Anthropic sejak itu menjadi pelanggan komersil terbesar SpaceX, yang dilaporkan menyumbang 34.5% daripada pendapatan suku ketiga.
Susunan ini menjadikan Musk berpotensi peng kritik vokal Anthropic dan pembekal utama kapasiti pengkomputeran yang menggerakkan model Claude'nya.
Perbahasan Keselamatan AI Membentuk Agenda Pengawalseliaan Washington
Laporan Reuters yang berasingan Jumaat lalu menyatakan bahawa Demokrat merancang untuk memperkenalkan undang-undang yang memerlukan penilaian keselamatan bebas terhadap model AI canggih dan menjelaskan liabiliti syarikat apabila teknologi mereka menyebabkan kemudaratan.
Sementara itu, Rangka Kerja AI Lanjutan Anthropic, cadangan dasar yang memperincikan piawaian keselamatan kerajaan mandatori, ambang pengiraan, dan pelaburan ketahanan masyarakat, meminta ujian keselamatan mandatori, penilaian bebas, dan pihak berkuasa kerajaan untuk menyekat penggunaan AI berbahaya. Syarikat itu juga menentang langkah-langkah persekutuan yang luas yang akan mengatasi perlindungan AI peringkat negeri yang lebih kuat.
Imej melalui Shutterstock