Elon Musk Memperbaharui Amaran Risiko AI Di Tengah Panggilan Dari Sam Altman, Dario Amodei Untuk 'Pace The Frontier' - 'Membunyikan Penggera pada AI... '
Space Exploration Technologies Corp. (NASDAQ: SPCX) dan Ketua Pegawai Eksekutif Tesla Inc. (NASDAQ: TSLA) Elon Musk pada hari Sabtu mengulangi amarannya mengenai risiko AI.
Amaran Musk di tengah kebimbangan yang lebih luas
Musk menyiarkan semula amarannya dalam catatan di X di tengah-tengah kebimbangan yang lebih luas dalam ekosistem AI mengenai potensi bahaya yang ditimbulkan oleh sistem AI dan model sempadan. Beliau berkata beliau telah memberi amaran tentang AI selama bertahun-tahun dan melihat teknologi itu lebih berbahaya daripada inovasi lain yang dilihatnya matang setakat ini.
Musk merangka kecerdasan umum buatan sebagai perubahan langkah dalam potensi bahaya, dengan mengatakan, “AGI berisiko jauh lebih tinggi daripada senjata nuklear, pada pendapat saya.” Dia juga mengatakan bahawa dia melihat AI membawa tahap bahaya yang tidak dikaitkannya dengan gelombang teknologi sebelumnya.
Amaran dari Musk datang di tengah-tengah panggilan Ketua Pegawai Eksekutif Anthropic Dario Amodei untuk “mempercepatkan sempadan” dan melambatkan perkembangan peningkatan keupayaan model AI. Panggilan Amodei mendapat sokongan daripada Ketua Pegawai Ekseku tif OpenAI saingan, Sam Altman, serta Musk.
Mengapa AGI Adalah Ancaman Lebih Besar Daripada Senjata Nuklear
Perbandingan Musk bergantung pada idea bahawa sistem dengan kemampuan peringkat manusia yang luas dapat menimbulkan akibat yang sukar ditahan setelah wujud. Dia menggambarkan AGI sebagai kategori risiko yang, pada pandangannya, melebihi potensi merosakkan arsenal nuklear.
Dia juga mengikat keprihatinan kepada batasan intuisi manusia mengenai jurang kecerdasan. Musk berkata, “Manusia super pintar menghadapi masalah membayangkan sesuatu yang jauh lebih pintar daripada diri mereka sendiri.”
Apa Yang Musk Takut Mengenai Evolusi AI
Musk mengatakan bahawa dia telah “membunyikan penggera pada AI untuk masa yang lama,” meletakkan komennya sebagai sebahagian daripada usaha berterusan untuk menyoroti kelemahan kemajuan AI yang pesat. Beliau menambah bahawa dia telah melihat banyak teknologi berkembang, tetapi tidak ada yang dia percaya membawa bahaya yang setanding.
Dalam cerita Musk, kebimbangan bukanlah peningkatan tambahan, tetapi kemungkinan sistem yang mengatasi orang di seluruh domain. Perbezaan itu, dia mencadangkan, menjadikannya lebih sukar bagi pembuat dasar, perniagaan, dan penyelidik untuk membuat alasan mengenai hasil yang paling buruk.
Peningkatan Kebimbangan
Bekas White House AI dan Crypto Czar David Sacks menekankan bahawa syarikat AI terkemuka seperti OpenAI dan Anthropic mempunyai kuasa untuk melambatkan pembangunan AI sendiri jika mereka percaya ia menimbulkan risiko yang ketara. Dia berpendapat bahawa organisasi-organisasi ini berada di barisan hadapan dalam kemajuan AI dan mempunyai kawalan paling banyak terhadap penggunaan sistem canggih.
Sementara itu, OpenAI telah memutuskan untuk menangguhkan tawaran awam awalnya, dengan menyebut masalah keselamatan dan cabaran penyelarasan yang belum diselesaikan. Altman menekankan keperluan industri dan kerajaan untuk bekerjasama untuk menangani isu-isu ini.
Evan Hubinger, seorang penyelidik di Anthropic, telah memberi amaran bahawa AI boleh menimbulkan risiko eksistensial kepada manusia dalam masa satu dekad. Beliau menyatakan bahawa pada masa ini tidak ada rancangan yang jelas untuk menyelesaikan masalah penyelarasan untuk perisikan super, menambah urgensi perdebatan keselamatan yang sedang berlangsung.
Lihat lebih banyak liputan Teknologi Pengguna Benzinga dengan mengi kuti pautan ini.
Penafian: Kandungan ini sebahagiannya dihasilkan dengan bantuan alat AI dan telah dikaji dan diterbitkan oleh editor Benzinga.
Foto ihsan: Shutterstock