Senator Chris Murphy Amarkan Amerika 'Dimasak' pada AI jika Syarikat Teknologi Dibiarkan Kepada Polis Sendiri: 'Mereka Tidak Akan. Mereka tidak boleh
Sen Chris Murphy (D-Conn.) memberi amaran bahawa AI yang berkembang pesat boleh menimbulkan risiko ekonomi, keselamatan negara dan masyarakat yang besar, dengan alasan bahawa peraturan pemerintah diperlukan kerana syarikat AI tidak dapat dipercayai untuk melindungi orang ramai.
Murphy Bunyi Amaran AI
Pada hari Selasa, dalam catatan di X, Murphy berkata, “Saya ingin bercakap dengan anda mengenai peningkatan jumlah berita yang membimbangkan mengenai AI.”
Beliau menambah, “Intinya: kita dimasak, sebagai ekonomi dan budaya, jika kita menyerahkannya kepada industri untuk melindungi kita. Mereka tidak akan, mereka tidak boleh.”
Dalam video yang dikongsi bersama catatan itu, Murphy membincangkan kebimbangan yang dibangkitkan oleh bekas penyelidik Antropik Jacob Coxon, yang mengundurkan diri setelah memberi amaran bahawa syarikat AI berlumba ke arah sistem AI yang memperbaiki diri yang boleh menimbulkan ancaman eksistensial.
Risiko Penambahbaikan AI Rekursif
Murphy memberi tumpuan kepada “peningkatan diri yang rekursif,” menggambarkan senario yang berpotensi di mana sistem AI membina versi diri mereka yang semakin mampu sehingga teknologi itu “mengatasi kemampuan kita, kemampuan manusia untuk mengawalnya.”
Beliau memberi amaran bahawa berjuta-juta pekerjaan berpotensi hilang dan teknologi itu dapat mewujudkan “krisis keselamatan negara, krisis ekonomi, dan krisis rohani sekaligus.”
Murphy mengkritik usaha untuk mengehadkan peraturan AI kerajaan, dengan alasan bahawa syarikat menghadapi insentif kewangan untuk terus mengembangkan sistem yang semakin kuat.
“Syarikat tidak akan melindungi kita. Mereka tidak boleh,” katanya. “Selagi wang adalah satu-satunya insentif, mereka akan berlumba untuk membina mesin yang boleh memusnahkan kita.”
Beliau meminta “satu set peraturan yang terpakai kepada setiap syarikat,” dengan alasan bahawa pengawasan kerajaan sebelum ini membantu menguruskan risiko dalam industri termasuk tenaga nuklear, farmaseutikal dan keselamatan tempat kerja.
Kebimbangan Peraturan AI Meningkat
Wakil Ro Khanna (D-California) menggesa Kongres untuk mengukuhkan pengawasan AI dan meminta agensi AI persekutuan, insurans mandatori dan liabiliti ketat untuk model AI yang berbahaya.
Dia berkata, “Kami tidak boleh membiarkan tuan-tuan teknologi membuat peraturan.”
Awal bulan ini, George Clooney juga mempersoalkan sama ada pemerintah mempunyai kepakaran untuk mengatur AI, sambil memberi amaran bahawa fakta yang mendalam dan maklumat salah yang dihasilkan oleh AI dapat menjadikannya lebih sukar untuk membezakan fakta daripada peristiwa buatan.
Pada bulan April, Sen Bernie Sanders (I-Vt.) memberi amaran bahawa AI boleh menggantikan berjuta-juta pekerja dan mengkritik eksekutif teknologi kaya kerana memajukan teknologi tanpa akauntabiliti awam.
“70% berpendapat AI akan membawa kepada pekerjaan yang lebih sedikit. Mereka betul,” katanya.
Penafian: Kand ungan ini sebahagiannya dihasilkan dengan bantuan alat AI dan telah dikaji dan diterbitkan oleh editor Benzinga.
Foto ihsan: Shutterstock