Senator Chris Murphy Bunyi Penggera mengenai Perlumbaan AI, Menyokong Amaran Penyelidik Antropik: 'Syarikat AI Dalam Perlumbaan Buta untuk Membina Mesin Kematian Dahula'
Sen Chris Murphy (D-Conn.) memberi amaran bahawa perlumbaan untuk mengembangkan kecerdasan buatan yang semakin maju boleh menimbulkan risiko serius, sambil menyokong kritikan penyelidik Antropik terhadap pendekatan industri terhadap kecerdasan super.
Murphy Meminta Peraturan AI
Pada hari Rabu, Murphy berkongsi di X catatan dari penyelidik Antropik Jacob Coxon, yang meninggalkan syarikat itu, mendesak pengikut membaca akaun Coxon dan menonjolkan kebimbangannya mengenai pengembangan AI maju.
“Jika anda membaca apa-apa hari ini, baca ini,” tulis Murphy. Dia mengatakan masalah yang dijelaskan oleh Coxon - “syarikat AI dalam perlumbaan buta untuk membina mesin kematian terlebih dahulu” - dapat ditangani melalui pengawasan pemerintah.
“Melalui sistem pengawalseliaan yang membolehkan penyelidikan diteruskan, tetapi dengan cara yang tidak memusnahkan kita,” tambahnya.
Penyelidik Antropik Memberi Amaran terhadap Superkecerdasan
Coxon berkata dia mengundurkan diri dari Anthropic setelah menghabiskan tiga tahun menjalankan penyelidikan pra-latihan di kedua-dua Anthropic dan OpenAI.
“Saya meletak jawatan dari Anthropic hari ini. Saya menghabiskan tiga tahun terakhir melakukan penyelidikan pra-latihan di OpenAI dan Anthropic. Kedua-dua syarikat tidak bertindak secara bertanggungjawab,” tulis Coxon.
“Mereka terus berlumba untuk meningkatkan kecerdasan super diri dan berjudi dengan kehidupan kita,” tambahnya.
Pemimpin AI Menangani Kebimbangan Superintelligence
Awal tahun ini, ketua AI Meta Platforms, Inc. (NASDAQ: META) Alexandr Wang mengatakan visi “superkecerdasan peribadi” syarikat itu tertumpu untuk membantu pengguna mencapai matlamat, mengembangkan tabiat yang lebih sihat dan menghabiskan lebih banyak masa di luar talian, sambil berpendapat bahawa Meta mempunyai insentif untuk membina AI yang selamat, telus dan berguna.
OpenAI, di bawah Ketua Pegawai Eksekutif Sam Altman, telah mencadangkan dasar yang bertujuan untuk memastikan faedah ekonomi superintelligence dikongsi secara meluas, termasuk cukai yang lebih tinggi ke atas keuntungan yang didorong oleh AI, dana kekayaan awam, juruterbang minggu kerja yang lebih pendek, perlindungan pekerja yang lebih kuat dan jaring keselamatan sosial yang diperluas.
Perbahasan Peraturan AI
Pada hari Isnin, Sen Bernie Sanders (I-Vt.) memberi amaran bahawa jutawan Big Tech mempunyai terlalu banyak pengaruh terhadap AI dan meminta pengawasan awam yang lebih besar, sambil menyokong undang-undang yang berusaha untuk melarang AI superpintar dan menghentikan pengembangan AI lanjutan sementara sehingga standard keselamatan ditetapkan.
Bulan lalu, rakan kongsi Yorkville Ives, Dan Ives mengatakan peningkatan kelemahan keselamatan AI menguatkan kes peraturan dan boleh membawa kepada “zaman ke emasan untuk keselamatan siber,” tetapi memberi amaran kepada peraturan yang berlebihan dapat menyekat inovasi dan memberi manfaat kepada China.
Penafian: Kand ungan ini sebahagiannya dihasilkan dengan bantuan alat AI dan telah dikaji dan diterbitkan oleh editor Benzinga.
Foto ihsan: Shutterstock