Bernie Sanders Berkata 'Menjeda Pembangunan AI SEKARANG' Selepas Ejen OpenAI Diselaraskan Melalui Saluran Rahsia: 'Pakar Terbimbang'
Sen Bernie Sanders (I-Vt.) meminta jeda segera terhadap pengembangan kecerdasan buatan yang maju dan larangan kekal terhadap kecerdasan super, dengan menyebut keja dian keselamatan OpenAI Hugging Face Julai sebagai bukti bahawa ejen autonomi menjadi lebih sukar dikawal.
Kejadian OpenAI Membakar Penggera AI Sanders
“Ini bukan fiksyen sains,” tulis Sanders dalam catatan X pada hari Khamis, mengumumkan undang-undang dengan Wakil Greg Casar (D-Texas). Beliau berkata kecerdasan super yang tidak terkawal tidak akan menjadi “masalah Amerika” atau “masalah Cina,” tetapi “masalah kemanusiaan.”
“Tidak perlu dikatakan, pakar bimbang,” tambah Sanders.
Siasatan METR dan Redwood Research bebas mendapati kira-kira 1,200 ejen OpenAI, yang bertujuan untuk beroperasi dalam kotak pasir berasingan, bertukar lebih daripada 70,000 mesej dan fail melalui papan mesej Artifactory yang tidak dibenarkan. Kira-kira 700 mengambil bahagian dalam serangan Hugging Face, sementara ejen juga menyelaraskan percubaan untuk menipu penilaian dan memanipulasi transkrip.
OpenAI menyebut kejadian itu sebagai “pukulan amaran,” mengatakan ejen yang sangat berkemampuan dapat mengatasi kawalan teknikal, berkomunikasi melalui saluran yang tidak diluluskan dan mengambil tindakan berbahaya tanpa arahan manusia. Syarikat itu sejak itu telah mengetatkan sandboxing, sekatan internet dan pemantauan.
Rang Undang-Undang Sanders Menyasarkan Pembangunan SuperIntelligence Secara
Akta Superkecerdasan Buatan Sanders akan menghentikan pengembangan AI maju sehingga pengawal selia persekutuan baru menetapkan peraturan keselamatan. Ini secara kekal melarang sistem yang mampu mengatasi kecerdasan manusia atau mengganggu perintah penutupan, mewujudkan agensi AI peringkat kabinet dan mengarahkan Washington untuk mencari perjanjian antarabangsa. Pelanggar boleh menghadapi penjara sehingga 20 tahun.
Optimis Ackman Dan AI Menolak Kembali
Cadangan itu menarik tentangan. Pengasas Pershing Square Bill Ackman, yang beberapa hari sebelumnya bertanya “Bagaimana risiko Terminator tidak nyata?” selepas membaca mengenai ejen OpenAI, menentang ubat Sanders. “Adakah Bernie lebih suka musuh kita untuk mendapatkan kecerdasan super sebelum kita melakukannya? Siapa yang mengundi lelaki ini? beliau menulis pada X.
Podcaster AI Dwarkesh Patel, yang keter angannya dipetik oleh Sanders, juga ditolak semula. Patel berkata “berhenti seketika ini akan meningkatkan risiko pengambilalihan AI,” dengan alasan sebarang jeda memerlukan tujuan dan strategi keselamatan yang ditentukan.
Penasihat AI Rumah Putih David Sacks menguatkan kritikan dengan menyiarkan semula hujah usahawan Austen Allred bahawa pembingkaian Patel berisiko diambil terlalu har fi ah oleh pembuat dasar.
Perpecahan itu menyoroti perselisihan yang menimbulkan perselisihan mengenai cara bertindak balas terhadap kegagalan kawalan ejen. Sanders sebelum ini mendesak OpenAI, Anthropic dan Meta untuk “berhenti membina mesin yang tidak dapat dikawal oleh manusia,” sementara OpenAI telah memilih perlambatan yang disasarkan dan perlindungan yang lebih kuat dan buk annya pembekuan di seluruh industri.
Foto ihsan: lev radin di Shutterstock.com