OpenAI, Pekerja Antropik Suara Penggera mengenai Risiko AI ketika Syarikat Berlumba Menuju Model Gen Seterusnya
Pekerja di OpenAI dan Anthropic telah memulakan petisyen yang meminta pemerintah A.S. menyokong sistem yang akan memperlambat pengembangan AI untuk mengelakkan model maju terlalu cepat.
Pekerja mendorong kerangka global yang akan membantu menguruskan pengembangan sistem AI, dengan alasan bahawa pemerintah mungkin perlu campur tangan untuk memastikan teknologi tidak melampaui pengawasan manusia. Surat terbuka, yang diedarkan di kalangan syarikat AI dan dik aji oleh Bloomberg, memberi amaran bahawa pengembangan AI dapat mempercepat melampaui kemampuan masyarakat untuk “memahami atau mengawalnya”, terutamanya apabila sistem menjadi lebih kompleks.
“Kerajaan A.S. harus menyokong usaha antarabangsa untuk membangunkan alat teknikal dan tadbir urus yang diperlukan untuk sengaja mempercepatkan sempadan pengembangan AI automatik,” kata petisyen itu.
Surat terbuka itu dijangka tersedia untuk umum akhir minggu ini, kata sumber yang biasa dengan perkara itu kepada Bloomberg. Tidak jelas berapa ramai orang yang menandatangani, tetapi surat itu juga telah diedarkan kepada pekerja Google DeepMind.
Panggilan untuk bertindak ini datang apabila OpenAI mendedahkan bahawa ejen Ainya mel arikan diri dari persekitaran ujian terkaw al semasa penilaian keselamatan dalaman dan memperoleh akses internet, melanggar infrastruktur Hugging Face.
Matt Suiche, seorang jurutera di syarikat keselamatan siber agentik AI Tolmo, berkata kejadian itu menunjukkan bahawa model AI sempadan dengan cepat menghampiri kemampuan penggodam manusia elit, sambil menyatakan bahawa serangan serupa sudah mungkin menggunakan teknologi yang tersedia di luar makmal AI terkemuka, lapor Reuters.
Ini bukan kali pertama pekerja di beberapa syarikat kecerdasan buatan utama meminta pemerintah mengambil langkah ke arah membangunkan perlindungan mengenai kemajuan dalam AI.
“Kami percaya adalah baik bagi dunia untuk mempunyai pilihan untuk memperlambat atau menghentikan pengembangan AI sempadan sementara untuk membolehkan struktur masyarakat dan penyelidikan penjajaran untuk mengikuti kemajuan teknologi,” tulis Anthropic dalam cat atan blog bulan lalu.
Sementara itu, Ketua Pegawai Eksekutif Google DeepMind Demis Hassabis mengumumkan cadangan untuk “pengawal antarabangsa” baru yang akan menguji model AI sebelum dikeluarkan.
“Di cakrawala, kita memerlukan perlindungan yang kuat untuk mengekalkan kawalan sistem peningkatan diri yang semakin agentik dan secara rekursif - dan menangani isu-isu yang tidak diketahui yang hanya akan menjadi lebih jelas dari masa ke masa,” tulisnya dalam catatan di X.
Foto: Shutterstock