Ketua Perisik China Memberi Amaran AI Boleh Mengancam 'Keselamatan Rejim' - Deepfakes, Serangan Siber dan Perang AI Antara 6 Risiko Utama

Ketua perisikan China telah memberi amaran bahawa kecerdasan buatan boleh menimbulkan risiko besar kepada keselamatan politik negara, infrastruktur kritikal, data, kestabilan sosial dan kemampuan ketenteraan, meminta kawalan yang lebih kuat terhadap pembangunan AI.

Chen Yixin, menteri keselamatan negara China, mengenal pasti enam risiko AI utama dalam artikel yang diterbitkan di China Cyberspace, sebuah jurnal yang dikendalikan oleh Pentadbiran Cyberspace China. Kebimbangan utamanya adalah “keselamatan rejim,” dengan Chen memberi amaran bahawa deepfakse, kandungan yang dihasilkan AI dan rangkaian dalam talian automatik boleh menyebarkan khabar angin politik, maklumat berbahaya dan peperangan kognitif, mengancam keselamatan politik, institusi dan ideologi China, lapor Business Insider pada hari Ahad.

Enam Risiko AI

Chen juga memberi amaran bahawa AI boleh menjadikan serangan siber terhadap infrastruktur kritikal lebih cekap. Beliau menyebut risiko kebocoran data berskala besar yang melibatkan data nasional, rahsia perdagangan dan maklumat peribadi rakyat.

Risiko lain termasuk ketidakseimbangan teknologi yang disebabkan oleh monopoli dan sistem teknologi tertutup, gangguan terhadap tadbir urus sosial dan ketenteraman awam, dan perubahan dalam peperangan kerana penargetan ketepatan yang dikuasakan AI memberikan kelebihan medan perang kepada musuh.

Chen meminta “garis panduan pembangunan” yang lebih kuat untuk AI dan menggesa Beijing untuk mempercepat sistem pencegahan dan kawalan risiko keselamatan. China harus mempromosikan “pembangunan AI yang sihat dan teratur” melalui “tadbir urus kecekapan tinggi,” menurut laporan itu.

Perlumbaan dan Keselamatan AI

Amaran itu datang apabila kebimbangan mengenai risiko AI lanjutan semakin meningkat di peringkat antarabangsa. Penyelidik antropik Evan Hubinger baru-baru ini mengatakan bahawa dia secara peribadi meletakkan kemungkinan AI menghapuskan manusia dalam satu dekad melebihi 10%, sambil memberi amaran bahawa industri itu belum mempunyai rancangan untuk menyelesaikan penjajaran untuk kecerdasan super.

Ketua Pegawai Eksekutif Antropik Dario Amodei secara berasingan menggambarkan China sebagai “dilema paling sukar” dalam usaha untuk memperlambat pembangunan AI, dengan menyebut kelebihan ketenteraan yang dapat oleh negara dengan bergerak ke hadapan. Beliau telah meminta koordinasi yang lebih besar antara syarikat AI dan kerajaan.

Chen berkata AI harus dibangunkan “dengan kesejahteraan semua manusia sebagai prinsip panduannya.” Dia juga menyeru untuk menentang “hegemonisme, halangan teknologi, dan blok eksklusif” dan untuk “sistem peraturan AI antarabangsa yang adil dan terbuka.”

Imej melalui Shutterstock