AI Boleh Mengancam Sistem Perintah Nuklear, Amarkan Pakar AS-China - Mengesak Kawalan Manusia dan Hotline Kecemasan
Pakar keselamatan dari AS dan China telah menyeru kerajaan mereka untuk bersedia untuk berpotensi ancaman kecerdasan buatan (AI) yang boleh menjejaskan rangkaian komando nuklear atau memulakan operasi siber ketenteraan.
Melanie Sisson dari Instit usi Brookings dan Tianjiao Jiang dari Universiti F udan adalah sebahagian daripada dialog A.S.-China yang dilancarkan oleh Pusat Keselamatan dan Strategi Antarabangsa Brookings dan Universiti Tsinghua pada tahun 2019. Cadangan mereka dikeluarkan minggu lalu, menjelang rundingan AI peringkat kerajaan dan pertemuan 24 September antara Presiden Donald Trump dan Presiden China Xi Jinping di Washington.
Mereka mencadangkan langkah-langkah untuk mencegah sistem AI daripada mencetuskan insiden antarabangsa. Ini termasuk menentukan sempadan di sekitar sistem nuklear, memastikan kawalan manusia terhadap serangan siber yang ketara, dan mewujudkan talian hotline untuk insiden yang melibatkan AI autonomi.
Melanie Sisson dari Brookings berpendapat bahawa manusia harus mengekalkan kuasa tunggal untuk melancarkan serangan siber yang didayakan AI terhadap sistem perintah nuklear atau infrastruktur penting secara strategik.
Tidak ada AS atau China secara rasmi menyokong cadangan Brookings-Tsinghua, lapor Reuters.
Walau bagaimanapun, China telah memasukkan AI ke dalam rangka kerja kawalan senjata sedia ada. Pada bulan Jun, duta lucah senjata China Shen Jian memberi amaran bahawa AI tentera boleh menjejaskan kestabilan strategik dan meningkatkan risiko salah perhitungan dan peningkatan, sambil menekankan bahawa senjata harus kekal di bawah kawalan manusia. China juga berpendapat bahawa keselamatan AI tidak boleh digunakan untuk membenarkan sekatan teknologi, menurut penerbitan itu.
Sanders Mengatakan Risiko AI Memperatas Ancaman Nuklear
Sen Bernie Sanders (I-VT), dalam temu bual dengan CBS News, memberi amaran bahawa potensi ancam an yang ditimbulkan oleh AI kepada manusia “mungkin lebih besar” daripada senjata nuklear.
Sanders berkata dia merancang untuk memperkenalkan undang-undang minggu depan yang akan melarang secara kekal sistem AI superpintar yang lebih berkemampuan daripada manusia dan yang berpotensi melarikan diri dari kawalan manusia, dan menghentikan pengembangan AI maju. Beliau juga mencadangkan hukuman yang teruk atas pelanggaran, termasuk penjara sehingga 20 tahun, dengan alasan bahawa undang-undang yang melindungi manusia dari teknologi tersebut harus membawa akibat yang ketara.
Nadella, Risiko AI Bendera Rasmi China
Ketua Pegawai Eksekutif Microsoft Corp. (NASDAQ: MSFT) Satya Nadella men ekan kan bahawa keselamatan AI harus menjadi perhatian China juga. Nadella mencadangkan kemungkinan “norma antarabangsa” di sekitar AI, dengan syarat risikonya difahami dengan baik.
Sementara itu, menteri keselamatan negara China, Chen Yixin mengenal pasti enam risiko AI utama. Dia memberi amaran bahawa AI dapat membolehkan serangan siber yang lebih berkesan, kebocoran data berskala besar, monopoli teknologi, gangguan sosial dan kelebihan medan perang melalui penyasaran yang dikuasakan AI. Dia menggesa garis panduan AI yang lebih kuat dan kawalan keselamatan yang lebih cepat untuk memastikan “pembangunan yang sihat dan teratur” melalui “tadbir urus kecekapan tinggi.”
Penafian: Kand ungan ini sebahagiannya dihasilkan dengan bantuan alat AI dan telah dikaji dan diterbitkan oleh editor Benzinga.
Imej melalui Shutterstock