Keselamatan AI menjadi pusat

Perdagangan kecerdasan buatan (AI) yang menyaksikan satu lagi penjualan lutut minggu ini - kali ini kerana ketakutan keselamatan AI.

Perintis teknologi yang berkembang telah meminta perlambatan dalam kadar di mana syarikat AI membina dan memperbaiki sistem dan untuk kawalan keselamatan yang lebih kuat pada sementara waktu.

Walaupun ada yang mengatakan amaran itu harus diperhatikan dan bahawa sudah tiba masanya bagi syarikat untuk meningkatkan parameter keselamatan model AI mereka, yang lain telah menolaknya sebagai “gembar-gembur dan puffery” dan percubaan layak sendiri untuk menutupi pertumbuhan yang perlahan, kerana tawaran awam awal beberapa gergasi AI kelihatan ditolak keluar.

Sama ada ia adalah amaran ketakutan atau mendedahkan masih belum dapat dilihat.

Walau apa pun, Malaysia bergerak maju dengan kerangka tadbir urus AI sendiri, dengan Rang Undang-Undang Tadbir Urus AI dijangka dibentangkan pada suku pertama tahun depan.

Privasi data, keselamatan siber, maklumat salah dan faksi mendalam, bias dan diskriminasi, pengawasan manusia dan akauntabiliti adalah antara bidang utama yang perlu ditangani oleh kerajaan.

Tahap autonomi yang diberikan kepada sistem AI juga akan menjadi pertimbangan penting kerana ejen AI menjadi lebih mampu.

Singapura, misalnya, telah membangunkan AI Verify, rangka kerja ujian yang membolehkan syarikat menilai sistem AI untuk keselamatan, keselamatan, keteguhan, keadilan, akauntabiliti dan agensi manusia.

Negeri kota juga telah menubuhkan Institut Keselamatan AI yang memberi tumpuan kepada ujian dan penilaian, pembangunan model selamat dan tadbir urus.

Kesatuan Eropah telah melangkah lebih jauh dengan rejim pengawalseliaan berasaskan risiko, yang memerlukan sistem AI berisiko tinggi untuk menjalani penilaian risiko, mengekalkan pengawasan manusia, dan memenuhi syarat mengenai ketelusan, keselamatan siber, keteguhan dan kebolehkesan.

Peraturannya untuk model AI tujuan umum dengan risiko sistemik juga memerlukan ujian musuhan dan pengurangan risiko sistemik.