Microsoft Menandatangani Perjanjian Keselamatan AI 'Iron-Clad' - Sekolah Boleh Mendapatkan Kerosakan Sekiranya Data Pelajar Disalahgunakan

Microsoft Corp (NASDAQ: MSFT), Persekutuan Guru Amerika (AFT) dan Persekutuan Guru Bersatu (UFT) telah bersetuju dengan “Standard Keselamatan & Privasi AI Nasional” baru untuk sekolah.

Perjanjian itu, yang diumumkan dalam siaran akhbar bersama pada hari Rabu, menetapkan perlindungan yang boleh dikuatkuasakan secara sah yang bertujuan untuk melindungi pelajar, keluarga dan pendidik daripada penyalahgunaan AI di dalam bilik darjah.

Perlindungan yang boleh dilaksanakan

Standard ini menghalang syarikat daripada menggunakan data pelajar untuk melatih AI, melarang mengesan pelajar, memerlukan pengawasan manusia terhadap keputusan AI, dan mendesak syarikat untuk memberi pendidik dan ibu bapa jawapan yang jelas dan jelas mengenai alat mereka. Daerah sekolah boleh membina syarat-syarat ini terus ke dalam kontrak Microsoft mereka.

Perjanjian ini memusatkan tiga keutamaan: melindungi data pelajar dan pendidik daripada dijual atau digunakan semula, memerlukan perlindungan yang kuat dan pengawasan manusia untuk mencegah pengalaman AI yang berbahaya, dan memberi keluarga penglihatan yang jelas tentang bagaimana AI digunakan dan data apa yang dikumpulkan.

“Kami telah membuat perjanjian privasi berpakaian besi dengan gigi sebenar yang melindungi pelajar dan keluarga,” kata Presiden AFT, Randi Weingarten. “Apa sahaja yang kurang daripada peruntukan yang boleh dikuatkuasakan secara sah hanyalah senarai keinginan.”

Weingarten menambah bahawa “HIPAA dan FERPA tidak pernah membayangkan kemunculan AI,” dan mengatakan syarikat teknologi mesti bertanggungjawab terhadap produk yang dipasarkan ke sekolah.

Kesatuan, Microsoft React

Presiden UFT Michael Mulgrew, yang mengetuai sekutu AFT New York City 200,000 ahli, mengatakan perjanjian itu “memberi kuasa kepada daerah sekolah untuk menamatkan perjanjian dan meminta ganti rugi daripada pelakon buruk yang melanggar peraturan.”

Naib Pengerusi Microsoft dan Presiden Brad Smith menyatakan bahawa syarikat itu merancang untuk melanjutkan perjanjian itu ke setiap daerah sekolah di negara ini.

Standard ini dibina pada rangka kerja AFT 2024 “Commonsense Guardrails” dan Akademi Nasional untuk Arahan AI, yang melatih pendidik mengenai penggunaan AI yang bertanggungjawab.

Perbahasan yang lebih luas mengenai AI di Sekolah

Perjanjian itu mengikuti moratorium New York City terhadap penggunaan AI yang menghadapi pelajar untuk kanak-kanak hingga kelas kelapan, di tengah-tengah gelombang sekatan yang lebih luas yang di timbang di Los Angeles dan Chicago.

Ia juga datang selepas dorongan Anthropic ke dalam bilik dar jah melalui Claude for Teachers, yang dibina sebahagiannya di sekitar garis panduan keselamatan AFT.

Sementara itu, ibu bapa telah menimbulkan kebimbangan mengenai pendedahan awal kanak-kanak terhadap chatbot AI, dengan seseorang menggambarkan pelajar hari ini sebagai “gener asi guinea pig.”

Penafian: Kandungan ini dihasilkan dengan bantuan alat AI dan telah dikaji dan diterbitkan oleh editor Benzinga.

Imej melalui Shutterstock