OpenAI Membawa Kembali Pakar Penjajaran AI untuk Menguatkan Pengawasan Keselamatan

Yayasan OpenAI telah menamakan Paul Christiano ke lembangnya, menambahkan penyelidik penjajaran AI yang lama ke pang kat tadbir urus ketika organisasi memperluas pengawasan keselamatannya.

Organisasi itu mel apor kan bahawa Christiano akan berkhidmat dalam jawatankuasa keselamatan dan keselamatan lembaga Yayasan, yang mengawasi amalan keselamatan dan keselamatan di seluruh OpenAI, termasuk OpenAI Group PBC. Zico Kolter mengetuai jawat ankuasa itu.

Christiano akan mengambil bahagian sebagai pemerhati dan bukannya ahli pengundi di lembaga PBC Kumpulan OpenAI, dan menyatakan bahawa dia akan menolak diri dari hal-hal berkaitan OpenAI dan penilaian model dalam peranan penasihat NIST beliau.

Pengerusi Yayasan OpenAI Bret Taylor berkata, “Paul telah membantu menentukan bidang penjajaran AI melalui kerja yang ketat dan tertumpu pada soalan paling sukar yang diajukan oleh sistem yang semakin berkebolehan.” Beliau menambah bahawa latar belakang Christiano dalam kerja kerajaan mengenai piawaian AI dan penilaian teknikalnya dijangka meningkatkan pengawasan lembaga dan kerja jawatankuasa itu.

'Penjajaran Kekal Masalah Teknikal yang Sukar'

Christiano juga mengulas mengenai kadar kemajuan, dengan mengatakan, “Keupayaan AI telah maju dengan sangat pesat pada tahun lalu dan penyelarasan tetap menjadi masalah teknikal yang sukar, menjadikan tanggungjawab Jawatankuasa Keselamatan dan Keselamatan lebih penting dan lebih mencabar daripada sebelumnya.” Beliau berkata, “Saya teruja untuk menyertai pasukan untuk membantu.”

Christiano adalah penasihat teknikal kanan di Pusat Piawaian dan Inovasi AI di Institut Piawaian dan Teknologi Nasional, di mana beliau telah menilai model AI canggih, termasuk bidang yang berkaitan dengan keselamatan negara, dan meneroka cara untuk mengurangkan risiko yang berkaitan.

Beliau juga mengasaskan Pusat Penyelidikan Alignment, sebuah organisasi penyelidikan bukan untung yang memberi tumpuan kepada menyelaraskan sistem AI canggih dengan kepentingan manusia, dan sebelumnya mengetuai penyelidikan penjajaran di OpenAI dari tahun 2017 hingga 2021, menyumbang kepada kerja awal pembelajaran pengukuhan dari maklum balas manusia.

Awal tahun ini, OpenAI menambah dua pemimpin industri kewangan terkemuka ke lembaga.

David Vélez, pengasas, pengerusi dan Ketua Pegawai Eksekutif gergasi perbankan digital Amerika Latin Nubank, dan Robin Vince, pengerusi dan Ketua Pegawai Eksekutif firma perkhidmatan kewangan Bank of New York Mellon, menyertai lembaga kedua-dua Yayasan OpenAI dan OpenAI Group PBC.

Yayasan OpenAI adalah organisasi bukan untung berasingan yang bertujuan untuk memastikan AI memberi manfaat kepada manusia. Ia menjalankan inisiatif amal yang difokuskan pada penemuan saintifik, masyarakat sivil dan AI yang bertanggungjawab, sambil mengekalkan kawalan dan kepentingan ekuiti yang signifikan dalam OpenAI Group PBC.

Foto: Shutterstock