OpenAI Menambah Guardrail Baru Untuk Melindungi Remaja Di ChatGPT
Dalam langkah ganda untuk mendapatkan lesen teknologi dan sosialnya, OpenAI yang diketuai Sam Altman telah memformalkan pakatan penyelidikan dengan Jabatan Tenaga A.S. dan mengubah semula protokol keselamatan untuk kanak-kanak di bawah umur, menandakan dorongan strategik untuk memimpin dalam kedua-dua sains berkepentingan tinggi dan AI etika.
OpenAI telah menandatangani memorandum persefahaman (MOU) dengan Jabatan Tenaga AS, bertujuan untuk memperkuat inisiatif OpenAI for Science di Amerika Syarikat.
Perjanjian ini memerlukan penilaian peluang kerjasama baru dalam AI dan pengkomputeran lanjutan, menyokong inisiatif DOE utama seperti Misi Genesis.
Terutama, OpenAI for Science memberi tumpuan kepada mempercepat penemuan saintifik dengan menggabungkan model AI sempadan dengan alat penyelidikan dunia sebenar, aliran kerja dan kepakaran.
Membina Kerjasama DOE sedia ada
MOU ini berdasarkan kerja berterusan OpenAI dengan makmal nasional Jabatan Tenaga, di mana model AI sempadan sudah digunakan dalam suasana penyelidikan dunia nyata bersama saintis menangani cabaran berimpak tinggi.
Misi Genesis menyatukan kerajaan, makmal nasional, dan industri untuk menggunakan AI dan pengkomputeran yang maju untuk mempercepat penemuan saintifik.
Perjanjian ini menetapkan rangka kerja untuk perkongsian maklumat dan koordinasi, sambil meletakkan asas untuk kontrak masa depan apabila projek tertentu muncul.
Secara berasingan, OpenAI telah mengemukakan cadangan terperinci kepada Pejabat Dasar Sains dan Teknologi Rumah Putih yang menggariskan bagaimana A.S. dapat memperkuat kepimpinan sains dan teknologinya melalui AI.
Kemas Kini Keselamatan Remaja Untuk ChatGPT
Seiring dengan ini, ChatGPT -parent mengemas kini Spec Model untuk menambah perlindungan baru untuk remaja di bawah 18 tahun.
Prinsip Bawah 18 yang baru menggariskan bagaimana ChatGPT harus memberikan pengalaman yang selamat dan sesuai dengan usia untuk pengguna berusia 13 hingga 17 tahun, mengakui bahawa remaja mempunyai keperluan yang berbeza berbanding orang dewasa.
Peraturan teras masih berlaku untuk semua orang, tetapi kemas kini ini menjelaskan bagaimana ia harus digunakan ketika berinteraksi dengan remaja, di mana masalah keselamatan sangat penting.
Selain itu, syarikat itu berada di peringkat awal melancarkan model ramalan usia pada rancangan pengguna ChatGPT untuk mengenal pasti dengan lebih tepat apabila akaun mungkin milik kanak-kanak dan secara automatik menerapkan perlindungan keselamatan remaja.
Sekiranya sistem tidak yakin dengan usia seseorang atau tidak mempunyai maklumat lengkap, pengguna akan menjalani pengalaman di bawah 18 tahun, dengan orang dewasa diberi pilihan untuk mengesahkan usia mereka.
Dorongan keselamatan datang apabila OpenAI menghadapi pemeriksaan undang-undang dan cabaran pengawalseliaan yang lebih tinggi pada tahun 2025. Syarikat itu mempertahankan dirinya daripada serangkaian tuntutan mahkamah yang mendakwa bahaya yang berkaitan dengan ChatGPT, termasuk tuntutan kematian salah dan bunuh diri yang berkaitan dengan interaksi pengguna.
Pengembangan Global Berbentuk
Secara berasingan, OpenAI dit etapkan untuk melantik bekas Canselor UK George Osborne untuk peranan kanan global yang mengetuai inisiatif “OpenAI untuk Negara”, menekankan strategi antarabangsa yang berkembang ketika persaingan mengenai infrastruktur AI semakin meningkat.
Baca Seterusnya:
Imej melalui Shutterstock