OpenAI Mendedahkan Mesin Pengaruh Rusia Rahsia Menggunakan ChatGPT untuk Membina Kepakaran Palsu dan Menyebarkan Naratif Pro-Moscow Di Media Sosial

OpenAI telah menamatkan sejumlah akaun ChatGPT dari Rusia, menuduh mereka mengambil bahagian dalam operasi maklumat salah dalam talian rahsia.

Syarikat yang dipimpin Sam Altman menemui masalah itu semasa menganalisis catatan media sosial yang dihasilkan AI, yang membawa kepada pengenalpastian operasi pengaruh yang lebih luas, menurut catatan blog OpenAI pada hari Selasa.

Operasi ini terutama didasarkan pada laman web yang menganjurkan kerja akademik yang diplagiar dan salah dikaitkan, indeks 'kedaulatan' yang memihak kepada Rusia Vladimir Putin, dan percubaan untuk menyembunyikan akar Rusia pengendali, seperti OpenAI. Pengendali memanfaatkan arahan Rusia untuk menghasilkan komen media sosial yang disiarkan di platform seperti Substack, Telegram, Meta Platform Inc. (NASDAQ: META) Facebook, dan LinkedIn. Mereka juga mengarahkan ChatGPT untuk menutupi sebarang petunjuk linguistik asal Rusia mereka.

Majoriti kandungan yang dihasilkan mempromosikan organisasi yang dise but International Burke Institute (IBI). Laman web IBI menampilkan artikel yang disalin dari sumber akademik yang sah, kadang-kadang dikaitkan secara palsu. Operasi pengaruh juga mewujudkan 'indeks kedaulatan' yang memuji Rusia dan mengkritik negara-negara Barat.

Walaupun kesan segera operasi nampaknya terhad, OpenAI menekankan bahawa kepentingan operasi terletak pada infrastruktur yang telah ditubuhkannya. Catatan yang dihasilkan AI menunjukkan institusi yang kelihatan boleh dipercayai, lengkap dengan pakar yang didakwa, karya akademik yang diterbitkan semula, dan indeks risiko proprietari yang dikatakan.

Bendera OpenAI Meningkatkan Risiko Pengaruh AI

OpenAI berkata AI dapat membantu mempengaruhi pelakon membina kuasa, menyembunyikan asal-usul naratif, dan mencipta aset berskala untuk kempen pengaruh jangka panjang.

Pada bulan Jun, OpenAI mengatakan ia mengganggu pelbagai kem pen pengaruh yang mensasarkan perdebatan AS mengenai AI dan pusat data. Satu kempen, yang dijuluki “Data Center Bandwagon,” menyebarkan dakwaan bahawa pusat data AI meningkatkan kos elektrik isi rumah.

Kumpulan lain yang dikaitkan dengan sebuah syarikat teknologi China yang mempunyai hubungan kerajaan didakwa berusaha membentuk perbincangan dasar AS. OpenAI juga melarang pengguna berbahasa Cina yang menggunakan ChatGPT untuk membuat slogan anti-Trump, kartun dan komen berbilang bahasa untuk media sosial dan platform berita.

Penafian: Kand ungan ini sebahagiannya dihasilkan dengan bantuan alat AI dan telah dikaji dan diterbitkan oleh editor Benzinga.

Imej melalui Shutterstock