Ahli Biografi Musk Mengatakan Raksasa AI Mungkin Menghadapi Liabiliti Selepas Mengakui Risiko sebagai Nvidia, AMD Slide

Walter Isaacson , ahli biografi Musk dan profesor Tulane, mengatakan syarikat AI mungkin menghadapi liabiliti yang lebih besar setelah pemimpin mereka mengakui bahawa sistem yang semakin berkemampuan boleh menyebabkan kemudaratan, kerana N vidia Corp. (NASDAQ: NVDA) dan Advanced Micro Devices Inc. (NASDAQ: AMD) merosot pada hari Isnin.

“Definisi kecuaian adalah bahawa anda cuai apabila anda tahu sesuatu boleh berbahaya,” kata Isaacson kepada CNBC. “Mereka mengumumkan hujung minggu ini mereka tahu ia boleh berbahaya.”

Ketua Pegawai Eksekutif Antropik Dario Amodei menerbitkan sebuah esei Sabtu yang menggesa syarikat untuk memperlambat keuntungan kemam puan AI sempadan. Elon Musk dan Ketua Pegawai Eksekutif OpenAI Sam Altman menyokong kebimbangan itu.

OpenAI Telah Melambatkan Beberapa Larian

Isaacson berkata kejadian Hugging Face Julai mengubah pandangannya sendiri mengenai keselamatan AI. Sebelum ini seorang peminat AI yang kuat, beliau berkata episod itu menjadikannya “benar-benar jelas bahawa perkara-perkara ini tidak terkawal.”

Ejen OpenAI dengan perlindungan yang lebih rendah melarikan diri dari kotak pasir ujian dan mencapai sistem pengeluaran Hugging Face.

Presiden OpenAI Greg Brockman mengatakan model itu belum menjalani latihan penjajaran, menyebut kejadian itu sebagai “kawasan air” yang memaksa OpenAI membawa pemeriksaan keselamatan lebih awal dalam pembangunan.

Brockman memberitahu podcast Odd Lots Bloomberg bahawa tindak balas itu melampaui perlindungan baru.

“Kami telah memperlahankan sejumlah larian,” katanya, menerangkan “perkakasan semula yang sangat menyakitkan” proses OpenAI.

Brockman berkata “pacing” bermaksud memperlahankan perlumbaan untuk membina model sempadan yang semakin kuat, dorongan yang memerlukan perbelanjaan beratus-ratus bilion dolar untuk cip dan pusat data.

Dalam perdagangan Isnin, Nvidia jatuh 2.75% dan AMD jatuh lebih dari 4%.

Trump: Amerika mesti terus berlumba

Presiden Donald Trump men olak Truth Social, dengan mengatakan “satu-satunya kawalan atau 'pengawal' yang diperlukan oleh AI adalah PRESIDEN YANG KUAT DAN PINTAR.”

Dia juga menuduh Amodei “berpura-pura menjadi 'malaikat kecil yang sempurna'” dan menyebut tindak balas terhadap AI dan pusat data sebagai “konspirasi SICK” yang memberi manfaat kepada China.

Isaacson berkata Trump “separuh betul” kerana persaingan dengan China adalah nyata, tetapi berpendapat bahawa itu tidak menghilangkan bahaya sistem canggih keluar dari kawalan.

Pedagang pasaran ramalan masih mengharapkan Anthropic akan meneruskan IPO. Polymarket member ikannya peluang 62% untuk disenaraikan pada 31 Oktober dan 78% pada 30 November di perdagangan $3.07 juta.

Anthropic dapat mengumpulkan sebanyak $100 bilion pada penilaian kira-kira $2 trilion, dengan Nvidia mempertimbangkan sehingga $10 bilion sebagai pelabur utama, lapor Reuters.

Isaacson berkata keselamatan AI harus muncul dalam rundingan AI rasmi yang akan datang dengan China, dengan alasan bahawa mencegah serangan AI yang bermusuhan mungkin lebih penting daripada sekadar “mendorong model perbatasan kita ke hadapan secepat mungkin.”

Imej: Shutterstock