AI memecahkan model perniagaan cip memori

PELABUR yang telah menumpuk dalam debut Nasdaq AS $28 bilion SK Hynix Inc harus sedar: Model perniagaan di mana pembuat cip memori terkemuka di dunia berkembang maju akan beralih kepada model yang memerlukan perjudian yang lebih strategik dan kewangan.

Setakat ini, SK Hynix Inc membuat semua langkah yang betul, tetapi tidak jelas seberapa baik pemain utama lapangan akan menangani gangguan itu.

Pencetusnya tentu saja ledakan kecerdasan buatan (AI). Sistem AI yang lebih kuat telah mendorong cip memori ke batasnya dalam tugas mereka memindahkan data ke dan dari pemproses, otak komputer atau pelayan.

Untuk kebanyakan sejarah pengkomputeran, pengiraan pada cip pemproses adalah bahagian yang lambat.

Sekarang keadaan telah berubah, kerana unit pemprosesan grafik hari ini yang dibuat oleh Nvidia Corp dapat melakukan matematik dengan lebih cepat, sementara data yang dihantar berulang-ulang dari cip memori masih perlahan dibandingkan.

Bayangkan seorang pengajar genius yang tidak dapat menulis sesuatu dengan cepat, dengan notepad mereka menjadi cip memori.

“Mesin AI kelaparan lebar jalur memori kerana model-model ini sangat besar,” kata bekas bos Intel Corp Pat Gelsinger.

Ini bermakna cip AI tidak mencapai potensi penuh mereka, dan ia juga membatasi berapa banyak yang dapat mengingati oleh chatbot paling canggih.

Anthropic's Fable 5, misalnya, hanya dapat menyimpan teks bernilai tujuh novel dalam ingatan kerjanya.

Mintalah untuk mempertimbangkan lebih banyak dan ia mesti mula menjatuhkan apa yang datang sebelumnya.

Pembina AI telah berusaha selama bertahun-tahun untuk membuat model mereka mengingati jumlah yang jauh lebih besar, kerana itu akan membolehkan mereka menjalankan tugas yang lebih canggih dan berterusan dalam bidang seperti kewangan atau kerja korporat back-office.

Tetapi mereka dibatasi sebahagiannya oleh fizik. Pelayan, komputer di pusat data yang menjalankan sistem AI, menggunakan teknik yang disebut memori jalur lebar tinggi (HBM).

Ideanya adalah untuk menyusun komponen asas cip memori di atas satu sama lain, memendekkan jarak yang harus dilalui oleh data ke dan dari pemproses (GPU). Teknik ini mempunyai kelemahan, bagaimanapun.

“HBM, seperti yang kita ketahui dan menyukainya hari ini, adalah ingatan yang buruk. Haba terperangkap di lapisan bawah cip memori, dan kenaikan suhu memaksa GPU untuk menekan kelajuannya,” katanya.

Satu jawapan adalah untuk tiga pengeluar cip memori besar di dunia, SK Hynix, Samsung Electronics Co dan Micron Technology Inc, untuk membina memori terus ke pemproses itu sendiri.

Daripada pengajar genius harus menulis apa-apa, notepad itu berkesan di kepalanya.

Itu akan menjadikan model AI berkali-kali lebih kuat, tetapi ini juga bermaksud tiga pembuat cip memori - yang nilai pasaran agregatnya telah meningkat sebanyak AS$3 trilion pada tahun lalu berkat permintaan yang meluas - mesti mengubah cara mereka menjalankan perniagaan.

Industri yang selalu membuat cip standard yang boleh mereka jual seperti komoditi kini mesti membuat produk tersuai.

“Ini adalah model perniagaan yang sama sekali baru bagi mereka,” kata Gelsinger, yang sebagai rakan kongsi umum di firma modal teroka Playground Global melabur dalam syarikat permulaan yang memberi tumpuan kepada menggabungkan daya memori dan pengkomputeran ke dalam sekeping silikon yang sama.

Dia menjangkakan sekurang-kurangnya dua hingga tiga tahun yang baik untuk tiga tahun besar sebelum gangguan itu mula menggigit, kerana mereka bentuk dan menghasilkan cip tersuai baru secara besar-besaran akan mengambil masa bertahun-tahun.

Nvidia telah bertindak balas terhadap perubahan yang akan datang dengan membuat perjanjian pelesenan US $20Bil dengan Groq Inc yang berpangkalan di California yang membina memori pantas pada pemproses.

Itu menimbulkan ancaman kepada SK Hynix dan rakan-rakannya, yang sementara itu harus memasuki perniagaan meramalkan penjualan masa depan Nvidia, Intel, Google Alphabet Inc dan syarikat-syarikat lain yang membuat pemproses maju, membelanjakan sejumlah wang yang tepat untuk penyelidikan dan pembangunan dan fabrikasi cip untuk memenuhi tuntutan mereka.

Dengan kata lain, bukan lagi masalah membina sebanyak mungkin cip memori yang sama, tetapi membuat pertaruhan yang tepat pada siapa yang menang dan kalah di pasaran menjual otak komputer.

Pilih dengan betul dan anda mendapat ganjaran dengan pelanggan yang boleh dikunci selama bertahun-tahun; pilih salah dan anda akan ditinggalkan dengan gunung cip mahal.

SK Hynix memilih untuk melindungi pertaruhannya pada tahun 2024 dengan bekerjasama dengan Taiwan Semiconductor Manufacturing Co, yang membina cip untuk hampir setiap syarikat teknologi utama.

Itu akan membolehkan firma memori Korea Selatan menjual kepada beberapa gergasi teknologi yang bersaing dan bukannya bertaruh hanya pada satu.

Buat masa ini, ia meningkatkan semangat pasaran.

Begitu kuat ledakan memori sehingga menarik pelabur untuk melepaskan saham di Nvidia memihak kepada SK Hynix dan rakan-rakannya, ketika perdagangan AI beralih ke bidang lain dalam pembinaan infrastruktur. (Saham SK Hynix meningkat 600% dalam tempoh 12 bulan terakhir.)

Itulah pergeseran yang mengejutkan bagi pasaran komoditi yang menghabiskan lima dekad sebelumnya kelihatan agak membosankan. “Ingatan tidak pernah menarik dalam sejarah,” kata Gelsinger.

Bagi syarikat dan pelabur yang menumpuk, menarik mungkin hanya perkataan lain untuk berisiko. - Bloomberg

Parmy Olson adalah kolumnis Pendapat Bloomberg yang meliputi teknologi. Pandangan yang dinyatakan di sini adalah milik penulis.