Jensen Huang Memanggil Satu Syarikat AI sebagai 'TSMC Kilang AI. ' CTO-nya melihat apa yang akan datang seterusnya

Beberapa bulan selepas Ketua Pegawai Eksekutif N vidia (NASDAQ: NVDA) Jensen Huang menggelarkan Fireworks AI sebagai “TSMC kilang AI,” pengasas bersama syarikat permulaan dan CTO Dmytro Dzhulgakov meramalkan peralihan pasaran dari model sempadan tunggal ke arah berjuta-juta sistem khusus dan berat terbuka.

Fireworks AI membina infrastruktur dan lapisan operasi untuk membantu syarikat menggunakan, menyesuaikan dan menjalankan model AI pada skala dengan cekap.

Dari Satu Model Kepada Berjuta-juta

Perbandingan TSMC Huang menyoroti misi teras Fireworks: mengendalikan dan mengoptimumkan model AI untuk kelajuan dan kecekapan kos dan bukannya membina model proprietari gergasi.

Tetapi Dmytro meramalkan peralihan yang lebih besar kerana model berat terbuka dengan cepat mengejar makmal perbatasan, yang menghadapi halangan yang semakin meningkat: kekurangan data pelanggan proprietari.

Menurut Dmytro, syarikat permulaan asli AI seperti Cursor, Cognition, Perplexity, Genspark, dan Harvey membina produk di sekitar model tujuan umum, kemudian menggunakan data dalaman untuk menyempurnakan model berat terbuka khusus.

Pergeseran itu dapat meningkatkan prestasi sasaran dari 80-90% kepada 95-99% sambil mengurangkan kos sebanyak sepuluh-menjadikan data yang dijana pengguna jauh lebih berharga daripada kod asas.

Bunga Api Melihat Peluang

Pemecahan itu tidak menjadikan infrastruktur AI lebih mudah. Ia menjadikannya lebih rumit.

Dmytro menggambarkan inferensi sebagai timbunan yang merangkumi kernel GPU, orkestrasi perkakasan, pemisahan model, penghalaan lalu lintas dan pengimbangan beban. Malah model yang sama mungkin memerlukan konfigurasi yang berbeza secara radikal bergantung pada sama ada pelanggan mengutamakan kelajuan atau kos.

Fireworks beroperasi di pelbagai penyedia awan, dengan berkesan mewujudkan “awan maya” yang mengabungkan pengiraan heterogen daripada pelanggan. Dmytro berkata Fireworks sengaja menjauhkan diri dari pengurusan perkakasan dan pusat data, sebaliknya memberi tumpuan kepada orkestra pengiraan dan platform perisian.

Mengapa Ia Penting

Perbandingan TSMC Huang akhirnya boleh terbukti berguna untuk alasan yang tidak dapat disimpulkan.

Sekiranya AI bergerak dari segelintir model gergasi ke arah berjuta-juta sistem khusus, pemenang mungkin termasuk syarikat yang beroperasi secara senyap, mengoptimumkan dan menghubungkan model-model tersebut di bawah aplikasi yang sebenarnya dilihat oleh pelabur.

Pertaruhan Fireworks adalah bahawa kilang AI memerlukan lapisan operasi mereka sendiri - sama seperti kilang cip.

Imej melalui Shutterstock