Persaingan terbesar industri AI mungkin bukan lagi mengenai membina model paling pintar. Komen terbaru Elon Musk menunjukkan fasa seterusnya perlumbaan adalah mengenai memberikan lebih banyak kecerdasan menggunakan lebih sedikit tenaga - pergeseran yang akhirnya dapat menjadikan AI lebih murah untuk dijalankan dan lebih praktikal untuk digunakan secara berskala.
Menjawab catatan oleh Ketua Pegawai Eksekutif Rep lit, Amjad Masad, Musk men ulis bahawa “Kecerdasan/Joule akan terus bertambah baik,” menyuarakan pandangan yang semakin meningkat bahawa kemajuan AI harus diukur bukan hanya dengan bagaimana model mampu menjadi, tetapi juga dengan seberapa efisien mereka menyampaikan keupayaan tersebut.
Catatan itu merujuk penyelidikan baru yang menunjukkan peningkatan mendadak dalam “kecerdasan per joule” selama 16 bulan terakhir, didorong oleh kemajuan dalam kedua-dua model AI dan perkakasan.
Selama tiga tahun yang lalu, perbualan AI telah berpusat pada model yang lebih besar, lebih banyak parameter dan penanda aras yang memecahkan rekod. Tetapi ketika syarikat beralih dari model latihan untuk menjalankannya dalam aplikasi dunia nyata, ekonomi inferensi menjadi semakin penting.
Kertas penyelidikan baru-baru ini oleh Avanika Narayan memperkenalkan “kecerdasan per watt” sebagai cara untuk mengukur berapa banyak prestasi AI berguna yang dapat disampaikan untuk jumlah tenaga tertentu. Para penyelidik mendapati bahawa sistem AI tempatan meningkatkan metrik ini lebih daripada lima kali ganda antara 2023 dan 2025, dengan keuntungan datang dari kedua-dua seni bina model yang lebih baik dan perkakasan yang lebih cekap.
Mereka juga melaporkan peningkatan 18 kali ganda dalam “kecerdasan per joule” dalam tempoh 16 bulan ketika menggabungkan kemajuan dalam model dan pemecut [Rajah 3 halaman 8 kertas penyelidikan].
Pengambilannya mudah: AI bukan hanya menjadi lebih pintar - ia menjadi lebih cekap secara dramatik.
Idea itu bukanlah sama sekali baru. Dalam wawancara eksklusif baru-baru ini dengan Benzinga, Ketua Pegawai Eksekutif DigitalOcean Paddy Srinivasan mengatakan syarikat AI semakin mengoptimumkan “kecerdasan per dolar” dengan mengarahkan beban kerja merentasi model yang berbeza dan bukannya bergantung secara eksklusif pada sistem perbatasan yang mahal.
Komen Musk menunjukkan trend yang lebih luas yang sama dari sudut yang berbeza. Sekiranya syarikat dapat menjana AI yang lebih berguna dengan kuasa watt yang lebih sedikit, kos menjalankan aplikasi AI boleh jatuh walaupun keupayaan model bertambah baik.
Itu mempunyai implikasi di seluruh ekosistem AI.
Syarikat-syarikat seperti N vidia Corp (NASDAQ: NVDA) semakin menekankan peningkatan prestasi yang membolehkan pelanggan menyelesaikan lebih banyak kerja AI dengan infrastruktur yang sama, sementara penyedia awan mencari cara untuk menurunkan kos inferensi ketika penggunaan AI berkembang.
Pada masa yang sama, permintaan elektrik yang semakin meningkat telah menjadikan ketersediaan kuasa kekangan utama untuk pusat data AI, menjadikan keuntungan kecekapan lebih berharga.
Catatan Musk bukan sekadar pemerhatian mengenai perkakasan AI. Ini mencerminkan pergeseran yang lebih luas dalam bagaimana industri dapat menentukan kemajuan.
Pemenang seterusnya mungkin bukan syarikat dengan model terbesar sahaja, tetapi syarikat yang dapat memberikan kecerdasan yang paling berguna pada tenaga dan kos pengkomputeran terendah.
Bagi pelabur, ini bermakna kecekapan AI - bukan hanya keupayaan AI - boleh menjadi salah satu metrik terpenting untuk memerhatikan fasa seterusnya pertumbuhan industri.
Foto ihsan: Frederic Legrand - COMEO di Shutterstock.com