Težava UI ni pomanjkanje čipov, ampak elektrike

Izvršni direktor Microsofta Satya Nadella je v nedavnem intervjuju, v katerem je sodeloval tudi Sam Altman podjetja OpenAI, poudaril, da glavni izziv umetne inteligence trenutno ni pomanjkanje grafičnih procesorjev (GPU), temveč pomanjkanje električne energije, potrebne za njihovo uporabo. V pogovoru z Bradom Gerstnerjem v podcastu BG2 Pod je razložil, da imajo v podjetju celo zalogo UI pospeševalnikov, ki jih trenutno ne morejo priključiti, ker ni na voljo dovolj električne infrastrukture.

»Največja težava danes ni pomanjkanje čipov, temveč električna moč oziroma zmožnost dovolj hitro zgraditi objekte blizu razpoložljivega električnega omrežja,« je dejal Nadella. »Zato imamo danes situacijo, ko imamo čipe v skladišču, a jih ne moremo uporabiti. Torej ni težava v dobavi čipov, temveč v tem, da nimamo praznih, a opremljenih prostorov z ustrezno električno napeljavo.«

Nadellove besede odražajo širši problem, s katerim se trenutno sooča celotna industrija umetne inteligence. Eksplozivna rast potreb po strojni opremi je prehitela sposobnost zagotavljanja elektrike in hladilne infrastrukture. Ko je podjetje Nvidia (in AMD) odpravilo pomanjkanje grafičnih kartic, se je torej pokazalo, da je naslednja velika ovira električna energija.

Ravno zaradi tega danes številni tehnološki velikani, med njimi tudi Microsoft, vlagajo v alternativne energetske rešitve, zlasti majhne modularne jedrske elektrarne, ki bi omogočile neodvisno napajanje novih podatkovnih centrov.

Po poročilu Phoronixa so energetske potrebe tako velike, da so pri podjetju OpenAI celo pozvali ameriško vlado h gradnji 100 gigavatov novih proizvodnih zmogljivosti letno, če želijo tekmovati s Kitajsko. Peking je namreč na tem področju korak pred ZDA, saj je že prej vlagal v hidroelektrarne in jedrsko energijo.

Medtem pa se odpira še ena možnost, in sicer razvoj potrošniških naprav, ki bodo sposobne lokalnega zagona velikih jezikovnih modelov.

»Prišel bo dan, ko bomo izdelali potrošniško napravo, ki bo lahko ob minimalni porabi energije lokalno poganjala modela, kot sta GPT-5 ali GPT-6. In to je trenutno težko dojeti,« pravi Altman.

Če bi to postalo resničnost, bi lahko drastično zmanjšalo odvisnost od centraliziranih podatkovnih centrov.