Težava UI ni pomanjkanje čipov, ampak elektrike

Izvršni direktor Microsofta Satya Nadella je v nedavnem intervjuju, v katerem je sodeloval tudi Sam Altman podjetja OpenAI, poudaril, da glavni izziv umetne inteligence trenutno ni pomanjkanje grafičnih procesorjev (GPU), temveč pomanjkanje električne energije, potrebne za njihovo uporabo. V pogovoru z Bradom Gerstnerjem v podcastu BG2 Pod je razložil, da imajo v podjetju celo zalogo UI pospeševalnikov, ki jih trenutno ne morejo priključiti, ker ni na voljo dovolj električne infrastrukture.

»Največji problem danes ni prevelika zaloga čipov, temveč električna moč oziroma zmožnost dovolj hitro zgraditi objekte blizu razpoložljivega električnega omrežja,« je dejal Nadella. »Zato imamo danes situacijo, kjer imamo čipe v skladišču, a jih ne moremo uporabiti. To ni težava v dobavi čipov, temveč v tem, da nimamo praznih, a opremljenih prostorov z ustrezno napeljano elektriko.«

Nadellove besede odražajo širši problem, s katerim se trenutno sooča celotna industrija umetne inteligence. Eksplozivna rast potreb po strojni opremi je prehitela sposobnost zagotavljanja elektrike in hladilne infrastrukture. Ko je podjetje Nvidia (in AMD) odpravilo pomanjkanje grafičnih kartic, se je pokazalo, da je naslednja velika ovira električna energija.

Ravno zaradi tega danes številni tehnološki velikani, med njimi tudi Microsoft, vlagajo v alternativne energetske rešitve, zlasti majhne modularne jedrske elektrarne, ki bi omogočile neodvisno napajanje novih podatkovnih centrov.

Po poročilu Phoronixa so energetske potrebe tako visoke, da so pri podjetju OpenAI celo pozvali ameriško vlado k gradnji 100 gigavatov novih proizvodnih zmogljivosti letno, če želijo tekmovati s Kitajsko. Peking je namreč na tem področju korak pred ZDA, saj je že prej vlagal v hidroelektrarne in jedrsko energijo.

Medtem pa se odpira še ena možnost, in sicer razvoj potrošniških naprav, ki bodo sposobne lokalnega zagona velikih jezikovnih modelov.

»Prišel bo dan, ko bomo izdelali potrošniško napravo, ki bo lahko lokalno poganjala model, kot sta GPT-5 ali GPT-6, ob minimalni porabi energije. In to je težko sploh dojeti,« pravi Altman.

Če bi to postalo resničnost, bi lahko drastično zmanjšalo odvisnost od centraliziranih podatkovnih centrov.