FRIDA: Slovenija dobila superračunalniško infrastrukturo za novo obdobje umetne inteligence

Na Fakulteti za računalništvo in informatiko Univerze v Ljubljani so uradno zagnali novo visoko zmogljivo superračunalniško infrastrukturo, ki je zasnovana predvsem za raziskave, razvoj in uporabo umetne inteligence, strojnega učenja, velikih jezikovnih modelov, znanstvenega računanja in obdelave velikih podatkov.

FRIDA ni klasičen podatkovni center, ki bi bil namenjen zgolj shranjevanju podatkov ali običajnim strežniškim nalogam. Gre za specializirano računsko infrastrukturo, ki bo slovenskim raziskovalcem, študentom, podjetjem in javnemu sektorju omogočila dostop do tehnologije, brez katere sodobni razvoj umetne inteligence vse težje napreduje. Pri velikih jezikovnih modelih, računalniškem vidu, medicinski analitiki, industrijski optimizaciji, simulacijah in agentnih sistemih ni več dovolj samo dobra ideja. Potrebna je tudi računska moč, ki zna iz podatkov izluščiti modele, vzorce in odločitve.

Superračunalnik na strehi FRI

Posebnost FRIDE je tudi njena fizična postavitev. Stoji na strehi Fakultete za računalništvo in informatiko Univerze v Ljubljani, zasnovana pa je kot modularni kontejnerski podatkovni center. Takšna zasnova omogoča hitrejšo postavitev, lažje nadgradnje in bolj prilagodljivo upravljanje infrastrukture.

Modularni pristop pomeni, da FRIDA ni zamišljena kot zaprta, nespremenljiva enota, temveč kot infrastruktura, ki se lahko razvija skupaj s potrebami raziskovalnega in gospodarskega okolja. Glede na hitre zmogljivostne preskoke iz generacije v generacijo modelov, je za upravitelje podatkovnega centra pomembno, da lahko kadarkoli ukrepajo in nadgradijo svoje kapacitete.

Dekanja FRI UL izr. prof. dr. Mojca Ciglarič je ob otvoritvi poudarila, da FRIDA neposredno podpira poslanstvo fakultete kot enega ključnih nosilcev tehnološkega razvoja v Sloveniji. Izpostavila je, da infrastruktura povezuje vrhunsko raziskovalno znanje z najsodobnejšo tehnologijo, omogoča preboje na področju umetne inteligence in superračunalništva ter slovenskemu gospodarstvu ponuja platformo za preizkušanje tehnologij prihodnosti.

»Če bi se s FRIDO vrnili 10 let v preteklost, bi bila najmočnejši superračunalnik na svetu in bi ostala prva vsaj še tri leta.«

Od kje FRIDA črpa svojo zmogljivost?

FRIDA v jedru združuje 104 grafične pospeševalnike sedmih generacij. Od tega je 64 pospeševalnikov najnovejše generacije, povezanih z visokozmogljivim omrežjem. To pomeni, da sistem ni zanimiv samo zaradi skupnega števila grafičnih enot, ampak tudi zaradi heterogenosti. Različne generacije pospeševalnikov omogočajo različne vrste nalog, testiranje združljivosti, primerjave zmogljivosti in razvoj rešitev, ki morajo delovati na več ravneh strojne opreme.

FRIDA je prva akademska superračunalniška infrastruktura v regiji z nameščenimi grafičnimi procesnimi enotami NVIDIA Blackwell generacije B200 in B300, namenjenimi umetni inteligenci. Gre za najnovejši razred pospeševalnikov, ki so zasnovani prav za učenje in izvajanje velikih UI modelov.

708 petaflopov in eksaskalni potencial

Eden najbolj impresivnih podatkov je računska zmogljivost. FRIDA zmore do 708 petaflopov pri računskih operacijah nižje natančnosti. Petaflop pomeni milijon milijard računskih operacij na sekundo. Pri 708 petaflopih torej govorimo o 708 milijonih milijard operacij na sekundo.

Pri umetni inteligenci se pogosto uporabljajo izračuni nižje natančnosti, ker za učenje in izvajanje modelov ni vedno potrebna klasična najvišja numerična natančnost, kakršno zahtevajo nekatere znanstvene simulacije. Nižja natančnost omogoča bistveno večjo hitrost in boljšo energijsko učinkovitost, kar je pri velikih jezikovnih modelih in nevronskih mrežah zelo pomembno.

»Govorimo o računalniku, ki lahko izvede več kot milijardo milijard računskih operacij na sekundo.«

FRIDA ima tudi eksaskalni potencial. Pri računanju z redkimi matrikami nižje natančnosti lahko doseže hitrost do 1,42 eksaflopa. Eksaflop pomeni milijardo milijard operacij na sekundo. To so številke, ki jih je težko intuitivno razumeti. Če bi vsak prebivalec Slovenije računal neprekinjeno 24 ur na dan, bi FRIDA v eni sekundi opravila več izračunov kot vsi skupaj v 10.000 letih.

Kako hladijo to superračunalniško zverino? Hlajenje ni tako razburljiva tema kot zmogljivost, ampak ko govorimo o strežniških konfiguracijah, tudi hlajenje hitro postane nekaj zanimivega. Strežniki za umetno inteligenco porabijo ogromno energije in proizvedejo veliko toplote. Če toplote ni mogoče učinkovito odvesti, zmogljivost pade, sistem postane manj zanesljiv, poraba energije pa naraste.

FRIDA uporablja kombinacijo zračnega hlajenja z visoko gostoto in naprednega tekočinskega hlajenja neposredno na čipih.

FRIDA kot razvojna platforma, ne samo računalnik

Prof. dr. Marko Robnik Šikonja iz FRI UL je ob predstavitvi poudaril, da so visoko zmogljiva računska infrastruktura, predvsem GPU strežniki, predpogoj za delo na področju umetne inteligence. FRIDA je s svojo usmerjenostjo v UI trenutno najmočnejši računski center v Sloveniji. Med drugim bo omogočila nadaljnji razvoj slovenskega velikega jezikovnega modela GaMS ter gospodarstvu in javnemu sektorju omogočila preizkus in prototipiranje najnovejših agentnih tehnologij.

Vpliv na slovenski jezik ne smemo podcenjevati. Veliki jezikovni modeli niso več samo tema globalnih tehnoloških podjetij. Za slovenski jezik, slovensko javno upravo, šolstvo, zdravstvo, pravne storitve, medije in podjetja je pomembno, da obstajajo modeli, ki razumejo lokalni jezik, terminologijo, dokumente in kulturni kontekst. Razvoj takšnih modelov zahteva kakovostne podatke, strokovno znanje in zelo zmogljivo infrastrukturo.

Agentne tehnologije pa predstavljajo naslednji korak uporabe umetne inteligence. Ne gre več samo za modele, ki odgovarjajo na vprašanja, ampak za sisteme, ki lahko načrtujejo naloge, uporabljajo orodja, preverjajo podatke, komunicirajo z drugimi sistemi in izvajajo večstopenjske procese. Za podjetja to pomeni potencial pri avtomatizaciji kompleksnejših procesov, razvoju pametnih asistentov, optimizaciji proizvodnje, analitiki in podpori odločanju.

Most med znanostjo in gospodarstvom

Poročilo UMAR razkriva, da Slovenija zaostaja pri podatkovno podprtem razvoju, zato se je ob otvoritvi FRIDE razprava obrnila tudi v smer, kako bo nov superračunalnik pomagal pri razvoju nove infrastrukture, znanja in procesov.

O prenosu znanja v razvoj so razpravljali mag. Valter Leban, predsednik uprave skupine Kolektor, mag. Vesna Prodnik, članica uprave Telekoma Slovenije, Tomaž Gornik, direktor in ustanovitelj podjetja Better, ter prof. dr. Marko Robnik Šikonja iz FRI UL. Poudarek razprave je bil jasen. Prihodnost razvoja ne bo temeljila na ločenih otokih znanja, ampak na ekosistemu sodelovanja med fakultetami, podjetji, raziskovalci in javnim sektorjem.

Vesna Prodnik je poudarila, da je pomembno, da znanje ne ostane na fakulteti, ampak se prenese v gospodarstvo. Hkrati je izpostavila pomen prototipiranja in preverjanja rešitev z uporabniki že v zgodnji fazi razvoja. To je pri umetni inteligenci posebej pomembno, saj popolnih rešitev ni mogoče razvijati v izolaciji. Modeli morajo biti preizkušeni v realnih okoljih, na resničnih podatkih in v sodelovanju z ljudmi, ki bodo te rešitve uporabljali.

Tomaž Gornik je opozoril, da val umetne inteligence ne bo šel mimo brez sodelovanja z akademskim svetom. Valter Leban pa je predstavnikom podjetij svetoval, da je treba najprej ozavestiti, da podjetje ne ve in ne zmore vsega samo. Morda je to tudi glavno sporočilo celotnega dogodka. Ne gre se samo za to, da podjetja najamejo računsko moč, ampak da dobijo dostop do znanja, raziskovalcev, študentov in okolja, kjer se lahko vprašanja pretvorijo v razvojne eksperimente.

»Računalnik ne bo zamenjal zdravnika, ampak zdravnik z umetno inteligenco bo zamenjal zdravnika brez nje.«

FRIDA bo izobraževala in privabila nove generacije študentov

Dostop do takšne edinstvene infrastrukture pomeni, da se študenti lahko učijo in raziskujejo na tehnologiji, ki je primerljiva z vrhunskimi mednarodnimi okolji. Pri področjih, kot so globoko učenje, generativna umetna inteligenca, računalniški vid, bioinformatika, optimizacija in obdelava velikih podatkov, teorija brez praktične računske infrastrukture hitro naleti na omejitve.

Posledično to vpliva tudi na razvoj bodočega delovnega kadra. Podjetja potrebujejo strokovnjake, ki ne poznajo samo osnov programiranja, ampak razumejo, kako se veliki modeli učijo, kako se optimizira poraba GPU virov, kako se upravlja podatkovne tokove, kako se meri učinkovitost modelov in kako se raziskovalni prototip prenese v produkcijsko okolje.

Za raziskovalce pa pomeni večjo samostojnost. Namesto zanašanja izključno na tuje infrastrukture ali komercialne oblake bodo imeli v Sloveniji dostop do zmogljive platforme, ki je prilagojena raziskovalno-razvojnim sodelovanjem. FRIDA sicer ne nadomešča evropski EuroHPC ekosistem, ampak ga dopolnjuje.

»Zgradili so jo ljudje, uporabljali jo bodo ljudje in njeni rezultati bodo, tako upamo, v korist ljudem.«

Frida bo Sloveniji dala močno potrebno samozavest

Ni boljšega načina, da država preostalemu svetu sporoči, da je pripravljena na prihodnost. FRIDA sama po sebi seveda ne bo rešila vseh razvojnih izzivov. Potrebni bodo dobri projekti, odgovorno upravljanje, jasni pogoji dostopa, sodelovanje podjetij, premišljena uporaba podatkov in dovolj strokovnjakov, ki bodo znali njeno moč uporabiti.

A z njenim zagonom je Slovenija dobila nekaj, kar je bilo do zdaj pogosto ozko grlo: domačo, vrhunsko, umetni inteligenci prilagojeno superračunalniško infrastrukturo.

Mogoče njen največji dosežek ne bo milijarda milijard računskih operacij na sekundo, ampak povezovanje celotne Slovenije.