Novi grafični procesor za še bolj zmogljivo umetno inteligenco

V okviru konference o infrastrukturi umetne inteligence, je podjetje Nvidia predstavilo zmogljiv nov grafični procesor z imenom Rubin CPX. Novost je bila zasnovana za obdelavo kontekstnih oken, večjih od 1 milijona žetonov. To dejansko pomeni velik napredek v zmogljivostih modelov umetne inteligence. 

Rubin CPX je del prihajajoče arhitekture Rubin, ki predstavlja naslednjo generacijo strojne opreme za umetno inteligenco. Grafični procesor je posebej optimiziran za sklepanje z dolgim kontekstom, kar je vse pomembnejše pri velikih jezikovnih modelih in generativnih sistemih. Z rastjo modelov in kompleksnostjo aplikacij postaja sposobnost obdelave daljših zaporedij podatkov, kot so celotni dokumenti, dolgi pogovori ali video posnetki visoke ločljivosti, ključnega pomena. 

Rubin CPX podpira pristop razdrobljenega sklepanja, kjer se računska moč, pomnilnik in shranjevanje ločeno skalirajo. To omogoča učinkovitejšo porazdelitev AI nalog po podatkovnih centrih, kar zmanjšuje zakasnitve in povečuje prepustnost. 

Za razvijalce in podjetja to pomeni hitrejše in natančnejše rezultate pri nalogah, kot so generiranje videoposnetkov, dopolnjevanje kode, povzemanje dokumentov in večmodalne AI aplikacije. Rubin CPX bo imel ključno vlogo pri omogočanju naslednje generacije storitev umetne inteligence. Slednje namreč zahtevajo visoko pasovno širino pomnilnika in razumevanje obsežnega konteksta.