Nvidia pripravila prvi pametni usmerjevalnik za AI

Generativna umetna inteligenca se vse bolj seli z oddaljenih strežnikov neposredno na uporabniške naprave. Podjetje Nvidia je na sejmu IFA 2026 predstavilo celovit nabor novosti za lokalno obdelavo podatkov, med katerimi izstopa rešitev za hkratno izkoriščanje moči več računalnikov v domačem ali pisarniškem omrežju. Osrednja novost je odprtokodno orodje Nvidia Personal AI Router (PAIR), ki omogoča pametno preusmerjanje zahtev med združljivimi sistemi, ne da bi bilo treba spreminjati obstoječe agente ali uvajati nove programske vmesnike.

Osnovno načelo delovanja orodja Nvidia Personal AI Router (PAIR) je preprosto, a izjemno učinkovito. Sodobni AI agenti pogosto razbijejo zahtevno nalogo na več manjših podopravil ter jih predajo podagentom. To omogoča vzporedno izvajanje številnih zahtev, vendar hitro nastane ozko grlo, ko vse zahteve trčijo ob eno samo grafično kartico. Orodje PAIR deluje kot pametni posrednik, ki prepozna vse razpoložljive računalnike v lokalnem omrežju in vsako samostojno zahtevo usmeri na tisti vozel, ki ima trenutno dovolj prostih zmogljivosti.

Pomembno je poudariti, da orodje PAIR ne ustvarja enega samega virtualnega pomnilnika ali združenega grozda. Posamezna zahteva se v celoti obdela na enem računalniku, PAIR pa zgolj razporeja različne zahteve med več naprav. Sistem je prilagojen dinamični naravi domačih omrežij, kjer se igralni računalnik uporablja za igre, prenosnik preide v spanje, delovna postaja pa izvaja druga opravila. Preko protokola mDNS orodje neprekinjeno spremlja stanje naprav, zasedenost grafične kartice ter prisotnost zahtevanih modelov. Komunikacija med napravami je zaščitena s šifriranjem mTLS, vsi podatki pa strogo ostajajo znotraj lokalnega omrežja.

Za delovanje v praksi je podjetje Nvidia prikazalo primer uporabe z agentom Hermes Agent in modelom Qwen3.6 35B A3B. Obdelava petih podagentov je na eni kartici Nvidia GeForce RTX 5090 trajala 6 minut in 18 sekund, medtem ko je uporaba dveh kartic Nvidia GeForce RTX 5090 preko orodja PAIR čas skrajšala na 3 minute in 48 sekund. Orodje je že na voljo v beta različici za sisteme Windows, macOS in Linux ter podpira kartice serije Nvidia GeForce RTX 2000 ali novejše, profesionalne kartice Nvidia RTX PRO, sisteme Nvidia DGX Spark ter Apple računalnike s čipi M4 ali novejšimi.

Poleg orodja PAIR je podjetje Nvidia napovedalo še poenostavljeno namestitev lokalnih modelov v orodjih, kot so Hermes Agent, OpenClaw ter Perplexity Portable Computer za grafične kartice z vsaj 24 GB pomnilnika. Za opazne skoke v zmogljivosti skrbijo tudi nove optimizacije za ogrodji llama.cpp in vLLM. Zaključek napovedi pa pripada novi strojni platformi Windows računalnikov z imenom Nvidia RTX Spark. Prvi modeli proizvajalcev Acer in Lenovo bodo na prodajne police prispeli že v oktobru, podpirali pa bodo nov okvir Windows Agent ter ustvarjalna orodja, kot je CyberLink PhotoDirector.