OpenAI predstavil čip Jalapeño za hitrejše delovanje umetne inteligence

Razvoj lastne strojne opreme za podjetje OpenAI pomeni prehod v novo obdobje, kjer želijo poleg samih modelov in programske opreme nadzorovati tudi procesorska jedra, pomnilnik ter omrežno infrastrukturo. Čip z imenom OpenAI Jalapeño je namreč zasnovan z namenom, da odpravi klasično dilemo pri izvajanju AI-modelov, in sicer izbiro med visoko prepustnostjo podatkov ali nizko zakasnitvijo.

Pri opravljenih meritvah z odprtokodnim programskim orodjem InferenceX so zmogljivosti čipa OpenAI Jalapeño primerjali z obstoječimi komercialnimi rešitvami podjetja Nvidia, natančneje s platformo Nvidia Blackwell. Testiranje na javno dostopnih modelih, kot so OpenAI GPT-OSS 120B, DeepSeek R1 in Moonshot AI Kimi K2.5, je pokazalo, da novinec dosega od 1,5- do 1,9-krat boljšo učinkovitost glede na porabljeni vat električne energije pri najvišji prepustnosti. Hkrati se je celotna zakasnitev zmanjšala za 1,7- do 3,6-krat. Pri zelo interaktivnih opravilih so bile omenjene prednosti še izrazitejše.

Čeprav ima OpenAI Jalapeño uradno nazivno moč navedeno pri 700 W, so meritve pokazale, da je dejanska poraba med obremenitvijo ostala pri ali pod 550 W. Za razvijalce je ključno merilo predvsem količina opravljenega dela na enoto energije in ne zgolj surova moč. Pri obdelavi podatkov se je nov pospeševalnik izkazal z visokim številom obdelanih žetonov na kilovat energije v primerjavi s trenutno vodilnimi sistemi na trgu.

Arhitektura čipa je prilagojena specifičnim fazam obdelave jezikovnih modelov, kjer se zahteve glede računske moči in pasovne širine pomnilnika hitro spreminjajo. Novi sistem je bil seveda razvit kot celota, ki povezuje procesor, pomnilnik in omrežje na ravni celotnih strežniških omar. Zanimiv podatek je tudi ta, da je podjetje OpenAI pri snovanju čipa uporabilo lastna orodja umetne inteligence, kar je skrajšalo razvojni cikel na zgolj devet mesecev. Umetna inteligenca je pomagala optimizirati celo posamezna matematična vezja in pospešila prilagajanje kode za nove modele.

Podatki trenutno seveda izvirajo predvsem iz nadzorovanih preizkusov, dejansko stabilnost in stroškovno upravičenost sistema pa bo pokazala šele masovna uporaba v produkcijskem okolju. Prav tako podjetje OpenAI ne načrtuje popolne opustitve obstoječih partnerjev. Še naprej bodo uporabljali opremo podjetij Nvidia, AMD, Microsoft, Amazon AWS in drugih, saj želijo ohraniti raznolikost virov.

Začetek vključevanja čipa OpenAI Jalapeño v lastne podatkovne centre je predviden do konca leta 2026. Hkrati v podjetju OpenAI že intenzivno načrtujejo drugo in tretjo generacijo te strojne opreme, s čimer si želijo dolgoročno zagotoviti še višjo hitrost in nižje stroške izvajanja svojih storitev.