AMD napovedal revolucijo AI zmogljivosti

V dobi agentne umetne inteligence se številne organizacije znajdejo pred dilemo. Tvegati z nepredvidljivimi stroški in vprašljivo zasebnostjo v oblaku ali pa investirati v drago prenovo lastnih podatkovnih centrov. Podjetje AMD predstavlja tretjo pot z izdelkom AMD Instinct MI350P PCIe, ki omogoča vodilno zmogljivost znotraj infrastrukture, ki jo podjetja že posedujejo. Gre za grafične procesorje v obliki kartic z dvema režama, ki se preprosto vstavijo v obstoječe racks sisteme, kar bistveno poenostavi uvajanje lokalnih rešitev umetne inteligence.

Ta oblika PCIe kartic je idealna izbira za tista podjetja, ki potrebujejo večjo računsko moč, kot jo lahko ponudijo klasični procesorji, hkrati pa še niso pripravljena na popoln prehod na specializirane platforme z grafičnimi pospeševalniki. AMD Instinct MI350P PCIe blesti pri obdelavi majhnih, srednjih in velikih modelov umetne inteligence ter pri cevovodih RAG (Retrieval-Augmented Generation).

Inženirji so se pri snovanju osredotočili na maksimalen donos naložbe. Kartica ponuja impresivnih 144 GB pomnilnika visoke pasovne širine HBM3E, ki deluje s hitrostjo do 4 TB/s. Zmogljivost pri uporabi MXFP4 preciznosti dosega neverjetnih 4.600 teraflopov (TFLOPS), kar predstavlja trenutni vrhunec med podjetniškimi karticami v tem formatu. Podpora za izvorne formate nižje natančnosti, kot sta MXFP6 in MXFP4, ter podpora za redkost (sparsity) pri 8- in 16-bitnih natančnostih zagotavljata visok pretok podatkov ob zmanjšani porabi energije in manjši obremenitvi hlajenja.

Poleg surove moči AMD stavi na odprtost sistema. Programski sklad vključuje Kubernetes GPU Operator in oblačne mikro-storitve za inferenco, kar omogoča prenos delovnih obremenitev s skoraj ničelnimi popravki kode. Ker je celoten referenčni sklad na voljo brez licenčnin, lahko podjetja hitro preidejo v produkcijo brez stalnih stroškov na podlagi uporabljenih žetonov. Z AMD Instinct MI350P PCIe lahko vaša organizacija vzpostavi stabilne in pripravljene AI sisteme na trdnih temeljih, ki jih imate na voljo že danes.