PlayStation 4 kot AI strežnik: Stara konzola lahko sedaj poganja model umetne inteligence

Foto: Sony, AMD
Foto: Sony, AMD

Projekt Garlic LLM prinaša presenetljivo možnost poganjanja umetne inteligence neposredno na priljubljeni igralni konzoli PlayStation 4. Ker naprava nikoli ni bila zasnovana za tovrstne naloge in nima uradne podpore za strojno učenje, so morali razvijalci ubrati precej nekonvencionalno pot. Rešitev temelji na posebej prilagojenih grafičnih jedrih in ročno napisanih ukazih, ki zaobidejo pomanjkanje ustreznih sistemskih gonilnikov. S tem so uspeli izkoristiti grafično arhitekturo konzole za naloge, ki jih običajno opravljajo precej zmogljivejši računalniki.

Ker ima konzola na voljo le 8 GB skupnega pomnilnika, projekt uporablja napredno stiskanje podatkov oziroma kvantizacijo. Tako so razvijalci velikost modela zmanjšali na približno 4,5 GB, kar omogoča njegovo izvajanje v okviru omejenih zmogljivosti konzole, hkrati pa ohranja podporo za obsežnejše podatkovne strukture. Takšen pristop je še posebej pomemben pri starejši strojni opremi, kjer je treba skrbno razporediti vsak megabajt razpoložljivega pomnilnika.

Za doseganje večje hitrosti obdelave uporabljajo tudi tehniko spekulativnega dekodiranja, ki omogoča hkratno predvidevanje in preverjanje več korakov generiranja besedila. S tem se lahko postopek ustvarjanja odgovorov občutno pospeši, ne da bi bilo treba uporabiti zmogljivejši procesor ali grafično kartico. Kljub zanimivemu dosežku pa se postavlja vprašanje, kako smiselno je takšne sisteme dolgoročno uporabljati na starejši strojni opremi.

Sodobni pametni telefoni in osebni računalniki so namreč za tovrstne naloge praviloma precej bolj praktični in učinkoviti. Projekt Garlic LLM zato predvsem dokazuje, da lahko tudi starejše naprave ob dovolj iznajdljivem programiranju dobijo povsem novo vlogo, čeprav to še ne pomeni, da lahko nadomestijo namensko strojno opremo za umetno inteligenco.


Vam je bila novica zanimiva?

Povejte prijateljem, da ste novico prebrali na Računalniških novicah.

Share
Prijavi napako v članku
Vas zanima več iz te teme?
PlayStation konzole umetna inteligenca


Kaj berejo drugi?

Partnerji Računalniških novic Prikaži vse

Seyfor d.o.o.

Cesta Goriške fronte 46, 5290 Šempeter pri Gorici, Tel: 05 393 40 00
Poslovni računalniški programi za javni sektor, podjetje, zasebnike ali obrtnike Saop je leta 1987 med prvimi v Sloveniji ponudil programsko opremo in je danes eden izmed vodilnih ... Več

VENUM PC

Cesta Jaka Platiše 18, 4000 Kranj, Tel: 06 999 39 83
Gaming računalniki, kot ste si jih vedno želeli Venum PC je inovativno podjetje, ki se ukvarja s servisom, odkupom in prodajo računalniške opreme. Na njihovi spletni strani ... Več
Zlati partner

INFO-KOD d.o.o.

Cesta v Gorice 34a, 1000 Ljubljana, Tel: 01 256 24 99
Skupina INFO-KOD že dvajset let ponuja rešitve na področju avtomatske identifikacije, ki je podlaga za računalniško izmenjavo podatkov. INFO-KOD d.o.o. je eden izmed glavnih distributerjev ... Več

MA-KO d.o.o.

Tovarniška cesta 2b, 5270 Ajdovščina, Tel: 05 368 11 10
Se sprašujete, kako najti najboljšega ponudnika računalniških sistemov in storitev? Kriteriji dolgoletne izkušnje, kakovostne storitve in zadovoljstvo strank takoj obrodijo ... Več