Meta in Apple združili moči za napredno umetno inteligenco

Muse Spark Open temelji na večmodalni arhitekturi in vključuje kar 816 milijard parametrov, od katerih jih je med delovanjem aktivnih 42 milijard. Model podpira kontekstno okno z milijonom žetonov ter je namenjen predvsem programiranju, kompleksnim večstopenjskim opravilom in delu z obsežnimi zbirkami podatkov. Pri tem izkorišča najnovejšo različico Applovega odprtokodnega ogrodja MLX, ki je optimizirano za enotno pomnilniško arhitekturo procesorjev Apple Silicon.

Ena največjih prednosti takšne zasnove je učinkovita uporaba skupnega pomnilnika. Integrirani grafični procesor lahko dostopa do kar 512 GB pomnilnika na posamezni napravi, zato lahko dva računalnika Mac Studio skupaj poganjata celoten model kot enoten sistem z do enim terabajtom pomnilnika in prepustnostjo do 1,2 TB/s. Takšen pristop omogoča izvajanje velikih modelov brez potrebe po namenskih strežniških grafičnih karticah.

Meta je zmogljivosti sistema prikazala z orodjem Muse Code, kjer je model samostojno izvajal zahtevnejše naloge, kot so popravljanje programske kode odprtokodnih projektov in urejanje videoposnetkov v okolju DaVinci Resolve. Meta v tem vidi pomemben korak proti naprednejšim agentom umetne inteligence, ki lahko dlje časa samostojno opravljajo kompleksne delovne procese.

Model Muse Spark Open je že na voljo za prenos prek platforme Hugging Face.