Microsoft v Windows 11 vgradil AI pomočnika z novim jezikovnim modelom

Tekom lanskega leta je podjetje Microsoft predstavilo računalnike Copilot+ z namensko enoto za umetno inteligenco (NPU), ki ponuja zmogljivost več kot 40 milijard operacij na sekundo. Ti sistemi so vključevali Phi-Silica. Tu gre za “majhen” jezikovni model za naprave, namenjen izboljšanju jezikovnega razumevanja v Microsoftovih aplikacijah in programski opremi tretjih razvijalcev. 

Nedavno pa je Microsoft predstavil nov jezikovni model Mu, ki je vgrajen neposredno v Windows 11. Mu poganja novega pametnega pomočnika v aplikaciji Nastavitve, ki razume naravne poizvedbe uporabnikov in jih integrira v iskalno vrstico za boljšo uporabniško izkušnjo. Funkcionalnost je trenutno poskusno na voljo za Windows Insiders uporabnike v razvijaskem kanalu, in sicer na Copilot+ računalnikih. 

Tako kot jezikovni model Phi-Silica je tudi Mu optimiziran za delovanje umetne inteligence in zmore ustvariti več kot 100 milijard operacij na sekundo – lokalno, brez povezave z oblakom. Microsoft je na blogu razkril ključne informacije o arhitekturi in učenju modela Mu: 

• Mu je jezikovni model z 330 milijoni parametrov, temelječ na arhitekturi kodirnik-dekodirnik. 

• Ta arhitektura omogoča 47 % nižjo zakasnitev prvega ukaza in 4,7× hitrejše dekodiranje v primerjavi z dekodirnimi modeli enake velikosti. 

• Za zmanjšanje števila parametrov uporablja deljenje nalog v določenih komponentah. 

• Mu je bil izučen na NVIDIA A100 grafičnih procesorjih preko Azure Machine Learning platforme. 

• Kljub manjši velikosti ponuja podobno zmogljivost kot optimzirani Phi-3.5-mini. 

• Najbolje deluje pri večbesednih poizvedbah; za krajše izraze se še naprej uporabljajo leksični in semantični rezultati. 

Zainteresirani uporabniki lahko funkcijo preizkusijo z namestitvijo Windows 11 Build 26120.3964 (KB5058496) ali novejše različice. Ta bi lahko kmalu postala stalni del operacijskega sistema Windows 11.