Mini PC z umetno inteligenco

Firefly je uradno predstavil AIBOX-K3, kompaktno in robustno napravo za robno računalništvo (Edge AI), ki temelji na naprednem procesorju SpacemiT K3 RISC-V. Ta mini računalnik industrijskega razreda prinaša izjemno zmogljivost umetne inteligence v majhnem ohišju, namenjen pa je lokalnemu izvajanju zahtevnih modelov LLM in kompleksnim operacijam strojnega učenja brez zanašanja na oblak.

Foto: Firefly

Podjetje Firefly je prijetno presenetilo z namiznim računalnikom AIBOX-K3, popolno strojno rešitev, ki izkorišča potencial osemjedrnega procesorja SpacemiT Key Stone K3. Gre za arhitekturo RISC-V, ki se po zmogljivosti postavlja ob bok uveljavljenim čipom, kot je RK3588, saj ponuja 130 KDMIPS procesorske moči. Srce naprave predstavlja osem 64-bitnih jeder X100 z delovnim tiktom do 2,4 GHz, ki jih dopolnjuje še osem namenskih AI jeder A100 za vzporedno računanje.

Glavni adut naprave je integriran AI pogon, ki doseže do 60 TOPS (INT4) zmogljivosti. To omogoča lokalno poganjanje velikih jezikovnih modelov (LLM) z do 30 milijardami parametrov, vključno z modeli Mixture of Experts (MoE). Firefly navaja, da sistem pri lokalnem izvajanju 30B modelov dosega hitrosti preko 10 žetonov na sekundo. Za grafično obdelavo skrbi Imagination Technologies BXM4-64-MC1, ki podpira sodobne standarde, kot sta Vulkan 1.3 in OpenGL ES 3.2, medtem ko video enota omogoča dekodiranje 4K vsebin pri 120 sličicah na sekundo.

Kar zadeva strojne specifikacije, je AIBOX-K3 na voljo z 8 GB, 16 GB ali 32 GB LPDDR5 delovnega pomnilnika s pasovno širino 51 GB/s. Za shranjevanje podatkov skrbi hiter vgrajen UFS 2.2 pomnilnik (do 512 GB), dodatno pa je na voljo reža M.2 (PCIe 3.0 x4) za vgradnjo NVMe SSD diskov velikosti 2242 ali 2280. Naprava je opremljena z dvema gigabitnima mrežnima priključkoma, izhodom HDMI 2.0 za 4K ločljivost ter naborom vrat USB 3.0 (tako tipa A kot tipa C).

AIBOX-K3 je zaprt v aluminijasto ohišje industrijskega razreda s šestkotno porozen strukturo za optimalno hlajenje. Z merami 9,34 x 9,34 x 5,00 cm in težo okoli 500 gramov je naprava izjemno kompaktna. Deluje v širokem temperaturnem razponu od -20 °C do 60 °C, kar potrjuje njeno primernost za zahtevna industrijska okolja.

Varnost je zagotovljena na ravni strojne opreme z zaščito proti napadom tipa Spectre in Meltdown ter vgrajenimi kriptografskimi motorji. Platforma podpira številne operacijske sisteme, vključno z Ubuntu 26.04, Fedora in Debian, začetna cena pa znaša približno preračunanih 322 evrov za osnovno konfiguracijo.