Revolut se je odpovedal OpenAI in Anthropicu

Revolut je na nedavnem dogodku AI Engineer NYC 2026 razkril obsežno prenovo svoje tehnološke infrastrukture. Storitve OpenAI in Anthropic so večinoma nadomestili z lastno upravljanimi odprtokodnimi modeli GLM, medtem ko orodja, kot so Claude Code, Codex in Gemini, uporabljajo le še za specifična opravila.

Nova konfiguracija temelji na kitajskem modelu GLM 5.3 podjetja Z.ai (nekdanji Zhipu AI). Podjetje s takšno rešitvijo dosega občutne prihranke, saj strošek znaša približno 0,28 evra na milijon žetonov. Ključno merilo za razvijalce je bil čas do prvega žetona (TTFT), ki mora ostati pod tremi sekundami, saj daljše čakanje zmanjšuje produktivnost.

Zanimivo je, kako so pri Revolutu izboljšali delovanje brez nakupa dodatne strojne opreme. Med aprilom in avgustom 2026 so čas TTFT skrajšali s 14,26 na 1,68 sekunde, čeprav se je število zahtevkov povečalo za 76 %. To jim je uspelo z optimizacijo parametrov in uporabo kvantizacije FP4 namesto FP8, s čimer prihranijo približno 40 % pomnilnika grafičnih kartic, ne da bi pri tem opazno poslabšali natančnost rezultatov.

Sistem uporablja tenzorsko vzporednost na štirih do osmih grafičnih pospeševalnikih, kar zagotavlja učinkovito uporabo pomnilnika KV Cache in več kot 90-odstotno stopnjo zadetkov v predpomnilniku. Rezultati so spodbudni: čas pisanja programske kode se je skrajšal za 60 %, celotni razvojni cikel pa za 70 %. Razvijalci umetno inteligenco uporabljajo tudi za pregledovanje dokumentacije ter delo z orodjema Jira in Confluence.

Kljub navdušujočim številkam pa uporaba kitajskih modelov v evropski finančni ustanovi odpira upravičena vprašanja glede varnosti. Revolut zatrjuje, da podatkov ne pošilja na zunanje strežnike, temveč modele poganja lokalno, v izoliranem okolju, s strogim nadzorom dostopnih pravic in človeškim nadzorom. Vprašanje pa ostaja, ali bo takšna arhitektura dolgoročno kos vsem regulativnim zahtevam glede varovanja podatkov.