Anthropic prvič odpira dostop do modela Mythos

Gre za pomemben trenutek za Anthropic, saj podjetje prvič prinaša zmogljivosti modela Mythos širšemu krogu uporabnikov. Toda dostop prihaja pod strogimi pogoji in z dodatnimi varnostnimi omejitvami.

Anthropic opisuje Fable 5 kot svoj najzmogljivejši javno dostopni model za programiranje, analizo podatkov, raziskovalno delo in obdelavo slik. Kljub temu uporabnikom niso pripravljeni omogočiti popolnega dostopa do vseh zmogljivosti sistema.

Pri temah povezanih s kibernetsko varnostjo, biologijo, kemijo in drugimi občutljivimi področji, model samodejno preusmeri odgovore na starejši Claude Opus 4.8. S tem želi Anthropic preprečiti potencialne zlorabe naprednejših sposobnosti Mythosa.

Zakaj je bil Mythos tako dolgo zaprt?

Mythos je bil prvič predstavljen v omejenem preizkusu letos spomladi, vendar so se hitro pojavili pomisleki glede njegove uporabe na področju kibernetske varnosti.

Anthropic je opozarjal, da modeli te generacije postajajo dovolj zmogljivi za odkrivanje kompleksnih ranljivosti in izvajanje naprednih tehničnih nalog, kar bi lahko v napačnih rokah predstavljalo tveganje. Zato je podjetje več mesecev izvajalo dodatna testiranja in t. i. “red-teaming”, kjer so strokovnjaki poskušali prebiti zaščitne mehanizme modela.

Po navedbah podjetja v več kot tisoč urah testiranja niso našli univerzalnega načina za obhod zaščit.

Nova pravila za uporabo

Ena najbolj zanimivih novosti ni povezana z modelom samim, temveč s pogoji uporabe. Anthropic bo pri Fable 5 in Mythos 5 zahteval najmanj 30-dnevno hrambo vseh interakcij z modelom. To velja tudi za podjetja, ki so imela do zdaj dogovore o popolni nehrambi podatkov.

Podjetje poudarja, da podatkov ne bo uporabljalo za učenje modelov, temveč za odkrivanje novih napadov, poskusov zlorab in izboljševanje zaščitnih sistemov. To bi lahko postalo pomemben precedens za celotno industrijo umetne inteligence, kjer bi dostop do najzmogljivejših modelov postal povezan z dodatnim nadzorom in spremljanjem uporabe.

Naprednejše zmogljivosti imajo tudi svojo ceno. Anthropic je Fable 5 in Mythos 5 cenovno postavil precej višje od modela Opus 4.8. Strošek uporabe je približno dvakrat višji, kar bi lahko omejilo širšo uporabo med podjetji.

To prihaja v času, ko številne organizacije vse bolj pozorno spremljajo stroške uporabe umetne inteligence in ugotavljajo, da lahko napredni modeli hitro porabijo predvidene proračune.

Korak proti javni ponudbi delnic

Predstavitev Fable 5 prihaja v zanimivem obdobju za Anthropic. Podjetje se pripravlja na vstop na javne finančne trge, podobno kot OpenAI in SpaceX.

Hkrati Anthropic javno opozarja na potrebo po počasnejšem in bolj nadzorovanem razvoju najnaprednejših UI sistemov. Podjetje je v zadnjih mesecih večkrat izrazilo zaskrbljenost zaradi možnosti, da bi prihodnji modeli dosegli stopnjo samostojnega izboljševanja, kjer bi lahko začeli izboljševati lastne sposobnosti brez neposrednega človeškega posredovanja.

Fable 5 predstavlja zanimiv kompromis, namreč po eni strani Anthropic prvič odpira dostop do tehnologije razreda Mythos širšemu krogu uporabnikov. Po drugi strani pa uvaja več omejitev, več nadzora in strožje pogoje uporabe. To kaže na nov trend v industriji umetne inteligence: bolj kot modeli postajajo zmogljivi, bolj pomembno postaja vprašanje, kdo jih uporablja, kako jih uporablja in pod kakšnimi pogoji.