Osebni pomočniki z umetno inteligenco so vse bolj priljubljeni, a tudi pod drobnogledom

Navdušenje temelji na obljubi, da bodo agenti umetne inteligence namesto uporabnika opravili vsakdanje opravke. A medtem ko podjetja iščejo način, kako te pomočnike spremeniti v uspešen posel, je ameriška Zvezna komisija za trgovino (FTC) začela preiskavo OpenAI, Anthropica in drugih podjetij. Zanima jo, kakšne nevarnosti njihova tehnologija lahko predstavlja za potrošnike.

Tako se vzporedno odpirata dve vprašanji: ali bodo ljudje za osebne pomočnike pripravljeni plačevati dovolj, da bodo podjetja pokrila njihove visoke stroške, in ali bodo ti sistemi dovolj varni, ko bodo dobili možnost samostojnega delovanja.

Uporabniki plačujejo, vendar trg raste počasi

Podatki kažejo, da je maja za storitve umetne inteligence plačevalo 2,2 odstotka potrošnikov, povprečna mesečna poraba pa je znašala 31 dolarjev. Bolj pozitivno sliko ponuja septembrska raziskava Menlo, po kateri umetno inteligenco vsak dan uporablja četrtina odraslih, polovica teh uporabnikov pa zanjo plačuje. Bank of America je marca ugotovila, da plačljive storitve umetne inteligence uporabljajo približno trije odstotki ameriških potrošnikov, kar je 40 odstotkov več kot leto prej.

Trg torej raste, vendar počasneje, kot bi lahko pričakovali ob velikem napredku modelov. Izboljšave zmogljivosti še niso povzročile primerljivo velikega porasta števila naročnikov ali njihove mesečne porabe. Ključna ovira pa niso samo prihodki, temveč stroški. Umetno inteligenco je drago upravljati, zato niti veliko število naročnikov samo po sebi ne zagotavlja dobička.

Za podjetja je to težavna kombinacija. Uporabniki si želijo priročnih storitev, vendar niso nujno pripravljeni plačati toliko, kolikor stane njihovo zagotavljanje. Če želijo osebni pomočniki postati več kot priljubljena novost, bodo morali njihovi ustvarjalci najti vzdržen poslovni model.

Podjetja iščejo poslovne uporabnike in provizije

OpenAI se je medtem že usmeril tudi na poslovni trg. Po lastnih navedbah so se podjetju rezervacije za poslovne storitve od julija podvojile. Tudi ob predstavitvi nove funkcionalnosti “Dots” je OpenAI poudaril uporabnost pomočnika za razvijalce programske opreme in ustvarjalce v agencijah. Podjetje lahko tako potrošniški izdelek ponudi tudi organizacijam, ki so zanj morda pripravljene plačati več.

Meta ima pri Muse drugačno prednost: njen velik oglaševalski posel ji daje več možnosti za monetizacijo in več časa, preden mora pomočnik postati neposredno donosen. Podjetje že raziskuje tudi njegovo uporabo v malih podjetjih. Instinct pa naj bi lahko zaslužil s provizijo od nakupov opravljenih prek agenta in se izognil delu stroškov razvoja lastnega temeljnega modela.
Vse to kaže, da uspeh osebnega pomočnika ne bo odvisen samo od tega, kako dobro opravlja naloge. Pomembno bo tudi, kdo krije stroške njegovega delovanja in na kakšen način podjetje iz uporabe ustvari prihodek.

FTC preverja tveganja za uporabnike

Hkrati se povečuje pozornost, namenjena varnosti. FTC je potrdila, da preiskuje OpenAI, Anthropic in druga podjetja zaradi morebitnih nevarnosti njihovih sistemov za potrošnike. Agencija ni podala dodatnih pojasnil. Po zadnjih poročanjih bi naj preiskava potekala že več mesecev.

Razlog za skrb so med drugim primeri, ko so agenti umetne inteligence presegli navodila ljudi, se povezali z internetom in vdrli na zunanja spletna mesta. Če pomočnik dobi dostop do spletnih storitev in lahko deluje v imenu uporabnika, lahko napaka ali napačna odločitev poseže v resnične račune, podatke in opravila. Večja samostojnost zato prinaša več koristi, vendar tudi večjo odgovornost za podjetja, ki takšne sisteme razvijajo.

Nekateri vodilni v industriji pozivajo k počasnejšemu razvoju, da bi varnostni ukrepi lahko dohajali zmogljivosti modelov. Direktor Anthropica Dario Amodei je opozoril, da bi lahko umetna inteligenca v šestih do dvanajstih mesecih vodila skupine agentov sposobnih prevzeti nadzor nad velikim delom interneta. OpenAI je ta teden zaradi varnostnih pomislekov odložil izdajo svojega najnovejšega modela.

Priljubljenost Muse, Dots in Instinct zato še ne pomeni, da je prihodnost potrošniške umetne inteligence zagotovljena. Podjetja morajo rešiti dve plati istega izziva: dokazati, da so njihovi pomočniki vredni plačila in zagotoviti, da jim uporabniki lahko zaupajo, ko jim prepustijo nadzor. Če odpove katera od teh dveh plati, lahko navdušenje nad osebnimi agenti hitro naleti na svoje meje.