Anthropic z umetno inteligenco nad ranljivosti v kodi

Anthropic je predstavil novo brezplačno storitev OSS Scanner, namenjeno odprtokodnim projektom, ki želijo hitreje odkrivati varnostne ranljivosti v kodi. Projekti se lahko v storitev vključijo prostovoljno, nato pa bodo deležni rednih pregledov z najzmogljivejšimi Anthropicovimi modeli, med njimi tudi Claude Mythos.

Glavna prednost je hitrost. UI lahko velike količine kode pregleduje bistveno pogosteje kot človeška ekipa in razvijalce opozori na morebitne težave, preden jih odkrijejo napadalci. Anthropic pa hkrati opozarja na pomembno omejitev: poročila bodo nastajala povsem samodejno, brez človeškega pregleda ali dodatnega preverjanja. To pomeni, da lahko OSS Scanner označi tudi ranljivosti, ki v resnici ne obstajajo, zato rezultatov ne bo smiselno obravnavati kot dokončno varnostno presojo.

Uporaba UI pri iskanju napak v odprtokodni programski opremi sicer ni nova. Takšna orodja so v zadnjih mesecih že pomagala odkriti resne pomanjkljivosti, vendar imajo razvijalci vse več težav tudi z nasprotnim pojavom – poplavo samodejno ustvarjenih in pogosto nekakovostnih prijav napak.

OSS Scanner zato rešuje en problem, hkrati pa lahko ustvari drugega. Več opozoril torej pomeni več možnosti za odkritje nevarne napake, toda tudi več dela pri ločevanju resničnih ranljivosti od lažnih alarmov.