Šole s pomočjo umetne inteligence spremljajo, kaj učenci pišejo na svojih računalnikih

Preko 50 milijonov dijakov in učencev bo v ZDA s prvim septembrom sedlo v šolske klopi in velika večina jih uporablja šolske računalnike – vsaka beseda ki jo napišejo, bo spremljana in detektirana. Glede na zakon Children’s Internet Protection Act (CIPA) mora vsaka državna šola v ZDA, ki prejema državna sredstva, izpolniti določeva pravila glede rabe interneta. Šolski računalniki, tablice in prenosniki postajajo vse bolj razširjeni med učenci, kar pa posledično pomeni, da morajo šole namestiti tehnološke “varuhe”, ki varujejo dijake in učence. Za nekatere to pomeni samo blokiranje neprimernih strani, medtem ko so se nekatere druge šole obrnile na podjetja programske opreme kot so Gaggle, Securly in GoGuardian, ki spremljajo potencialno zaskrbljujočo se komunikacijo. O tem obveščajo šolske administratorje, ki delujejo kot neke vrste internetna policija.

Te varnostne platforme uporabljajo naravno procesiranja jezika, ki skenira milijone besed napisanih s strani dijakov na šolskih napravah. Če recimo beseda ali besedna zveza nakazuje sovraštvo ali nasilje (lahko tudi do sebe) človeški administratorji pregledajo vsebino. V dobi masovnih streljanj in povečanemu odstotku samomorov, lahko ravno te dotične platforme igrajo pomembno vlogo pri preventivi, ko govorimo o nasilju ali samomorih. Kljub temu pa programska oprema dviguje veliko etičnega prahu, ki se giblje med zaščito študentov in zaščito njihove zasebnosti. Ta meja je tukaj vsekakor zelo tanka.

“Zelo težko je določiti, kjer je tista zdrava meja med spremljanjem učencev za njihovo dobro in nadzorovanjem učencev v razredih”, je povedal Girard Kelly, eden od direktorjev pri Common Sense Media, neprofitni organizaciji, ki promovira internetno varnost in izobraževanje na to temo za mladostnike. “Ne samo to, da so v šolah detektorji kovin in kamere, sedaj spremljamo še njihove računalnike, e-maile in dokumente”, je še dodal v pogovoru za Quartz.

Na razpotju najdemo dve zelo pomembni temi – zaščita šol in zaščita podatkov. Šole po ZDA se vedno bolj nagibajo k temu, da ima vsak učenec svoj računalnik ali tablico, ki jo uporablja za vse kar ima veze s šolo. To bo na dolgi samo še povečalo potrebo po zaščiti digitalnega življenja učencev. Preko 50% učiteljev se strinja, da je njihova šola “one-to-one” šola. Vprašanje, ki se nam poraja je, kdaj je varnost ukrep, ki ruši svobodo dijakov in učencev? Ne glede na to, da mediji pogosto poročajo o takšnih in durgačnih samomorilskih pohodih v šolah, se je o tem vprašanju potrebno resnično zamisliti.

Ali obvladujemo varnost?

Najbolj popularne varnostne platforme delujejo vsaka malce drugače. Gaggle, ki zaračuna približno $5 na učenca na leto, je v bistvu filter na popularnih orodjih kot so Google Docs in Gmail. Ko algoritem zazna besedo ali frazo, ki je lahko potencialno zaskrbljujoča – kot je omemba drog in kiberkriminala – se zadeva avtomatsko pošlje k človeškemu recenzentu prede dobi zadevo v obravnavo šola. Orodje Securly gre še korak naprej, saj omogoča analizo učencev na družbenih omrežjih. Tukaj sicer govorimo o javnih objavah, pa vendarle. S pomočjo uporabe umetne inteligence je programsko okolje sposobno procesirati na tisoče čivkov, objav ali komentarjev na družbenih omrežjih. Kelly meni, da so dotične platforme tiste, ki nadzor nekako normalizirajo od najnižjih starosti. Glede na škandale kot je Cambridge Analytica in podobne, se moramo resno lotiti učenja mladih o tem, kaj je pomembno pri zaščiti spletnih podatkov in digitalnega početja.

“Več kot očitno je, da mora obstajati kodeks, kako dotična programska opreme deluje”, pravi Daphne Keller, direktorica na Stanford Center for Internet and Society (in mama dveh otrok). Dodal je še to, da bi morali zbrati neko zlato sredino med tem kaj je varnost in nadzor, takšno sredino, ki je koristna za uporabnike. Brez dvoma je vredno še enkrat več izpostaviti, da živimo v dobi, kjer sta nasilje in kiber kriminal vedno bolj pogosta in šole morajo razumeti, da je njihova naloga, da zaščitijo svoje učence. Hkrati pa bi morala biti prioriteta zaščita njihovih osebnih podaktov. Glavni izvršni direktor Securlyja, Vinay Mahadik, se strinja, da je zasebnost pomemben faktor, vendar verjame, da podjetja kot je njegovo lahko najdejo pravo ravnotežje.