Učni pomočnik, ki ne bo rešil vaše domače naloge

V šolskem svetu pa se kaže njihova pomanjkljivost. Če študentu preprosto podajo končno rešitev, mu odvzamejo najpomembnejši del učenja – priložnost za razmišljanje in učenje na napakah. Študent nima motivacije za ročno spopadanje s problemom, ko ima na dlani orodje, ki mu lahko takoj ponudi rešitev. Študent tako ne razvije globljega razumevanja, ki je danes ključna lastnost inženirja z visoko dodano vrednostjo.

Kljub omenjenemu problemu pa odgovorna uporaba orodij umetne inteligence omogoča učinkovito pomoč pri učenju. Prepoved uporabe teh orodij je nesmiselna, prav tako pa učitelj tega ne more učinkovito kontrolirati. Dobra ideja je prepoved neposrednega kopiranja generirane kode v rešitev domače naloge, kar tudi lahko sorazmerno zanesljivo preverjamo tako, da se z vsakim študentom pogovorimo glede oddane rešitve in se prepričamo, da jo razume. To vzame veliko časa, opažamo pa tudi zanimivo ironijo. Ker orodja umetne inteligence študentom omogočajo bolj samostojno reševanje problemov, učiteljem olajšajo delo, hkrati jim pa delo otežujejo, ker je potrebno delati več za motiviranje študentov in predvsem bolj temeljito testirati globlje razumevanje.

Drug zanimiv vidik je, da če uporabljamo rešitve znanih ponudnikov, z njimi delimo naše podatke. Prav tako lahko ti ponudniki kadarkoli spremenijo pogoje uporabe ali pa nam uporabo celo onemogočijo. Kakorkoli obrnemo, nimamo kontrole in avtonomnosti, kot bi jo imeli, če bi bilo to orodje nameščeno na lastnem računalniku, brez odvisnosti od zunanjih storitev.

Zaradi teh idej smo začeli premišljevati o lokalno nameščenem jezikovnem modelu, okoli katerega bi zgradili prilagojen klepetalnik. Klepetalnik smo poimenovali »Iskrica«, ker se je včasih šola imenovala »industrijska šola ISKRA«. Sestavine, ki smo jih uporabili so:

1. Python – programski jezik za implementacijo klepetalnika.
2. Ollama – za lokalno poganjanje odprtokodnih velikih jezikovnih modelov (testirali smo več modelov, bolj konkretno pa deepseek-r1:32b in gemma3:27b; po odzivu študentov se je bolje odrezal model gemma3:27b).
3. RAG (Retrieval-Augmented Generation) s pomočjo vektorske baze Qdrant – tehnika, ki omogoča, da klepetalnik pri odgovarjanju uporabi bazo z našim lastnim gradivom.
4. Pametna kompresija zgodovine pogovorov – lastni mehanizem, ki sproti strne daljše pogovore, da ohrani kontekst.
5. LangChain – orodje, ki usklajuje (orkestrira) vse opisane mehanizme.
6. Chainlit – preprosta knjižnica za izdelavo spletnega vmesnika.

Poleg navedenih sestavin smo skrbno pripravili poziv (prompt) in parametre za model. Poskrbeli smo za to, da so parametri nastavljivi in da klepetalnik omogoča več profilov z različnimi pozivi in nastavitvami, kot na primer temperatura, model in faktor kaznovanja ponavljanja.

Kot primer za preizkušanje tehnike RAG, smo v bazo dodali besedilo slovenske himne. Ko smo prvotno v klepetalnik napisali, da želimo besedilo slovenske himne, je haluciniral in si izmislil svoje besedilo, saj je model, ki ga lahko poganjamo lokalno, okrnjen. Ko smo s pomočjo tehnike RAG v ozadju samodejno oplemenitili poziv z relevantnimi podatki v vektorski bazi, smo dobili pravilen odgovor.

Z dodajanjem podatkov v vektorsko bazo lahko klepetalniku enostavno dodamo znanje, ne da bi bilo potrebno drago in zahtevno fino uglaševanje jezikovnega modela (fine-tuning). Z združitvijo vsega omenjenega dobimo uporabno in neodvisno orodje, ki študentom pomaga pri razmišljanju, vendar jim ne poda končne rešitve. Omejitve manjšega lokalno nameščenega modela v tem kontekstu na nek način delujejo v prid našim ciljem.

Pomanjkljivosti se kažejo v rahlo slabši slovnici in občasni izgubi konteksta pogovora. Programska oprema je razvita predvsem za prikaz koncepta in kot taka še ni pripravljena za širšo rabo v produkciji. Poleg tega tudi strežnik ni dovolj zmogljiv, da bi prenesel veliko število hkratnih uporabnikov. Kljub temu pa je nekaj študentov (7) klepetalnik že preizkusilo in odgovorilo na kratek vprašalnik. Na lestvici od 1 do 5 je največ študentov ocenilo rešitev z oceno 4. Vsi so odgovorili, da bi rešitev še uporabili kot pomoč pri učenju. 6 od 7 študentom je pomembno, da se storitev izvaja na lokalnem strežniku. Študentom je celoten koncept, vključno s tem, da namesto rešitve dobijo le smernice, všeč.

Razvit eksperimentalen projekt je vsekakor dobra podlaga za nadaljnje raziskovanje.

Več na www.sckr.si/vss/

Jan Robas je predavatelj na Višji strokovni šoli ŠC Kranj