UI med zaupanjem, ocenjevanjem in človeško presojo

Razprava se zato odmika od preprostega vprašanja, ali UI dovoliti ali prepovedati, saj je tak odgovor za resno pedagoško prakso preozek. Pri nekaterih nalogah je smiselno, da študenti UI uporabijo, jo primerjajo z lastnim razmišljanjem in se naučijo preverjati njene odgovore. Pri drugih nalogah je ravno odsotnost UI del učnega cilja, saj želimo videti, kako študent razume problem, kako bere besedilo, kako gradi argument in kako popravi lastne napake. Vse več novic kaže, da bodo morale univerze to razliko opisati precej bolj natančno, kot smo bili vajeni pred nekaj leti.

Med najbolj odmevnimi novicami zadnjih dni je strožja politika rabe UI na Pravni fakulteti Univerze Kalifornije v Berkeleyju. Berkeley Law po novi politiki študentom ne dovoljuje uporabe UI pri delu, ki se odda v ocenjevanje, razen kadar profesor rabo izrecno dovoli. Prepoved zajema tudi dejavnosti, ki jih marsikdo sicer razume kot manj problematične, na primer iskanje idej, pripravo osnutkov, urejanje besedila, prevajanje ali popravljanje slovnice. O primeru je poročal tudi Reuters. Pri tem primeru ni zanimivo samo to, da gre za strožjo politiko, temveč predvsem to, kako jasno je opredeljen njen pedagoški razlog. Na pravnem študiju ni dovolj, da študent odda tekoče napisano besedilo. Znati mora sam razbrati pravno vprašanje, pretehtati vire, oblikovati argument in prevzeti odgovornost za navedbe. Prav zaradi tega je primer uporaben tudi zunaj prava. Opominja nas, da se pravila o UI ne morejo končati pri splošni izjavi v učnem načrtu. Dobra pravila morajo biti povezana z učnim ciljem posamezne naloge.

Druga sveža razprava prihaja s področja sprejemnih postopkov. Inside Higher Ed poroča o okviru SHAPE AI, ki visokošolskim ustanovam priporoča, naj se pred uporabo UI v postopku sprejemanja študentov najprej vprašajo, zakaj jo sploh želijo uporabiti. To se sliši skoraj samoumevno, vendar v praksi pogosto ni. Če UI uporabljamo za razvrščanje kandidatov, ocenjevanje prijav ali usmerjanje študentov, ne gre več za nevtralno administrativno pomoč. Gre za postopke, ki lahko vplivajo na človekovo izobraževalno pot. Zato so potrebni jasen namen, človeški nadzor, preverjanje pristranskosti, dokumentiranje odločitev in zelo previdno ravnanje s podatki.

 Podobna opozorila prihajajo iz raziskav o avtomatiziranem zaposlovanju. Stanford HAI je predstavil izsledke obsežne raziskave o orodjih za izbor kandidatov, ki temeljijo na UI. Raziskava je spremljala več milijonov prijav na delovna mesta in pokazala zaskrbljujoče vzorce pri zavračanju kandidatov. Med drugim opozarja, da lahko skupna povprečja prikrijejo razlike med vrstami delovnih mest, da so bili temnopolti in azijski kandidati v nekaterih primerih redkeje priporočeni za nadaljnji postopek ter da lahko uporaba istega sistema pri več delodajalcih vodi v ponavljajoče se zavračanje istih kandidatov. Za univerze je ta novica relevantna tudi zato, ker študente pripravljajo na trg dela, na katerem bodo vse pogosteje srečevali algoritmične filtre. UI pismenost zato ni samo vprašanje pisanja seminarskih nalog. Študenti morajo razumeti tudi, kako UI vpliva na zaposlovanje, karierno svetovanje, ocenjevanje kompetenc in dostop do priložnosti.

V ZDA je precej odmeval tudi odziv diplomantov na govore o UI ob podelitvah diplom. The Guardian poroča, da so nekateri študenti negativno sprejeli nastope govorcev, ki so umetno inteligenco predstavili predvsem kot priložnost in skoraj nujen del prihodnosti. Tak odziv ni presenetljiv. Diplomanti vstopajo na trg dela, kjer se hkrati govori o večji produktivnosti, avtomatizaciji začetnih delovnih mest in potrebi po novih kompetencah. Če univerze o UI govorijo samo z jezikom navdušenja, hitro spregledajo tesnobo študentov. Bolj prepričljiv pristop je tisti, ki UI obravnava trezno, z njenimi koristmi, omejitvami in posledicami za konkretne poklicne poti.

Na področju raziskovalne integritete izstopa odločitev platforme arXiv, ki zaostruje odnos do prispevkov z očitnimi sledmi nepreverjene rabe generativne UI. Inside Higher Ed poroča, da bodo problematični predvsem prispevki z izmišljenimi referencami, napačnimi navedbami in besedili, kjer se v objavi znajdejo ostanki navodil modela. O isti temi je pisala tudi revija Nature. Ukrep sam po sebi ne bo rešil problema, saj je takšne primere težko sistematično odkrivati. Vseeno pa pošilja jasno sporočilo. Raba UI pri raziskovalnem pisanju ni samo tehnično vprašanje, temveč vprašanje zaupanja v znanstveni zapis. Za študente in raziskovalce to pomeni, da uporaba UI ne zmanjša odgovornosti za preverjanje virov, navedb in sklepov.

Dober vpogled v raznolikost univerzitetnih praks prihaja tudi z Western Washington University. Cascadia Daily News opisuje primere pedagogov, ki se na generativno UI odzivajo zelo različno. Nekateri del nalog vračajo na papir, v učilnico in v razpravo v živo, drugi študente učijo, kako izdelati lastne UI agente in jih smiselno vključiti v študijsko delo. Univerza ima nekaj osnovnih pravil, med drugim to, da je nepooblaščena raba generativne UI lahko obravnavana kot kršitev akademske poštenosti, vendar odločanje o konkretni rabi v veliki meri ostaja pri posameznih predmetih in pedagogih. Ta primer dobro pokaže, zakaj splošna pravila pogosto niso dovolj. Pri računalništvu, marketingu, pisanju ali okoljskih študijih ima UI lahko zelo različne pedagoške vloge. Za študente pa takšna razpršenost pomeni tudi precej negotovosti, če pri vsakem predmetu ni jasno zapisano, kaj je dovoljeno, kaj ni in kakšen je razlog za takšno odločitev.

Nekoliko drugačen pogled ponuja mnenjski prispevek AI Didn’t Break the University. It Revealed What Was Already Broken, objavljen na portalu RealClearEducation. Avtor ne razume UI samo kot orodja, ki je olajšalo goljufanje, temveč kot simptom globlje težave. Prispevek opozarja, da se študenti k UI ne zatekajo vedno samo zato, da bi se izognili delu. Včasih jo uporabljajo tudi zato, ker v študijskem okolju manjka živ sogovornik, sprotna povratna informacija, občutek skupnosti ali intelektualna izmenjava. To je za univerze neprijetno, a koristno opozorilo. Če želimo, da študenti UI uporabljajo premišljeno, moramo hkrati okrepiti tiste oblike dela, kjer se razmišljanje dogaja z ljudmi, v pogovoru, ob vprašanju, ugovoru in povratni informaciji. UI lahko zapolni praznino, ne more pa nadomestiti kakovostne pedagoške prisotnosti.

Stanford HAI je objavil tudi prispevek o vplivu UI na znanstveno odkrivanje. Primeri segajo od načrtovanja novih protiteles do hitrejših simulacij in analize velikih podatkovnih nizov. Pri tem pa raziskovalci opozarjajo, da mora v središču ostati človek, ki določa raziskovalna vprašanja, presoja rezultate in razume pomen ugotovitev. Prispevek How AI Is Transforming Scientific Discovery While Keeping Humans at the Center je dobra iztočnica tudi za pedagoško delo. Študente ni dovolj naučiti, kako z UI hitreje pridejo do odgovora. Naučiti jih je treba, kdaj je odgovor sploh smiseln, kako je nastal in kaj bi bilo treba še preveriti.

S Stanforda prihaja še ena bolj tehnična, a za univerze zanimiva novica. Raziskovalci so predstavili pristop k napovedovanju, kako se bodo veliki jezikovni modeli obnašali pri večjem obsegu, pri čemer uporabljajo ideje iz merjenja in edukacijskih znanosti. Prispevek New Approach to Scaling Laws Could Change How AI Models Are Trained je zanimiv zato, ker kaže, da se vprašanje UI infrastrukture ne nanaša samo na nakup orodij. Univerze, ki želijo razvijati ali presojati UI sisteme, bodo morale razumeti tudi merjenje, stroške, omejitve modelov in pogoje, pod katerimi je primerjava med modeli sploh smiselna.

Pedagoška razprava se vse bolj vrača k ocenjevanju. Times Higher Education opozarja, da je generativna UI razgalila šibkost nalog, pri katerih ocenjujemo samo končni izdelek. Če študent odda dobro strukturiran esej, to še ne pomeni, da zna izbrati dober vir, prepoznati slab argument ali samostojno povezati teorijo s primerom. Zato se vse pogosteje omenja ocenjevanje procesa. Sem sodijo krajši sprotni zapisi, ustni zagovori, primerjave med različnimi viri, razlaga lastnih odločitev, delo v učilnici in naloge, kjer mora študent pokazati pot do rešitve, ne samo rešitve. To ne pomeni, da se moramo vrniti samo k zaprtim izpitom in prepovedim. Bolj uporabno je razmišljati o ritmu predmeta. V nekaterih fazah naj študent dela brez UI, ker razvija osnovno razumevanje. V drugih jo lahko uporabi za primerjavo, povratno informacijo ali iskanje alternativnih razlag. Pri zahtevnejših nalogah jo lahko uporabi kot predmet kritične presoje. Takšna zasnova zahteva več dela pri pripravi nalog, vendar daje študentom jasnejše sporočilo, kaj se pri nalogi pravzaprav učijo.

Druga zelo aktualnatema je izbira orodij. Times Higher Education opozarja, da naj pedagogi najprej preverijo, katera orodja so na ravni institucije že odobrena in kakšni so pogoji njihove uporabe. Pri UI orodjih ni dovolj, da dajejo uporabne odgovore. Preveriti je treba, kje se hranijo podatki, ali se vnosi uporabljajo za učenje modela, kakšna je možnost izbrisa, kako je urejen dostop do študentskih podatkov in ali orodje ustreza institucionalnim pravilom. To je posebej pomembno pri delu z raziskovalnimi podatki, osebnimi podatki študentov, neobjavljenimi gradivi in avtorsko zaščitenimi vsebinami.

V širšem šolskem prostoru odmeva podatek, da veliko učiteljev UI že uporablja ali pa se z njo srečuje pri delu učencev, pri tem pa nimajo dovolj jasnih navodil. Axios povzema ugotovitve raziskave Gallup in Walton Family Foundation, ki kažejo prav ta razkorak. UI je v učilnicah že prisotna, institucionalna podpora pa pogosto zaostaja. To je dobra lekcija tudi za univerze. Če pravila in usposabljanja niso dovolj jasna, se breme presojanja prenese na posamezne pedagoge. Ti potem niso več samo učitelji, ampak še razlagalci pravil, preverjevalci avtorstva, svetovalci za orodja in varuhi akademske integritete.

Na evropski ravni je Evropska komisija odprla posvetovanje o osnutku smernic za razvrščanje visoko tveganih UI sistemov. Posvetovanje je odprto do 23. junija 2026. Smernice naj bi ponudnikom, uporabnikom, javnim organom, raziskovalnim institucijam in drugim deležnikom pomagale presoditi, ali določen UI sistem spada med visoko tvegane sisteme po Aktu o UI. Komisija je objavila tudi osnutek smernic, ki podrobneje razlaga uporabo 6. člena Akta o UI. Za visoko šolstvo je to zelo neposredno vprašanje. Če pedagog uporabi UI za zbiranje idej nalog za vajo, je tveganje drugačno, kot če institucija uporablja UI za razvrščanje kandidatov, ocenjevanje uspešnosti, spremljanje napredka ali odločanje o podpori študentom. Smernice bodo zato pomembne tudi za univerzitetne službe, ki uvajajo digitalna orodja v pedagoške, raziskovalne in administrativne procese. Pri vsakem takem orodju bo treba znati opisati namen, podatke, uporabnike, možne posledice in vlogo človeka pri odločitvi.

Zanimiv regijski primer prihaja s Hrvaške. Netokracija poroča o projektu BrAIn, ki razvija UI kurikulum, virtualne asistente za učenje in dejavnosti za razvoj kritičnega mišljenja. Hrvaški pristop ne temelji na predpostavki, da je mogoče mlade pred generativno UI preprosto umakniti. Izhaja iz precej bolj realistične ugotovitve, da jo mnogi že uporabljajo, zato jih je bolje učiti, kako jo razumeti, preverjati in odgovorno uporabljati. Za univerze v Sloveniji je to zanimivo tudi zato, ker bodo prihodnje generacije študentov prihajale z različnim predznanjem. Nekateri bodo UI uporabljali zelo spretno, drugi predvsem intuitivno, tretji skoraj brez razumevanja, kaj se dogaja v ozadju. Več o projektu je dostopno tudi na uradni strani BrAIn.

V Sloveniji je odmevala novica, da je bil ustanovljen Nacionalni svet za etiko v umetni inteligenci. Svet bo deloval kot neodvisno strokovno telo za etična vprašanja in odgovorno rabo UI. Njegova vloga bo priprava mnenj, priporočil in smernic ter svetovanje pri vprašanjih, ki zadevajo družbene, demokratične, etične in človekovopravne vidike UI. Za univerzitetni prostor je to relevantno zato, ker se v visokem šolstvu zelo hitro srečajo vprašanja, ki ne sodijo samo na eno področje. Pri UI gre hkrati za pedagogiko, raziskovalno integriteto, varstvo podatkov, avtorske pravice, dostopnost, pristranskost, javno zaupanje in organizacijsko odgovornost. Univerze bodo pri oblikovanju svojih pravil potrebovale ravno takšno prepletanje strokovnih pogledov.

Ministrstvo za vzgojo in izobraževanje je objavilo epizodo podkasta Misija: kakovost z naslovom Kako umetna inteligenca spreminja učenje in poučevanje. V ospredju so konkretni primeri rabe UI pri pripravi gradiv, diferenciaciji pouka in spremljanju napredka učencev, hkrati pa tudi opozorila o površinskem učenju, avtentičnosti izdelkov in odvisnosti od digitalnih orodij. Čeprav gre za šolski prostor, so vprašanja zelo podobna tistim v visokem šolstvu. Tudi na univerzi se namreč hitro zgodi, da lepo oblikovan izdelek prekrije šibko razumevanje.

V javnem sektorju se nadaljujejo tudi usposabljanja o avtorstvu, intelektualni lastnini in odgovornosti pri uporabi UI. Upravna akademija v programu Avtorstvo, intelektualna lastnina in odgovornost pri uporabi umetne inteligence obravnava vprašanja, kdo je avtor, če vsebino pripravi UI, kdo odgovarja za napake, kako ravnati z avtorsko zaščitenimi deli in kako označevati prispevek človeka ter orodja. To so zelo konkretna vprašanja, s katerimi se srečujemo pri pripravi gradiv, poročil, spletnih besedil, raziskovalnih povzetkov in študentskih izdelkov.

Napovedana je tudi peta nacionalna konferenca Umetna inteligenca od vizije do zaupanja. Tema konference je prehod od razprav o potencialu UI k njenemu odgovornemu uvajanju v gospodarstvo, javni sektor in širšo družbo. Tudi to dobro kaže, da se slovenski prostor premika iz faze splošnega navdušenja ali splošne previdnosti v bolj praktično fazo. Vprašanje ni več, ali bo UI prisotna, ampak kako jo bomo uvajali, kdo bo zanjo odgovoren in kako bomo preverjali njene učinke.

Zadnje novice kažejo, da se univerze pri UI ne morejo zanesti na eno samo rešitev. Prepovedi so lahko smiselne, kadar želimo zaščititi temeljno učno dejavnost. V drugih primerih bi bila prepoved slabša izbira, ker bi študente pustila brez vodene izkušnje z orodji, ki jih bodo srečevali pri študiju, delu in raziskovanju. Najtežji del zato ni odločitev za ali proti UI, ampak pripraviti natančen opis, kaj se pri določeni nalogi učimo in kakšno vlogo sme imeti pri tem orodje.

Za pedagoge to pomeni več premišljenega načrtovanja. Za institucije pomeni več jasnih pravil, podpore in preverjanja orodij. Za študente pomeni več odgovornosti, saj uporaba UI ne more biti izgovor za nepreverjene vire, napačne navedbe ali nerazumevanje oddanega izdelka. UI lahko pomaga pri učenju, vendar ne more namesto študenta razviti presoje. Prav ta razlika bo v prihodnjih letih najverjetneje ena osrednjih nalog univerzitetnega poučevanja.

Če ste na svoji fakulteti, pri predmetu ali v okviru strokovnega dela preizkusili zanimivo rabo UI v izobraževanju, vas prijazno vabimo, da svoj primer delite z nami prek obrazca za zbiranje primerov dobrih praks. Izbrane prispevke bomo vključili v prihodnje številke UI novičnika in tako skupaj gradili pregled premišljenih pristopov v univerzitetnem prostoru.

Avtorice

Eva Kern Nanut, Sanja Jedrinović Čufer, Mateja Bevčič, Eva Škraba, Maja Kosmač, Center UL za uporabo IKT v pedagoškem procesu