UI med univerzitetnimi praksami, varovanjem mladih in vprašanjem nadzora

Tokratne novice zato ne govorijo samo o novih funkcijah in novih modelih. Govorijo o tem, da se UI seli v običajne univerzitetne postopke, raziskovanje, tutorstvo, pisanje, podporo študentom in tudi v tržne strategije velikih tehnoloških podjetij. Univerze so se znašle v položaju, ko morajo hkrati učiti rabo UI, varovati temeljne študijske zmožnosti, preverjati zanesljivost orodij in paziti, da odločitve o poučevanju ne zdrsnejo preveč v roke ponudnikov tehnologije.

Financial Times v prispevku Universities face difficult choices over how to integrate AI opisuje, kako univerze po svetu iščejo ravnotežje med navdušenjem nad UI in precej bolj vsakdanjimi vprašanji izvedbe. Nekatere institucije se usmerjajo v zelo široko UI pismenost, druge v predmetno bolj omejene pristope. Pri tem se hitro pokaže, da uvajanje UI ni samo pedagoška odločitev. Potrebna so usposabljanja, podpora za zaposlene, dogovor o varni rabi, jasna pravila za študente in razmislek o tem, ali imajo vsi enak dostop do plačljivih rešitev. Za univerze je to precej neprijetna, a realna faza. Po začetnih pilotih prihaja čas, ko je treba odločiti, katere rabe UI so res smiselne, katere so predvsem odziv na trend in katere lahko dolgoročno celo oslabijo kakovost študija.

Zelo konkretno se to odraža pri orodjih za zaznavanje besedil, napisanih z UI. V prispevku Universities drop AI detection tools over fears about accuracy Financial Times poroča, da nekatere univerze omejujejo ali opuščajo rabo detektorjev UI, ker se bojijo napačnih obtožb, postopkovnih zapletov in neenakega vpliva na študente. Posebej občutljivi so primeri, ko orodje visoko verjetnost rabe UI pripiše besedilu študenta, ki piše v tujem jeziku ali ima bolj formalen slog. Težava ni samo tehnična. Če ocenjevanje akademske integritete temelji na orodju, ki ga niti pedagog niti študent ne moreta zares preveriti, se zaupanje hitro poruši. Zato se razprava vse bolj vrača k oblikovanju nalog, ustnim zagovorom, procesnemu delu in jasnim pravilom, ne pa k lovljenju študentov z orodji, ki dajejo navidezno natančne številke.

V ozadju se krepi še tržni pritisk. Financial Times v prispevku AI labs begin to muscle in on $6tn education market opisuje, kako OpenAI, Anthropic, Google in druga podjetja vse bolj vstopajo v izobraževalni prostor z orodji za učitelje, študente in institucije. To prinaša uporabne rešitve, vendar tudi staro vprašanje v novi obliki. Kdo oblikuje pedagoške prakse, če orodja prihajajo iz podjetij, katerih logika je drugačna od univerzitetne? Pri takih rešitvah ni dovolj vprašati, ali orodje dobro povzame besedilo ali pripravi kviz. Vprašati se je treba tudi, kaj se zgodi s podatki, kako orodje usmerja delo, katere vrste učenja podpira in ali študentom res pomaga opraviti zahtevnejši del mišljenja ali ga samo elegantno obide.

V istem sklopu se pojavlja tudi zelo praktično vprašanje kako naloge oblikovati tako, da študenti ob uporabi generativne UI še vedno opravijo miselno delo. Times Higher Education Campus opozarja, da pri študijskih nalogah ne moremo več izhajati iz predpostavke, da je končni izdelek zanesljiv dokaz razumevanja. Če lahko študent hitro pripravi tekoče besedilo, povzetek ali rešitev, mora biti več pozornosti namenjene poti do odgovora. To pomeni več nalog, v katerih študent pokaže razmišljanje, izbiro virov, popravke, dvome, primerjavo različic in razlago, zakaj je določene predloge UI sprejela ali zavrnila. Tak pristop ni vrnitev v čas pred generativno UI, ampak poskus, da se učenje zasnuje tako, da tehnologija ne izrine razmišljanja.

V tem kontekstu je zanimiv tudi prispevek Stanford HAI Legal AI’s Legibility Problem, ki se sicer osredotoča na pravno področje, a je uporaben precej širše. Avtor opozarja, da pri pravnih UI orodjih ni dovolj, da govorimo o transparentnosti na ravni posameznega odgovora. Potrebna je berljivost celotnega sistema, od tega, kako je orodje preizkušeno, do tega, kakšne napake dela, kako pogosto se pojavljajo in kdo jih opazi. V visokem šolstvu je podobno. Če orodje uporabljamo pri pisanju, preverjanju, tutorstvu ali podpori študentom, moramo vedeti več kot samo to, da deluje. Vedeti moramo, kje se moti, pri kom se moti, pod katerimi pogoji in kako lahko človek to pravočasno zazna.

Pri mlajših uporabnikih se razprava o UI prepleta z razpravo o družbenih omrežjih, algoritmih in digitalnem okolju, v katerem otroci odraščajo. Francoski parlament je sprejel zakon, ki otrokom, mlajšim od 15 let, prepoveduje dostop do družbenih omrežij brez ustreznega preverjanja starosti. O tem sta poročala Reuters v prispevku French parliament backs social media ban for children under 15 in Le Monde. Ta novica ni neposredno novica o generativni UI, vendar sodi v isto razpravo o varovanju mladih v digitalnih okoljih, ki jih vodijo algoritmi, personalizirani priporočilni sistemi in podatkovno intenzivni poslovni modeli. Za izobraževanje je pomembna zato, ker se šole in univerze ne ukvarjajo več samo z digitalnimi spretnostmi, ampak tudi z vprašanjem, kako mlade učiti živeti v okoljih, ki so zasnovana tako, da zadržujejo pozornost.

Stanford HAI v prispevku The Complexities of Governing Mental Health AI opozarja na še občutljivejši del iste zgodbe. Vse več ljudi, tudi mladih, se v stiski obrača na klepetalnike, spremljevalne aplikacije in orodja, ki posnemajo podporni pogovor. Razlog je razumljiv. Dostop do strokovne pomoči je pogosto omejen, UI pa je vedno pri roki, ne obsoja in odgovori takoj. Prav zato je tveganje večje. Če orodje ne prepozna kriznih znakov, spodbuja nezdravo navezanost ali daje škodljive odgovore, posledice niso več samo napačen povzetek ali slab esej. Gre za dobrobit človeka. Za univerze to ni obrobna tema, saj so študentsko počutje, osamljenost, pritisk uspešnosti in iskanje hitre podpore že dolgo del visokošolskega vsakdana.

Na ravni sistematičnega usposabljanja učiteljev je zanimiv tudi primer Egipta. UNESCO poroča o nacionalnem okviru kompetenc za učitelje na področju umetne inteligence, ki je prilagojen egiptovskemu izobraževalnemu prostoru in izhaja iz UNESCO-vega globalnega okvira. Namen takšnega dokumenta ni samo učitelje naučiti uporabljati posamezna orodja. Bolj gre za povezavo med pedagoško presojo, etično rabo, načrtovanjem pouka, razumevanjem omejitev UI in zaščito učencev. Za univerze je to zanimivo tudi posredno, saj bodo prihodnji študenti prihajali iz šolskih okolij, kjer bo UI pismenost vedno bolj odvisna od tega, kako dobro so bili na to pripravljeni njihovi učitelji.

Med bolj zaskrbljujočimi novicami zadnjih dni je poročilo o varnostnem incidentu pri evalvaciji modelov, ki sta ga objavila OpenAI in Hugging Face. V medijih se je novica hitro povzela kot zgodba o tem, da je ChatGPT na lastno pest vdrl v drugo podjetje s področja UI, vendar je pri tej razlagi treba biti previden. V njunih objavah je dogodek opisan kot incident v evalvacijskem okolju, kjer so bili nekateri produkcijski varnostni mehanizmi namenoma izključeni ali sproščeni, da bi lahko testirali skrajne zmogljivosti modelov. O incidentu je poročal tudi Reuters v članku OpenAI says AI models went rogue during testing, triggering unprecedented breach.

V mednarodni razpravi se vse pogosteje pojavlja tudi vprašanje, kdo bo imel nadzor nad razvojem najzmogljivejših UI sistemov. Kitajski predsednik Xi Jinping je ob razpravah o globalnem upravljanju UI poudaril, da umetna inteligenca ne bi smela biti pod nadzorom ene same države. O tem je poročala Al Jazeera. Izjava je del širše geopolitične razprave o tem, ali bo razvoj UI temeljil na nekaj velikih tehnoloških središčih ali na bolj razpršenem modelu, v katerem bodo imele večjo vlogo tudi druge države.

Na ravni Evropske unije se medtem razvijajo tudi bolj operativni primeri rabe generativne UI v javnem sektorju. Evropska komisija je v novici New GenAI pilots for public administrations predstavila tri pilotne projekte za javne uprave. Projekti bodo preizkušali rabo generativne UI pri podpori ob poplavah in sušah, administrativnem poenostavljanju, urbanističnih analizah in digitalnih asistentih za stik z državljani. Za visoko šolstvo je to zanimivo zato, ker bodo univerze vse pogosteje izobraževale strokovnjake za okolja, kjer UI ne bo več samo pomoč pri pisanju, ampak del javnih storitev, kriznega upravljanja in odločanja. To zahteva drugačno vrsto UI pismenosti, saj morajo uporabniki razumeti tudi odgovornost, nadzor, javno naročanje, zanesljivost in posledice napak.

Tudi Evropski parlament se odziva na nenadzorovano rabo komercialnih UI orodij. TechRadar poroča, da naj bi Parlament pripravljal interno platformo EPGenAI Hub, ki bi zaposlenim omogočila bolj nadzorovano uporabo modelov ponudnikov, kot so OpenAI, Meta, Anthropic in Mistral. Novica je uporabna tudi za univerzitetni prostor. Številne institucije se namreč srečujejo z istim vprašanjem, ali naj zaposleni uporabljajo javna komercialna orodja vsak po svoje ali pa naj organizacija pripravi varnejše okolje, kjer so dostopi, podatki in dovoljene rabe jasneje določeni. To je še en primer, da UI pismenost ni samo individualna spretnost uporabnika, ampak tudi vprašanje institucionalne infrastrukture.

Na evropski ravni je Evropska komisija objavila smernice o obveznostih glede transparentnosti za ponudnike in uporabnike določenih UI sistemov. Te obveznosti izhajajo iz 50. člena Akta o UI in se začnejo uporabljati 2. avgusta 2026. V novici Commission publishes guidelines on transparency obligations for providers and deployers of certain AI systems in v celotnem dokumentu Guidelines on transparency obligations for providers and deployers of AI systems Komisija pojasnjuje, kdaj mora biti uporabnik obveščen, da komunicira z UI sistemom, kdaj morajo biti umetno ustvarjene ali spremenjene vsebine označene in kako ravnati pri globokih ponaredkih, čustvenem prepoznavanju, biometričnem razvrščanju ter javno pomembnih vsebinah, ki jih ustvari UI brez človeškega uredniškega pregleda.

Kot smo o tem že poročali, je bil jezikovni model GaMS uradno javno predstavljen in objavljen kot odprtokodni model za slovenščino, ki so ga razvili raziskovalci Univerze v Ljubljani. V najnovejši objavi Univerze v Ljubljani je model predstavljen kot del raziskovalno-inovacijskega programa PoVeJMo, pri čemer je poudarek predvsem na njegovi javni dostopnosti in uporabi v raziskovalne in izobraževalne namene. Za univerzitetni prostor je to pomembno iz več razlogov. Prvi je jezikovni. Če želimo, da UI podpira učenje, raziskovanje in javne storitve v slovenščini, potrebujemo modele, ki niso zgolj prilagojeni iz angleškega okolja. Drugi je raziskovalni. Tak model odpira več prostora za domače raziskave, evalvacije, prilagoditve in odgovorno uporabo v slovenskih kontekstih. Tretji je strateški, saj se pri jezikih z manjšim številom govorcev hitro pokaže, da tehnološka suverenost ni abstrakten pojem, ampak zelo konkretno vprašanje dostopa do kakovostnih orodij.

Slovenski prostor se hkrati ureja tudi na ravni širšega podpornega okolja. GOV.SI na strani o nacionalnem ekosistemu za umetno inteligenco zbira informacije o nacionalni strategiji, Slovenski tovarni umetne inteligence, kompetenčnem centru, evropskih digitalnih inovacijskih stičiščih in izvajanju Akta o UI. To je pomembno, ker omogoča bolj usklajen razvoj raziskav, izobraževanja in regulative na področju umetne inteligence v Sloveniji.

Če ste na svoji fakulteti, pri predmetu ali v okviru strokovnega dela preizkusili zanimivo rabo UI v izobraževanju, vas prijazno vabimo, da svoj primer delite z nami prek obrazca za zbiranje primerov dobrih praks. Z veseljem bomo pregledali predloge in izbrane prispevke vključili v naslednje številke UI novičnika, da bomo lahko skupaj gradili pregled uporabnih in premišljenih pristopov v univerzitetnem prostoru.

Avtorice: Eva Kern Nanut, Eva Škraba, Maja Kosmač, Sanja Jedrinović Čufer, Mateja Bevčič, Center UL za uporabo IKT v pedagoškem procesu