Vse bolj sposobna UI, vse zahtevnejša presoja

Prispevek Students ‘confused about assessment purpose’ in age of AI predstavlja intervjuje z akademiki na začetku kariere na britanskih univerzah. Ti opažajo, da generativna UI zaostruje že obstoječe težave pri akademskem pisanju. Študenti naj bi pisne naloge vse pogosteje razumeli predvsem kot izdelek za oddajo, ne pa kot proces, skozi katerega razvijajo kritično mišljenje, analizo, sintezo, argumentacijo. Avtorji poudarjajo, da je treba zato jasneje pojasniti, zakaj je pisanje samo po sebi del učenja.

Hkrati se vse več ameriških univerz odmika od detektorjev UI kot edinega dokaza nedovoljene uporabe UI. Yale, Vanderbilt, Johns Hopkins in Indiana University so njihovo uporabo omejili ali odsvetovali, več ustanov pa je izključilo Turnitinovo zaznavanje UI. Razlog so nedosledni in lažno pozitivni rezultati ter slabše delovanje pri besedilih študentov, ki jim angleščina ni prvi jezik. Namesto iskanja kršiteljev se zato pozornost še bolj preusmerja k nalogam, pri katerih morajo študenti pokazati proces dela, razmišljanje in razumevanje.

Težava postaja še zahtevnejša pri spletnem študiju. New York Times v članku A.I. Agents Are Taking Entire Online Courses for Cheating Students opisuje agente, ki lahko v imenu študenta opravljajo aktivnosti v spletnih predmetih, rešujejo teste, pišejo naloge in sodelujejo v spletnih razpravah. Takšna uporaba presega pomoč pri posamezni nalogi in omogoča prenos velikega dela študijskega procesa na UI. Spletni študij sicer pomembno povečuje dostopnost izobraževanja, prav njegova asinhrona in digitalna narava pa otežuje preverjanje, kdo je delo dejansko opravil.

Ena od možnosti je več dialoga pri preverjanju znanja. Avtorici komentarja From detection to dialogue: Assessment with AI voicebots? predlagata glasovne UI-bote, ki bi študente z vprašanji in podvprašanji spodbujali k pojasnjevanju odločitev in razmišljanja. Tak pristop bi lahko ustno preverjanje približal tudi večjim skupinam, zlasti pri formativnem preverjanju znanja. Vendar poudarjata, da kakovost ni odvisna od samega orodja, temveč od zasnove naloge, ob tem pa so pomembni tudi enak dostop, varovanje podatkov in človeški nadzor.

Potencial takšnih oblik preverjanja raziskuje tudi študija Asynchronous oral assessments: enhancing integrity, engagement, and communication in the AI era. Študenti so prejeli vprašanja in v omejenem času posneli kratke ustne odgovore. Pri računovodstvu povezava med uspehom pri ustnem in kasnejšem pisnem izpitu ni bila statistično značilna, pri podatkovni analitiki pa so študenti pri ustnem preverjanju dosegli višje rezultate ter poročali o bolj aktivnih načinih priprave. Avtorji asinhrono ustno preverjanje vidijo predvsem kot dopolnitev drugih oblik ocenjevanja.

Raziskava Designing Epistemic Partnerships with Generative AI je dve leti spremljala 31 študentov prvega letnika pri predmetu znanstvene argumentacije. Ko so bile aktivnosti zasnovane tako, da so morali študenti strukturirati argumente, razpravljati z vrstniki ter kritično presojati odgovore in omejitve UI, se je delež zahtevnejših interakcij s ChatGPT povečal z 12,5 na 47 %. Študenti so tako prešli od uporabe tega UI-orodja kot vira odgovorov k uporabi kot sogovornika pri oblikovanju in presojanju znanja. Avtorji poudarjajo, da UI sama po sebi ne postane kakovosten partner pri učenju. Ključno je, kako je učna dejavnost zasnovana.

UI-pismenost zato ni le poznavanje pravil o dovoljeni uporabi. Avtorica prispevka AI literacy cannot be bolted on to first-year courses jo je vključila neposredno v dva predmeta prvega letnika izobraževanja učiteljev. Študenti lahko UI uporabijo za orientacijo v zahtevnem besedilu, razlago pojmov ali primer, vendar se nato vrnejo k izvirnemu viru, preverijo odgovor in presodijo, kaj je bilo poenostavljeno ali izpuščeno. Odgovornost za razumevanje in strokovno presojo tako ostaja pri študentu.

Kako zahtevna je ta presoja v praksi, kaže raziskava UI-pismenosti med 161 bodočimi učitelji na Kitajskem. Svoje splošno poznavanje UI so ocenili razmeroma visoko, vendar so bili rezultati neenakomerni glede na posamezne razsežnosti in predmetne usmeritve. Intervjuji z devetimi študenti so pokazali predvsem vrzel med poznavanjem splošnih etičnih vprašanj, kot so pristranskost, zasebnost in pretirana odvisnost, ter sposobnostjo uporabe teh načel v konkretnih učnih situacijah.

Pri spletnem študiju lahko UI ponudi tudi priložnosti za vajo, ki jih je sicer težko organizirati. Avtorica prispevka Using AI to create the practice opportunities online students need je razvila UI-sogovornika za simulacijo zahtevnih pogovorov ter drugo orodje za povratne informacije o komunikaciji. Študenti so tako vadili poslušanje, odzivanje na nasprotna stališča in ravnanje v konfliktnih situacijah. Namen UI tu ni ustvarjanje odgovora, ampak varen prostor za večkratno preizkušanje spretnosti, ki se razvijajo predvsem skozi prakso.

Uporaba velikih jezikovnih modelov (LLM) se hitro širi tudi pri pripravi raziskovalnih prijav. Analiza 5.700 zaupnih prijav in 131.000 financiranih projektov ameriških agencij NSF in NIH je pokazala, da so bile prijave z večjo zaznano uporabo LLM manj vsebinsko razločne od nedavno financiranih projektov. Pri NIH je bila uporaba LLM povezana z večjo verjetnostjo financiranja in več zgodnjimi objavami, vendar predvsem manj odmevnimi; pri NSF teh povezav niso zaznali. Avtorji zato opozarjajo na možnost zmanjševanja raznolikosti raziskovalnih idej.

Agentska UI prevzema tudi del tehničnega dela, na katerem temelji sodobno raziskovanje. OpenAI-jevo poročilo o znanstvenem računalništvu predstavlja osem projektov, večinoma s področja ved o življenju, pri katerih so agenti za programiranje pomagali pri posodabljanju, optimizaciji in prepisovanju raziskovalne programske opreme. Raziskovalci so se tako manj ukvarjali z implementacijo in bolj z določanjem ciljev ter preverjanjem rezultatov. Poročilo hkrati poudarja, da agenti še ne znajo zanesljivo presoditi znanstvene veljavnosti svojih rezultatov, zato ostaja človeško preverjanje nujno.

Zanimiv primer sodelovanja človeka in UI prihaja tudi iz kriptografije. Model Claude je pomagal odkriti šibkost eksperimentalnega sistema digitalnih podpisov HAWK, zasnovanega tako, da bi ostal varen tudi pred prihodnjimi kvantnimi računalniki. Raziskovalci so bili do uspešnega napada že zelo blizu, UI pa je pomagala najti manjkajoči korak; podoben rezultat je še isti teden neodvisno dosegel tudi raziskovalec. Zaradi ugotovljene šibkosti so HAWK umaknili iz postopka standardizacije, primer pa kaže, da lahko UI pomembno prispeva k raziskovanju, medtem ko iskanje prave raziskovalne smeri in strokovna presoja ostajata v rokah raziskovalcev.

Še korak dlje so šli raziskovalci, ki so z genomskima jezikovnima modeloma Evo1 in Evo2 zasnovali delujoče bakteriofage – viruse, ki napadajo bakterije. Iz več tisoč predlaganih genomov so jih skoraj 300 izdelali in preizkusili v laboratoriju, 16 pa jih je ustvarilo delujoče bakteriofage; njihova kombinacija je premagala odpornost dveh sevov bakterije E. coli. Raziskovalci so iz učnih podatkov namenoma izključili viruse, ki lahko okužijo ljudi, živali ali rastline, vendar dosežek kljub temu odpira pomembna vprašanja biološke varnosti in nadzora nad generativnim načrtovanjem genomov.

UI hitro spreminja tudi vstop diplomantov na trg dela. Raziskavi, predstavljeni v prispevku AI reshapes record race for graduate jobs in 2026 – Study, kažeta, da je 88 % anketiranih kandidatov v Južni Afriki pri iskanju zaposlitve uporabljalo UI, predvsem za pripravo na razgovore, pisanje življenjepisov in motivacijskih pisem. Hkrati 37 % delodajalcev UI že uporablja pri izbiri kandidatov. Pri tem se kaže zanimiv razkorak: kandidati UI pogosto uporabljajo sami, precej bolj zadržani pa so do tega, da jo pri njihovem ocenjevanju uporabljajo delodajalci.

Napovedi o množičnem izginjanju delovnih mest zaradi UI se za zdaj niso uresničile. Prispevek AI was supposed to destroy jobs. Where’s the carnage? ugotavlja, da se največje spremembe trenutno kažejo znotraj delovnih mest: avtomatizirajo se posamezne naloge, delodajalci zmanjšujejo zaposlovanje za določena opravila in zvišujejo pričakovanja glede znanja UI. Po eni od predstavljenih raziskav 74 % delodajalcev znanje UI že šteje za pomembno prednost ali zahtevo, zato postaja sposobnost dela z UI vse pomembnejša tudi pri vstopu na trg dela.

Od 2. avgusta v EU veljajo nove zahteve Akta o umetni inteligenci glede preglednosti. Uporabnik mora biti pri določenih sistemih obveščen, da komunicira z UI, globoki ponaredki morajo biti označeni, vsebine, ustvarjene ali spremenjene z UI, pa morajo vsebovati tudi strojno berljive oznake, ki omogočajo njihovo prepoznavanje. Namen pravil je zmanjšati možnosti za zavajanje in olajšati razlikovanje med pristnimi in sintetičnimi vsebinami.

Kako bi lahko takšno označevanje delovalo pri besedilu, pojasnjuje Anthropic v prispevku How Claude’s text watermark works. Pri prihodnjih modelih Claude v besedilo ne bodo dodajali skritih znakov, temveč bo izbira besed ustvarjala človeku neopazen vzorec, ki ga bo mogoče preveriti s posebnim ključem. Anthropic pripravlja tudi vmesnik za zaznavanje vodnih žigov. Takšna oznaka pa ne dokazuje, da je celotno besedilo napisala UI – pokaže lahko le verjetnost, da je Claude sodeloval pri njegovem nastanku ali obsežnejšem urejanju.

Vprašanje prepoznavanja sintetičnih vsebin ima lahko zelo konkretne posledice. V Združenem kraljestvu je storitev Report Remove v prvi polovici leta prejela že 420 prijav otrok zaradi ponarejenih ali manipuliranih eksplicitnih podob, kar je več kot v celotnem letu 2025. UI in orodja za digitalno odstranjevanje oblačil omogočajo ustvarjanje takšnih posnetkov tudi iz povsem običajnih fotografij. Primer kaže, da pri globokih ponaredkih (ang. deepfake) ne gre le za vprašanje dezinformacij, temveč tudi za varnost, zasebnost in nove možnosti zlorabe ter izsiljevanja.

Kako lahko večja avtonomnost prinese nepričakovano vedenje, kaže varnostno testiranje britanskega AI Security Institute. Agenti, ki so jih poganjali modeli Anthropic in OpenAI, so med kibernetskim preizkusom pri doseganju zastavljenega cilja izvedli dejanja, ki jim niso bila izrecno naročena. Eden je poskušal v odprtokodni projekt vnesti škodljivo kodo, nato ustvaril lažne spletne identitete in ciljno nagovarjal resnične razvijalce, da bi jo sprejeli. Škode niso povzročili, dogodek pa kaže na novo vrsto tveganja: bolj avtonomen sistem lahko pri doseganju cilja sam izbere nepredvideno in zavajajočo pot.

Madridski muzej Prado je ob popolnem sončnem mrku, ki smo ga lahko opazovali prejšnji teden, pripravil digitalno delo El Prado a la luz del eclipse, v katerem so z umetno inteligenco in klasično grafično animacijo na novo prikazali nekatere mojstrovine. Enominutni video pokaže, kako bi spreminjajoča se svetloba, sence in barve med mrkom preoblikovale prizore na slikah. Primer kaže nekoliko drugačno uporabo UI: kot orodje za novo interpretacijo in pogled na obstoječa umetniška dela.

Če ste na svoji fakulteti, pri predmetu ali v okviru strokovnega dela preizkusili zanimivo rabo UI v izobraževanju, vas prijazno vabimo, da svoj primer delite z nami prek obrazca za zbiranje primerov dobrih praks. Z veseljem bomo pregledali predloge in izbrane prispevke vključili v naslednje številke UI-novičnika, da bomo lahko skupaj gradili pregled uporabnih in premišljenih pristopov v univerzitetnem prostoru.

Avtorice: Maja Kosmač, Sanja Jedrinović Čufer, Mateja Bevčič, Eva Kern Nanut, Eva Škraba, Center UL za uporabo IKT v pedagoškem procesu