Umetna inteligenca spreminja načine mišljenja, učenja in dela

V prispevku How AI is quietly distorting academic enquiry – and what to do about it avtor opozarja, da generativna UI vse bolj spreminja načine, kako študenti in raziskovalci iščejo informacije, oblikujejo raziskovalna vprašanja ter prihajajo do znanja. Posebej izpostavlja tveganje, da uporabniki namesto poglobljenega branja virov vse pogosteje posegajo po UI-povzetkih in generiranih odgovorih, kar lahko vodi v bolj površinsko raziskovanje in manj kritično presojo informacij. Poleg tega UI pogosto ponuja predvsem najbolj verjetne oziroma prevladujoče odgovore, kar lahko vpliva na raznolikost raziskovalnih pristopov in raziskovalce nehote usmerja predvsem k bolj predvidljivim oziroma že uveljavljenim interpretacijam.

Na podobne izzive opozarja tudi novica o uporabi generativne UI pri pripravi pregledov literature, kjer je poudarjeno tveganje izmišljenih, netočnih referenc (halucinacije), napačnega povzemanja virov in izgube sledljivosti informacij. Prispevek predstavi več konkretnih pristopov za varnejšo uporabo UI pri raziskovalnem delu, med drugim preverjanje referenc, uporabo več različnih virov in orodij ter jasno dokumentiranje uporabe UI, postopka iskanja literature.

Vse pogosteje se pojavljajo tudi opozorila, da lahko pretirano zanašanje na UI vodi v t. i. kognitivni dolg, pri katerem se zmanjšuje potreba po miselnem naporu, ključnem za razvoj razumevanja, argumentacije in kritičnega mišljenja. Prispevek Think again: reclaiming our ‘cognitive debt’ from AI opozarja, da UI vse hitreje prevzema naloge, kot so povzemanje, organizacija idej, pisanje in iskanje odgovorov, zaradi česar lahko uporabniki postopoma izgubljajo navado samostojnega razmišljanja.

Na Univerzi Princeton so zaradi razširjene uporabe UI in težav pri zaznavanju nedovoljene pomoči spremenili 133 let star sistem častnega kodeksa. Do sedaj so študenti izpite opravljali brez nadzornikov, saj je sistem temeljil na zaupanju, osebni odgovornosti in dolžnosti študentov, da prijavijo goljufanje svojih vrstnikov, z julijem 2026 pa bodo izpiti v živo nadzorovani s strani pedagoškega osebja. Pri tem je zanimivo, da spremembe niso zahtevali le pedagogi, temveč tudi študenti, ki so opozarjali, da je ob uporabi osebnih naprav in UI težje opaziti kršitve, obenem pa je poročanje o sumih goljufanja povezano s socialnim pritiskom, anonimnimi prijavami in strahom pred izpostavljanjem.

Pomembno novo razsežnost razprave o ocenjevanju odpira tudi raziskava Artificial Intelligence and Grade Inflation. Avtor je analiziral več kot 500.000 ocen na eni izmed večjih raziskovalnih univerz v ZDA v obdobju 2018–2025 in ugotovil, da so se po izidu ChatGPT-ja v predmetih z nalogami, bolj izpostavljenimi UI, kot sta pisanje in programiranje, ocene opazno zvišale. Delež ocen se je glede na stanje pred letom 2022 povečal za približno 30 %, pri čemer so bili učinki večji tam, kjer so imele domače naloge večjo težo. Avtor opozarja, da lahko generativna UI zmanjša informacijsko vrednost ocen, saj del ocenjevanih nalog (namesto študentov) opravi orodje.

Prispevek Why AI literacy belongs in the first-year experience zagovarja vključevanje UI-pismenosti že v prvi letnik študija. Avtorica poudarja, da bi morali študenti ne glede na področje študija razumeti osnovna načela delovanja generativne UI, njene omejitve, tveganja in vpliv na zanesljivost informacij. UI-pismenost tako vse bolj postaja del splošne akademske pismenosti, podobno kot informacijska ali digitalna pismenost.

K aktivni uporabi UI spodbuja tudi članek, ki opisuje pobudo Univerze Virginije, kjer želijo UI pismenost razvijati predvsem skozi praktično uporabo. Namesto ločenih teoretičnih vsebin predlagajo vključevanje UI-orodij v vsakodnevno delo študentov, pri čemer je poudarek na preizkušanju, refleksiji in razumevanju omejitev tehnologije. Študenti naj bi se o UI učili predvsem skozi uporabo in kritično presojo rezultatov, ne le skozi opisovanje tehnologije.

Podobno razmišljanje se pojavlja tudi v prispevku Dear educators, Gen Z here. Could you please teach us like it’s 2026?, kjer študentka opozarja, da generacija Z, ki je odraščala v digitalnem okolju, pričakuje drugačne oblike poučevanja kot prejšnje generacije. Po njenem mnenju študenti ne potrebujejo zgolj prepovedi ali opozoril glede UI, temveč pomoč pri razumevanju, kako tehnologijo uporabljati smiselno, odgovorno in v povezavi z resničnimi problemi. Prispevek poudarja, da študenti že uporabljajo UI pri organizaciji dela, učenju in pisanju, univerze pa temu tempu sprememb ne sledijo vedno dovolj hitro.

Da postajajo študenti ena ključnih skupin uporabnikov generativne UI, kaže tudi nova pobuda OpenAI ChatGPT Futures: Class of 2026. Program študentom omogoča dostop do naprednih UI-orodij ter spodbuja raziskovanje njihove uporabe pri učenju, ustvarjanju in razvoju idej. Hkrati odpira vprašanje, kako naj univerze vključujejo takšna orodja v študijski proces na način, ki podpira učenje in ne le produktivnosti.

Nadaljujejo se premiki visokošolskih institucij od posameznih poskusov uporabe UI k sistemskim pravilom, smernicam in strateškemu upravljanju. Dober primer je Univerza SUNY, ki združuje 64 kampusov in je sprejela sistemski pravilnik uporabe UI. Ta predvideva širšo uporabo UI pri poučevanju, raziskovanju in podpori študentom, hkrati pa zahteva varovala za zasebnost podatkov, preverjanje pristranskosti orodij, ohranjanje človeške presoje pri pomembnih odločitvah ter usposabljanje študentov in zaposlenih za varno, etično in učinkovito uporabo UI.

Na razkorak med hitro uporabo UI in institucionalno pripravljenostjo opozarja Courserino poročilo o UI v visokošolskem izobraževanju. Raziskava med 4.200 študenti in pedagogi v petih državah kaže, da UI pri akademskem delu uporablja že 95 % vprašanih, vendar ima po navedbah pedagogov le 26 % institucij formalne pravilnike o uporabi UI. Poročilo zato poudarja, da množična uporaba sama po sebi še ne pomeni strateške prednosti; univerze morajo vzpostaviti jasna pravila, vlagati v UI-pismenost in nasloviti vprašanja akademske integritete.

Članek Half of Campus Tech Leaders Question AI’s ROI opisuje raziskavo, izvedeno med univerzitetnimi vodji informacijskih in tehnoloških služb. Polovica vprašanih ocenjuje, da je donosnost naložb v UI še nejasna ali nižja od pričakovanj, le 29 % pa jih meni, da so investicije dosegle ali presegle pričakovano donosnost. Pri tem kot največjo otipljivo vrednost UI najpogosteje navajajo večjo produktivnost zaposlenih, precej redkeje pa izboljšave pri poučevanju in učenju. Med največjimi tveganji za visokošolske institucije anketirani navajajo težave pri pridobivanju in zadrževanju IT-kadrov, kibernetske grožnje ter naraščajoče oziroma nevzdržne stroške.

Evropski parlament in Svet EU sta dosegla dogovor o poenostavitvi izvajanja Akta o umetni inteligenci (AI Act). Dogovor je namenjen lažjemu izvajanju pravil, spodbujanju inovacij in zmanjšanju administrativnih bremen, hkrati pa ohranja poudarek na varnosti in varstvu temeljnih pravic. Za univerze je to pomembno predvsem zato, ker se uporaba UI vse bolj umešča tudi v širši regulativni okvir, ki bo vplival na razvoj, testiranje in uporabo UI-sistemov v izobraževalnem in raziskovalnem okolju.

Univerza Central Florida je predstavila prenovo spletnih predmetov s pomočjo UI, pri kateri pedagogi uporabljajo generativno UI predvsem za preverjanje usklajenosti učnih ciljev, nalog in standardov, zaznavanje morebitnih vrzeli, preoblikovanje učnih aktivnosti, pripravo osnutkov gradiv, oblikovanje vprašanj za razpravo in prilagajanje vsebin različnim skupinam študentov. Prispevek poudarja, da naj UI ne bi nadomeščala pedagoškega dela, temveč predvsem zmanjšala rutinska opravila in omogočila več časa za delo s študenti ter načrtovanje učnih izkušenj. Izpostavljeno je, da mora pedagog pri uporabi UI ohraniti nadzor nad cilji predmeta, kakovostjo vsebin in pedagoškimi odločitvami.

Vprašanje, kako smiselno vključevati UI v STEM področja, odpira članek The Real Problem With AI in STEM Education. Avtor opozarja, da težava ni zgolj v tem, da študenti uporabljajo UI pri reševanju nalog brez kritičnega razmisleka, temveč da lahko zaradi napačno zasnovanih učnih aktivnosti izgubijo stik z razumevanjem temeljnih konceptov. Po njegovem mnenju bi morali pedagogi manj poudarka namenjati prepovedim uporabe UI, več pa oblikovanju nalog, ki zahtevajo razlago postopkov, presojo rezultatov in uporabo znanja v novih situacijah.

Vprašanje, kako bo UI vplivala na delo in katere kompetence bodo v prihodnje najbolj pomembne, postaja vse pomembnejša tema tudi za univerze. Profesor z Imperial College Business School opozarja, da nobeno delo ni popolnoma varno pred vplivom UI, vendar so nekateri poklici bolj odporni od drugih. Med ključnimi kompetencami prihodnosti izpostavlja sposobnost sodelovanja z UI, kritično presojo rezultatov, inovativnost, medosebne veščine in prilagodljivost. Po njegovem mnenju bodo najbolj uspešni tisti posamezniki, ki bodo znali UI uporabljati kot podporo pri delu, ne pa zgolj avtomatizirati obstoječih nalog.

Na podobne spremembe opozarja tudi prispevek Beyond skills: Why story will define survival in the AI age, kjer avtor poudarja, da v času generativne UI zgolj tehnične kompetence ne bodo več dovolj. Vedno pomembnejša naj bi postajala sposobnost oblikovanja pomena, interpretacije, povezovanja informacij in razumevanja človeških izkušenj in družbenega konteksta. Prispevek izpostavlja, da univerze ne bodo več pripravljale študentov le na izvajanje nalog, temveč vse bolj na razumevanje kompleksnih družbenih in organizacijskih situacij ter razvoj reflektirane presoje.

Vprašanje vpliva UI na delovna okolja postaja tudi pomembno raziskovalno področje. Stanford HAI je napovedal ustanovitev laboratorija »AI and Organizations Lab«, ki bo raziskoval, kako umetna inteligenca spreminja delo, organizacije in sodelovanje. Raziskovalci želijo bolje razumeti, kako UI vpliva na produktivnost, odločanje, organizacijsko kulturo in neenakosti na delovnem mestu.

Na RTV Slovenija so povzeli raziskavo, po kateri se vse več mladih v Evropi za čustveno podporo obrača na umetno inteligenco. Po podatkih raziskave približno polovica mladih uporablja UI klepetalnike za pogovor o osebnih težavah, občutkih ali stresu, nekateri pa UI doživljajo celo kot “prijatelja”. Čeprav lahko UI daje občutek podpore, ne more nadomestiti strokovne psihološke pomoči, človeške empatije in pristnih medosebnih odnosov. Strokovnjaki zato opozarjajo na možnost čustvene odvisnosti od UI, vprašanja zasebnosti ter nevarnost, da bi mladi ob resnejših duševnih stiskah namesto pomoči strokovnjakov iskali podporo predvsem pri digitalnih sistemih.

Tudi OpenAI je predstavil posodobitve sistema ChatGPT za boljše prepoznavanje tveganih, občutljivih situacij v pogovorih z uporabniki. Namen sprememb je izboljšati odzive v primerih, ko uporabniki omenjajo samopoškodovanje, duševne stiske ali druge občutljive teme. Objava poudarja pomen konteksta in previdnosti pri razvoju sistemov, ki jih ljudje vse pogosteje uporabljajo za osebne pogovore in podporo.

V slovenskem prostoru so bila vprašanja odgovornega razvoja UI v ospredju tudi na predsedničinem forumu o etični umetni inteligenci, kjer so sodelujoči poudarili pomen razvoja zaupanja vrednih, transparentnih in človeku prijaznih UI-sistemov. Razprava je med drugim izpostavila potrebo po večji digitalni pismenosti, odgovornem razvoju tehnologije ter vključevanju različnih strok pri oblikovanju prihodnjih pravil in praks uporabe UI.

Da UI vse bolj prehaja tudi v fizični prostor mest in storitev, kaže novica o prihodu robotaksijev podjetja Baidu v Ljubljano. Projekt predstavlja enega prvih primerov testiranja avtonomnih vozil v Sloveniji in odpira vprašanja tehnološke pripravljenosti mest, zakonodaje, varnosti ter zaupanja uporabnikov v avtonomne sisteme.

Vse več pozornosti dobiva tudi okoljski vpliv razvoja UI. V oddaji Zeleni petek so opozorili, da največji podatkovni centri že danes porabijo več energije kot marsikatero manjše mesto, dodatna rast uporabe generativne UI pa bo te potrebe še povečevala. Razprava izpostavlja predvsem vprašanja energetske učinkovitosti, porabe vode za hlajenje podatkovnih centrov ter iskanja bolj trajnostnih pristopov k razvoju UI.

OpenAI je predstavil možnost uporabe orodja Codex na mobilnih napravah, ki omogoča programiranje in razvoj programske kode z uporabo naravnega jezika ali glasovnih ukazov  tudi uporabnikom brez poglobljenega tehničnega znanja. Prispevek poudarja predvsem poenostavljanje razvoja programske opreme in širjenje dostopa do programerskih orodij, pri čemer UI vse bolj prevzema vlogo pomočnika pri pisanju, popravljanju in razlagi kode.

Vse več razprav odpira tudi vprašanje avtonomnosti UI. Prispevek Ko umetna inteligenca začne ustvarjati samo sebe obravnava razvoj sistemov, ki lahko samostojno izboljšujejo lastne procese ali pomagajo pri ustvarjanju novih modelov. Ob tem avtor opozarja tako na potencial za hitrejši tehnološki razvoj kot tudi na vprašanja nadzora, varnosti in odgovornosti pri razvoju vedno bolj samostojnih sistemov UI.

Pomemben trend predstavlja tudi razvoj večmodalnih sistemov umetne inteligence, ki združujejo besedilo, slike, zvok in druge vrste podatkov. Prispevek o večmodalnih podatkih poudarja, da prav povezovanje različnih tipov informacij postaja ena ključnih usmeritev razvoja naslednje generacije UI, saj omogoča bolj kompleksno razumevanje okolja in širše možnosti uporabe v raziskovanju, industriji in vsakdanjem življenju.

Na Svetovnem gospodarskem forumu so opozorili, da prihodnost UI morda ne bo temeljila predvsem na vedno večjih modelih, temveč na manjših, specializiranih in energetsko učinkovitejših sistemih, prilagojenih konkretnim nalogam (SLM – small language models). Takšni modeli naj bi bili cenejši za razvoj, lažji za uporabo in bolj dostopni tudi manjšim organizacijam ter državam.

Če ste na svoji fakulteti, pri predmetu ali v okviru strokovnega dela preizkusili zanimivo rabo UI v izobraževanju, vas prijazno vabimo, da svoj primer delite z nami prek obrazca za zbiranje primerov dobrih praks. Z veseljem bomo pregledali predloge in izbrane prispevke vključili v naslednje številke UI novičnika, da bomo lahko skupaj gradili pregled uporabnih in premišljenih pristopov v univerzitetnem prostoru.

Avtorice: Maja Kosmač, Sanja Jedrinović Čufer, Mateja Bevčič, Eva Kern Nanut, Eva Škraba, Center UL za uporabo IKT v pedagoškem procesu