Skupna pravila za vse deležnike na UL

V nadaljevanju so določena skupna pravila uporabe UI. Ta pravila veljajo za vse uporabnike, razen če so za posamezno področje, študijsko obveznost, raziskovalno delo ali delovni postopek določena natančnejša pravila. Podrobnejša pravila morajo biti skladna s temi smernicami in morajo biti uporabnikom dostopna pravočasno in na jasen način.

Primeri uporabe

Prosta izbira orodja ne pomeni proste presoje glede varstva podatkov, akademske integritete ali skladnosti z institucionalnimi pravili. Uporabnik mora vedno ravnati v okviru veljavnih pravil UL.

Uporaba UI v skladu s temi smernicami predpostavlja ustrezno usposobljenost uporabnikov. Univerza in članice zagotovijo sistematična usposabljanja, ki podpirajo razumevanje pravil, tveganj in odgovorno uporabo UI.

Prepovedana oziroma nedopustna raba

Namen uporabe je prepovedan po pravilih o UI ali pa je v univerzitetnem okolju nedopusten, ker posega v temeljne pravice, varstvo osebnih podatkov, akademsko integriteto, verodostojnost odločanja ali pa je to navedeno v izjavi o omejitvi odgovornosti ('disclaimer').

Primeri uporabe:

nalaganje študentskih izdelkov v zunanja javna UI-orodja za ocenjevanje ali pripravo povratne informacije brez ustrezne pravne in institucionalne podlage;
vnašanje osebnih podatkov, podatkov o študentih ali zaposlenih, ocen, kadrovskih podatkov, izpitnih gradiv, neobjavljenih raziskovalnih rezultatov, recenzentskega gradiva, projektnih prijav, pogodbeno zaupnih podatkov ali poslovnih skrivnosti v javna orodja UI;
nalaganje tujih avtorsko varovanih gradiv v javna UI-orodja brez ustrezne pravne podlage, dovoljenja ali licence;
ustvarjanje ali objava zavajajočih sintetičnih vsebin, vključno z globokimi ponaredki (deepfake) ali glasovnimi kloni brez ustrezne podlage, soglasja in jasne označitve, kadar je ta zahtevana;
prepuščanje končne presoje UI v zadevah, ki vplivajo na pravice, obveznosti, oceno, status ali položaj posameznika;
uvedba funkcionalnosti, ki uporabnika zavaja glede tega, ali komunicira s človekom ali sistemom UI oziroma kaj je ustvaril človek in kaj UI;
uporaba UI pri nalogi, preverjanju znanja ali izpitu, kadar je takšna uporaba izrecno prepovedana;
oddaja vsebine, pripravljene z UI brez navedbe, kadar je razkritje uporabe UI zahtevano;
uporaba UI v postopkih, kjer je to v nasprotju z izjavo o omejitvi odgovornosti ali s pravili financerja, založnika, etične komisije ali raziskovalnega protokola;
uporaba UI za prepoznavanje čustev, pozornosti, stresa ali psihološkega stanja študentov oziroma zaposlenih v izobraževalnem ali delovnem okolju, razen kadar za to obstaja izrecna zakonska izjema, predhodna pravna, etična in informacijska presoja ter pisna institucionalna odobritev;
sistem, ki zbira fotografije študentov in zaposlenih s spleta za treniranje prepoznave obrazov, če za to niso pridobljena soglasja;
uporaba biometrične kategorizacije za sklepanje o veri, političnem prepričanju, etničnem poreklu, spolnem življenju in usmerjenosti ali drugih varovanih osebnih okoliščinah, če za to niso pridobljena soglasja;
virtualni asistent, ki ranljive uporabnike manipulativno usmerja v škodljive odločitve.

Visoko tvegana raba in raba, ki zahteva predhodno presojo

Gre za uporabo sistemov UI, ki lahko vpliva na pravice, obveznosti, oceno, status ali drugo obravnavo posameznika. Pred uvedbo so potrebni predhodna presoja, jasna pravila uporabe, človeški nadzor in možnost preverjanja rezultatov.

Primeri uporabe:

uporaba UI v sprejemnih postopkih, ocenjevanju, vrednotenju, disciplinskih, kadrovskih ali drugih postopkih z materialnimi posledicami;
uporaba UI pri ocenjevanju znanja, zaznavanju goljufanja, razvrščanju, usmerjanju ali personalizaciji učnega procesa, kadar lahko vpliva na oceno, napredovanje, pravice, obveznosti ali položaj študenta;
uporaba UI pri pripravi povratne informacije, kadar ta lahko pomembno vpliva na oceno, status študenta, projekta ali prispevka;
razvoj ali uporaba orodij, ki študente usmerjajo na različne ravni, programe, poti študija ali oblike obravnave na podlagi avtomatizirane presoje;
uporaba UI pri filtriranju prijav na delovno mesto, rangiranju kandidatov ali spremljanju uspešnosti zaposlenih;
uporaba UI pri recenziji ali razvrščanju strokovnih, raziskovalnih ali projektnih gradiv, kadar lahko vpliva na odločitev o objavi, financiranju, napredovanju, izboru ali drugi pomembni obravnavi posameznika ali prijavitelja;
razvoj ali pilotno preizkušanje sistemov UI na realnih uporabnikih, kadar sistem vpliva na odločanje, obravnavo ali položaj posameznikov;
uporaba UI, ki pomembno vpliva na odločanje o posamezniku, tudi kadar končno odločitev formalno sprejme človek;
razvoj ali uporaba sistemov UI v študentskih, raziskovalnih ali pilotnih projektih z resničnimi udeleženci, kadar gre za občutljiv kontekst ali lahko uporaba vpliva na pravice, položaj ali obravnavo posameznikov.

Raba z nizkim ali minimalnim tveganjem

Gre za podporno uporabo UI, pri kateri sistem ne odloča o posameznikih, ne nadomešča strokovne presoje in ne vključuje osebnih ali drugih varovanih podatkov. Takšna raba je priporočena oziroma dopustna, če so izpolnjeni pogoji transparentnosti, etičnosti, varnosti in preverjanja izdelkov.

Primeri porabe:

pomoč pri pripravi osnutkov učnih gradiv, e-poštnih sporočil, pogostih vprašanj in odgovorov ali povzetkov besedil, ki jih uporabnik lahko uporabi, brez osebnih, zaupnih ali drugih varovanih podatkov, ob obveznem preverjanju rezultatov;
razlaga pojmov, samopreverjanje, prevod besedil, ki ga uporabnik sme uporabiti, pomoč pri oblikovanju idej za naloge in strukturiranju dela, če uporabnik rezultate samostojno preveri ali kritično ovrednoti;
pomoč pri pisanju programske kode, začetnem iskanju literature in organizaciji raziskovalnega procesa, če uporabnik rezultate samostojno preveri, pri čemer umetna inteligenca ni edini vir ali nadomestilo za strokovno presojo;
priprava ilustrativnih slik, videov ali zvočnih vsebin za predstavitve, če se upoštevajo pravila o avtorskih pravicah, varstvu osebnih podatkov in označevanju vsebin, kadar je to potrebno;
razvoj virtualnih asistentov za splošne informacije, če je jasno, da gre za UI, in pri tem ni omogočen dostop do osebnih podatkov, internih sistemov in ne vpliva na pravice posameznikov;
razvoj UI-orodij in agentov za podporo delu, za neodločilne naloge in avtomatizacijo, ki ne posegajo v pravice ljudi;
priprava programske kode ali avtomatizacij za podporne naloge, če ne vključujejo osebnih ali zaupnih podatkov, ne vplivajo na pravice posameznikov ter ostajajo pod testiranjem, dokumentiranjem in človeškim nadzorom;
priprava administrativnih osnutkov, ki jih odgovorna oseba pred uporabo pregleda, po potrebi popravi in potrdi.