24. 1. 2025
Intervju z dr. Ernestom Ženkom ob mednarodnem dnevu izobraževanja na temo UI in izobraževanja
Mednarodni dan izobraževanja (24. januar) letos praznujemo pod naslovom "Umetna inteligenca in izobraževanja". Ta spodbuja k razmisleku o moči izobraževanja, ki nas lahko usposobi za razumevanje in odgovorno ter etično uporabo UI.
Sistemi umetne inteligence postajajo vse bolj izpopolnjeni in s tem sprožajo kritična vprašanja o tem kako ohraniti človekovo delovanje v dobi hitrega in (ne)kontroliranega tehnološkega napredka.
Ob praznovanju mednarodnega dneva izobraževanja smo pripravili intervju z dr. Ernestom Ženkom, profesorjem na UP Fakulteti za humanistične študije in vodjem Centra za odgovorno umetno inteligenco (CeResAI UP).
Ste vodja novoustanovljenega Centra za odgovorno umetno inteligenco na Univerzi na Primorskem. Center je v operativnem vzpostavljanju. Nam lahko predstavite glavne cilje in namene centra?
Res je, centru smo ravnokar našli tudi fizično lokacijo, tako da center ni samo virtualen. Sicer pa smo nekatere naloge, ki so zdaj v domeni centra, izpeljali že pred tem v okviru delovnih skupin. Lahko bi rekel, da je osnovni namen Centra za odgovorno umetno inteligenco prispevati k temu, da se kot univerza sistematično odzovemo na priložnosti in izzive, ki jih prinaša tehnologija, ki jo poznamo pod izrazom umetna inteligenca. Izraz ni najboljši, ker asociira na predstavo o inteligentnosti, ki jo povezujemo s človeško inteligenco, vendar se je uveljavil v javnosti in medijih, tako da pravzaprav nimamo izbire. Težava je tudi v tem, da nam pod tem izrazom najprej pride na misel generativna umetna inteligenca, torej predvsem aplikacije, ki na podlagi poziva oblikuje oz. generira nova besedila, slike, zvok, video itn. Področje umetne inteligence je namreč veliko širše in zajema še marsikaj drugega, od napovednih sistemov, avtonomnih vozil do vojaških dronov, ki sami identificirajo in nevtralizirajo tarče. Razumljivo, center se ne bo ukvarjal z vsemi temi vidiki. Prav tako se ne bo osredotočal na razvoj tehnologije, pač pa predvsem na uporabo.
Da bi to posebej izpostavili, smo v ime dodali odgovornost. Seveda je tudi to kompromis, ime je dovolj kratko, se pa zavedamo, da smo lahko odgovorni smo ljudje, in to je dejansko tudi tisto, kar nas zanima: odgovorna in etična raba umetne inteligence in trajnostna vključitev umetne inteligence v akademsko, gospodarsko in širše družbeno okolje. Pri tem smo na prvo mesto postavili izobraževanje, ne samo študentske populacije, pač pa vseh zaposlenih na UP, pa tudi širše, glede na potrebe in povpraševanje. Nihče izmed nas, ki delujemo ali pa bomo v naslednjih letih delovali v okviru centra, se ni v šoli ali na fakulteti učil odgovorne uporabe umetne inteligence. Gre za situacijo, ki ni samo nova in slabo strukturirana, pač pa se tudi izjemno hitro razvija in spreminja. Zato je izobraževanje na tem področju velik izziv, česar se vsekakor zavedamo, in zaradi česar je nujno vključiti tudi raziskovanje. Dejansko moramo šele ugotoviti, kaj v tem kontekstu pomeni biti pismen, katere kompetence ljudje potrebujejo, ali bolje, jih bodo v prihodnosti potrebovali za svoje delo, da bodo konkurenčni, in kako k temu izzivu sploh sistematično pristopiti.
Zavedamo se, da edina možna pot pelje skozi interdisciplinarnost ali celo transdisciplinarnost, pa tudi, da se moramo povezati s podobnimi centri in drugimi ustanovami. Tako zaradi izmenjave idej in sodelovanja pri raziskovanju, kot tudi zaradi diseminacije rezultatov. Kot javna univerza širši skupnosti dolgujemo podporo, ko je ta potrebna, in prepričan sem, da je zdaj čas, ko lahko s svojim znanjem veliko prispevamo.
Glede na vaše bogato znanja filozofije in etike, kako viditi etične izzive, ki jih UI predstavlja v visokošolskem izobraževanju?
Vključevanja umetne inteligence v visokošolski prostor ni mogoče ustrezno nasloviti brez interdisciplinarnega pristopa, kar pomeni, da je treba razumeti tako tehnološki kot filozofski in etični vidik posledic vpeljave te tehnologije, poleg tega pa tudi samo področje, na katerem se tehnologija uveljavlja. Preprosto povedano, ti izzivi se razlikujejo glede na področje študija – če govorimo o računalništvu, gre za vprašanje, kdo piše programsko kodo; če govorimo o humanistiki, gre za vprašanje, ali je še smiselno brati besedila v celoti, saj nam UI lahko pripravi odlične povzetke itn.
Na začetku – govorimo o javni dostopnosti generativne umetne inteligence, torej po novembru 2022 – je za največji izziv veljalo plagiatorstvo, torej uporaba orodij UI za pisanje besedil od domačih in seminarskih nalog do doktorskih disertacij na eni strani in od projektnih prijav do znanstvenih člankov na drugi. Tudi danes je to še vedno zelo velik izziv, ni pa edini. Dejansko je etičnih izzivov, ki so povezani z uporabo umetne inteligence, zelo veliko.
Lahko pričnemo z vprašanji zasebnosti in varovanja podatkov. Če bomo npr. naložili osebne podatke o študentih v sistem UI, da jih bo uredil, analiziral izpitne odgovore in jih ocenil ipd., bodo ti podatki lahko sistemu na voljo za nadaljnje učenje, kar je nedopustno. Naslednji izziv predstavljata pristranskost in neenakost – če se modeli UI učijo na podatkih, v katerih so prisotne družbene neenakosti, se bodo te kazale tudi pri njihovi uporabi, kar lahko vodi v diskriminacijo. Ta se lahko kaže tudi na ravni dostopnosti oz. enakih možnosti – nekateri sistemi so plačljivi, kar lahko vodi v digitalno ločnico – v razliko med tistimi, ki si tehnologijo lahko privoščijo, in tistimi, ki si jo ne morejo in zato ostanejo brez znanj, pomembnih za življenje in delo v dobi UI.
Pomembno je tudi vprašanje vpliva UI na kognitivne sposobnosti, kritično mišljenje in nasploh na sposobnost reševanja problemov. Kako se bomo naučili samostojno reševati probleme, če bo to namesto nas vedno počela umetna inteligenca? Ne samo to, zakaj bi jih sploh reševali? Bodo prihodnje generacije hodile v šolo dvajset let, da se bodo naučile preverjati, ali je sistem UI prav rešil problem? Vse to kaže, da bo treba temeljito razmisliti o spremembah na področju izobraževanja na sploh in tudi visokošolskega izobraževanja. V tem trenutku se zdi, da se vse aplikacije UI uporabljajo predvsem za to, da bi čim učinkovito prišli do več istega. Umetna inteligenca v visokošolski prostor ne prinaša samo izzivov in tveganj, pač pa tudi izjemne priložnosti. Če bomo hoteli, da prinese tudi presežek, bomo morali pričeti razmišljati o spremembi paradigme na področju izobraževanja. Kar pa ne bo lahko.
Bi mogoče lahko že spregovorili o prihodnjih projektih ali aktivnosti CeResAI centra, ki se osredotočajo na presečišče UI in izobraževanja?
Seveda, tudi za center smo morali oblikovati načrt dela za leto 2025, tako da naše aktivnosti niso nikakršna skrivnost. Čakata nas torej fizična in virtualna umestitev, načrtujemo spletno stran in tudi blog. Lotili se bomo prenove dokumenta, ki je bil oblikovan leta 2023 in nosi naslov Stališča Univerze na Primorskem do rabe umetne inteligence. Dokument je bil napisan v ozračju strahu in negotovosti, ki sta bila takrat močno prisotna na večini univerz, saj nismo vedeli, kaj nas je zadelo, zdaj pa bi ga želeli preoblikovati tako, da bo v njem več upanja in priložnosti, ki jih ponuja UI. Razviti bi želeli kompetenčni okvir, ki nam bo pomagal pri razvoju izobraževanj, delavnic in izbirnih predmetov za študente, tako da je to ena izmed naših prvih prioritet. V zvezi s tem načrtujemo akreditacijo enega izbirnega predmeta, ki bi se izvajal na vseh fakultetah univerze. V pripravi – to pomeni, da imamo že datume izvedbe – je že več predavanj oz. delavnic za različne zunanje deležnike od šol in univerz do gospodarstva. Sodelovali bomo pri vsaj eni konferenci, načrtovanih je nekaj obiskov iz tujine in morebitnih podpisov sporazumov, dokončati moramo raziskavo, ki smo jo pričeli še z delovno skupino, zagotovo sem še kaj pozabil. Zato pa potrebujemo spletno stran.
Katere strategije bi izpostavili, institucijam, pedagoškim sodelavcem, da bi zagotovili, da bo uporaba tehnologij UI v predavalnicah podpirala kritično razmišljanje in človekovo avtonomijo?
To vprašanje je zelo pomembno, vendar pa tudi izjemno zahtevno, tako da nisem prepričan, da lahko nanj odgovorim. Najprej si je treba odgovoriti na vprašanje, ali je uporaba tehnologij UI v predavalnicah res nujna, če – kot sem že omenil – s tem pridemo zgolj do še več istega. Kar zadeva vpliv na okolje, je uporaba sistemov generativne umetne inteligence neetična, v kolikor koristi ne odtehtajo okoljske škode. Veliki jezikovni modeli za učenje potrebujejo za delovanje ogromno električne energije in tudi vode za hlajenje procesorjev – ali to upoštevamo, ko razmišljamo o njihovi uporabi?
Uporaba umetne inteligence v predavalnicah načeloma lahko podpira kritično mišljenje in človekovo avtonomijo, vendar pa je pri tem potrebna določena distanca, ki jo lahko vzpostavi samo nekdo, ki pozna obe strani kovanca. V tem primeru se bom lahko avtonomno odločil, ali sam rešim problem, ali pa ga naložim UI. Vem tudi, kaj pomeni moja odločitev: v prvem primeru se bom lahko pošteno namučil, vložil veliko kognitivnega napora, rešitev pa bosta nadgradila izkušnja in znanje; v drugem primeru bom dobil samo rešitev. V kolikor postane uporaba sistemov UI samoumevna, distance ni več mogoče vzpostaviti, saj ne bom niti pomislil na to, da bi se lotil reševanja problema sam. Razsvetljenski filozof Immanuel Kant je zapisal, da ni težava v tem, da ljudje ne bi imeli dovolj razuma, težava je v tem, da ga zaradi lenobe, strahopetnosti in želje po udobju ne uporabljamo: ni mi treba misliti, če le lahko plačam. V tem primeru seveda ne moremo več govoriti o avtonomiji.
Veliko slišimo o uvajanju algoritmičnega mišljenja v izobraževanje, in nekateri vidijo v tem tudi odgovor na vprašanje, kako se bomo soočili s svetom, v katerem UI igra vedno pomembnejšo vlogo. Verjetno se bom komu zameril, če rečem, da se s tem ne strinjam. Po eni strani menim, da algoritmični način mišljenja, če ga sploh lahko tako imenujemo, vsi poznamo in uporabljamo. Da vam lahko povem, kaj mislim, moram ideje pretvoriti v besede in jih postaviti v ustrezno zaporedje; če ne razumete, kaj pravim, vam moram del povedanega ponoviti na drugačen način. Ni to algoritem? Po drugi strani pa je algoritmično mišljenje podobno iskanju poti s pomočjo sistema GPS: levo, naravnost, še enkrat levo in nato desno. Sledim zaporedju ukazov in pridem do cilja, obvladam algoritem, vendar pa ne vem kje sem, nimam pregleda, ker nisem oblikoval kognitivne karte. Po mojem mnenju je kritično mišljenje bližje kognitivni karti kot sledenju korak za korakom. Vedeti moramo kje smo, da bi se lahko avtonomno odločili kam naj gremo. Kot sem rekel, ne znam odgovoriti na to vprašanje.
S katerimi ukrepi lahko univerza pripravi študente na svet, ki ga vse bolj oblikuje UI in jih hkrati spodbuja, da ohranijo lastno delovanje in odgovornost?
Ko smo razmišljali o ustanovitvi centra, smo si najprej zamislili, da bomo poskrbeli, da nihče, ki konča študij na naši univerzi, ne odide v svet nepripravljen na izzive, ki jih prinaša umetna inteligenca. Prav tako bi moral biti nanje pripravljen vsakdo, ki je na UP zaposlen – pedagoško, raziskovalno ali v okviru strokovnih služb. V tem smislu nam bolj kot ukrepi lahko pomagajo konkretne aktivnosti, vpeljane in izpeljane na ustrezen način. Sem sodijo, kar zadeva študente, izbirni predmeti, ki se ponujajo vsem, ki študirajo na univerzi. V načrtu imamo najprej akreditacijo predmeta, ki bo ponujal temeljna znanja oz. kompetence s področja umetne inteligence. To pomeni prvič minimalno znanje s področja tehnologije, ali bolje rečeno, razumevanje tehnologije – kaj je UI in kako deluje? Drugič, kako tehnologijo UI kompetentno uporabljati – najprej na osnovnem nivoju, nato pa nakazati, kaj je mogoče narediti na napredni stopnji (npr. z nekaj znanja programiranja). In naposled, kako jo uporabljati odgovorno in etično na vseh treh nivojih – individualnem, družbenem in okoljskem. Kdor bo ugotovil, da bi z napredno rabo UI lahko izboljšal svoje študijske ali raziskovalne dosežke, bo imel v nadaljevanju možnost svoje znanje nadgraditi na izobraževanjih, delavnicah, in bolj ciljno usmerjenih izbirnih predmetih. Pri tem se mi zdi pomembno, da prenos znanja ni enosmeren, zato načrtujemo tudi izvedbo okroglih miz, pogovorov in srečanj, na katerih bo mogoče izmenjevati mnenja in izkušnje na tem področju ter ohranjati dialog in kritično mišljenje.
Ali bi izpostavili dober primer uvajanja praks UI v univerzitetno okolje, ki se že odvija?
Mislim, da moramo najprej ločiti okolje, v katerem so sistemi UI del študijskega procesa in raziskovanja, čemur bi lahko rekli učenje in poučevanje o umetni inteligenci, ki poteka predvsem na UP FAMNIT, in okolje, v katerem se ti sistemi uporabljajo kot orodja za dosego nekih drugih ciljev. V prvem primeru je dobrih praks veliko, omenim lahko npr. razvoj lastnega GPT-ja, ki bi bil lahko v pomoč strokovnim službam. Vendar pa je to okolje specifično tudi v smislu zavračanja uporabe samega izraza »umetna inteligenca«. Ljudje, ki se ukvarjajo z raziskovanjem in poučevanjem tega, kar v javnosti poznamo kot umetna inteligenca, raje uporabljajo izraz »strojno učenje«, in tega tudi ne povezujejo izključno z generativno umetno inteligenco.
Na drugi strani, kjer imamo ljudi, ki so ali smo se srečali z umetno inteligenco šele takrat, ko so se pojavili veliki jezikovni modeli in je spregovorila v vsem razumljivem jeziku, je situacija precej drugačna. V okviru Delovne skupine za ustanovitev Centra za umetno inteligenco na UP, ki je delovala v preteklem letu, nas je zanimalo tudi to, zato smo izpeljali raziskavo o stališčih in uporabi umetne inteligence na UP. Končnih rezultatov sicer še nimamo, tako da je naš pregled nad celoto precej omejen, vendar pa je kljub temu mogoče reči, da imamo zelo širok spekter pogledov in uporab, in da so dobre prakse povezane v veliki meri s samoiniciativnostjo. Marsikdo pri svojem delu uspešno uporablja orodja za oblikovanje idej, iskanje virov, prevajanje itn. Vsekakor pa obstaja potreba po sistematičnem pristopu na tem področju.
Bi pa kot primer dobre prakse lahko izpostavil tudi celovit pristop UP do tehnologije umetne inteligence. Sistemi generativne umetne inteligence so se pojavili konec leta 2022, pomladi leta 2023 so se pričele organizirati okrogle mize in srečanja na to temo, oblikovala se je delovna skupina, ki je pripravila prej omenjena Stališča do rabe umetne inteligence, v letu 2024 je bila oblikovana delovna skupina za ustanovitev centra in zdaj imamo center.
Kako si predstavljate prispevek centra CeResAI UP k širši akademski in družbeni razpravi, zlasti na področju izobraževanja?
Center smo ljudje in nekateri smo že zdaj vpeti v razprave, ki potekajo na različnih ravneh v zvezi z vlogo umetne inteligence v izobraževanju. Tako v okviru univerze, kot tudi na nacionalni in mednarodni ravni. To je en vidik. Po drugi strani je obstajalo zanimanje za tovrstni prispevek centra še preden je bil ta ustanovljen, tako v lokalnem okolju kot tudi globalno – v načrtu imamo, če omenim samo nekaj primerov, sodelovanje s srednjo šolo iz lokalnega okolja, s centrom za odgovorno tehnologijo na eni izmed partnerskih univerz iz konzorcija T4EU, in tudi sodelovanje z različnimi institucijami iz Azije, Afrike in Južne Amerike. V tem smislu bi bil center lahko stičišče za izmenjavo idej in dobrih praks s širokim spektrom institucij z zelo različnih področij, pri čemer bi pomembno vlogo igralo ravno izobraževanje.
Britanski pisatelj in izumitelj Arthur C. Clarke je zapisal, da dovolj razvite tehnologije ne moremo ločiti od magije. Ko jo dojamemo, ni več magija, temveč samo še orodje. V kontekstu umetne inteligence zato velikokrat slišimo izraz »demistifikacija«. Mislim, da imamo, kar se tega tiče, težavo na obeh koncih spektra. Na enem koncu si lahko predstavljamo ljudi, ki o tehničnih vidikih te tehnologije ne vedo ničesar, jim je nekaj povsem novega in vanjo projicirajo človeške značilnosti, kot sta mišljenje in razumevanje, nenazadnje pa tudi laganje. Generativna umetna inteligenca ne laže, laže samo človek. Do zasvojenosti z UI, ki danes ni več nikakršna redkost med mlajšimi, je potem samo še korak.
Na drugem koncu pa imamo strokovnjake, ki poudarjajo, da je umetna inteligenca samo statistika, in da se ni zgodila nikakršna revolucija, pač pa gre za evolucijo, ki poteka že desetletja. Mislim, da bi lahko bil pomemben prispevek centra v tem, da pokaže, da sta obe skrajnosti mistifikacija in se vrne k Aristotelovi srednji poti – umetna inteligenca ni niti magija niti ni samo statistika.
Učinki te tehnologije so realni, njihovo razumevanje pa je ključno za našo prihodnost. Vendar pa se moramo tega zavedati tako na ravni univerze, kot tudi na širši družbeni ravni, odpreti moramo prostor za dialog in pri tem – vsaj mislim oz. upam – center lahko veliko prispeva.