Za odgovoren in etičen razvoj umetne inteligence v Sloveniji.
Dušan Caf • Forum za digitalno družbo • 24. januar 2024
Slovenija ima bogato tradicijo raziskovalne dejavnosti na področju umetne inteligence (UI). Naši znanstveniki in strokovnjaki dosegajo vrhunske rezultate, ki jih priznavajo tudi v svetovnem merilu. Vzpostavljen imamo dober raziskovalno-razvojni ekosistem, ki temelji na sodelovanju med univerzami, raziskovalnimi inštituti in podjetji.
Vendar pa je Slovenija relativno majhna država z omejenimi viri, kar predstavlja izziv za nadaljnji razvoj umetne inteligence. Da bi lahko Slovenija izkoristila ta potencial, mora okrepiti javno financiranje raziskav in razvoja na področju umetne inteligence. S tem bi zagotovila dolgoročno stabilnost in podporo za raziskave in razvoj umetne inteligence v Sloveniji.
Poleg tega mora Slovenija poiskati načine za učinkovitejše sodelovanje med javnim in zasebnim sektorjem. To bi omogočilo boljšo povezavo znanja in izkušenj iz javnega sektorja, ki se osredotoča na temeljne raziskave, z izzivi in potrebami iz zasebnega sektorja, ki se osredotoča na razvoj in uporabo umetne inteligence.
Umetna inteligenca ima velik potencial za razvoj slovenske družbe in gospodarstva. Zato je Vlada Republike Slovenije leta 2021 sprejela Nacionalni program spodbujanja razvoja in uporabe umetne inteligence v Republiki Sloveniji do leta 2025 (NpUI ali Nacionalni program za UI).
Nacionalni program za UI predstavlja pomemben korak k izkoriščanju potenciala umetne inteligence za doseganje ciljev trajnostnega razvoja. Za njegovo učinkovito izvajanje je ključno, da se upoštevajo potrebe in zahteve slovenskega raziskovalno-razvojnega ekosistema na področju umetne inteligence.
V letu 2023 je Ministrstvo za digitalno preobrazbo (MDP) predstavilo koncept Nacionalnega centra za umetno inteligenco (NCUI). NCUI bi bil osrednji organ za koordinacijo deležnikov in podporo razvoju ter uporabi umetne inteligence v Sloveniji.
Forum za digitalno družbo (Forum) ob tem opozarja, da koncept NCUI ne upošteva specifičnih potreb in zahtev slovenskega raziskovalno-razvojnega ekosistema na področju umetne inteligence. Poleg tega NpUI ne predvideva ustanovitve NCUI, kar lahko povzroči napetosti in nasprotovanja ključnih deležnikov v ekosistemu umetne inteligence.
Forum meni, da je ključno, da se Nacionalni program za UI izvaja v javnem interesu in da se umetna inteligenca razvija na način, ki je vključujoč, odgovoren in etičen. Zato je pomembno, da se ustanovitev NCUI temeljito pretehta in da se sprejme odločitev, ki bo najboljša za razvoj umetne inteligence v Sloveniji.
Umetna inteligenca je hitro razvijajoča se skupina tehnologij, ki lahko prinese številne gospodarske in družbene koristi v celotnem spektru gospodarskih in družbenih dejavnosti. Sistemi umetne inteligence so računalniški sistemi, zasnovani za delovanje z različnimi stopnjami avtonomije, ki lahko bistveno spremenijo naša življenja. Zato je pomembno, da se UI razvija in uporablja na etičen in odgovoren način, ki je v skladu z javnim interesom in spoštuje temeljne pravice, določene v Listini EU o temeljnih pravicah.
Razvoj UI je trenutno v rokah zasebnega sektorja, ki vanj vlaga velika finančna sredstva. To lahko pomeni, da se UI razvija in uporablja predvsem v skladu z interesi podjetij, ki jih zanima zlasti dobiček, ne pa v skladu z interesi širše javnosti, ki bi morali biti v ospredju.
Če želimo, da se umetna inteligenca razvija in uporablja za javno dobro, moramo povečati vlogo javnega sektorja. Javni sektor lahko zagotavlja dolgoročno financiranje, nujno za razvoj temeljnih raziskav na področju UI, in financira raziskave, ki so tvegane ali imajo dolgoročne koristi za družbo. Prispeva lahko k razvoju UI, ki je v skladu z javnim interesom, kar vključuje zagotavljanje, da je UI varna, etična in dostopna vsem. Pomaga lahko pri prenosu tehnologij UI v širšo družbo in spodbuja odprte in sodelovalne pristope, ki temeljijo na sodelovanju različnih deležnikov, kot so raziskovalci, podjetniki, civilna družba in uporabniki.
Za aktivno sodelovanje javnih univerz, raziskovalnih inštitutov in javnega sektorja nasploh pri raziskavah in razvoju umetne inteligence je ključno zagotoviti ustrezne pogoje. To vključuje povečanje obsega javnih sredstev za raziskave in razvoj ter javne projekte na področju umetne inteligence, vključno z dolgoročnim financiranjem temeljnih raziskav, ki so nujne za razvoj naprednih tehnologij UI.
Poleg tega je treba povečati obseg sredstev za izobraževanje in usposabljanje kadrov za delo na področju UI, da bo na voljo dovolj usposobljenih kadrov, ki bodo lahko učinkovito uporabljali UI za izboljšanje življenja ljudi.
Nenazadnje pa moramo razvijati tudi javne storitve, ki uporabljajo UI za izboljšanje življenja ljudi. To lahko vključuje storitve na področjih, kot so zdravstvo, socialna varnost, izobraževanje in javna varnost.
Razvoj UI v javnem interesu je ključnega pomena za prihodnost naše družbe. S povečanjem vloge javnega sektorja lahko zagotovimo, da se UI razvija in uporablja na način, ki koristi vsem.
Slovenija ima vzpostavljen raziskovalno-razvojni ekosistem na področju umetne inteligence, ki temelji na sodelovanju med univerzami, raziskovalnimi inštituti in podjetji. Ekosistem ima potencial za nadaljnji razvoj, saj se na področju umetne inteligence v Sloveniji izvaja kakovostno raziskovalno delo, ki je vpeto v mednarodno okolje.
Prizadevanja za izboljšanje ekosistema so usmerjena v dve ključni smeri. Prva smer vključuje oblikovanje ekosistema, ki bo zanimiv tako za domače kot tudi mednarodne deležnike, kar vključuje zavzemanje za sodelovanje z multinacionalnimi podjetji, ki bi imela interes vzpostaviti svoj razvojni center v Sloveniji. Druga smer pa vključuje vzpostavitev pogojev, da bi bil ekosistem kar se da atraktiven in dobro delujoč. To vključuje prizadevanje za koordinirano izvedbo vseh ukrepov NpUI in za učinkovito rabo vseh povratnih in nepovratnih sredstev iz domačih in evropskih virov.
Nacionalni program spodbujanja razvoja in uporabe umetne inteligence v Republiki Sloveniji do leta 2025 (NpUI) predvideva ključne instrumente za izboljšanje ekosistema, kot so center odličnosti za podporo raziskavam UI, ki bo zagotavljal kontinuirano podporo raziskovalnim aktivnostim, vključno z raziskovanjem temeljnih algoritmov in modelov na področju UI (TRL 1-3); konzorcijski projekti, ki bodo spodbujali sodelovanje med različnimi deležniki, kot so raziskovalne organizacije, podjetja, uporabniki rešitev, nevladne organizacije in strokovnjaki s področij, ključnih za uspešen razvoj in uvajanje zaupanja vredne UI; tehnološko-raziskovalni projekti (TRL 2-4) in inovacijski projekti za prenos raziskovalnih in razvojnih rezultatov v nove proizvode in storitve (TRL 5-8), ki bodo zagotavljali prenos znanja iz raziskav v uporabne rešitve, ter projekti odprtega inoviranja, ki bodo spodbujali sodelovanje med podjetji, raziskovalnimi organizacijami in uporabniki rešitev ter zagotavljali hitrejšo in učinkovitejšo uvedbo novih rešitev na trg.
Slovenija si torej s premišljenimi ukrepi prizadeva ustvariti atraktiven raziskovalno-razvojni ekosistem na področju umetne inteligence (UI), ki bo prispeval k trajnostnemu razvoju, ki temelji na uravnoteženju gospodarskega razvoja, varstva okolja in družbene blaginje. Pri tem je ključna dobra koordinacija in izvedba vseh ukrepov, ki jih predvideva NpUI. Ti ukrepi pa zaenkrat ne vključujejo ustanovitve Nacionalnega centra za umetno inteligenco (NCUI).
Z Nacionalnim programom za UI je država za spodbujanje razvoja in uporabe umetne inteligence na različnih področjih in v različnih sektorjih družbe predvidela 110 milijonov evrov sredstev. Že vrsto let zagotavlja tudi programsko financiranje ključnih področij, kot so jezikovne tehnologije.
Dobro delujoč ekosistem omogoča uspešno raziskovanje, razvoj, inoviranje in uvajanje umetne inteligence v gospodarstvo in druge sektorje družbe. Poleg tega zagotavlja podporo regionalnim centrom znanja, ki že imajo vzpostavljene raziskovalne skupine na področju UI.
Forum za digitalno družbo je ob pregledu koncepta Nacionalnega centra za umetno inteligenco, ki ga je predstavilo Ministrstvo za digitalno preobrazbo, ugotovil, da koncept ni skladen z Nacionalnim programom spodbujanja razvoja in uporabe umetne inteligence. Ugotovil je tudi vrsto strokovnih in vsebinskih pomanjkljivosti ter s tem povezanih tveganj.
Nacionalni program za UI predvideva ustanovitev Centra odličnosti za UI za podporo raziskavam modelov UI, algoritmov in tehnologij, ki se z vidika ravni tehnološke razvitosti uvršča na raven TRL 1-3. Ne predvideva pa ustanovitve NCUI, ki bi bil osredotočen na razvojno-inovacijski cikel (TRL 3-8), kot to predvideva koncept NCUI.
Po mnenju Foruma za digitalno družbo vloga NCUI, kot jo je predstavilo Ministrstvo za digitalno preobrazbo, v raziskovalno-razvojnem ekosistemu UI ni dovolj jasno opredeljena. Koncept NCUI ne temelji na premišljeni analizi stanja slovenskega raziskovalno-razvojnega ekosistema umetne inteligence in ne opredeljuje ustrezne umestitve v nacionalni okvir. Koncept ne sledi ključnim potrebam in zahtevam ekosistema in ne identificira jasnih potreb za ustanovitev NCUI.
Postavlja se tudi vprašanje odnosa do ostalih ključnih deležnikov raziskovalno-razvojnega ekosistema umetne inteligence in regionalnih centrov znanja. Kot deležnike izpostavljamo zlasti univerzi v Ljubljani in Mariboru, Institut Jožef Stefan in Mednarodni raziskovalni center za umetno inteligenco pod okriljem Unesca, ki ima prav tako ambicijo, da se vzpostavi kot samostojna pravna oseba javnega prava.
Glede na omejene človeške in finančne vire na področju umetne inteligence, kar je bilo večkrat javno izpostavljeno, med drugim v okviru Nacionalne konference: Umetna inteligenca — prednost in priložnost za Slovenijo novembra lani, je smiselno krepiti obstoječe strukture. Zagotoviti je treba dobro koordinacijo in izvedbo ukrepov NpUI ter krepiti raziskovalno-razvojne in inovacijske sinergije v okviru obstoječih struktur. Vzpostavitev novih organizacijskih struktur mora biti dobro premišljena in utemeljena glede na doseganje ciljev NpUI. To je še zlasti pomembno, če njihovo ustanovitev financira država.
Ustanovitev NCUI kot osebe zasebnega prava predstavlja tveganje za nasprotje interesov in zmanjšanje javnega nadzora nad delovanjem centra. Forum za digitalno družbo meni, da bi morala Slovenija spodbujati predvsem razvoj in uporabo umetne inteligence za javno dobro, zato po njegovem mnenju ustanovitev NCUI kot pravne osebe zasebnega prava ni v javnem interesu.
Že pri pripravi koncepta NCUI je prišlo do nasprotja interesov, saj je pri tem sodeloval eden od ključnih deležnikov, kar predstavlja tveganje, da koncept NCUI ni zasnovan v interesu celotnega ekosistema umetne inteligence in v javnem interesu. Glede na predstavljeni koncept upravljanja NCUI obstaja tudi tveganje za morebitni kronizem pri imenovanju ključnih kadrov.
NCUI bi lahko prek svojega delovanja in upravljanja podpiral določene deležnike na škodo drugih ali postal instrument za promocijo interesov posameznih deležnikov ali skupin, ki bi bili v nasprotju z javnim interesom. Pri tem skrb zbuja predvsem možnost, da bi lahko ustanovitelji NCUI brez bistvenega finančnega pridobili velik vpliv nad upravljanjem centra in nad usmerjanjem morebitnih javnih sredstev.
Nepremišljena ustanovitev NCUI bi lahko privedla tudi do odliva ključnih kadrov iz vodilnih raziskovalnih in razvojnih skupin, kar bi še dodatno oslabilo obstoječi ekosistem in otežilo razvoj umetne inteligence v Sloveniji. Zmanjšale bi se lahko tudi možnosti za financiranje raziskav in razvoja na področjih, ki niso v interesu glavnih akterjev NCUI.
Ustanovitev Nacionalnega centra za umetno inteligenco kot osebe zasebnega prava bi lahko zaradi visokih stroškov delovanja imela negativne učinke na delovanje celotnega ekosistema UI in izvajanje NpUI. Prav tako bi lahko zavrla krepitev regionalnih potencialov in okrnila prilagodljivost in inovativnost pri razvoju in uvajanju umetne inteligence v Sloveniji. Podobne negativne učinke smo zaznali na nekaterih drugih razvojnih področjih, ki so imela privilegiran dostop do javnih sredstev in vpliv na oblikovanje javnih politik.
Koncept Nacionalnega centra za umetno inteligenco temelji na predpostavki, da se bo center ustanovil, ne pa na strokovni analizi potreb in potenciala slovenskega raziskovalno-razvojnega ekosistema ter dejanskih potreb na področju UI. Dokument ne zagotavlja ustreznih odgovorov na vprašanja, kot so potrebe slovenskega gospodarstva in družbe na področju umetne inteligence, potenciali Slovenije na tem področju, opredelitev ciljev in pričakovanih učinkov ustanovitve NCUI ter zagotovitev potrebnega financiranja NCUI.
Poleg tega, da namen ustanovitve NCUI ni dovolj utemeljen, je glavna pomanjkljivost koncepta predlog, da se program dela NCUI pripravi po njegovi ustanovitvi.
Priprava podrobnega programa delovanja, upravljanja in financiranja pred ustanovitvijo NCUI je ključna za njegovo uspešno delovanje. To je še posebej pomembno, če bo center ustanovljen kot oseba javnega prava ali kot javno zasebno partnerstvo. V teh primerih je treba upoštevati številne zahteve in omejitve, ki jih postavlja zakonodaja.
Forum za digitalno družbo meni, da je odločitev o ustanovitvi Nacionalnega centra za umetno inteligenco pomembna in bi morala biti sprejeta v okviru upravljalske strukture za izvajanje Nacionalnega programa za UI. Pred sprejemom odločitve bi morala biti opravljena temeljita analiza potreb in potencialov slovenskega ekosistema umetne inteligence. Analiza bi morala vključevati tudi oceno, ali so merila uspeha, predstavljena v konceptu ustanovitve NCUI, ustrezna, saj ne zajemajo vseh vidikov delovanja in vpliva centra.
Forum predlaga, da se pred odločitvijo o ustanovitvi NCUI opravi objektivna presoja njegove upravičenosti in umeščenosti v slovenski ekosistem umetne inteligence. Predlagajo oblikovanje neodvisne strokovne skupine, ki bi jo sestavljali predstavniki vseh ključnih deležnikov v raziskovalno-razvojnem ekosistemu umetne inteligence v Sloveniji. Skupina bi morala predvsem oceniti, ali obstaja potreba po ustanovitvi NCUI, kako bi NCUI prispeval k razvoju umetne inteligence v Sloveniji, kako ga umestiti v obstoječi ekosistem in ali je ustanovitev NCUI učinkovit ukrep za spodbujanje razvoja in uporabe umetne inteligence v Sloveniji.
Za uspešno odločitev o ustanovitvi NCUI je potrebna temeljita analiza, pri čemer je treba upoštevati, da bodo stroški ustanovitve in delovanja centra visoki, zato morajo prednosti in koristi pretehtati nad stroški in slabostmi NCUI.
Forum za digitalno družbo meni, da je odločitev o ustanovitvi Nacionalnega centra za umetno inteligenco pomembna in bi morala biti sprejeta na podlagi temeljite analize, ki bo jasno pokazala, kako bo center prispeval k razvoju umetne inteligence v Sloveniji.
Forum predlaga, da presojo opravi strokovna skupina, sestavljena iz predstavnikov vseh ključnih deležnikov slovenskega raziskovalno-razvojnega ekosistema umetne inteligence. Skupina bi morala odgovoriti na naslednja vprašanja: ali obstaja potreba po ustanovitvi NCUI, kako bi NCUI prispeval k razvoju umetne inteligence v Sloveniji, kako ga umestiti v obstoječi ekosistem in ali je ustanovitev NCUI učinkovit ukrep za spodbujanje razvoja in uporabe umetne inteligence v Sloveniji.
V interesu Slovenije je, da se umetna inteligenca razvija na način, ki je vključujoč, odgovoren in etičen. Zato je pomembno, da se ustanovitev NCUI temeljito pretehta in da se sprejme odločitev, ki bo najboljša za razvoj umetne inteligence v Sloveniji. Odločitev o ustanovitvi NCUI mora biti sprejeta v okviru upravljavske strukture za izvajanje Nacionalnega programa za UI.
Povezujemo strokovnjake in voditelje pri naslavljanju izzivov digitalne družbe.