18. nujna seja

Odbor za zunanjo politiko

14. 2. 2020
podatki objavljeni: 14. 2. 2020

Transkript

Spoštovani! Nadaljujemo z 18. nujno sejo, ki je bila prekinjena. Obveščam vas, da sem prejel naslednja opravičila in pooblastila. Najprej pooblastila: mag. Mateja Tonina nadomešča gospod Jernej Vrtovec, gospoda Aljaža Kovačiča nadomešča Igor Peček, mag. Meiro Hot nadomešča mag. Marko Koprivc, namesto mag. Branislava Rajića je z nami Gregor Židan in Moniko Gregorčič nadomešča Gregor Perič. Imam še nekaj opravičil in sicer v imenu gospoda Primoža Siterja, mag. Branka Grimsa, dr. Anžeta Logarja in Zmaga Jelinčiča. Mislim, da še Janez Janša je tukaj nekje vmes – opravičilo v imenu gospoda Janeza Janše, tako je ter gospe Nine Maurovič. Besedo dajem tako predstavniku ministrstva in sicer državnemu sekretarju na Ministrstvu za izobraževanje, znanost in šport, da nam poda stališča oziroma izhodišča za razpravo. Ter še eno obvestilo imam in sicer o odsotnosti dr. Mateja T. Vatovca. Dr. Jernej Štromajer, imate besedo, izvolite.
Jernej Štromajer
Hvala za besedo in lep pozdrav vsem skupaj! Torej, imamo pred sabo predlog Vlade, da se ustanovi v Republiki Sloveniji UNESCO center za mednarodno sodelovanje umetne inteligence. Po izjemnem uspehu na 2. svetovnem kongresu o prosto dostopnih združevalnih virih je prišlo v Republiki Sloveniji do pobude za ustanovitev t.i. mednarodnega raziskovalnega centra za umetno inteligenco pod UNESCO, druge kategorije. Vodstvo UNESCA se je novembra 2018 pozitivno odzvalo na pobudo MJZŠ ter predlagalo, da se pripravi podrobnejši predlog za ustanovitev centra. MJZŠ je na UNESCO posredoval dodelan predlog, ki predvideva, da bo center v začetni fazi zaživel v okviru Inštituta Jožef Štefan v Ljubljani. Države članice izvršnega odbora UNESCO so predlog Republike Slovenije soglasno z veliko podporo tudi potrdile, tako da je bila potem dokončna odločitev o ustanovitvi centra sprejeta na zasedanju generalne konference UNESCO, novembra 2019. Republika Slovenija bo tako center ustanovila predvidoma v prvi polovici leta 2020. Zato je tudi danes ta pobuda pred vami. Kot rečeno, bo center v začetni fazi ustanovljen tako, da se bo enota na Inštitutu Jožef Štefan preoblikovala v mednarodni raziskovalni center za umetno inteligenco pod okriljem UNESCA. Namen centra bo zagotavljanje odprtega in preglednega okolja, ki bo poleg raziskav umetne inteligence, reševanje globalnih izzivov, s pomočjo tehnologije umetne inteligence globalnega izobraževanja in razprav na področju umetne inteligence, deležnikom po vsem svetu zagotavljal tudi t.i. javno-politično oziroma policy podporo pri pripravi usmeritev in akcijskih načrtov na področju umetne inteligence.  (nadaljevanje) Center bo vključujoč in bo zato povezoval kompetence s področja umetne inteligence v Sloveniji, po svetu in pa vzpodbujal in koordiniral vzpostavljanje podobnih centrov po svetu. Kot rečeno to bo prvi tovrstni center pod UNESCO na svetu. O tem so poročali številni globalni mediji, recimo tudi časopis Forbes. Kaj lahko ta center ponudi drugim državam? Center bo vladam, mednarodnim organizacijam, pravnim osebam, drugim osebam in širši javnosti zagotavljal ustrezno strokovno podporo pri sistemskih in strateških rešitvah pri uvajanju umetne inteligence na različnih področjih, pomagal bo pri razvijanju, širjenju zmožnosti za različne načine, vključno z ustanavljanjem pomožnih raziskovalnih centrov po svetu, oblikovanjem programov usposabljanja in globalne osveščenosti ter oblikovanje omrežij za izmenjavo raziskav in znanja.  Center bo deloval v številnem mednarodnem okolju, / nerazumljivo/ mrežo, kompetence, sodelovanja z drugimi državami po svetu. Preko tehnologije umetne inteligence iskal na odgovore na globalne izzive. Vseh 193 članic UNESCA je na generalni skupščini UNESCO kot rečeno soglasno podprlo ustanovitev tovrstnega centra in si tudi želi sodelovanja. Lahko rečemo, da je Slovenija na tem področju resničen globalni pionir, hkrati pa bi si upal trditi, da gre za največji slovenski zunanjepolitični uspeh na področju znanosti sploh, oziroma vsaj v zadnjem času. Toliko na kratko, seveda sem na voljo še za dodatna pojasnila.
Hvala lepa. Kolegice, kolegi odpiram razpravo. Želi kdo kaj povprašati? Gospod Jožef Horvat, imate besedo, izvolite.
Hvala lepa. Jaz se tukaj spomnim in se zahvaljujem ministrici gospe Maji Brenčič, ki je naredila prve korake v tej smeri. Upam, da bo ta zadeva dobro zaživela.  Zdaj pa čisto konkretno. 4. člen, jaz to zdaj razumem kot piše, da bo imel ta center pravno subjektiviteto. Bo lahko sam samostojno sklepal pogodbe, sprožil pravne postopke in tako naprej. Deloval naj bi v začetni fazi, piše, pod streho Inštituta Jožef Štefan. Zdaj, kako bo, če bo sam del sklepal pogodbe, kako bo registriran? Po Zakonu o zavodih, gospodarskih družbah, ustanovah? O društvih najbrž ne, a ne? Narišite nam tole organizacijsko shemo. In potem še… malo manjka recimo 7. člen, pravni odbor, 4. točka: Upravni odbor sprejme svoj Poslovnik. Seveda, Poslovnik je za seje. Glede pravne subjektivitete in načina registracije bi moral imeti nek status. O tem ni govora. In tu kar naenkrat v točki 3 je tudi govora o predsedniku. Tudi nič ne piše, morda v Poslovniku? Ne vem. To bi bolj v statutu moralo pisati, kako se sploh tega predsednika izvoli oziroma postavi. To je zdaj nekaj takšnih bolj tehničnih vprašanj. Hvala.
Hvala lepa. Vidim, da je še ena želja. Gospod Gregor Perič, izvolite, imate besedo.
Ja, hvala lepa. Lep pozdrav vsem, še zlasti predstavnikoma vlade. Meni se zdi pomembno poudariti, da je to kot smo danes tudi že slišali zelo pomemben korak ne samo za Slovenijo kot državo, ampak tudi v končni fazi za našo znanost kot tako. In nek pomemben dosežek tudi v zunanje-političnem smislu. Vsa ta prizadevanja, da smo danes prišli tako daleč, da lahko že zelo konkretno govorimo o tem centru umetne inteligence, so se začela še v prejšnji vladi, tako kot je tudi kolega Horvat omenil – pod takratno ministrico za izobraževanje, znanost in šport – dr. Majo Makovec Brenčič, ki je maja 2018 podala pobudo za ustanovitev tega UNESCO centra za umetno inteligenco in me veseli, da je potem tudi ta vlada ta prizadevanja pripeljala do te točke, da se zelo konkretno pogovarjamo o temu, da center ustanovimo v Sloveniji, kar verjamem, da bo pritegnilo veliko pozornosti in raznoraznih energij ali pa takih in drugačnih inteligenc tudi v Slovenijo. Ne nazadnje smo se v preteklosti tudi zelo veliko pogovarjali o temu – tudi danes navsezadnje, da nam možgani uhajajo, tako da to je ena priložnost, da možgane spet obdržimo, pa tudi pritegnemo. Ker, če malo poznamo situacijo, veliko lažje je pritegniti neke kadre iz tega bazena Balkana, veliko več izzivov pa imamo, da pritegnemo kadre, ki so severneje ali pa zahodno od nas. To je ena taka dobra priložnost, da nam tukaj uspe. Je pa z inteligenco tako, da nikoli ne škodi. Zdaj, če je klasična, če je čustvena, ali pa če je umetna.  (nadaljevanje) Pri pregledovanju gradiva sem videl, da bo država oziroma Vlada v letu 2020 in v letu 2021 sodelovala s skupno 400 tisoč evri nekih zagonskih sredstev. Pa me zanima, kako je predvideno v prihodnje, kadar bo ta center že postavljen – na kakšen način bi se naj financiral, s katerih virov vse bi oziroma bo tudi podprt? Jaz predvidevam, da bodo to tudi sredstva, ki ne bodo neposredno vezana oziroma, ki ne bodo bremenila državnega proračuna, čeprav verjamem, da s prihodom vseh teh znanstvenikov oziroma ljudi, ki bodo tako ali drugače povezani s tem centrom, bo naša država absolutno imela v tem smislu pozitivno bilanco.  Hvala za odgovore.
Še gospod Nik Prebil. Izvolite.
Ja predsednik, hvala lepa. Saj bom zelo kratek, ker me je kolega Perič že v enem delu prehitel. Vsekakor jaz to podpiram. Jaz se tudi konec meseca udeležujem zasedanja na OECD, kjer bo ravno cel panel namenjen umetni inteligenci. Kjer bomo strokovnjaki, ki se s področjem ukvarjajo, govorili o tem in tudi vplivu neke etičnosti v okviru umetne inteligence, za katero jaz menim, da se moramo o tem pogovarjati. Ne nazadnje o nekih celotnih vplivih umetne inteligence na človeštvo jih še enostavno nimamo, niti ne vemo, kako bi lahko vplivali in se o tem moramo pogovarjati in ustvariti neke ustrezne, če rečem lahko temu, varovalke, da ne bi prišlo mogoče do nekih zlorab sistema. Zdaj, kot je kolega Perič omenil tudi mene zanima, kaj je s temi sredstvi vnaprej? Nekako se mi morda zdi, da so ta sredstva mogoče malo nerealno ocenjena, glede na to, da vemo, da gre za relativno drag razvoj te tehnologije. Moram pa reči glede na to, kolikor govorim s kolegi v mednarodnem okolju, gre res za en dober dosežek na tem področju, ki ga mednarodne institucije zelo cenijo. Ne nazadnje v Sloveniji v okviru Inštituta Jožef Štefan že kar nekaj let deluje ta razvoj, pa tudi imamo nekatera podjetja v Sloveniji, ki se s tem razvojem umetne inteligence ukvarjajo in delujejo dobro in prepoznavno na mednarodnem področju. Tako da vsekakor zadevo podpiram. Kar pa bo govora na zasedanju OECD na to temo, pa seveda lahko odboru ustrezno poročam in boste vedeli kako tudi Slovenija deluje na tem področju v okviru OECD. Hvala.
Dr. Andrej Štromajer izjemno vas bom prosil za kolikor se le da kratek odgovor, ker naš čas priganja. Izvolite, imate besedo.
Jernej Štromajer
Sem bom potrudil se biti kar se da kratek. Najprej gospodu Horvatu. Center bo v začetni fazi ustanovljen tako, da bo center za prenos znanja na področju informacijskih tehnologij na Inštitutu Jožef Štefan, se preoblikoval in preimenoval v mednarodni raziskovalni enter za umetno inteligenco pod okriljem UNESCA. Se pravi ne govorimo o novi pravni osebi, ampak govorimo o delu obstoječega Inštituta Jožef Štefan in bo tako kot pravna subjektiviteta ostal znotraj JRZ, Javnega raziskovalnega zavoda Jožef Štefan. Pri čem naj opozorim, da kar se njihove upravno-organizacijske oblike centra, da UNESCO sam ne najbolj podpira ustanavljanje novih centrov, temveč njihovo prestrukturiranje obstoječih centrov v UNESCO centre druge kategorije. Zato smo se skupaj z UNESCO odločili, da bomo preimenovali obstoječi center za prenos znanja in informacijskih tehnologij znotraj IJS, v UNESCO center druge kategorije. To pa zdaj že se veže tudi na ostala vprašanja, ki so mi kolegi dali. Da vsa infrastruktura, 12 zaposlenih, finance, pisarne, administracija znotraj obstoječega centra oziroma tega, kar imamo že sedaj in evropski projekti, skupaj s finančnimi prilivi ter podpora, bodo neposredno tako prešli iz obstoječega centra IJS za prenos znanja na področju informacijskih tehnologij, na UNESCO center. Hkrati pa tako kot ste že v sporazumu izpostavili, se v dogovoru z UNESCO vzpostavi svetovalno telo »advisory board centra«, ki bo izvajalo nadzor nad izvajanjem programa in namensko uporabo sredstev. V tem telesu bodo sodelovali med drugim tako predstavniki Vlade Republike Slovenije, UNESCA, pri čemer pa UNESCO ne bo imel na ta način nekega posebnega dodatnega vpliva na sam IJZ. Pravna-organizacijska struktura bo pa seveda oblikovana v skladu z veljavno javno-finančno zakonodajo vezano na javne zavode oziroma javne raziskovalne zavode. Kar se finančnih sredstev tiče. Drži, dodatno bo Republika Slovenija namenila dvakrat po 200 tisoč evrov v sprejetih proračunih, ki ste jih potrdili že v Državnem zboru. Nadalje pa seveda v skladu z možnimi finančnimi in proračunskimi sredstvi, pri čemer pa kot rečeno se te kar so že sredstva in kapacitete znotraj IJS, v to še dodatno namenijo oziroma preoblikujejo. Potem pa je tukaj še govora o dodatnih evropskih sredstvih in pa tudi  (nadaljevanje) dodatno namenijo oziroma preoblikujejo. Potem pa je tukaj še govora o dodatnih evropskih sredstvih in pa tudi o tujih razvojnih sredstvih, ker vidimo to kot potencial, da bomo lahko privabili tudi investiciji kapital, ki bi rad razvijal to področje tudi v naši državi v prihodnje.  Tako nekako.
Hvala lepa. Kolegice, kolegi, če ni želje – vidim, da je. Gospod Andrej Šircelj, izvolite, imate besedo.
Hvala lepa, predsednik. Glejte jaz sem tudi pregledal to pogodbo oziroma ta dokument, s katerim je prišlo ministrstvo v Državni zbor po to soglasje. Zdaj ob tem evforiji, ko vsi podpiramo seveda ustanovitev tega centra in tako naprej, kaj se bo dejansko tukaj zgodilo. Nekatere kolege sem zaznal malo evforično, kako bo zdaj vse tako super in tako naprej. Bi vas opozoril na nekaj. Prvič, jaz podpiram ta center, tako da ni dvoma glede tega. Tudi, da se umetna inteligenca raziva naprej. Da pa o tem dokumentu, ki ga je ministrstvo predstavilo tukaj oziroma poslalo v Državni zbor, niso jasni nekateri čisto pravno ekonomsko finančne zadeve. Prvič ni jasna na čigav račun bo šel ta denar tako. Drugič ni jasno, ali se bodo finance vodile ločeno od, če želite Inštituta Jožefa Štefana ali ne. Niso jasni, bom rekel dejansko ti osnovni gabariti, kako bo finančno posloval. Gre tukaj seveda, okej država bo dala 200 tisoč na leto, kaj se bo pa potem dogajalo in kako se bo dogajalo in ali je to v skladu z neko zakonodajo, našo zakonodajo, a je to v zavodih ali Zakon o gospodarskih družbah in tako naprej. Glejte, tega pa ta dokument dejansko ne daje. Dokument ne daje, ne glede na to kakšna obrazložitev bo zdaj tukaj s strani državnega sekretarja. Dokument ne daje teh osnov in bojim se, da bodo nastali zapleti. Tako ali drugače, ker dokument ni natančen, ni precizen. Po mojem mnenju osebnem bi lahko bil – tukaj bi pač naredilo malo več napora ministrstvo, ampak ni. Ne bom uporabil neke druge besede, ampak glede tega ni jasno. In še enkrat, ne glede na to, kaj bo zdaj državni sekretar tukaj povedal, ko se bo to začelo uporabljati, ko se bo to začelo delati, bodo številna vprašanja. In to ni dobro. In to ni dobro za to vlado, da se dejansko tako dela. Ob neki dobri ideji, že na začetku naredi ogromno zapletov na podlagi tega dokumenta.
Izvolite dr. Jernej Štromajer.
Jernej Štromajer
Ja, gospod Šircelj, imate prav, da je te stvari potrebno izpostaviti, ampak kot rečeno – gre za sporazum med državo in UNESCO. Naknadno odnosi med državo in IJS, kjer se bo ta center tudi izvajal, se bo pa do konca leta uredil, kar je tudi dogovorjeno z UNESCO, da potem ta vprašanja, kot ste jih vi rekli, uredimo v pogodbi med MIJZŠ in Inštitutom Jožef Štefan do konca leta ob ustanovitvi tega centra. Je pa že sedaj jasno, da kar se zakonodajnega okvira tiče, bo pa ta center deloval znotraj JRZ, Javnega raziskovalnega zavoda, Zakona o zavodih in drugih pravnih okvirih, ki veljajo za znanstveno-raziskovalne zavode v Sloveniji, kot notranja organizacijska oblika, ki bo pa seveda imela specialni status glede na to, da bo center 2. kategorije pod UNESCO.
Mag. Andrej Šircelj, izvolite.
Glejte, potem tukaj odločamo samo na pol. Imamo pol informacij, ker nimamo dejansko pogodbe med državo, če želite ali pa ministrstvom in Inštitutom Jožef Štefan. Zaradi tega je pač še enkrat ne jasno in ne vemo dejansko v kaj gremo. In razen to, da da država 200 tisoč vsako leto – v redu, saj ideja je dobra, ampak še enkrat ni jasno in transparentno, kako se bo to dejansko delalo. Nekaj naknadno…k er tista pogodba, ker ne bo prišla v Državni zbor, a veste. Tukaj so prišli po 200 tisoč.
Želi še kdo postaviti kakšno vprašanje? Vidim, da ne. Torej zaključujem razpravo. Predlagam, da glasujemo o naslednjem predlogu sklepa: »Odbor za zunanjo politiko potrjuje podano pobudo.« (nadaljevanje) Glasujemo. Kdo je za? (8 članov.) Kdo je proti? (1 član.) Ugotavljam, da je predlog sklepa sprejet. Spoštovani, s tem zaključujem 1. točko dnevnega reda in hkrati tudi 18. nujno sejo Odbora za zunanjo politiko ter vas vse lepo pozdravljam in hvala za vašo prisotnost. Srečno in nasvidenje!