Spoštovane kolegice, spoštovani kolegi, naj vam uvodoma povem, da bom sejo po pooblastilu predsednika Odbora za zadeve Evropske unije, gospoda Franca Breznika kot podpredsednik seje vodil jaz.

Začenjam 24. redno sejo Odbora za zadeve Evropske unije!

Obveščam vas, da so zadržani in se seje ne morejo udeležiti naslednje članice in člani: opravičeni predsednik Franc Breznik in poslanca Tomaža Laha nadomešča poslanec Dušan Stojanovič.

Obveščam vas, da so na sejo povabljeni poslanci Evropskega parlamenta iz Republike Slovenije, Urad predsednika Republike Slovenije, Kabinet predsednika Vlade ter predstavniki Vlade in Državnega sveta. V

se navzoče prav lepo pozdravljam!

Prehajam na določitev dnevnega reda seje odbora. S sklicem seje ste prejeli dnevni red, dne 12. 12. 2022 pa ste prejeli še obvestilo o razširitvi dnevnega reda. Tako se dnevni red seje razširi z naslednjo točko: 6. točka - Predlog stališča Republike Slovenije do Predloga sklepa Sveta o podpisu, v imenu Evropske unije, in začasni uporabi Sporazuma med Evropsko unijo in Republiko Sejšeli o dostopu ribiških plovil Sejšelov do voda Mayotta. Ta razširitev določa 154.d člen Poslovnika Državnega zbora.

Določen je torej takšen dnevni red današnje seje odbora, kot ste ga prejeli s sklicem in razširitvijo.

Prehajamo na 1. TOČKO DNEVNEGA REDA - PREDLOG STALIŠČA REPUBLIKE SLOVENIJE DO PREDLOGA UREDBE EVROPSKEGA PARLAMENTA IN SVETA O HORIZONTALNIH ZAHTEVAH GLEDE KIBERNETSKE VARNOSTI ZA IZDELKE Z DIGITALNIMI ELEMENTI IN SPREMEMBI UREDBE (EU) 2019/1020.

Gradivo k 1., 2. in 3. točki dnevnega reda smo prejeli od Vlade 1. 12. 2022, k 6. točki pa 9. 12. 2022 na podlagi prvega odstavka 4. člena Zakona o sodelovanju med Državnim zborom in Vlado v zadevah Evropske unije.

Skrajni rok za obravnavo gradiva od 1. do 3. točke v Državnem zboru je danes, k 6. točki pa 23. 12.

Še eno pooblastilo, da kolega Gašperja Ovnika nadomešča kolegica Sara Žibert.

Gradivo k tej 1. točki je bilo v skladu z določili Poslovnika Državnega zbora dodeljeno v obravnavo Odboru za zadeve Evropske unije kot pristojnemu odboru in Odboru za notranje zadeve, javno upravo in lokalno samoupravo kot matičnemu delovnemu telesu. Slednje ga je obravnaval na 6. seji, 7. 12. 2022, in sprejel mnenje, ki smo ga prejeli.

Prosim predstavnika Urada Republike Slovenije za informacijsko varnost, gospoda Koriya Goloba, da nam predstavi predlog uredbe in zlasti predlog stališča.

Izvolite!

Najlepša hvala za besedo.

Spoštovane poslanke, spoštovani poslanci!

Dovolite mi, da v nekaj minutah predstavim akt z delovnim naslovom »Cyber Residing Sect« oziroma Uredbo o kibernetski odpornosti.

Evropska unija vsaj že zadnjih 6 let zelo konkretno naslavlja oziroma ureja področje kibernetske varnosti, tako s pravnega, kot tudi z vidika operativnega izvajanja ukrepov. Zavedati se moramo, da je število kibernetskih incidentov v naraščanju, škoda, ki pa je povzročena, gre že v milijarde evrov. Upoštevati moramo, da ne gre samo za vpliv na podjetja, kritično infrastrukturo ali državno upravo, ampak tudi za neposreden vpliv na državljane. Lahko rečemo, da Uredba o kibernetski odpornosti zelo pomembno dopolnjuje že do sedaj sprejet pravni okvir na področju kibernetske varnosti, tukaj imamo v mislih predvsem direktivo NIZ 1 oziroma NIZ 2, ki je tako rekoč že sprejeta, ki naslavljata na varnost kritičnih storitev, Akt o kibernetski varnosti, ki ureja certificiranje informacijsko komunikacijske tehnologije ter Direktivo o odpornosti kritičnih subjektov.

Pri Uredbi o kibernetski varnosti gre za to, da predlog določa zahteve, ki se bodo uporabljale za proizvajalce programske in strojne opreme in bo spodbujalo zaupanje uporabnikov, torej nas vseh, v izdelke z digitalnimi elementi, kar je ključno za nadaljnji razvoj.

Uredba o kibernetski odpornosti določa bistvene minimalne varnostne zahteve, ki jih bodo morali izpolnjevati izdelki z digitalnimi elementi. Pri njih gre za strojno in programsko opremo, ki se umešča na evropski trg, kot tudi za pripadajoče rešitve oddaljene obdelave podatkov za namene delovanja teh izdelkov. Te obveznosti naslavljajo tudi tako proizvajalci, distributerje in uvozniki omenjenih izdelkov.

Uredba opredeljuje postopke preverjanja skladnosti z varnostnimi zahtevami, opredeljuje zahteve glede obravnavanja ranljivosti ter zahteve glede uporabniške in tehnične dokumentacije.

Če pogledamo katera dva glavna cilja ta uredba zasleduje, je, da se ustvarijo pogoji za razvoj varnih izdelkov, z digitalnimi elementi, zagotavljam, da se na trg dajo izdelki strojne in programske opreme z manj ranljivostmi, in da proizvajalci v celotnem življenjskem ciklu izdelka resno obravnavane obravnavajo vprašanje varnosti. Druga zelo pomembna zadeva pa je, da se ustvari pogoje, ki bodo uporabnikom omogočali upoštevanje kibernetske varnosti pri izbiri in uporabi izdelkov digitalnih elementov.

Kakšna je situacija danes? Danes imamo na trgu ogromno naprav, povezanih v medmrežje, ki so tako rekoč brez standardizacijskih oziroma certifikacijskih shem in mehanizmov. S tem v tem trenutku vso varnostno tveganje prelagamo na uporabnike. Evropska unija želi s to uredbo določiti enake pristojnosti oziroma doseči, da proizvajalci ne prelagajo svoje odgovornosti na uporabnike. V tem smislu Republika Slovenija pozdravlja tovrsten pristop in sprejem uredbe.

Naj pa povem, da je rok za sprejem akta leto 2024. Uredba začne veljati 24 mesecev po njenem sprejemu. Izjema pa je obveznost poročanja v zvezi z aktivnim izkoriščanjem ranljivostmi, kjer je rok 12 mesecev.

Še za zaključek, pa smo vas dolžni seznaniti z dejstvom, da uredba določa tudi nadzor pri izvajanju. Ker govorimo o velikem številu proizvodov, smo to tudi v stališču, ki smo ga izoblikovali, opozorili, da bo potrebno ustrezno skrbeti za nadzor, izvrševanje omenjene uredbe ter tudi sankcije, kdorkoli bo že določen kot nadzorni organ za izvajanje omenjene uredbe. To pomeni, da bo potrebno zagotoviti materialna sredstva in ustrezno kadrovsko odpornost.

Hvala.

Najlepša vam hvala.

Pri tej točki odpiram razpravo poslank in poslancev. Ker vidim, da interesa za razpravo ni, zaključujem razpravo.

Ker je predlog stališča daljši, ga, če se strinjate, ne bi bral v celoti, tako dajem na glasovanje predlog stališča, kot je bil objavljen na 4 in 5 strani prejetega gradiva.

Glasujemo. Navzočih je 12 članic in članov odbora, za je glasovalo 12, proti ni glasoval nihče.

(Za je glasovalo 12.) (Proti nihče.)

Ugotavljam, da je stališče sprejeto.

S tem končujem 1. točko dnevnega reda.

Prehajamo na 2. TOČKO DNEVNEGA REDA - PREDLOG STALIŠČA REPUBLIKE SLOVENIJE DO PREDLOGA DIREKTIVE EVROPSKEGA PARLAMENTA IN SVETA O PRILAGODITVI PRAVIL O NEPOGODBENI CIVILNI ODGOVORNOSTI UMETNI INTELIGENCI (DIREKTIVA O ODGOVORNOSTI NA PODROČJU UMETNE INTELIGENCE).

Gradivo k 2. in 3. točki je bilo v skladu z določili Poslovnika Državnega zbora dodeljeno v obravnavo Odboru za zadeve Evropske unije kot pristojnemu odboru in Odboru za pravosodje kot matičnemu delovnemu telesu. Slednji je omenjeni gradivo obravnaval na 8. seji, 14. 12. 2022, in sprejel mnenje, ki smo ju prejeli.

Prosim državnega sekretarja dr. Igorja Šoltesa, da nam predstavi predlog direktive in še zlasti stališče Republike Slovenije.

Izvoli!

Hvala za besedo... /mikrofon ni vklopljen/ / vklop mikrofona/

Še enkrat, spoštovani predsedujoči, hvala za besedo.

Spoštovane poslanke in poslanci!

Pred nami je Predlog stališča Republike Slovenije glede direktive Evropskega parlamenta in Sveta o prilagoditvi pravil o nepogodbeni civilni odgovornosti umetni ali pa umetne inteligence.

Evropska komisija je letos oktobra predstavila predlog te direktive o odgovornosti na področju umetne inteligence. In predlog se nanaša na področje, ki ga doslej evropsko pravo ali pa evropsko zasebno pravo ni urejalo.

Namen predloga direktive je predvsem olajšati položaj odškodninskega upravičenca, če uveljavlja nepogodbeno civilnopravno odškodninski zahtevek na temelju krivdne odgovornosti in je do nastanka škode prišlo zaradi uporabe umetno inteligenčnega sistema. Predlog uvaja pravila, ki bodo olajšala položaj oškodovancev, tako da bi lažje, ceneje in hitreje uveljavljal svojo odškodninsko, svoj odškodninski zahtevek. In dejansko pri teh zahtevnejših umetno inteligenčnih sistemov prelaga dokazno breme iz oškodovanca na ta, na ta umetno inteligenčni sistem.

Predlog direktive razlikuje med načinom uveljavljanja zahtevkov za umetno inteligenčni sistem velikega tveganja in pa uveljavljanja zahtevka glede vseh ostalih umetno inteligenčnih sistemov.

Potrebno je izpostaviti, da predlog direktive obeh sistemov sam sicer ne ne definira, pri tem pa se poslužuje definicij, ki jih najdemo v predlogu Akta o umetni inteligenci, glede katerega je Svet že sprejel splošen pristop 6. decembra.

Ključna določba predloga direktive je, da če bi potencialni oškodovanec verjetno izkazal, da je umetno inteligenčni sistem velikega tveganja povzročil škodo, bi lahko zahteval od nasprotne stranke razkritja ali zavarovanje dokazov tudi po sodni poti.

Predlog tudi določa, da v primeru, če zavezanec za razkritje podatkov le-teh ne bi hotel razkriti ali zavarovati dokazov, bi se domnevala vzročena zveza med krivdo odgovorne osebe in izhodnimi podatki, če so bili vzhodni izhodni podatki objektivno gledani takšni, da so povzročili zmedo. Ravno ta domneva vzročne zveze med krivdo odgovorne osebe in izhodnimi podatki, ki so objektivno gledani povzročili škodo, je izpodbojna in omejena. Na primer, če se izkaže, da ima tožeča stranka na voljo dovolj dokazov domneva, se ta domneva vzročne zveze ne more uporabiti.

Pri umetno inteligenčnih sistemih, ki niso sistemi velikega tveganja, pa bi taka domneva veljala v omejenem obsegu, se pravi samo takrat, če bi bilo za odškodninskega upravičenca pretirano težko dokazati vzročno zvezo med škodo in delovanjem teh umetno inteligenčnih sistemov.

Republika Slovenija Predlog direktive, katere namen je posodobitev pravne ureditve odgovornosti in prilagoditev spremenjenim razmeram podpira, ker predvsem v prvi vrsti olajšuje trditveno in pa dokazno breme.

Hvala.

Najlepša hvala.

Odpiram razpravo poslank in poslancev pri tej točki.

Ja, poslanec Gregorič, izvoli!

Dobro jutro!

Jaz sem že na enem drugem odboru dal moja opažanja.

Kot prvo me je zanimalo ali se bo s to direktivo pojavila možnost omejitve odškodninskega zneska, in kot drugo pa, da ob pripravi te direktive bi bilo dobro pogledati podobno ureditev, ki je v veljavi že 30, 40 let za področje uporabe jedrske energije, skratka odgovornost za jedrsko škodo, in bi bilo treba tu iskati paralele.

No, pol pa še med tem sem, očitno je že prišel odgovor, glede na to, da proizvod vključuje tudi električno energijo, plina pa ne. In zdaj sem dobil tu, bi rekel, sofisticiran odgovor pravnikov, ki seveda me na stvarnopravnem zakoniku povozijo v nulo. Ampak jaz mislim, da je to več kot zadeva za stvarnopravni zakonik, ki je verjetno v Sloveniji drugačen kot v mnogih državah EU.

Hvala lepa.

Hvala.

Državni sekretar, izvolite.

Ja, spoštovani poslanec, kot se spomnite, sva že diskutirala o tem na Odboru za pravosodje, v katerem sem tudi pojasnil, da glede omejitve škode bo verjetno v prihodnosti to tudi diskusija, ampak v okviru ali pa odgovornosti za škodo, verjetno bo pa to predvsem v tem izvedbenem delu predvsem pokazala praksa, potem pa kasneje pa sodna praksa. Ker tako, kot se je v tistem primeru, o katerem ste govorili, atomske energije, se tudi ni zgodilo čez noč, se je zadeva oblikovala tudi na podlagi tveganj, ki so obstajala v tistem času. Bo pa tukaj, po moje, pomembno vlogo igral tudi ta sistem zavarovalnic, ker že v zdajšnjem času se lahko, obstaja velik nabor možnosti zavarovanja višine odškodninske odgovornosti. Je pa seveda vprašanje, kaj to pomeni v teh velikih sistemih, visoko inteligenčnih sistemih velikih tveganj.

Res je, Stvarno pravni zakonik je verjetno po državah različen, kljub vsemu pa je treba reči, no, da kot boste tudi prebrali v tem našem mnenju do konca, večina evropskih pravnih sistemov temelji na Justinijanu, temelji na rimskem pravu, tako da so neki osnovni principi, instituti, posebej še v stvarno pravnem delu zelo, zelo podobni. In, če boste gledali Justinijanovo kodifikacijo rimskega prava, boste lahko naleteli tudi na vprašanja, ki jih navajamo tukaj, kot kaj se šteje plin, kot kaj se šteje elektrika oziroma kot kaj se štejejo tvarine ali pa stvari, se pravi premične.

In moram reči, da v evropskem prostoru pa poskuša to zajeti ta direktiva, ki je bolj ali manj posrečeno zdefinirala ta pravila glede odgovornosti. Ampak bistvo te direktive, kot rečeno, je to, da se olajša dokazno breme oškodovancu takrat, kadar gre za visoko tvegane inteligenčne sisteme, ker je praktično za oškodovanca nemogoče dokazati zapletene sisteme teh algoritmov, zato je to, kakorkoli obrnemo, vseeno en pomemben korak k lažjemu ali pa postavlja nekako ravnotežja med dvema, med oškodovancem in visoko inteligenčnimi sistemi, da imajo vseeno bolj enakopraven položaj v tem medsebojnem nepogodbenem razmerju.

Hvala.

Najlepša hvala.

Bi? Aha, dobro. Torej, če nadaljnjega interesa za razpravo ni, zaključujem razpravo pri tej točki.

In še eno nadomeščanje, poslanec Miroslav Gregorič nadomešča poslanca Tomaža Laha.

Torej, zdaj bomo glasovali.

Na glasovanje dajem Predlog stališča Republike Slovenije, ki se glasi: »Republika Slovenija podpira Predloga direktive Evropskega parlamenta in Sveta o prilagoditvi pravil o nepogodbeni civilni odgovornosti umetni inteligenci (direktiva o odgovornosti na področju umetne inteligence), saj bo olajšal uveljavljanje odškodninskih zahtevkov, kadar je škoda nastala zaradi uporabe izdelkov z umetno inteligenco.«

Glasujemo. Navzočih je 14 članic in članov odbora, za je glasovalo 14, proti ni glasoval nihče.

(Za je glasovalo 14.) (Proti nihče.)

S tem končujem 2. točko dnevnega reda.

Prehajamo na 3. TOČKO DNEVNEGA REDA - PREDLOG STALIŠČA REPUBLIKE SLOVENIJE DO PREDLOGA DIREKTIVE EVROPSKEGA PARLAMENTA IN SVETA O ODGOVORNOSTI ZA PROIZVODE Z NAPAKO.

Tudi pri tej točki prosim državnega sekretarja dr. Igorja Šoltesa, da nam predstavi predlog direktive in predlog stališča.

Izvoli!

Hvala predsedujoči.

Torej namen te direktive je nadomestiti dve doslej veljavni direktivi, ki sta uvedli objektivno odgovornost za proizvode z napako, vendar so njune določbe na nekaterih mestih zastarele. Na podlagi teh dveh trenutno veljavnih direktiv odgovarja proizvajalec in v določenih primerih tudi druge osebe za škodo, ki jo je povzročila napaka. Napaka pa mora biti izkazana oziroma morajo biti takšne vrste, da je zaradi nje proizvod nevaren. Zahteva se lahko le povrnitev materialne škode. Odgovornost proizvajalca na temelju direktiv je neodvisna od odgovornosti prodajalca za napake prodanega proizvoda. Predlog nove direktive je te rešitve ohranil. Novosti se nanašajo predvsem na razširjeno opredelitev izdelka oziroma proizvoda. Doslej je namreč za proizvod veljala zgolj premičnina, nejasno pa je bilo, ali se za proizvod šteje ali pa velja tudi, na primer visoko ali pa programska oprema, če poenostavim. Predlog direktive dopolnjuje opredelitev proizvoda tako, da vključuje tudi programsko opremo in z njo povezano programsko storitev, tako da se na nek način ta direktiva po delni vsebini nanaša tudi na tisto prejšnjo, o kateri sem govoril glede visoko inteligenčnih sistemov. To v praksi pomeni razširitev odgovornosti tudi na proizvode, ki vključujejo programsko opremo in z njim povezano storitev.

Predlog direktive vsebuje tudi rešitev, po kateri bo omogočeno bistveno lažje dokazovanje s strani oškodovanca. Gre za povsem nove določbe o olajšavi dokaznega bremena. Tako bo lahko domnevni oškodovanec od odgovorne osebe zahteval razkritje dokazov.

Torej, predlog direktive predpostavlja, da se napaka proizvoda domneva v treh primerih: če odgovorna oseba ni razkrila dokazov, če proizvod ni skladen z obveznimi varnostnimi predpisi in standardi, in če je škoda nastala zaradi očitne okvare med normalno uporabo ali v običajnih okoliščinah.

Pomembno je pa izpostaviti, da je oškodovanec lahko samo fizična oseba, ne pa oziroma fizio osebe in pa njen pravni naslednik.

Predlog direktive ureja tudi roke, v katerih preneha pravica uveljavljanja odškodninskega zahtevka. Kjer pa si želimo pridobiti natančnejše pojasnilo ali so predvideni roki za uveljavljanje pravic zastaralni ali pa je kakšen rok tudi izključevalen oziroma prekluziven.

Republika Slovenija predlog direktive podpira, ker prinaša koristno posodobitev pravne ureditve.