Kaj je Digitalni Omnibus za umetno inteligenco?

Digitalni Omnibus za umetno inteligenco je del t. i. Digitalnega svežnja, ki ga je novembra 2025 predstavila Evropska komisija. Digitalni sveženj zajema več sočasnih regulatornih sprememb na področju evropske zakonodaje, ki ureja ravnanje s podatki, kibernetsko varnost ter sisteme umetne inteligence znotraj EU. Z zmanjševanjem administrativnih bremen ter poenostavljanjem nekaterih postopkov na področju digitalnih tehnologij želi Komisija podjetjem olajšati zagotavljanje skladnosti in zmanjšati administrativna bremena podjetij s poenostavitvijo pravil in racionalizacijo postopkov, s čimer naj bi EU postala tehnološko konkurenčnejša. V ta namen je predvidela številne spremembe obstoječih evropskih pravnih aktov, med drugim tudi nekaj sprememb Akta o umetni inteligenci. 

Besedilo Digitalnega omnibusa za UI je dostopno tukaj. 

Več o Digitalnem svežnju si lahko preberete na spletni strani Komisije, pod rubriko Splošna vprašanja. 

Katere ključne spremembe prinaša Digitalni omnibus za umetno inteligenco?

Nekatere ključne spremembe Akta o umetni inteligenci, ki jih uvaja Digitalni omnibus za UI, so: 

1. Novi prepovedani praksi: V 5. člen Akta o UI sta bila vnesena dva nova odstavka, ki prepovedujeta dajanje na trg, dajanje v uporabo in uporabo sistemov UI, ki generirajo intimne podobe posameznikov brez njihovega izrecnega soglasja ter sistemov UI, ki generirajo gradiva, ki prikazujejo spolne zlorabe otrok. Prepovedi se bosta pričeli uporabljati z 2. decembrom 2026.
   
   
2. Sprememba časovnice za začetek uporabe določb glede visoko tveganih sistemov UI: Začetek uporabe določb, ki opredeljujejo pravni okvir za visoko tvegane sisteme UI, se zamika v leto 2027 oz. 2028. Ureditev za visoko tvegane sisteme UI, ki so našteti v Prilogi III, se bo začela uporabljati 2. decembra 2027, ureditev za visoko tvegane sisteme UI, ki so kot izdelki ali deli izdelkov zajeti s področno zakonodajo, opredeljeno v Prilogi I, pa se bo po novem pričela uporabljati šele 2. avgusta 2028.
   
   
3. Pravna podlaga za obdelavo občutljivih podatkov za odpravljanje pristranosti: Novi 4a. člen daje pravno podlago za obdelavo občutljivih podatkov z namenom odpravljanja pristranosti, če je takšna obdelava nujno potrebna za odpravo pristranosti in tega cilja ni mogoče doseči z obdelavo anonimiziranih ali sintetičnih podatkov ter ob izpolnjevanju strogih pogojev.
   
   
4. Mehanizem za zamejitev uporabe Akta o UI v določenih sektorjih: Vnesen je bil pravni mehanizem, ki bo Komisiji omogočal, da v določenih primerih preko implementacijskih aktov zameji obseg uporabe Akta o UI na področjih, ki so urejena s sektorsko zakonodajo, našteto v Oddelku A Priloge I. Mehanizem je namenjen odpravljanju prekrivanja obveznosti, kjer obstoječa sektorska zakonodaja že predvideva specifična pravila za nekatere sisteme UI. 
   
   
5. Sprememba glede strojev: Direktiva 2006/42/ES o strojih je bila prestavljena iz Oddelka A Priloge I v Oddelek B Priloge I. Med drugim to pomeni, da za izdelke, ki so pokriti s to direktivo, nekatere obveznosti iz Akta o umetni inteligenci ne bodo več obvezne. Evropska komisija bo morala v zvezi s tem sprejeti delegirane akte, ki bodo ločeno dopolnili ravan varstva za varnost in zdravje posameznikov.
   
   
6. Razdelitev pristojnosti med Uradom za UI in nacionalnimi organi za nadzor trga: Pristojnosti Urada za UI za nadzor nad sistemi UI, ki temeljijo na modelih UI za splošne namene, kjer je isti ponudnik razvil tako sistem kot tudi model UI, na katerem sistem UI temelji, so bile razmejene. Urad za UI po novem ne bo več pristojen za sisteme UI, ki so našteti v Prilogi I, sisteme UI, ki se uporabljajo v pravosodju ter sisteme UI, ki jih ponujajo organi za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj, organi za nadzor državnih mejá ter finančne institucije v smislu čl. 74(6) Akta o UI. V primeru naštetih izjem bodo namesto Urada nadzor izvajali pristojni nacionalni organi. Urad za UI bo pristojen tudi za sisteme UI, ki sestavljajo zelo veliko spletno platformo ali zelo velik spletni iskalnik v skladu z Aktom o digitalnih storitvah, ali so v tako platformo ali iskalnik vgrajeni.
   
   
7. Označevanje sintetično generiranih vsebin: Ponudniki sistemov UI, vključno s sistemi UI za splošne namene, ki ustvarjajo sintetično zvočno, slikovno, video ali besedilno vsebino in so bili dani na trg pred 2. avgustom 2026, bodo morali najkasneje do 2. decembra 2026 izpolnjevati obveznosti glede preglednosti, opredeljene v čl. 50(2) Akta o UI.

Kateri so novi ključni datumi za začetek uporabe obveznosti iz Akta o umetni inteligenci?

2. december 2026: 

• uporabljati se pričneta novi prepovedi v čl. 5(ba) in 5(bb) Akta o UI;
• ponudniki sistemov UI, vključno s sistemi UI za splošne namene, ki ustvarjajo sintetično zvočno, slikovno, video ali besedilno vsebino in so bili dani na trg pred 2. avgustom 2026,  morajo izpolnjevati obveznosti glede preglednosti, opredeljene v čl. 50(2) Akta o UI.

2. december 2027 – uporabljati se začnejo obveznosti za visoko tvegane sisteme UI, naštete v Prilogi III.

2. avgust 2028 – uporabljati se začnejo obveznosti za visoko tvegane sisteme UI, zajete s področno zakonodajo, ki je našteta v Prilogi I.

Splošno o Aktu o umetni inteligenci – kaj je in kdaj se uporablja?

Kaj je Akt o umetni inteligenci?

Uredba (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828), v nadaljevanju: Akt o umetni inteligenci, je prvi zakonodajni okvir, ki ureja dajanje na trg in uporabo sistemov umetne inteligence. Temelji na tveganjih – večje kot je tveganje, ki ga predstavlja sistem UI za varnost, zdravje in temeljne pravice, bolj stroga so pravila.

Zakaj je umetna inteligenca regulirana?

Sistemi umetne inteligence se hitro razvijajo. Po eni strani so nam lahko v pomoč pri številnih opravilih, vendar mnogi tovrstni sistemi obenem vplivajo na občutljiva področja, kot so zdravje, varnost in temeljne pravice. Akt o umetni inteligenci vzpostavlja usklajena pravna pravila za zmanjšanje tveganj na teh področjih, vključno z zaščito pravne države, demokracije in okolja, zagotavljanje varne in zaupanja vredne UI ter spodbujanje razvoja etične, na človeka osredotočene in inovativne umetne inteligence v Evropski uniji.

Drug cilj Akta o umetni inteligenci je poenotiti pravila po celotni EU in tudi izven EU, če se ti sistemi UI ali njihovi izhodni podatki uporabljajo v EU. Na ta način bodo odpravljene pravne negotovosti, kar bo podjetja spodbujalo k sodelovanju pri napredku in inovacijah s pomočjo umetne inteligence.

Kdo vse mora upoštevati zahteve Akta o umetni inteligenci?

Akt o umetni inteligenci se uporablja za:

1. ponudnike, ki dajejo na trg ali v uporabo sisteme UI ali dajejo na trg modele UI za splošne namene v Uniji, ne glede na to, kje imajo ponudniki sedež;
2. uvajalce sistemov UI, ki imajo sedež ali se nahajajo v Uniji;
3. ponudnike in uvajalce sistemov UI, ki imajo sedež ali se nahajajo v tretji državi, kadar se izhodni podatki, ki jih sistem UI ustvari, uporabljajo v Uniji;
4. uvoznike in distributerje sistemov UI;
5. proizvajalce proizvodov, ki dajejo sistem UI na trg ali v uporabo skupaj s svojim proizvodom in pod svojim imenom ali znamko;
6. pooblaščene zastopnike ponudnikov, ki nimajo sedeža v Uniji;
7. osebe, ki jih zadeva in se nahajajo v Uniji.

Relevanten člen: 2, recitali 9, 10, 11, 21, 22, 23, 24, 25 in 166.  

Ali veljajo kakšne izjeme glede področij uporabe Akta o umetni inteligenci?

Ja, Akt o umetni inteligenci se za določena področja ne uporablja, na primer če gre za sisteme UI:

• ki se uporabljajo izključno za vojaške, obrambne ali nacionalno varnostne namene;
• ki so posebej razviti in dani v uporabo zgolj za namene znanstvenih raziskav in razvoja;
• ki jih kot uvajalci uporabljajo fizične osebe v okviru povsem osebne nepoklicne dejavnosti.

Relevanten člen: 2, recitali 9, 10, 11, 21, 22, 23, 24, 25 in 166.

Sistemi UI

Kaj je sistem UI?

Sistem UI je sistem temelječ na napravah, ki je zasnovan za delovanje z različnimi stopnjami avtonomije in lahko po uvedbi izkaže prilagodljivost ter za eksplicitne ali implicitne cilje iz prejetih vhodnih podatkov sklepa, kako ustvariti izhodne podatke, kot so napovedi, vsebine, priporočila ali odločitve, ki lahko vplivajo na fizična ali virtualna okolja.

Definicija ima sedem elementov, ki morajo biti izpolnjeni, da sistem lahko štejemo kot sistem umetne inteligence in sicer:

1. sistem mora temeljiti na napravah;
2. zasnovan je za delovanje z različnimi stopnjami avtonomije;
3. lahko po uvedbi izkaže prilagodljivost;
4. za eksplicitne ali implicitne cilje;
5. iz prejetih vhodnih podatkov sklepa, kako ustvariti izhodne podatke,
6. kot so napovedi, vsebine, priporočila ali odločitve;
7. izhodni podatki lahko vplivajo na fizična ali virtualna okolja.

V skladu s Smernicami o definiciji sistema UI ni nujno, da so vsi pogoji izpolnjeni v celotnem življenjskem ciklu sistema UI, nekateri so lahko izpolnjeni le z fazi razvoja sistema UI ali pa v fazi uvajanja sistema UI, lahko pa so tudi podani kumulativno.

Več o definiciji sistema UI si lahko preberete v Smernicah, ki so dostopne na: https://ec.europa.eu/newsroom/dae/redirection/document/118642

Relevanten člen: 3(1).

Prepovedane prakse

Ali Akt o umetni inteligenci prepoveduje uporabo sistemov UI?

Akt o umetni inteligenci prepoveduje uporabo določenih sistemov UI, ki predstavljajo nesprejemljivo tveganje za zdravje, varnost ali temeljne pravice EU. Prepovedano je dajanje na trg, dajanje v uporabo in uporaba:

1. sistemov UI, ki uporabljajo manipulativne in zavajajoče tehnike z namenom izkrivljanja vedenja oseb;
2. sistemov UI, ki izkoriščajo šibke točke oseb zaradi njihove starosti, invalidnosti ali podobnega ranljivega položaja z namenom izkrivljanja njihovega vedenja;
3. sistemov družbenega ocenjevanja (angl. social scoring);
4. sistemov UI, ki napovedujejo verjetnost, da bo oseba izvršila kaznivo dejanje (angl. predictive policing tools);
5. neciljano zbiranje podob obraza za ustvarjanje ali širjenje podatkovne zbirke za prepoznavanje obrazov;
6. sistemov UI za sklepanje o čustvih osebe na delovnem mesti ali v izobraževalnih ustanovah;
7. sistemov UI za biometrično kategorizacijo, ki razvrščajo posameznike na podlagi njihovih biometričnih podatkov, da bi prepoznali katero izmed občutljivih okoliščin (npr. politično prepričanje ali spolno usmerjenost).

Uporaba teh sistemov nikoli ni dopustna. Za dajanje na trg, dajanje v uporabo ali uporabo tovrstnih sistemov UI Akt o umetni inteligenci predvideva najvišje globe.

Več o prepovedanih sistemih UI si lahko preberete v Smernicah:  https://ec.europa.eu/newsroom/dae/redirection/document/118647.

Relevanten člen: 5, recitali 29, 30, 31, 32, 33.

Kaj pa sistemi UI za biometrično identifikacijo na daljavo v realnem času v javno dostopnih prostorih za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj? Ali so tudi ti sistemi prepovedani?

Ti sistemi UI so sicer uvrščeni med prepovedane sisteme UI, vendar lahko države članice njihovo uporabo izjemoma dopustijo v nacionalni zakonodaji, če je uporaba tovrstnih sistemov UI strogo omejena in podvržena predhodni sodni presoji. Če nacionalna zakonodaja uporabo teh sistemov UI dopušča, se tovrstni sistemi štejejo za visokotvegane sisteme UI in morajo izpolnjevati zahteve, ki veljajo zanje.

Slovenija nima urejene izjeme, ki bi dovoljevala uporabo sistemom UI za biometrično identifikacijo na daljavo v realnem času v javno dostopnih prostorih za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj, zato je uporaba teh sistemov UI v Sloveniji prepovedana.

Relevanten člen: 5, recitali 32, 33, 34, 35, 36, 37, 38, 39.

Visokotvegani sistemi UI

Kateri sistemi UI veljajo za visokotvegane?

Akt o umetni inteligenci pozna dve vrsti visokotveganih sistemov UI:

1. sistemi UI, ki so varnostne komponente proizvodov ali so sami proizvodi s področja uporabe harmonizacijske zakonodaje iz Priloge I;
2. sistemi UI iz Priloge III.

V Prilogi III so navedeni sistemi UI, ki glede na svoj predvideni namen predstavljajo visoko tveganje škode za zdravje in varnost ali temeljne pravice oseb. To so sistemi UI, ki se uporabljajo na naslednjih področjih:

1. biometrija,
2. kritična infrastruktura,
3. izobraževanje in poklicno usposabljanje,
4. zaposlovanje, upravljanje delavcev in dostop do samozaposlitve,
5. uživanje bistvenih zasebnih in javnih storitev in ugodnosti ter dostop do njih,
6. preprečevanje, odkrivanje in preiskovanje kaznivih dejanj,
7. migracije, azil in upravljanje nadzora meje,
8. pravosodje in demokratični procesi.

Relevanten člen: 6(1) in Priloga III.

Ali v kakšnih primerih sistemi UI iz Priloge III ne štejejo kot visokotvegani?

Če sistem UI iz Priloge III ne predstavlja znatnega tveganja škode za zdravje, varnost ali temeljne pravice, na primer ker ne vpliva bistveno na izid odločanja, takega sistema ne uvrščamo med visokotvegane sisteme UI. Zato da je podana ta izjema, mora biti izpolnjen en izmed pogojev iz člena 6(3) Akta o umetni inteligenci.

Če sistem UI iz Priloge III profilira posameznike, se bo vedno štel za visokotveganega; za tovrstne sisteme UI se zgornja izjema ne uporablja.

Relevantni členi: 6(3), recital 53.

Visokotvegani sistem UI smo že razvili in dali na trg. Ali moramo zagotoviti skladnost z Aktom o umetni inteligenci, čeprav se določbe Akta še niso uporabljale, ko je bil sistem UI dan na trg?

Akt o umetni inteligenci se uporablja za visokotvegane sisteme UI, ki so bili dani na trg ali v uporabo pred 2. avgustom 2026, samo v primeru, da se je pri navedenih sistemih od navedenega datuma bistveno spremenila njihova zasnova. V vsakem primeru ponudniki in uvajalci visokotveganih sistemov UI, ki naj bi jih uporabljali javni organi, sprejmejo potrebne ukrepe za izpolnitev zahtev in obveznosti iz tega Akta o umetni inteligenci do 2. avgusta 2030.

Evropska komisija bo glede praktičnega izvajanja določb v zvezi z bistveno spremembo pripravila smernice, ki jih bomo po sprejemu objavili na tej spletni strani.

Relevantni členi: 3(23), 43(4), 111.

Prepovedane prakse

Ali Akt o umetni inteligenci prepoveduje uporabo sistemov UI?

Akt o umetni inteligenci prepoveduje uporabo določenih sistemov UI, ki predstavljajo nesprejemljivo tveganje za zdravje, varnost ali temeljne pravice EU. Prepovedano je dajanje na trg, dajanje v uporabo in uporaba:

1. sistemov UI, ki uporabljajo manipulativne in zavajajoče tehnike z namenom izkrivljanja vedenja oseb;
2. sistemov UI, ki izkoriščajo šibke točke oseb zaradi njihove starosti, invalidnosti ali podobnega ranljivega položaja z namenom izkrivljanja njihovega vedenja;
3. sistemov družbenega ocenjevanja (angl. social scoring);
4. sistemov UI, ki napovedujejo verjetnost, da bo oseba izvršila kaznivo dejanje (angl. predictive policing tools);
5. neciljano zbiranje podob obraza za ustvarjanje ali širjenje podatkovne zbirke za prepoznavanje obrazov;
6. sistemov UI za sklepanje o čustvih osebe na delovnem mesti ali v izobraževalnih ustanovah;
7. sistemov UI za biometrično kategorizacijo, ki razvrščajo posameznike na podlagi njihovih biometričnih podatkov, da bi prepoznali katero izmed občutljivih okoliščin (npr. politično prepričanje ali spolno usmerjenost).

Uporaba teh sistemov nikoli ni dopustna. Za dajanje na trg, dajanje v uporabo ali uporabo tovrstnih sistemov UI Akt o umetni inteligenci predvideva najvišje globe.

Več o prepovedanih sistemih UI si lahko preberete v Smernicah:  https://ec.europa.eu/newsroom/dae/redirection/document/118647

Obveznosti glede drugih sistemov UI

Kakšne pravice daje Akt o umetni inteligenci posameznikom?

Vsaka fizična oseba, pa tudi pravna oseba, ki utemeljeno meni, da je prišlo do kršitve določb Akta o umetni inteligenci, lahko pri organu za nadzor trga vloži pritožbo. Organ za nadzor trga takšne pritožbe upošteva pri izvajanju dejavnosti nadzora trga.

Poleg tega ima vsaka prizadeta oseba, za katero velja odločitev, ki jo uvajalec sprejme na podlagi izhodnih podatkov visokotveganega sistema UI iz Priloge III, razen sistemov iz točke 2 Priloge III (sistemi UI na področju kritične infrastrukture), in ki ima pravne učinke ali na to osebo podobno znatno vpliva na način, ki ima po njenem mnenju negativne učinke na njeno zdravje, varnost in temeljne pravice, pravico od uvajalca pridobiti jasna in smiselna pojasnila o vlogi sistema UI v postopku odločanja in glavnih elementih sprejete odločitve.

Pravica do obrazložitve postopka odločanja je zagotovljena le za sisteme UI, za katere ta pravica ni zagotovljena v drugi zakonodaji EU (na primer v zakonodaji s področja varstva osebnih podatkov). Podobno določbo vsebuje tudi Splošna uredba o varstvu podatkov (GDPR), vendar le za primere obdelave osebnih podatkov, določba Akta o umetni inteligenci pa jo dopolnjuje in določa primerljivo pravico tudi za sisteme UI, pri katerih ne pride do obdelave osebnih podatkov.

Relevantni členi: 85, 86, recitali 170 in 171.

Ali morajo vse organizacije, ki želijo uporabljati sisteme UI, zagotoviti pismenost svojih zaposlenih na področju UI?

Tako je, obveznost glede pismenosti na področju UI se ne nanaša samo na ponudnike in uvajalce visokotveganih sistemov, temveč morajo ponudniki in uvajalci vseh sistemov UI sprejeti ukrepe, da v najboljši možni meri zagotovijo zadostno raven pismenosti svojega osebja in tudi drugih oseb, ki se v njihovem imenu ukvarjajo z obratovanjem in uporabo sistemov UI, na področju UI, upoštevajoč njihovo tehnično znanje, izkušnje, izobrazbo in usposobljenost ter okolje, v katerem se bodo uporabljali sistemi UI, pa tudi osebe ali skupine oseb, v zvezi s katerimi se bodo uporabljali ti sistemi.

Namen te določbe je opremiti zaposlene, ki pri svojem delu razvijajo ali uporabljajo umetni inteligenco s spretnostmi, znanjem in razumevanjem, ki jim omogočajo, da informirano uvajajo sisteme UI ter se hkrati zavedajo priložnosti in tveganj na področju UI in morebitne škode, ki jo ta lahko povzroči.

Več o pismenosti na področju UI si lahko preberete na spletni strani Komisije: https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers

Relevantni členi: 4.

Nadzor nad sistemi UI

Kdo bo nadzoroval skladnost z Aktom o umetni inteligenci v Sloveniji?

V Sloveniji bo nadzor nad določbami Akta o umetni inteligenci izvajalo pet organov za nadzor trga:

• Agencija za komunikacijska omrežja in storitve (AKOS),
• Informacijski pooblaščenec,
• Banka Slovenije,
• Agencija za zavarovalni nadzor,
• Tržni inšpektorat  (TIRS).

Relevantni členi: 6 (ZIUDHPUI).

Kako so razdeljene ostale pristojnosti za izvajanje Akta o umetni inteligenci v Sloveniji?

V Sloveniji so po Zakonu o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (Uradni list RS, št. 85/25, ZIUDHPUI) pristojnosti za izvajanje Akta o umetni inteligenci, brez upoštevanja organov za nadzor trga, razpršene med več organov javnega sektorja.

Priglasitveni organi za Oddelek A, Priloge I Akta o umetni inteligenci:

• Ministrstvo pristojno za trg,
• Ministrstvo pristojno za infrastrukturo,
• Ministrstvo pristojno za zdravje.

Priglasitveni organ za Prilogo III Akta o umetni inteligenci, točka 1:

• Ministrstvo za digitalno preobrazbo.

Ocenjevanje organov za ugotavljanje skladnosti in njihovo spremljanje:

• Nacionalna akreditacijska služba.

Relevantni členi: 3, 4, 5 (ZIUDHPUI).

Za nadzor nad katerimi področji Akta je pristojen Informacijski pooblaščenec?

Informacijski pooblaščenec je pristojen za nadzor nad:

1. prepovedanimi sistemi UI;
2. visoko tveganimi sistemi iz Priloge III:

• • točke 1 (biometrija),
  • točke 3 (izobraževanje in poklicno usposabljanje),
  • točke 6 (preprečevanje, odkrivanje in preiskovanje kaznivih dejanj),
  • točke 7 (migracije, azil in meje) in
  • točke 8 (pravosodje in demokratični procesi).

Relevantni členi: 10 (ZIUDHPUI).