Informacijski pooblaščenec Republika Slovenija
| sl | Iskalnik po spletni strani   Priredbe v znakovni jezik  
dekorativna slika

Od 2. februarja 2025 je treba upoštevati prepovedi Akta o umetni inteligenci glede določenih UI sistemov

+ -
05.02.2025

Informacijski pooblaščenec opozarja, da je od 2. februarja 2025 že treba upoštevati prepovedi glede uporabe določenih UI sistemov, ki jih določa novi EU Akt o umetni inteligenci. Med drugim so prepovedani sistemi UI za družbeno ocenjevanje (t. i. social scoring) ter za sklepanje o čustvih posameznikov v šolstvu in na delovnih mestih, prepovedane so tudi določene oblike napovedovanja izvršitev kaznivih dejanj. Več podrobnosti o prepovedanih sistemih UI je na voljo v smernicah Evropske komisije.

2. februarja 2025 so se začele uporabljati določbe I in II poglavja Akta o umetni inteligenci.

Upoštevati je že treba prve omejitve dajanja na trg in uporabe določenih sistemov UI, in sicer določbe 5. člena Akta, ki ureja prepovedane prakse. Gre za sisteme UI, ki so zaradi tveganj za človekove pravice in temeljne svoboščine ter nastanek drugih oblik škod, v EU v celoti prepovedani in jih ni nikoli dopustno uporabljati ali dati na trg. Med drugim so prepovedani sistemi UI za družbeno ocenjevanje (t. i. social scoring) ter za sklepanje o čustvih posameznikov v šolstvu in da delovnih mestih, prepovedane so tudi določene oblike napovedovanja izvršitev kaznivih dejanj.

Za zagotavljanje dosledne, učinkovite in enotne uporabe Akta o umetni inteligenci v Evropski uniji so bile včeraj že objavljene Smernice Komisije o prepovedanih praksah umetne inteligence, ki jih je določila Uredba (EU) 2024/1689 (Akt o umetni inteligenci), ki vsebujejo podrobno razlago vseh prepovedanih praks in praktične primere, ki bodo zavezancem pomagali pri zagotavljanju skladnosti z Aktom o umetni inteligenci. Smernice so dostopne na naslednji povezavi: https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act.

Akt o umetni inteligenci v Poglavju I, ki se je prav tako začel uporabljati 2. februarja 2025, ureja področje uporabe, ozemeljsko veljavnost Akta ter definira nekatere ključne pojme, med drugim tudi pojem sistema umetne inteligence (sistem UI). Med tovrstne sisteme so uvrščeni sistemi temelječi na napravah, ki so zasnovani za delovanje z različnimi stopnjami avtonomije in lahko po uvedbi izkažejo prilagodljivost ter za eksplicitne ali implicitne cilje iz prejetih vhodnih podatkov sklepajo, kako ustvariti izhodne podatke, kot so napovedi, vsebine, priporočila ali odločitve, ki lahko vplivajo na fizična ali virtualna okolja. Razumevanje pojma sistema UI je ključno za uporabo Akta o umetni inteligenci, zato Evropska komisija pripravlja tudi smernice, v katerih bo podrobneje razložila posamezne dele navedene definicije in podala primere sistemov, ki jih lahko uvrstimo v njen okvir ter tistih, ki niso zajeti s to definicijo.

Ostali deli Akta o umetni inteligenci, na primer obveznosti za visoko tvegane sisteme UI, sicer že veljajo, vendar se še ne uporabljajo. Naslednji del določb se bo začel uporabljati 2. avgusta 2025, ko bodo med drugim začele veljati določbe glede sankcij za kršitelje Akta o umetni inteligenci.