Uporaba umetne inteligence v pravosodju in pri kibernetski varnosti: informacijska pooblaščenka poudarja nujnost odgovorne uporabe in spoštovanja varstva osebnih podatkov
+ -Informacijska pooblaščenka dr. Jelena Virant Burnik je na konferenci Digitalizacija in umetna inteligenca v pravosodju poudarila, da je pri implementaciji umetne inteligence v procese na področju pravosodja še posebej pomembno, da je ta raba odgovorna, etična in da spoštuje pravila s področja varstva osebnih podatkov. Zlasti imajo tehnologije umetne inteligence trenutno pomanjkljivosti pri izvajanju pravic posameznika – praksa kaže, da neizvršene ostajajo zahteve za seznanitev s podatki, zahteve za popravek in izbris podatkov.
Izpostavila je, da Informacijski pooblaščenec prejema vprašanja, ali je umetna inteligenca lahko uporabljena pri analizi pravne prakse, pri iskanju in razvrščanju virov, gradiva, izjav, dokazov, pri pripravi osnutkov odločitev, za ovrednotenje dokazov. Splošna uredba o varstvu podatkov vsebuje omejitve glede pravnih podlag za obdelavo osebnih podatkov, glede točnosti in minimalnega nabora podatkov in tudi glede avtomatiziranega odločanja, kjer se je že večkrat izreklo tudi Sodišče EU. Informacijska pooblaščenka je pozvala k razvoju umetne inteligence, ki bo upošteval te omejitve in zagotavljal varovanje temeljnih pravic posameznikov.
Konferenco je na pobudo in v soorganizaciji sodnice prof. dr. Maje Brkan 11. aprila 2025 organizirala Pravna fakulteta v Ljubljani, v sodelovanju z Ministrstvom za pravosodje ter Ministrstvom za digitalno preobrazbo.
Na umetno inteligenco vse bolj računamo tudi na področju kibernetske varnosti. V uvodnem nagovoru na mednarodni konferenci Dnevi korporativne varnosti je Informacijska pooblaščenka poudarila, da nam umetna inteligenca v prihodnje lahko pomaga tudi na tem področju, vendar se moramo zavedati njenih izzivov in jim čim bolj zgodaj pri implementaciji ustrezno nasloviti. Praksa informacijskega pooblaščenca kaže, da sistemi umetne inteligence lahko halucinirajo, producirajo napačne podatke, da ni mogoče vedno pojasniti in preveriti ali popraviti odločitev umetne inteligence, da je v določeni meri črna škatla.
Pri uporabi umetne inteligence na področju kibernetske varnosti je ključno tudi zavedanje, da niso dovolj le tehnologije, tudi nove rešitve umetne inteligence niso čarobna palica. Potrebno je vlaganje v stalno izobraževanje ljudi in izpopolnjevanje procesov. Zelo pogosto kibernetski napadi uspejo prav zaradi pomanjkljivosti na teh področjih, pa čeprav so uporabljene najsodobnejše tehnologije.
Konferenco je organiziral Inštitut za korporativne in varnostne študije, 19. in 20. maja 2025 na Brdu pri Kranju.
