Varovanje osebnih podatkov je nujno za odgovoren razvoj umetno inteligenčnih modelov
+ -
Evropski odbor za varstvo podatkov (EDPB), katerega aktivni član je Informacijski pooblaščenec, je sprejel močno pričakovano Mnenje o uporabi osebnih podatkov za razvoj in uvedbo modelov umetne inteligence. Mnenje poudarja, da morajo biti inovacije na področju umetne inteligence odgovorne in da jih je treba v družbo vpeljevati etično, varno in ob spoštovanju pravil na področju varstva osebnih podatkov. Osredotoča se na razvoj modelov umetne inteligence in daje odgovore na nekaj ključnih vprašanj glede varstva osebnih podatkov.
EDPB, neodvisni posvetovalni odbor, ki ga sestavljajo vsi nadzorni organi za varstvo podatkov v Evropski uniji, je mnenje sprejel na okroglem 100. plenarnem zasedanju.
Informacijska pooblaščenka dr. Jelena Virant Burnik ob sprejemu mnenja poudarja:
»Marsikatera organizacija že razvija sisteme UI in jih vpeljuje v svoje poslovne procese, od upravljanja odnosov s strankami in dokumenti, do raziskav na različnih področjih. Osebne podatke se uporablja tako pri razvoju UI modelov oz. treniranju kot tudi pri uvajanju UI modelov. V naslednjem letu sicer prihajajo nove omejitve Akta o umetni inteligenci, vendar pa morajo UI sistemi, s katerimi se obdelujejo osebni podatki, že danes spoštovati vsa pravila, ki jih določa Splošna uredba o varstvu podatkov in ne delujejo v pravni praznini. Pomembno je, da se vsak upravljavec, ki razmišlja o razvoju ali uporabi UI modelov, zaveda svojih odgovornosti in osebne podatke uporablja skladno s pravili. Preveriti mora, ali ima za obdelavo pravno podlago ter predvideti tveganja za pravice posameznikov, še posebej, če gre za avtomatizirano odločanje. Ključno je, da imajo pri uporabi sistemov UI posamezniki možnost izvajati svoje pravice – do vpogleda v lastne osebne podatke, do popravka, izbrisa podatkov. Mnenje EDPB pojasnjuje mnoge vidike skladnosti s pravili varstva osebnih podatkov in naj bo obvezno branje za organizacije, ki razvijajo ali uvajajo modele UI.«
Mnenje EDPB pojasnjuje:
- Kdaj se modeli umetne inteligence lahko štejejo za anonimne? Le takrat, ko je zelo malo verjetno, da bi iz modela lahko posredno ali neposredno določili posameznike, katerih podatki so bili uporabljeni za oblikovanje, in ko je zelo malo verjetno, da se osebni podatki iz modela lahko pridobijo s pozivi.
- Ali se lahko zakoniti interes uporabi kot pravna podlaga za razvoj ali uporabo modelov umetne inteligence? Upravljavec mora izvesti test tehtanja, ali ima obdelava osebnih podatkov negativni vpliv na posameznike. Pri tem naj med drugim upošteva, ali so bili osebni podatki javno dostopni ali ne, kakšna je narava razmerja med posameznikom in upravljavcem, narava storitve UI, okoliščine, v katerih so bili osebni podatki zbrani, vir, iz katerega so bili podatki zbrani, nadaljnje uporabe modela UI in ali se posamezniki dejansko zavedajo, da so njihovi osebni podatki na spletu.
- Kakšne so posledice, če se model umetne inteligence razvije z uporabo osebnih podatkov, ki so bili obdelani nezakonito? Nezakonito obdelani osebni podatki lahko vplivajo na zakonitost uvedbe modela UI, razen če je bil model resnično anonimiziran.
Za mnenje je po postopku iz drugega odstavka 64. člena Splošne uredbe o varstvu podatkov zaprosil irski organ za varstvo podatkov (Data Protection Commission Ireland). EDPB je v tem postopku organiziral tudi posvetovanje z deležniki z namenom čim širšega vključevanja javnosti pri oblikovanju tega mnenja, saj tehnologija umetne inteligence predstavlja pomemben vpliv na človekove pravice posameznikov, ponuja pa tudi možnosti neslutenega razvoja in inovacij. EDPB pripravlja tudi smernice, ki bodo zajemale bolj konkretna vprašanja razvoja in uvedbe modelov umetne inteligence, na primer v zvezi s strganjem podatkov.
Na spletni strani IP so na voljo tudi dodatna pojasnila glede uporabe UI in skladnosti s Splošno uredbo o varstvu podatkov.
Več o delu EDPB lahko preberete na njegovi spletni strani in na spletni strani IP, kjer najdete tudi informacije o sodelovanju IP v tem odboru.
