Generativna umetna inteligenca pod drobnogledom Informacijskega pooblaščenca
+ -Informacijski pooblaščenec se pridružuje skupnim prizadevanjem nadzornih organov Evropske unije za zaščito temeljnih pravic in svoboščin posameznikov pri uporabi orodij, ki temeljijo na generativni umetni inteligenci (kot so npr. ChatGPT, DALL-E, Google Gemini, DeepSeek itd.). V okviru usklajenega sodelovanja bo Informacijski pooblaščenec preučil, ali obstajajo okoliščine, ki zahtevajo uvedbo inšpekcijskih postopkov zoper ponudnike tovrstnih umetnointeligenčnih sistemov, vključno s ponudniki v Sloveniji.
Evropski odbor za varstvo podatkov (EOVP) je na plenarnem zasedanju 11. februarja 2025 ponovno poudaril potrebo po sodelovanju in usklajevanju med nadzornimi organi v postopkih nadzora nad ponudniki umetnointeligenčnih sistemov in sprejel odločitev, da bo z namenom hitrega posredovanja v občutljivih primerih sodeloval v okviru delovne skupine za nadzor nad UI sistemi.
Informacijski pooblaščenec kot del EOVP pozorno spremlja tehnološki razvoj na področju generativne umetne inteligence ter odzive evropske in širše mednarodne skupnosti nanj. S skokovitim povečevanjem velikosti in kompleksnosti velikih jezikovnih modelov se povečujejo tudi njihove zmogljivosti. Uvajanje tovrstnih rešitev brez tehtnega premisleka o tem, kako ti umetno inteligenčni sistemi vplivajo na posameznike in družbo kot celoto, ima lahko daljnosežne posledice.
Informacijski pooblaščenec je posebej pozoren na vplive (generativne) umetne inteligence na ranljive skupine; poleg otrok mednje lahko prištevamo tudi starejše, ki po eni strani pogosteje niso seznanjeni s tveganji tovrstnih tehnologij, obenem pa lahko vezanost nanje pri opravljanju vsakdanjih opravil povzroči, da je del starejših prikrajšan za dostop do določenih storitev (na primer, ko osebni pogovor nadomesti klepetalnik ali chatbot), bodisi ker tovrstne tehnologije sploh ne znajo uporabljati ali pa ji zgolj ne zaupajo.
Posameznikom svetujemo, naj tovrstna orodja, ki temeljijo na generativni umetni inteligenci, uporabljajo previdno in odgovorno. Zavedati se je treba, da ponudniki teh, sicer privlačnih orodij, velikokrat obdelujejo osebne podatke v tretjih državah, torej izven EU, kjer lahko veljajo tudi mnogo nižji standardi varstva osebnih podatkov. Zato IP priporoča uporabo storitev, ki so zavezane k spoštovanju Splošne uredbe o varstvu podatkov. Prav tako naj uporabnik pred posredovanjem svojih osebnih podatkov zelo dobro premisli, ali orodje resnično potrebuje njegove osebne podatke in naj jih deli v čim manjšem obsegu. Posebej previdni moramo biti pri razkrivanju občutljivih podatkov (na primer podatkov o zdravstvenem stanju, politični ali verski pripadnosti ipd.).
Preden razkrijemo svoje osebne podatke, na primer tako, da postavimo vprašanje umetni inteligenci (t. i. prompt), se pozanimajmo o tem, ali bodo morda osebni podatki uporabljeni za nadaljnje učenje modela in na kakšen način lahko uveljavljajo svoje pravice, še posebej pravico do izbrisa. Te podatke podjetja običajno navedejo v Politiki zasebnosti (Privacy Policy) in Pogojih uporabe ali storitve (Terms of use oziroma Terms of service).