24. 09. 2024

Objavljeno: Izvozno okno, 2. 9. 2024, www.izvoznookno.si, Avtor: Boštjan Šinkovec

V veljavi je evropski akt o umetni inteligenci, katerega namen je zagotoviti, da je umetna inteligenca, razvita in uporabljena v EU, zaupanja vredna in da vključuje varovalke za varstvo temeljnih pravic ljudi. Cilj uredbe je vzpostaviti usklajen notranji trg za umetno inteligenco v EU, spodbujati uvajanje te tehnologije in ustvariti spodbudno okolje za inovacije in naložbe.

Akt o umetni inteligenci

Akt o umetni inteligenci je prvi pravni okvir na področju umetne inteligence, ki obravnava tveganja umetne inteligence in omogoča Evropi, da prevzame vodilno vlogo na svetovni ravni.

Akt o umetni inteligenci (Uredba (EU) 2024/1689 o določitvi usklajenih pravil o umetni inteligenci) razvijalcem in uporabnikom umetne inteligence določa jasne zahteve in obveznosti glede določenih načinov uporabe umetne inteligence. Hkrati je cilj uredbe zmanjšati upravno in finančno breme za podjetja, zlasti za mala in srednje velika podjetja (MSP).

Zakon o umetni inteligenci je del širšega svežnja političnih ukrepov za podporo razvoju zaupanja vredne umetne inteligence, ki vključuje tudi inovacijski sveženj o umetni inteligenci in usklajeni načrt o umetni inteligenci. Ti ukrepi skupaj zagotavljajo varnost in temeljne pravice ljudi in podjetij, ko gre za UI. Poleg tega krepijo uporabo, naložbe in inovacije na področju UI po vsej EU.

Akt o umetni inteligenci je prvi celovit pravni okvir za umetno inteligenco na svetu. Cilj novih pravil je spodbujati zaupanja vredno UI v Evropi in širše, in sicer z zagotavljanjem, da sistemi UI spoštujejo temeljne pravice, varnost in etična načela, ter z obravnavanjem tveganj zelo močnih in vplivnih modelov UI.

Zakaj potrebujemo pravila o umetni inteligenci?

Akt o umetni inteligenci zagotavlja, da lahko Evropejci zaupajo ponudbi umetne inteligence. Medtem ko večina sistemov UI predstavlja omejeno tveganje ali ga sploh ne predstavlja in lahko prispeva k reševanju številnih družbenih izzivov, pa nekateri sistemi UI ustvarjajo tveganja, ki jih moramo obravnavati, da bi se izognili nezaželenim posledicam.

Pogosto na primer ni mogoče ugotoviti, zakaj je sistem umetne inteligence sprejel odločitev ali napoved in izvedel določeno dejanje. Tako je lahko težko oceniti, ali je bil nekdo nepravično prikrajšan, na primer pri odločitvi o zaposlitvi ali pri vlogi za sistem javnih dajatev.

Čeprav obstoječa zakonodaja zagotavlja določeno varstvo, ne zadostuje za obravnavo posebnih izzivov, ki jih lahko prinesejo sistemi umetne inteligence.

Nova pravila:

• obravnavajo tveganja, ki jih posebej ustvarjajo aplikacije umetne inteligence,
• prepovedujejo prakse UI, ki predstavljajo nesprejemljiva tveganja,
• določajo seznam aplikacij z visokim tveganjem,
• določajo jasne zahteve za sisteme UI za aplikacije z visokim tveganjem,
• opredelijo posebne obveznosti, ki jih imajo izvajalci in ponudniki aplikacij umetne inteligence z visokim tveganjem,
• zahtevajo ugotavljanje skladnosti, preden se določen sistem UI začne uporabljati ali da na trg,
• vzpostavljajo izvrševanje po tem, ko je določen sistem umetne inteligence dan na trg,
• vzpostavljajo strukturo upravljanja na evropski in nacionalni ravni.

Pristop, ki temelji na tveganju

Regulativni okvir opredeljuje 4 ravni tveganja za sisteme umetne inteligence:

• nesprejemljivo tveganje; 
• visoko tveganje; 
• omejeno tveganje in 
• minimalno tveganje.

Prepovedani so vsi sistemi umetne inteligence, za katere velja, da jasno ogrožajo varnost, preživetje in pravice ljudi, od socialnega točkovanja s strani vlad do igrač, ki uporabljajo glasovno pomoč, ki spodbuja nevarno vedenje.

Zakonodaja, prilagojena prihodnosti

Ker je umetna inteligenca hitro razvijajoča se tehnologija, ima uredba za prihodnost prilagojen pristop, ki omogoča prilagajanje pravil tehnološkim spremembam. Aplikacije umetne inteligence morajo ostati zaupanja vredne tudi po tem, ko so dane na trg. To od ponudnikov zahteva stalno upravljanje kakovosti in tveganj.

Izvrševanje in izvajanje

Evropski urad za umetno inteligenco, ustanovljen februarja 2024 v okviru Komisije, skupaj z državami članicami nadzira izvrševanje in izvajanje akta o umetni inteligenci. Njegov cilj je ustvariti okolje, v katerem tehnologije umetne inteligence spoštujejo človekovo dostojanstvo, pravice in zaupanje. Prav tako spodbuja sodelovanje, inovacije in raziskave na področju umetne inteligence med različnimi deležniki. 

Poleg tega se vključuje v mednarodni dialog in sodelovanje o vprašanjih UI, saj se zaveda, da je treba na svetovni ravni uskladiti upravljanje UI. S temi prizadevanji si Evropski urad za umetno inteligenco prizadeva, da bi Evropa postala vodilna na področju etičnega in trajnostnega razvoja tehnologij umetne inteligence.

Naslednji koraki

Zakon o umetni inteligenci je začel veljati 1. avgusta, v celoti pa se bo začel uporabljati dve leti pozneje, z nekaterimi izjemami: prepovedi bodo začele veljati po šestih mesecih, pravila o upravljanju in obveznosti za modele umetne inteligence za splošne namene se bodo začela uporabljati po 12 mesecih, pravila za sisteme umetne inteligence - vgrajene v regulirane izdelke - pa po 36 mesecih. Komisija je za lažji prehod na nov regulativni okvir uvedla pakt za umetno inteligenco, prostovoljno pobudo, katere namen je podpreti prihodnje izvajanje in ki razvijalce umetne inteligence iz Evrope in zunaj nje vabi k vnaprejšnjemu izpolnjevanju ključnih obveznosti iz zakona o umetni inteligenci.

Več: Spletna stran z informacijami o aktu

Ali se vam je zdel članek koristen? Da Ne

Nazaj