Što je Zakon EU o umjetnoj inteligenciji?

Europska unija aktivno radi na poboljšanju digitalnog okružja u korist svih Europljana i Europljanki, vjerujući kako naš digitalni život treba biti siguran, jednostavan i u skladu s temeljnim slobodama.

Od 2. kolovoza 2025. na snagu su stupile ključne odredbe Zakona o umjetnoj inteligenciji (Uredba (EU) 2024/1689 o utvrđivanju usklađenih pravila o umjetnoj inteligenciji), prvog sveobuhvatnog pravnoga okvira za regulaciju umjetne inteligencije na razini EU kojem je cilj poticati pouzdanu umjetnu inteligenciju u Europi. Nakon godinu dana postupnog uvođenja, ova faza donosi značajne promjene u nadzoru, sankcijama i primjeni pravila na sustave opće namjene poput ChatGPT-a, Googleovog Geminija ili X-ovog Groka.

Zakonom o umjetnoj inteligenciji utvrđuje se jasan skup pravila koja se temelje na riziku za razvojne programere i subjekte koji uvode umjetnu inteligenciju, a u pogledu određenih primjena umjetne inteligencije. On je dio šireg paketa mjera politike za potporu razvoju pouzdane UI, koji uključuje i Paket za inovacije u području umjetne inteligencije, pokretanje tvornica umjetne inteligencije i Koordinirani plan za umjetnu inteligenciju. Zajedno, te mjere jamče sigurnost, temeljna prava i antropocentričnu UI, te jačaju prihvaćanje, ulaganja i inovacije u području umjetne inteligencije u cijeloj Uniji.

Zakon široko definira sustav umjetne inteligencije kao sustav koji s određenom razinom autonomije  može obrađivati ulazne podatke kako bi zaključio kako generirati izlazne podatke (poput predviđanja, preporuka, odluka ili sadržaja), koji pak mogu utjecati na fizička ili virtualna okruženja. Model umjetne inteligencije opće namjene (GPAI) definira kao modele umjetne inteligencije koji pokazuju značajnu općenitost, sposobni su kompetentno obavljati širok raspon različitih zadataka i mogu se integrirati u razne sustave ili aplikacije umjetne inteligencije.

Zakon EU o umjetnoj inteligenciji primjenjuje se na više operatora u lancu vrijednosti UI, kao što su pružatelji usluga, implementatori, uvoznici, distributeri, proizvođači proizvoda, te ovlašteni predstavnici. Zakon EU o UI-u primjenjuje se i na pružatelje usluga i implementatore izvan Unije, ako se njihova UI ili rezultati UI-a koriste u EU-u.

Pružatelji usluga izvan EU-a koji nude UI usluge na području Unije moraju imenovati ovlaštene predstavnike u EU-u koji će u njihovo ime koordinirati napore za usklađenost.

Zakon uređuje razvoj i/ili korištenje umjetne inteligencije u EU, a primjenjuje različita pravila na UI u skladu s rizikom koji ona predstavlja – od izravne zabrane nekih upotreba UI, pa do strogih zahtjeva upravljanja, upravljanja rizicima, te transparentnosti u drugim slučajevima.

Europski je Zakon o umjetnoj inteligenciji prvi pravni okvir u svijetu koji se bavi rizicima umjetne inteligencije. Njime se osigurava da Europljani mogu vjerovati onome što UI nudi. Iako većina sustava umjetne inteligencije predstavlja ograničen rizik i može doprinijeti rješavanju mnogih društvenih izazova, određeni UI sustavi ipak stvaraju rizike koje moramo ukloniti kako bismo izbjegli neželjene ishode.

Zakonom o umjetnoj inteligenciji definirane su četiri razine rizika za UI sustave:

Neprihvatljiv rizik

Zabranjeni su svi UI sustavi koji se smatraju jasnom prijetnjom sigurnosti, sredstvima za život i pravima ljudi. Zakon izrijekom zabranjuje osam praksi, među kojima su štetne manipulacije i obmane koje se temelje na UI, socijalno bodovanje ili daljinska biometrijska identifikacija u stvarnom vremenu za potrebe kaznenog progona na javnim mjestima.

Visoki rizik

Slučajevi upotrebe umjetne inteligencije koji mogu predstavljati ozbiljan rizik za zdravlje, sigurnost ili temeljna prava klasificiraju se kao visokorizični. Ti visokorizični slučajevi primjene uključuju sigurnosne komponente ili UI rješenja u ključnim infrastrukturama (npr. promet), ona koja se upotrebljavaju u obrazovnim, medicinskim, socijalnim i javnim ustanovama, te u tijelima kaznenog progona, sigurnosti ili u pravosuđu.

Visokorizični UI sustavi podliježu strogim obvezama prije nego što se mogu staviti na tržište.

Ograničeni rizik

Odnosi se na rizike povezane s potrebom za transparentnošću u pogledu upotrebe umjetne inteligencije. Zakonom o umjetnoj inteligenciji uvode se posebne obveze objavljivanja kako bi se osiguralo da su ljudi informirani kada je to potrebno za očuvanje povjerenja. Na primjer, pri upotrebi UI sustava kao što su chatbotovi, ljudi bi trebali biti svjesni da su u interakciji sa strojem kako bi mogli donijeti informiranu odluku.

Nadalje, dobavljači generativne umjetne inteligencije moraju osigurati da se sadržaj generiran umjetnom inteligencijom može identificirati. Povrh toga, određeni sadržaj stvoren umjetnom inteligencijom trebao bi biti jasno i vidljivo označen. To se posebno odnosi na uvjerljive sadržaje objavljene u svrhu informiranja javnosti o pitanjima od javnog interesa.

Minimalni rizik

Zakonom o umjetnoj inteligenciji ne uvode se pravila za UI koja se smatra minimalnim ili nikakvim rizikom. Velika većina UI sustava koji se trenutačno upotrebljavaju u EU-u pripada upravo toj kategoriji, poput aplikacija kao što su videoigre omogućene umjetnom inteligencijom ili filtri za neželjenu poštu.

Iako zakon ima širok doseg, neke upotrebe umjetne inteligencije su izuzete, poput isključive osobne upotrebe umjetne inteligencije ili UI modela i sustava koji se koriste samo za znanstvena istraživanja i razvoj.

Kazne za prekršitelje odredbi iz Zakona mogu iznositi od 7,5 milijuna eura ili 1,5% svjetskog godišnjeg prometa, pa sve do 35 milijuna eura ili 7% svjetskog godišnjeg prometa, ovisno o vrsti neusklađenosti.

Ovaj se zakon smatra prvim sveobuhvatnim regulatornim okvirom za umjetnu intečigenciju na svijetu i za očekivati je da će potaknuti razvoj standarda upravljanja umjetnom inteligencijom i etike diljem svijeta.

Odgovorni za nadzor i provedbu Zakona o umjetnoj inteligenciji su Europski ured za UI i tijela država članica, dok Odbor za umjetnu inteligenciju, Znanstveni odbor i Savjetodavni forum usmjeravaju i savjetuju upravljanje Zakonom. 

Zakon o umjetnoj inteligenciji stupio je na snagu 1. kolovoza 2024. godine. Zabrane i obveze pismenosti u području umjetne inteligencije počele su se primjenjivati od 2. veljače 2025., a pravila upravljanja i obveze za modele GPAI-ja u primjeni su od 2. kolovoza 2025. Pravila za visokorizične UI sustave ugrađene u regulirane proizvode imaju produljeno prijelazno razdoblje do 2. kolovoza 2027. godine.