Tehnologija napreduje nezaustavljivom brzinom, a ako tomu dodamo i ubrzani razvoj umjetne inteligencije (AI), suočavamo se s transformacijom gotovo svih aspekata društva — od načina na koji radimo i učimo do toga kako komuniciramo i donosimo odluke.
Shodno tomu bilo je nužno objediniti regulativni okvir koji postavlja pravila za razvoj i korištenje umjetne inteligencije, barem što se tiče područja Europske unije.
Što to znači za poslovanje?
Upravo zbog toga nedavno je na snagu stupilo Akt o umjetnoj inteligenciji ili Articifial Intelligence Act (AIA). Riječ je o prvom pravnom okviru te vrste koji se bavi rizicima umjetne inteligencije u Europi, a koji daje priliku da preuzme vodeću ulogu na globalnoj razini.
Navedena regulativa postavlja pravila za razvoj i korištenje umjetne inteligencije na razini Europske unije, a odnosi se na sve subjekte koji razvijaju ili koriste sustave umjetne inteligencije unutar EU.
Ovaj akt osigurava okvir za sigurno i etično korištenje AI tehnologija, što može otvoriti nove poslovne prilike.Krenimo redom.
Inače, Europski ured za umjetnu inteligenciju i tijela država članica odgovorni su za provedbu, nadzor i izvršenje Akta o umjetnoj inteligenciji. Odbor za umjetnu inteligenciju, znanstveni odbor i Savjetodavni forum usmjeravaju i savjetuju upravljanje Aktom o umjetnoj inteligenciji.
Zašto su nam potrebna pravila o umjetnoj inteligenciji?
Akt o umjetnoj inteligenciji osigurava da Europljani mogu imati povjerenje u ono što umjetna inteligencija nudi. Iako većina AI sustava nosi mali ili nikakav rizik i može pridonijeti rješavanju mnogih društvenih izazova, određeni sustavi umjetne inteligencije stvaraju rizike koje moramo riješiti kako bismo izbjegli neželjene posljedice.
Primjerice, često nije moguće saznati zašto je neki AI sustav donio određenu odluku ili predviđanje te poduzeo određenu radnju. Zbog toga može biti teško procijeniti je li netko bio nepravedno zakinut, primjerice prilikom zapošljavanja ili podnošenja zahtjeva za javne potpore.
Iako postojeći zakoni pružaju određenu zaštitu, oni nisu dovoljni da odgovore na specifične izazove koje donose AI sustavi. Tu na snagu stupa navedena Direktiva.
Što zabranjuje Akt o umjetnoj inteligenciji?
Svi sustavi umjetne inteligencije koji predstavljaju očitu prijetnju sigurnosti, egzistenciji i ljudskim pravima bit će zabranjeni. Akt o umjetnoj inteligenciji izričito zabranjuje osam konkretnih oblika primjene AI-ja koji se smatraju neprihvatljivima.
A to su redom:
- štetne manipulacije i obmane koje se temelje na umjetnoj inteligenciji
- štetno iskorištavanje ranjivosti koje se temelji na umjetnoj inteligenciji
- društveno bodovanje
- Procjena ili predviđanje rizika pojedinačnog kaznenog djela
- neciljano struganje interneta ili CCTV materijala radi stvaranja ili proširenja baza podataka za prepoznavanje lica
- prepoznavanje emocija na radnim mjestima i u obrazovnim ustanovama
- biometrijska kategorizacija kako bi se izvele određene zaštićene značajke
- daljinska biometrijska identifikacija u stvarnom vremenu za potrebe kaznenog progona na javnim mjestima
Definirane su četiri razine
Osim toga, Aktom o umjetnoj inteligenciji odgovara se na rizike povezane s određenim primjenama umjetne inteligencije tako da se navedene rizike razvrstava u četiri razine, a u skladu s time utvrđuju se različita pravila. Četiri razine su: spomenuti neprihvatljivi rizici, visoki rizici, ograničeni rizici i minimalni ili nikakvi.
Za tvrtke to znači da će morati preispitati svoje proizvode i strategije prije nego što ih plasiraju u EU, a neke će možda morati odustati od određenih rizičnih tehnologija. S druge strane, one koje razvijaju etične, transparentne i korisnički orijentirane AI sustave dobit će prednost jer će se uklopiti u zakonodavni okvir.
Postoje li kazne za tvrtke?
Da. Aktom se utvrđuju novčane kazne za kršenje pravila.
Kazne se određuju na temelju većeg iznosa između postotka ukupnog godišnjeg prihoda poduzeća iz prethodne godine i unaprijed definiranog novčanog iznosa. Za mala i srednja poduzeća (MSP-ove) te start-upove predviđene su kazne koje su prilagođene njihovoj veličini i mogućnostima.
U potpunosti će se primjenjivati 2026.
Iako je Akt stupio na snagu 1. kolovoza prošle godine, ipak će se u potpunosti primjenjivati dvije godine kasnije, 2. kolovoza 2026., uz neke iznimke:
- zabrane i obveze vezane uz informiranost o umjetnoj inteligenciji primjenjuju se od 2. veljače 2025.
- pravila upravljanja i obveze za modele umjetne inteligencije opće namjene primjenjuju se od 2. kolovoza 2025.
- pravila za sustave umjetne inteligencije visokog rizika – koji su ugrađeni u proizvode koji podliježu regulativi – imaju produženi prijelazni rok do 2. kolovoza 2027.
Valja istaknuti da ovaj akt nije samo regulatorni izazov za tvrtke, već ujedno i prilika da steknu konkurentsku prednost kroz razvoj pouzdanih, transparentnih i etičkih AI rješenja.
Pravovremena prilagodba novim pravilima – uz razumijevanje razine rizika i pripadajućih obveza – bit će ključna za uspjeh na budućem europskom tržištu umjetne inteligencije.