Reguliranje umjetne inteligencije jedan je od najvažnijih zakonodavnih izazova pred nama: kako da osiguramo da tehnologija koja nam na mnogo načina može poboljšati život bude ograničena samo na pozitivne učinke, a onemogućimo potencijalno zastrašujuće negativne učinke za ljudska prava i slobode?
Europska Komisija je u travnju 2021. predstavila prijedlog Akta o umjetnoj inteligenciji EU, prvi nacrt zakona za umjetnu inteligenciju u svijetu – koji bi ujedno mogao biti uzor van granica Unije, baš kao što je GDPR bio za zaštitu osobnih podataka.
Osnovni koncept je razvijanje mehanizma spremnog za budućnost, koji će pružiti pravnu sigurnost i građanima i tvrtkama koje razvijaju AI sisteme. Ideja zakonodavca je zaštititi građane, ali i spriječiti stagnaciju inovacija – te pritom pronaći pravi balans između ta dva segmenta.
Akt rangira primjenu umjetne inteligencije po razini rizika: ako kod određenog AI sistema rizici ne postoje ili su minimalni, proizvođač nema posebne obveze, dok viša razina rizika podrazumijeva i veće obveze proizvođača - ili izravnu zabranu konkretne tehnologije. Članak 5 akta sadrži i jasnu listu zabranjenih praksi korištenja AI-ja, gdje se nalaze npr: "sustavi u kojima se primjenjuju subliminalne tehnike zbog kojih osoba nesvjesno bitno mijenja svoje ponašanje na način koji toj ili drugoj osobi uzrokuje ili bi mogao prouzročiti tjelesnu ili psihološku štetu".
AI sistemi visokog rizika trebat će proći kroz tzv. ocjenjivanje sukladnosti - testiranje i procjenu prije dobivanja certifikata koji dopušta stavljanje tehnologije na tržište. Još se raspravlja hoće li svaka država članica imati svoje tijelo za certificiranje i hoće li trebati outsourceati stručnjake za provjeru kompleksnih sistema.
Akt trenutno propisuje da svaka država ima nacionalno nadzorno tijelo – ujedno tijelo za nadzor tržišnog natjecanja. Istovremeno bi trebao biti uspostavljen Europski odbor za umjetnu inteligenciju kojim predsjeda Komisija, a čine ju Europski nadzornik za zaštitu podataka, zajedno s predstavnicima nacionalnih nadzornih tijela.
Propisane novčane kazne za nepoštivanje akta su dovoljno visoke da prepadnu tvrtke i više od GDPR-a: do 30.000.000 eura ili, ako je prekršitelj poduzetnik, do 6% ukupnog godišnjeg prometa na svjetskoj razini za prethodnu financijsku godine.
Nacrt Komisije privukao je i brojne kritike, pogotovo od strane civilnog društva - koje nije bilo oduševljeno definicijom manipulacije, (ne)ovisnošću nadzornih tijela, samim opsegom uključenih AI sistema, a pogotovo nedostatkom izravnih prava i pravnih lijekova za građane.
Pred Aktom o umjetnoj inteligenciji EU je još dug zakonodavni put, a trenutna (možda i pomalo optimistična) predviđanja su da bi mogao biti donesen na proljeće 2023.
GDPR je uveo “privacy by design” kao osnovni koncept razvijanja tehnologija koje prikupljaju osobne podatke. Vjerujem kako će “trustworthy AI by design” biti budućnost društva koje njeguje demokratske vrijednosti i temeljna prava građana.
Duje Kozomara
Konzultant za zaštitu osobnih podataka | Osnivač tvrtke Consent
www.consent.hr
