Budući da je u svakodnevnom životu češća upotreba algoritama, odnosno računalnih sustava utemeljenih na umjetnoj inteligenciji (UI), koji će se još više koristiti u budućnosti, trenutno su u tijeku inicijative za regulacijom upotrebe umjetne inteligencije (UI) koja bi prevenirala negativni učinak na ljudska prava i jednakost. Zbog toga je na razini EU u tijeku postupak donošenja Uredbe o UI, a u okviru VE izrađuje se nacrt Okvirne konvencije o UI, ljudskim pravima, demokraciji i vladavini prava.
Umjetna se inteligencija može koristiti u raznim područjima života:
- zapošljavanje,
- rad,
- zdravstvo,
- javne uprave,
- borba protiv dezinformacija i govora mržnje.
U sklopu programa Digitalna Europa kojeg koordinira Institut Ruđer Bošković, projekt AI4HEALTH.Cro - UI za pametno zdravstvo i medicinu, je započeo u siječnju 2023. godine, a koji će uvelike unaprijediti zdravstveni sustav. Radit će se o jedinstvenoj platformi i „one-stop-shop“ za pružanje sveobuhvatne podrške korisnicima u svim fazama razvoja, od testiranja prije ulaganja do plasiranja.
U javnoj upravi se provode projekti kojima bi UI unaprijedio tražilice i razvoj automatizacije analize dokumenata kako bi njihovo pretraživanje i dostupnost bilo bolje.
MPU je 2022. godine pokrenulo postupak nabave centraliziranog sustava selekcije kojim bi se u potpunosti digitalizirao proces zapošljavanja u državnoj službi. Prijedlogom Uredbe EK o UI iz 2021. sustavi rangiranja kandidata pri zapošljavanju kategorizirani kao visokorizični, stoga je prije njihovog stavljanja u funkciju potrebno pažljivo procijeniti i prevenirati moguće negativne posljedice na ljudska prava i jednakost.
EU projektom FINDHRxxiii (Fairness and Intersectional Non-Discrimination in Human Recommendation) pokušava se razviti sustav za algoritamsko zapošljavanje najboljih kandidata, bez diskriminacije.
Unatoč tome što identificiranje dezinformacija nije jednostavan proces, pozitivan primjer korištenja UI jest razvoj računalnih sustava namijenjenih provjeri točnosti informacija. U okviru NPOO-a xxiv predstavljen je projekt „Uspostava provjere medijskih činjenica i sustava javne objave podataka“ kako bi se razvio mehanizam za poticanje profesionalnog novinarstva.
Na prava građana može se odraziti činjenica da državna tijela koja primjenjuju sustave UI najčešće ih nabavljaju od trećih osoba, bez znanja koje podatke i na koji način ih sustav koristi. Primjerice, prema izvještavanju medija i OCD-a, u Srbiji je nedavno donesen zakon kojim je uveden automatski sustav odobravanja socijalnih naknada, pri čemu je algoritam koristio osobne podatke iz različitih registara (između ostalih i podatke o etnicitetu te socio-ekonomskom statusu građana). Posljedica toga je da je Romima uskraćena socijalna pomoć jer je algoritam zaključio da ostvaruju prihode prikupljanjem sekundarnih sirovina.
U Nizozemskoj, 2014. godine, uveden je sličan sustav radi preveniranja prijevara kod odobravanja socijalne pomoći. No sustav je znao pogrešno označavati osobe koji žive u siromašnim četvrtima kao rizične za počinjenje prijevara, koristeći velike količine podataka iz nekoliko državnih registara, a kao veliki pokazatelj rizika označeni su dvojno državljanstvo i niska primanja. Građani nisu znali koji se podaci i kako obrađuju te nije bilo dovoljno zaštitnih mehanizama unutar sustava. Zbog nejasnog načina funkcioniranja algoritma te etničkog i socioekonomskog profiliranja građana, što može dovesti do diskriminacije, sud je donio odluku o nedopuštenosti korištenja ovog sustava, a vlada je podnijela ostavku.
Važno je da uvođenje UI u javni sektor bude pomno izvedeno, budući da ima veliki utjecaj na prava građana. Građani bi trebali biti informirani da sustavi koriste UI.
S izazovima korištenja UI se susreću i radnici zaposleni putem digitalnih radnih platformi. Tako je u Italiji sud zaključio da platforma diskriminira radnike dodjeljujući im manje poželjne i udaljenije vožnje ukoliko su neko vrijeme bili odsutni s aplikacije, čak i kad je to bilo uvjetovano zdravstvenim razlozima.
Slični su problemi prisutni i kod radnika u RH, što ukazuje na potrebu za transparentnosti, odnosno treba biti jasno kako sustav donosi odluke, koje podatke obrađuje i koji su rizici, radi njihovog pravovremenog otklanjanja.
Važno je i pitanje odgovornosti za štetu nastalu korištenjem UI, zbog čega je EK 2022. donijela novu Direktivu o odgovornosti za UI, kojom se oštećenom pojednostavljuje dokazivanje ukoliko je šteta nastala ažuriranjem softvera ili UI.
U slučajevima visokorizičnih sustava UI, oštećenici će moći pristupiti relevantnim podacima u vlasništvu kompanije i/ili dobavljača te potom podnijeti odštetni zahtjev na temelju pretpostavke uzročnosti, bez dokazivanja da je šteta prouzročena greškom ili propustom sustava UI.
Dakle, u primjeni novih tehnologija važna je edukacija svih aktera uključenih u izradu, implementaciju i korištenje digitalnih sustava, posebno o njihovom utjecaju na ljudska prava i jednakost.
Izvor: „Izvješće pučke pravobraniteljice za 2022. godinu“
