Više o blogu

Vještačka inteligencija (AI) se ubrzano razvija kao temelj moderne tehnologije, značajno utičući na različite aspekte svakodnevnog života. Od određivanja kreditne sposobnosti do donošenja ključnih odluka u zdravstvenoj zaštiti, AI sistemi su danas u prvom planu procesa odlučivanja. Međutim, kako ovi sistemi postaju sve integralniji dio društvenih funkcija, postavljaju se pitanja o njihovoj pravednosti i potencijalu za diskriminaciju. Ključno pitanje ostaje: da li AI samo odražava ljudske pristrasnosti ili može biti alat za podsticanje jednakosti?

U središtu rasprave nalazi se koncept algoritamske diskriminacije. Do nje dolazi kada AI sistemi, koji se u velikoj mjeri oslanjaju na istorijske podatke, nenamjerno generišu pristrasnosti prisutne u tim podacima. Na primjer, pokazano je da AI sistemi korišćeni u pravosudnom sistemu ispoljavaju rasne pristrasnosti, pri čemu se optuženici afroameričkog porijekla često označavaju kao visokorizični za ponavljanje krivičnih djela u poređenju sa bijelim optuženicima pod sličnim okolnostima. Slično tome, rodne pristrasnosti su isplivale na površinu u finansijskim sistemima, kao u slučaju Apple Card-a, kada su ženama odobravani niži kreditni limiti u poređenju sa muškarcima.

Izazov leži u činjenici da AI, za razliku od ljudi, ne posjeduje inherentne etičke ili moralne kriterijume. On objektivno obrađuje podatke, što znači da će svaka pristrasnost prisutna u ulaznim podacima vjerovatno biti reflektovana u rezultatima. Ovo je dovelo do brojnih slučajeva u kojima su AI sistemi donijeli diskriminatorne odluke, dodatno ukorjenjujući društvene pristrasnosti.

Regulacija AI-a, sa ciljem sprječavanja ovakve diskriminatorne prakse mora da bude prioritet. Iako aktuelni međunarodni ugovori koji se bave diskriminacijom, poput Univerzalne deklaracije o ljudskim pravima i Međunarodnog pakta o građanskim i političkim pravima, ne pokrivaju eksplicitno AI oblast, oni postavljaju temelje za regulative koje se tek pojavljuju.

Uredba o AI Evropske unije i Nacrt okvirne konvencije Savjeta Evrope o vještačkoj inteligenciji, ljudskim pravima, demokratiji i vladavini prava predstavljaju pionirske napore u ovom pogledu. Ovi pravni instrumenti imaju za cilj da osiguraju da AI sistemi funkcionišu u okviru koji prioritizuje ljudska prava, nediskriminaciju i transparentnost. Oni predstavljaju ključan korak ka regulaciji AI-a na fundamentalnom nivou, baveći se i potencijalnim koristima i rizicima povezanim sa ovim tehnologijama.

Pored međunarodnih regulativa, interne politike AI kompanija igraju ključnu ulogu u ublažavanju algoritamske diskriminacije. Kompanije poput OpenAI-a su uspostavile politike korišćenja koje zabranjuju diskriminatorne prakse, nasilje i nezakonite aktivnosti. Ove politike se sprovode kroz kombinaciju automatizovanih sistema i ljudske supervizije, osiguravajući da AI sistemi poštuju etičke standarde.

Međutim, efikasnost ovih internih politika zavisi od transparentnosti i odgovornosti kompanija. Da bi AI zaista služio kao sredstvo za postizanje jednakosti, neophodno je da kompanije ne samo implementiraju snažne etičke smjernice, već i da osiguraju da njihovi AI sistemi redovno prolaze revizije usklađenosti.

Regulisanje AI-a u cilju sprječavanja diskriminacije uključuje dva ključna aspekta: 1) kvalitet podataka koji se koriste za treniranje algoritama i 2) transparentnost procesa donošenja odluka. Osiguranje da se AI sistemi treniraju na nepristrasnim, visokokvalitetnim podacima ključno je za sprječavanje generisanja postojećih pristrasnosti. Osim toga, transparentnost u tome kako se AI odluke donose omogućava lakšu identifikaciju i korekciju diskriminatornih praksi.

Transparentnost i odgovornost su međusobno povezani principi koji su ključni za etičko funkcionisanje AI sistema. Kompanije i regulatorna tijela moraju sarađivati kako bi osigurali da AI sistemi nisu samo efikasni i inovativni, već i pravedni i pravični.

AI predstavlja značajan tehnološki iskorak sa potencijalom da ili pogorša ili ublaži društvene nejednakosti. Ključ za osiguranje da AI služi kao sila dobra leži u snažnoj regulativi, etičkim poslovnim praksama i posvećenosti transparentnosti. Kako idemo naprijed, imperativ je da se pravni okviri razvijaju kako bi adresirali jedinstvene izazove koje postavlja AI, osiguravajući da se ova moćna tehnologija koristi za promociju jednakosti i pravde u društvu.

Rješavanjem potencijala za algoritamsku diskriminaciju kroz sveobuhvatne pravne regulative i etičke standarde, možemo iskoristiti moć AI-a da stvorimo pravedniju budućnost.

Napomena: Ovaj blog je nastao kao plod istraživačkog rada koji su napisali mr Jovan Jablan (pravni savjetnik u SLC), mr Luka Laković (asistent na Fakultetu za informacione sisteme i tehnologije Univerziteta Donja Gorica) i mr Andrea Mićanović (pravna savjetnica u SLC).