Ekspertna zabrinutost zbog nove knjige: Kritika prediktivnih alata u kaznenom pravu
Jeste li ikada doživjeli situaciju na poslu kada su se tisuće stručnjaka okupile kako bi preporučile ukidanje objavljivanja istraživanja? Iako to nije svakodnevna pojava, upravo se to dogodilo Harrisburg University. Tim istraživača iz ove institucije našao se pod paljbom kritika zbog tvrdnji u svom nadolazećem djelu koje će objaviti Springer Nature, u knjizi “Transactions on Computational Science & Computational Intelligence”.
Kontroverzno istraživanje
Članovi tima s Harrisburg University načinili su sustav koji, prema njihovim izjavama u priopćenju koje je kasnije uklonjeno, može predvidjeti kriminalno ponašanje na temelju fotografije lica. Ovdje su iznijeli tvrdnju o “80 posto točnosti bez rasne pristranosti”, uz napomenu da je softver zamišljen kao alat za pomoć policiji u prevenciji zločina.
Stručnjaci reaguju
Međutim, mnogi stručnjaci iz različitih područja – od statistike do umjetne inteligencije i prava – odmah su izrazili svoju zabrinutost. U otvorenom pismu, jasno su istaknuli: “Ne postoji način za razvoj sustava koji može predvidjeti ili identificirati ‘kriminalitet’, a da nije rasno pristran.” Ova skupina, koja se naziva Koalicija za kritičnu tehnologiju, upozorava da podaci iz kaznenog pravosuđa ne mogu biti korišteni za identifikaciju kriminalaca ili predviđanje kriminalnog ponašanja.
Problematika i etički izazovi
Mnogobrojne studije potvrđuju da se osobe iz manjinskih zajednica suočavaju s strožim kaznama u pravosudnom sustavu u odnosu na bijele osobe, što dovodi do ozbiljnih iskrivljenja podataka. “Svaki softver koji se razvija unutar postojećeg kaznenog pravnog okvira će neizbježno ponavljati iste predrasude i fundamentalne netočnosti”, naglašavaju stručnjaci. Njihovo pismo ukazuje i na povijesne zloupotrebe “policijske znanosti” kao opravdanje za rasno diskriminacijske prakse.
Obnova predrasuda u novim tehnologijama
Stručnjaci također kritiziraju sve veći trend korištenja umjetne inteligencije kao alata za predviđanje kriminalnog ponašanja temeljenog na fizičkim karakteristikama, ističući kako predstavlja povratak u discredited pseudonauku, poput frenologije. Ovakvi sustavi nisu samo tehnološki neuspjesi, već su i potencijalno opasni alati za dodatnu marginalizaciju već ranjivih zajednica.
Poziv na akciju
Koalicija za kritičnu tehnologiju poziva Springer Nature da se javno ogradi od korištenja statistike kaznenog prava za predviđanje kriminalnosti i da preuzme odgovornost za svoje prethodne odluke koje su poticale štetne rezultate. U odgovoru, Harrisburg University naglašava da njihovo istraživanje ne odražava nužno stavove institucije te da je fakultet u procesu ažuriranja rada kako bi adresirao postavljene zabrinutosti.
Zaključak
Ova situacija ukazuje na hitnu potrebu za preispitivanjem etičkih smjernica u korištenju tehnologije u pravosudnom sustavu. Prava, pravedna i nepristrana upotreba podataka trebala bi biti prioritet kako bi se spriječilo daljnje produbljivanje socijalne nepravde. U istraživačkom kontekstu, pitanje koje se postavlja je: kako možemo osigurati da tehnološki alati ne budu odraz, već rješenje za postojećih problema društva?
