Využití algoritmů při profilování v trestním řízení a důsledky pro lidská práva

Algoritmy nahrazuji cinnosti, ktere dřive vykonavali lide. Jednou z těchto cinnosti je soudni rozhodovani založene na algoritmech. Obecně se předpoklada, že algoritmicke rozhodovani, na rozdil od toho lidskeho, postrada předsudky a předpojatosti. Tento předpoklad je problematický ve dvou momentech. Za prve, algoritmus rozhoduje podle předem stanovených kriterii a hodnot. Tyto hodnoty urcuji lide, kteři mohou mezi předem stanovena kriteria zahrnout ta, ktera odpovidaji jejich předsudkům. Za druhe, některe algoritmy mohou mit schopnost ucit se, což znamena, že vygenerovane výsledky jsou přizpůsobeny předchozim výsledkům, ktere byly v minulosti upřednostněny. Uživatele mohou mit možnost zvolit výsledky, ktere odpovidaji jejich nazoru, ktere vsak mohou být založeny na předsudcich. Ve Spojených statech a take v některých evropských zemich již soudy použivaji algoritmus k posouzeni, zda je pravděpodobne, že obviněný (resp. odsouzený) spacha v budoucnosti jiný trestný cin. Soudce nerozhoduje na zakladě okolnosti připadu a individualnich charakteristik obviněneho. Soudce rozhoduje misto toho na podkladě profilu. Profily pachatelů jsou sestaveny na zakladě osobnich udajů pachatelů, přicemž některe z těchto udajů mohou mit povahu biometrickeho udaje. Algoritmicke rozhodovani založene na profilovani vyvolava obavy ze zasahu do prav obviněneho v soudnim řizeni, konkretně zakazu diskriminace a pravu na spravedlivý proces.