Czy algorytmy predykcyjne w policji są zgodne z prawami człowieka i zasadami demokracji

Co to są algorytmy predykcyjne w policji i skąd wziął się problem

Definicje i podstawowe pojęcia

Algorytmy predykcyjne w policji to narzędzia informatyczne, które – na podstawie danych historycznych i modeli statystycznych lub uczenia maszynowego – przewidują prawdopodobieństwo określonych zdarzeń. Najczęściej chodzi o:

• ryzyko popełnienia przestępstwa w danym miejscu i czasie,
• ryzyko recydywy konkretnej osoby,
• prawdopodobieństwo wystąpienia przemocy domowej lub innego poważnego incydentu,
• „podejrzane” wzorce zachowań w sieci czy przestrzeni publicznej.

Kluczowe jest tu pojęcie prawdopodobieństwa. Algorytm predykcyjny nie „wie”, co się wydarzy. Oblicza jedynie, jak bardzo coś jest prawdopodobne na podstawie danych, które mu podano, oraz przyjętego modelu. To od ludzi – policjantów, prokuratorów, sędziów – zależy, jak tę informację wykorzystają.

Warto odróżnić proste statystyki od złożonych systemów AI w policji:

• proste statystyki: np. mapa przestępczości, która pokazuje, ile kradzieży było w danej dzielnicy w ubiegłym roku;
• systemy AI: modele, które na tej podstawie próbują przewidzieć, gdzie kradzieże pojawią się jutro i kto może być ich sprawcą, używając tysięcy zmiennych i skomplikowanych wzorów.

Do takich systemów wprowadza się wiele typów danych wejściowych:

• dane o zdarzeniach – zgłoszenia przestępstw, interwencje, mandaty, zatrzymania;
• dane osobowe – wiek, płeć, miejsce zamieszkania, wcześniejsze konflikty z prawem;
• dane kontekstowe – czas (pora dnia, dzień tygodnia), miejsce (ulica, dzielnica), typ zdarzenia, otoczenie (sklepy, bary, szkoły);
• dane zewnętrzne – np. informacje z mediów społecznościowych, monitoring wizyjny, dane telekomunikacyjne.

Im więcej danych, tym bardziej „precyzyjne” wydają się algorytmy predykcyjne w policji. Problem w tym, że większa ilość danych to również większe ryzyko naruszenia praw człowieka, zwłaszcza prawa do prywatności, równego traktowania i domniemania niewinności.

Krótka historia i przykłady zastosowań

Algorytmy predykcyjne w policji nie pojawiły się nagle. Najpierw były statystyki kryminalne, które od lat 60. i 70. XX wieku wykorzystywano do planowania patroli i działań prewencyjnych. Z czasem, wraz z rozwojem komputerów, powstały narzędzia GIS (systemy informacji geograficznej) i pierwsze mapy „gorących punktów” przestępczości.

W latach 2000–2010 w USA i innych krajach zaczęły się rozpowszechniać systemy „predictive policing”, komercyjnie oferowane policjom miejskim. Często łączyły one:

• mapy ryzyka przestępstw,
• algorytmy rekomendujące, gdzie wysłać patrole,
• systemy scoringowe oceniające ryzyko związane z osobami lub adresami.

Równolegle rozwijały się narzędzia oceny ryzyka recydywy w sądach i prokuraturach. Przykładowo, w USA wykorzystywano systemy scoringowe do oceny, czy oskarżony może oczekiwać na proces na wolności, czy należy zastosować tymczasowe aresztowanie. Algorytm – na podstawie historii skazań, wieku, rodzaju czynu – wyliczał „score” ryzyka recydywy.

W kolejnych latach algorytmy predykcyjne w policji rozlały się na nowe obszary:

• monitoring wizyjny – analiza obrazu z kamer, wykrywanie „nietypowych” zachowań, automatyczne powiadomienia o zgromadzeniach;
• rozpoznawanie twarzy – identyfikacja osób w tłumie, łączenie z bazami poszukiwanych, monitorowanie aktywistów czy mniejszości;
• analityka mediów społecznościowych – wykrywanie potencjalnych zagrożeń, „mapowanie” sieci kontaktów, profilowanie poglądów politycznych.

W Europie dyskusja przyspieszyła po ujawnieniu projektów wykorzystujących sztuczną inteligencję do typowania „osób wysokiego ryzyka” oraz po krytyce systemów takich jak PredPol w USA czy COMPAS w sądownictwie. W Polsce temat pojawia się na razie rzadziej w przestrzeni publicznej, ale rozwiązania z zakresu analityki predykcyjnej są stopniowo testowane i wdrażane, często w projektach pilotażowych.

Dlaczego temat budzi emocje

Algorytmy predykcyjne w policji dotykają kilku fundamentalnych lęków. Po pierwsze, wiele osób ma skojarzenie z kulturą popularną – „Minority Report” i wizją ścigania za „przestępstwa przyszłości”. Nie chodzi tylko o science-fiction; chodzi o realny niepokój, że można być traktowanym jak potencjalny przestępca wyłącznie na podstawie statystyk.

Po drugie, istnieje obawa przed wzmacnianiem uprzedzeń. Dane historyczne, na których uczy się algorytm, odzwierciedlają nie tylko przestępczość, ale też sposób działania policji: gdzie wysyłała patrole, kogo częściej zatrzymywała, kogo częściej legitymowała. Jeśli policja przez lata częściej kontrolowała określoną grupę (np. mieszkańców biedniejszych dzielnic), algorytm nauczy się, że to właśnie tam jest „największe ryzyko” i będzie wysyłał tam jeszcze więcej patroli. To klasyczna spirala.

Po trzecie, algorytmy predykcyjne grożą niewidzialnym przesuwaniem granic wolności. Działają w tle, technicznie, bez głośnych zmian w prawie. Zmienia się praktyka operacyjna policji, a obywatel najczęściej nawet nie wie, że decyzja o kontroli, zatrzymaniu czy zwiększonym nadzorze wokół jego dzielnicy została zainspirowana „modelem ryzyka” opracowanym przez prywatną firmę.

To wszystko powoduje, że pytanie „Czy algorytmy predykcyjne w policji są zgodne z prawami człowieka i zasadami demokracji?” nie jest ani akademickie, ani czysto technologiczne. Dotyka codziennego doświadczenia wolności, równego traktowania i zaufania do instytucji państwa.

Jakie prawa człowieka są stawką przy algorytmach predykcyjnych

Katalog praw szczególnie narażonych

Algorytmy predykcyjne w policji dotykają niemal całej palety praw człowieka, ale kilka z nich jest szczególnie zagrożonych. Bez ich ochrony trudno mówić o realnej demokracji, a nie tylko o formalnych procedurach wyborczych.

Prywatność i ochrona danych osobowych

Żeby przewidywać, trzeba gromadzić dane. Często są to dane bardzo wrażliwe:

• szczegółowe informacje o miejscu zamieszkania, rodzinie, relacjach społecznych,
• historia kontaktów z policją, także w charakterze świadka czy ofiary,
• dane z monitoringu miejskiego, rozpoznawania twarzy, lokalizacji telefonów,
• aktywność w mediach społecznościowych, przynależność do grup, udział w wydarzeniach.

Pojawiają się tu dwa główne problemy:

• zakres gromadzenia danych – czy policja może zbierać dane „na wszelki wypadek”, tylko dlatego, że algorytm może je potencjalnie wykorzystać?
• łączenie baz danych – im więcej źródeł połączonych w jedną sieć, tym więcej można powiedzieć o konkretnym człowieku, nawet bez jego wiedzy i zgody.

RODO i prawo UE wymagają, aby przetwarzanie danych osobowych było proporcjonalne, konieczne i oparte na jasnej podstawie prawnej. Profilowanie predykcyjne, zwłaszcza w sektorze publicznym, wymaga szczególnej ostrożności i często oceny skutków dla ochrony danych (DPIA). Jeśli ten etap jest traktowany jako formalność, ryzyko naruszeń prywatności rośnie lawinowo.

Domniemanie niewinności i prawo do rzetelnego procesu

Domniemanie niewinności oznacza, że każdego traktuje się jako niewinnego, dopóki jego wina nie zostanie udowodniona. Algorytmy predykcyjne w policji działają jednak na logice „ryzyka”, nie „winy”. Osoba o wysokim „score” może być:

• częściej kontrolowana i zatrzymywana,
• traktowana jako bardziej „podejrzana” przy każdym incydencie w okolicy,
• mniej chętnie wypuszczana z aresztu,
• ostrożniej traktowana przez sąd przy wymiarze kary.

Jeśli decyzje procesowe opierają się w praktyce na algorytmicznych ocenach ryzyka, domniemanie niewinności staje się fikcją. Dodatkowo, gdy algorytm jest nieprzejrzysty („czarna skrzynka”), oskarżony ma ograniczone prawo do obrony. Jak podważyć „wynik”, jeśli nie wiadomo, jak został obliczony i na jakich danych się opierał?

Zakaz dyskryminacji i równe traktowanie

Profilowanie predykcyjne a dyskryminacja to rdzeń kontrowersji wokół takich systemów. Formalnie algorytm może nie wykorzystywać danych o rasie, religii czy poglądach, ale używać zmiennych zastępczych (np. kodu pocztowego, typu szkoły, zapisów w rejestrach socjalnych). Wtedy efekt bywa taki sam: określone grupy są częściej wskazywane jako „wysokiego ryzyka”.

Dyskryminacja może przybierać różne formy:

• rasowa lub etniczna – dotyka mniejszości, migrantów, Romów, osób o innym kolorze skóry;
• klasowa – osoby biedniejsze, z zadłużeniami, mieszkające w określonych dzielnicach są częściej traktowane jako „problemowe”;
• terytorialna – całe dzielnice stają się „czerwone” na mapie, co wpływa na reputację mieszkańców, inwestycje, poczucie bezpieczeństwa.

Zakaz dyskryminacji obejmuje nie tylko działania bezpośrednio motywowane uprzedzeniami, ale też praktyki, które w efekcie prowadzą do gorszego traktowania grup chronionych. Algorytmy predykcyjne są tu szczególnie zdradliwe, bo ich „uprzedzenia” wynikają z danych i modeli, a nie z deklaracji funkcjonariuszy. Trudniej je zauważyć i zakwestionować.

Wolność przemieszczania się, zgromadzeń i wypowiedzi

Jeśli algorytmy predykcyjne w policji wykorzystywane są do monitorowania protestów, aktywistów, środowisk politycznych, uderzają w kluczowe wolności demokratyczne:

• wolność zgromadzeń – ludzie mogą rezygnować z udziału w demonstracjach, jeśli czują, że są filmowani, identyfikowani i „profilowani”;
• wolność wypowiedzi – sama świadomość, że komentarze w sieci są analizowane przez algorytmy, może prowadzić do autocenzury;
• wolność przemieszczania się – wzmożone kontrole w okolicach „ryzykownych” zgromadzeń zniechęcają do pojawiania się tam nawet w celach obserwacyjnych.

Kontrola nad tym, kto wychodzi na ulicę i co może powiedzieć, jest jednym z najpotężniejszych narzędzi władzy. Jeśli władza wspiera się w tym nieprzejrzystymi algorytmami, ryzyko nadużyć rośnie, a możliwość społecznego nadzoru maleje.

Standardy międzynarodowe ochrony praw człowieka

Ocena zgodności algorytmów predykcyjnych z prawami człowieka nie zaczyna się od zera. Istnieją wiążące standardy międzynarodowe, które tworzą ramy dla nowych technologii.

Europejska Konwencja Praw Człowieka

Kluczowe artykuły EKPCz w tym kontekście to:

• Art. 8 – prawo do poszanowania życia prywatnego i rodzinnego: obejmuje ochronę danych osobowych, nadzór elektroniczny, monitoring. Każda ingerencja musi być „przewidziana przez ustawę”, służyć „legitymowanemu celowi” (np. bezpieczeństwo publiczne) i być „konieczna w społeczeństwie demokratycznym”.
• Art. 10 – wolność wyrażania opinii: nie tylko zakazuje cenzury, ale też chroni przed nadmiernym nadzorem, który mógłby zastraszać lub tłumić debatę publiczną.
• Art. 11 – wolność zgromadzeń i stowarzyszania się: dotyczy protestów, związków zawodowych, organizacji pozarządowych. Profilowanie uczestników zgromadzeń pod kątem „ryzyka” może być ingerencją w te wolności.
• Art. 14 – zakaz dyskryminacji: wymaga, by wszystkie prawa z Konwencji były realizowane bez dyskryminacji ze względu na m.in. płeć, rasę, pochodzenie, poglądy.

Europejski Trybunał Praw Człowieka w wielu wyrokach odnosił się do masowej inwigilacji i profilowania. Podkreślał m.in., że:

Międzynarodowy Pakt Praw Obywatelskich i Politycznych oraz inne źródła

Na poziomie globalnym punktem odniesienia jest Międzynarodowy Pakt Praw Obywatelskich i Politycznych (MPPOiP). Potwierdza on szereg praw kluczowych przy algorytmach predykcyjnych, m.in.:

• prawo do prywatności (art. 17) – zakaz arbitralnej lub bezprawnej ingerencji w życie prywatne, rodzinne, korespondencję i reputację;
• prawo do wolności i bezpieczeństwa osobistego (art. 9) – dotyczy zatrzymań i aresztowań opartych na nieprzejrzystych „ocenach ryzyka”;
• prawo do rzetelnego procesu (art. 14) – obejmuje prawo do poznania materiału dowodowego, w tym podstaw działania systemów algorytmicznych;
• wolność wypowiedzi, zgromadzeń i stowarzyszania się (art. 19, 21, 22) – zagrożone przy monitorowaniu aktywności politycznej i obywatelskiej.

Komitet Praw Człowieka ONZ w swoich ogólnych komentarzach podkreśla, że nowe technologie nie zwalniają państw z obowiązku ochrony praw. Przeciwnie, im bardziej złożone i nieprzejrzyste narzędzia, tym większa potrzeba przejrzystości, kontroli i realnych środków odwoławczych.

Do tego dochodzą współczesne, „miękkie” standardy – wytyczne ONZ dotyczące biznesu i praw człowieka, rekomendacje Rady Europy w sprawie systemów SI w sektorze publicznym czy raporty Specjalnych Sprawozdawców ONZ ds. prywatności i wolności zgromadzeń. One nie mają mocy traktatów, ale wyznaczają oczekiwania wobec państw i firm dostarczających rozwiązania predykcyjne.

Zasady państwa demokratycznego a predykcja w policji

Rządy prawa zamiast „rządów algorytmu”

Demokracja to nie tylko wybory. To także rządy prawa – sytuacja, w której władza publiczna, w tym policja, działa na podstawie jasnych przepisów i podlega kontroli. Algorytmy predykcyjne mogą ten porządek podkopać na kilka sposobów:

• technokratyczne przesunięcie decyzyjności – funkcjonariusze i decydenci zaczynają polegać na „rekomendacjach systemu”, a nie na własnej ocenie w ramach prawa;
• „ukryte” normy – parametry modelu i przyjęte definicje ryzyka działają jak nieformalne przepisy, o których nikt spoza zespołu projektowego nie wie;
• osłabienie odpowiedzialności – gdy decyzja jest kontestowana, łatwo rozmyć winę: „to nie my, tak wyszło w systemie”.

Jeśli obywatel nie może zidentyfikować konkretnej podstawy prawnej, na której doszło do ingerencji w jego prawa, albo usłyszy jedynie, że „system wskazał”, trudno mówić o pełnych rządach prawa. W praktyce powstaje obszar „pomiędzy” prawem a technologią.

Przejrzystość, która ma sens dla zwykłego obywatela

W debacie często pojawia się hasło „transparentność algorytmów”. Dla osoby narażonej na nadzór liczy się jednak nie wgląd w kod źródłowy, ale zrozumiałe wyjaśnienie:

• dlaczego znalazła się w grupie „podwyższonego ryzyka”,
• jakie dane o niej wykorzystano,
• kto decydował o wdrożeniu danego systemu i na jakich zasadach.

Przejrzystość w ujęciu demokratycznym obejmuje więc kilka poziomów:

• przejrzystość systemową – wiadomo, że policja używa danego rodzaju systemu, w jakim celu, jak długo, na jakiej podstawie prawnej;
• przejrzystość instytucjonalną – istnieją procedury wewnętrzne, które opisują, jak funkcjonariusze mogą (i jak nie mogą) korzystać z algorytmów, oraz kto to kontroluje;
• przejrzystość indywidualną – osoba dotknięta decyzją ma prawo do informacji i zrozumiałego uzasadnienia, a nie jedynie lakonicznego „tak wyszło w modelu”.

Dla wielu osób już sama świadomość, że mogą zadać pytanie i uzyskać odpowiedź w ludzkim języku, jest kluczowa dla poczucia podmiotowości i bezpieczeństwa.

Kontrola demokratyczna i udział społeczeństwa

Systemy predykcyjne w policji zwykle powstają w ramach przetargu z dostawcą technologii, gdzie szczegóły określa dokumentacja techniczna, a nie debata publiczna. Tymczasem w demokracji decyzje o tak istotnych narzędziach powinny być:

• podejmowane jawnie – z możliwością konsultacji z organizacjami społecznymi, ekspertami i społecznościami, których będzie to najbardziej dotyczyć;
• podległe kontroli parlamentu i niezależnych organów – np. rzeczników praw obywatelskich, organów ochrony danych, sądów;
• regularnie ewaluowane – z obowiązkiem publikowania wyników testów, wskaźników błędów, analiz dyskryminacji.

Dla lokalnych społeczności szczególnie ważne są mechanizmy skargi i dialogu. Jeżeli mieszkańcy konkretnej dzielnicy doświadczają nagłego wzrostu kontroli i patroli, powinni mieć dostęp do jasnej ścieżki:

1. ustalenia, czy ma to związek z algorytmem,
2. zakwestionowania takiej praktyki,
3. wypracowania zmian – np. modyfikacji modelu, ograniczenia zakresu danych, zmiany procedur.

Bez takiej dwustronnej komunikacji łatwo o narastanie nieufności, poczucia stygmatyzacji i przekonania, że „technologia jest po stronie władzy, a nie obywateli”.

Odpowiedzialność i możliwość odwołania się

Kluczową cechą demokracji jest to, że każdą decyzję władzy można zakwestionować. W świecie algorytmów predykcyjnych oznacza to, że obywatel powinien mieć realną możliwość:

• dowiedzenia się, że dana decyzja była częściowo lub w całości oparta na systemie predykcyjnym,
• otrzymania informacji o roli algorytmu (czy był jedynie wskazówką, czy de facto zadecydował),
• zaskarżenia tej decyzji do niezależnego organu.

Po stronie państwa musi istnieć jasna, przypisana odpowiedzialność: kto odpowiada za dobór danych, za sposób trenowania modelu, za nadzór nad jego działaniem, za reakcję na błędy. Bez tego także funkcjonariusze czują się „zamknięci” w systemie, który podejmuje decyzje za nich, i trudniej im sprzeciwić się ewidentnym niesprawiedliwościom.

Zaufanie do instytucji a „chłód” technologii

Policja w państwie demokratycznym opiera swoje działanie nie tylko na sile prawa, ale też na zaufaniu społecznym. Jeżeli mieszkańcy mają poczucie, że są oceniani przez bezosobowe systemy, na które nie mają wpływu, zaufanie eroduje. Może się wtedy pojawiać kilka reakcji:

• unikanie kontaktu z policją, nawet jako ofiara lub świadek,
• poczucie „profilowania” i nadzoru, szczególnie w społecznościach mniejszościowych,
• wzrost napięć i konfliktów przy kontrolach – bo to nie tylko zatrzymanie, ale też symboliczna ocena całej grupy.

Dla wielu osób sama obecność zaawansowanej technologii kojarzy się z profesjonalizmem i neutralnością. Kiedy jednak zaczynają się pojawiać historie o niesłusznych zatrzymaniach czy „policyjnych algorytmach” uderzających w określone dzielnice, ten obraz szybko się komplikuje. Demokratyczne państwo prawa musi liczyć się z tym wymiarem emocjonalnym i symbolicznym, a nie tylko z tabelą statystyk.

Jak działają algorytmy predykcyjne w policji – techniczny szkic bez żargonu

Skąd biorą się dane do „kryształowej kuli”

Podstawą każdego systemu predykcyjnego są dane wejściowe. W kontekście policji zwykle obejmują one kilka warstw:

• dane o przestępstwach – zgłoszenia, interwencje, zatrzymania, miejsca i czas zdarzeń;
• dane o środowisku – gęstość zaludnienia, typ zabudowy, infrastruktura (dworce, kluby, szkoły), wydarzenia masowe;
• dane o osobach – wcześniejsze konflikty z prawem, kontakty z policją, powiązania z określonymi grupami;
• dane z innych instytucji – w miarę możliwości prawnych: rejestry socjalne, dane transportu publicznego, monitoring miejski.

W praktyce dane są czyszczone, standaryzowane i łączone. Na tym etapie pojawia się wiele decyzji:

• co uznać za „istotne” zmienne (np. pora dnia, dni wypłat, bliskość szkoły),
• jak traktować zdarzenia niezgłoszone lub niepotwierdzone,
• jak radzić sobie z brakami w danych (np. brak informacji o części zdarzeń w niektórych dzielnicach).

Te wybory nie są neutralne. Mogą sprawić, że określone zjawiska zostaną „niewidzialne” dla systemu albo przeciwnie – będą nadreprezentowane.

Modele przewidywania miejsc i ludzi

W policji stosuje się głównie dwa typy predykcji:

• predykcja miejsc (hot spots) – system tworzy mapę obszarów o podwyższonym ryzyku wystąpienia określonego typu przestępstw w określonym czasie;
• predykcja osób – system szacuje prawdopodobieństwo, że dana osoba popełni (lub padnie ofiarą) przestępstwa.

W pierwszym przypadku algorytm analizuje wzorce przestrzenno-czasowe: kiedy i gdzie w przeszłości dochodziło do zdarzeń, jakie czynniki im towarzyszyły. Na tej podstawie określa „gorące kwadraty” na mapie miasta, do których sugeruje skierowanie większej liczby patroli.

W drugim przypadku model przypisuje osobom „wyniki ryzyka” na podstawie ich historii (np. wcześniejsze wykroczenia, częstotliwość kontaktu z policją) i cech otoczenia (np. powiązania towarzyskie, przynależność do „sieci”). Takie systemy mogą być wykorzystywane np. do wskazywania „osób wymagających interwencji profilaktycznej”. W praktyce ta granica między profilaktyką a stygmatyzacją jest bardzo cienka.

Uczenie się na przeszłości – dlaczego to problematyczne

Algorytmy predykcyjne „uczą się” na danych historycznych. Jeśli w przeszłości policja częściej patrolowała określone dzielnice i częściej tam odnotowywała wykroczenia, te miejsca będą w danych wyglądały na bardziej „przestępcze”. Model, analizując takie dane, uzna, że to tam właśnie „statystycznie” warto wysyłać patrole. Po wdrożeniu systemu:

1. patrole częściej pojawiają się w tych dzielnicach,
2. wzrost obecności policji prowadzi do większej liczby wykrytych wykroczeń,
3. dane potwierdzają „skuteczność” wskazań modelu – koło się zamyka.

Dla mieszkańca takiej dzielnicy oznacza to, że doświadcza on policji częściej niż sąsiednia, bogatsza dzielnica – choć realny poziom poważnej przestępczości może być bardzo podobny. Technologia utrwala w ten sposób dawne schematy działania służb, nadając im pozór obiektywności.

Co oznacza „dokładność” w praktyce

Producenci systemów często chwalą się „wysoką dokładnością” modeli. W języku statystyki oznacza to jednak coś innego niż w języku potocznym. Algorytm może:

• często trafnie wskazywać obszary o rzeczywiście wyższym ryzyku, a jednocześnie
• generować wiele fałszywych alarmów – miejsc i osób, które zostaną obciążone zwiększonym nadzorem, chociaż nic by się tam nie wydarzyło.

W skrajnym przypadku model może być „skuteczny” z punktu widzenia ogólnej statystyki, ale koszt błędów ponoszą stale te same grupy społeczne. Dla nich nie jest pocieszeniem, że w skali miasta algorytm poprawnie typuje większość „gorących punktów”. Liczy się codzienne doświadczenie: czy można spokojnie wracać do domu bez obawy o kolejną kontrolę.

Algorytm jako doradca czy jako decydent

W dokumentach wdrożeniowych często można przeczytać, że system predykcyjny pełni jedynie funkcję „narzędzia wspomagającego decyzje”. W praktyce jednak:

• funkcjonariusz ma ograniczony czas i zasoby, więc naturalnie polega na podpowiedziach systemu;
• odchylenie od rekomendacji może wymagać dodatkowego uzasadnienia w papierach lub systemach raportowania;
• z czasem kultura organizacyjna zaczyna traktować rekomendacje algorytmu jako „domyślne rozwiązanie”.

Od „czarnej skrzynki” do zrozumiałych reguł

Dla wielu osób największym źródłem niepokoju jest to, że algorytm jawi się jako „czarna skrzynka”. Coś w środku liczy, a na zewnątrz wychodzi wynik: „tę osobę skontroluj”, „w tę dzielnicę wyślij patrole”. Jeżeli na tym etapie kończy się wyjaśnienie, obie strony – i obywatele, i funkcjonariusze – pozostają z poczuciem bezradności.

Żeby system predykcyjny mieścił się w standardach państwa prawa, decyzje muszą być dążące do wytłumaczalności. To nie zawsze oznacza pełne ujawnienie kodu źródłowego. Chodzi o coś bardziej przyziemnego: czy da się prostym językiem odpowiedzieć na pytania:

• jakie czynniki najczęściej wpływają na podwyższony „wynik ryzyka”,
• które dane są kluczowe (np. wcześniejsze zatrzymania, miejsce zamieszkania, powiązania z innymi osobami),
• jak system „waży” różne elementy – czy większe znaczenie ma adres, czy konkretne zachowanie.

Tego typu informacje można przedstawić w formie reguł zrozumiałych dla laika, np.: „model uznał, że w tym rejonie istnieje podwyższone ryzyko kradzieży z włamaniem, ponieważ w ostatnich miesiącach odnotowano tu serię podobnych zdarzeń w godzinach wieczornych, w budynkach o podobnej konstrukcji”. Taka narracja nie usuwa wszystkich wątpliwości, ale zmienia sytuację: z tajemniczego wyroku maszyny na wskazówkę, z którą można dyskutować.

Dla funkcjonariuszy przejrzystość ma jeszcze jeden wymiar: odwaga w kwestionowaniu rekomendacji. Jeżeli wiedzą, na czym opiera się wskazanie systemu, łatwiej im powiedzieć „to tutaj nie ma sensu” i uzasadnić to przełożonym. Jeśli algorytm jest nietykalny, rodzi się ciche przyzwolenie: „tak wyszło z systemu, nie będę się wychylać”.

Uprzedzenia zakodowane w danych i modelach

Osobna kwestia to strukturalne uprzedzenia, które mogą zostać zakodowane zarówno w danych, jak i w samym sposobie budowania modelu. Nie chodzi tylko o jawnie dyskryminujące zmienne, takie jak rasa czy wyznanie, lecz także o ich „zastępniki” – adres zamieszkania, typ szkoły, rodzaj zatrudnienia.

W praktyce wygląda to tak, że nawet po usunięciu oczywistych kategorii wrażliwych algorytm wciąż jest w stanie „odtworzyć” podziały społeczne, ponieważ:

• osoby z określonych grup częściej mieszkają w tych samych dzielnicach,
• korzystają z podobnych środków transportu,
• mają zbliżone wzorce pracy lub aktywności w przestrzeni publicznej.

Dlatego samo „wyczyszczenie” danych z kilku kolumn nie rozwiązuje problemu. Potrzebne są testy dyskryminacji: sprawdzanie, czy wyniki algorytmu nie obciążają nadmiernie konkretnych grup, nawet jeśli formalnie ich nie „widzi”. To zadanie nie tylko dla informatyków; w takie analizy warto włączać socjologów, prawników, a czasem przedstawicieli organizacji społecznych.

Jeżeli audyt ujawnia, że model powoduje trwałe, nieuzasadnione różnice w traktowaniu, trzeba mieć odwagę powiedzieć: „takiego algorytmu nie powinniśmy używać w policji”. Samo drobne dostrojenie parametrów może być niewystarczające, gdy fundament – sposób zbierania danych czy konstrukcja problemu – jest skrzywiony.

Granice użycia: od analizy ryzyka do realnych działań

System predykcyjny może być wykorzystywany na bardzo różne sposoby. Jeden scenariusz to planowanie prewencji: gdzie ustawić patrole, jakie działania profilaktyczne prowadzić w szkołach, jak przygotować służby na wydarzenia masowe. Inny – mocno bardziej wrażliwy – to indywidualne decyzje wobec konkretnych osób: częstsze kontrole, odmowa zezwolenia, wniosek o areszt.

Im bliżej ingerencji w prawa jednostki, tym ostrzejsze powinny być ograniczenia. Możliwy jest np. model, w którym:

• algorytm służy wyłącznie do agregowanych analiz (mapy, statystyki, planowanie zasobów),
• każde użycie „wyniku ryzyka” wobec pojedynczej osoby wymaga dodatkowej, niezależnej podstawy faktycznej,
• zakazane jest podejmowanie najdalej idących działań (np. zatrzymania, przeszukania) wyłącznie na podstawie oceny algorytmu.

Takie rozdzielenie ról ogranicza pokusę „zautomatyzowania” decyzji o dużej wadze. Obywatel może ocenić to jako uczciwsze: model pomaga w tle, ale ostateczne działanie wobec konkretnej osoby musi być zakotwiczone w obserwowalnych faktach i obowiązującym prawie, a nie w statystycznej prognozie.

Scenariusz konfliktu: gdy algorytm „widzi” inaczej niż policjant

W praktyce często pojawia się napięcie między wiedzą lokalną funkcjonariuszy a tym, co „mówi” system. Policjant znający swój rejon może uważać, że wskazanie algorytmu zupełnie nie pasuje do sytuacji na ulicy. Z drugiej strony, centrala może oczekiwać, że „rekomendacje systemu będą realizowane”.

W zdrowym modelu zarządzania bezpieczeństwem konflikt tego typu nie jest traktowany jako problem, który trzeba uciszyć, ale jako szansa na korektę. Funkcjonariusz powinien mieć narzędzie do zgłoszenia zastrzeżeń: „ten obszar jest wskazywany jako gorący punkt, ale sytuacja się zmieniła, lokale zostały zamknięte, mieszkańców jest znacznie mniej”. Takie sygnały lokalne mogą być później włączane do procesu aktualizacji modelu.

Jeżeli tego kanału brakuje, powstaje cicha frustracja po obu stronach. Policja „z terenu” czuje, że realizuje abstrakcyjne wskazania, a twórcy systemu utwierdzają się w przekonaniu, że „dane nie kłamią”. Tymczasem w demokratycznym państwie to dialog między doświadczeniem a analizą danych daje najlepsze efekty: ani dogmatyczna wiara w algorytm, ani odruchowe odrzucenie technologii nie budują bezpieczeństwa.

Rola mediów i języka, którym opisujemy predykcję

Sposób, w jaki mówi się o algorytmach predykcyjnych w debacie publicznej, też ma znaczenie dla standardów demokratycznych. Jeżeli dominuje narracja o „superinteligentnych systemach, które przewidują przestępstwa”, łatwo ulec wrażeniu, że mamy do czynienia z obiektywną prawdą, a nie narzędziem analizy ryzyka obarczonym błędem.

Bardziej odpowiedzialne jest mówienie o:

• „szacowaniu prawdopodobieństwa” zamiast „przewidywaniu przestępstw”,
• „mapie ryzyka” zamiast „miejsc, w których na pewno dojdzie do przestępstwa”,
• „wsparciu decyzji” zamiast „decyzjach podejmowanych przez system”.

Ten język nie jest tylko kwestią wizerunku. Przekłada się na oczekiwania obywateli i polityków. Jeśli system jest sprzedawany jako „nieomylny pomocnik policji”, każdy błąd będzie budził szok i poczucie zdrady, a fala krytyki może pójść w stronę całkowitego odrzucenia technologii. Gdy od początku podkreśla się ograniczenia i niepewność prognoz, łatwiej przyjąć sensowną postawę: wymagać wysokich standardów, ale też rozumieć, że analiza statystyczna nie jest wyrocznią.

Techniczna adaptacja do zmieniającej się rzeczywistości

Miasta się zmieniają: powstają nowe osiedla, linie metra, strefy rozrywki, zmienia się struktura społeczna. Algorytm uczony raz, a później wielokrotnie „odpalany”, szybko przestaje być adekwatny. Wówczas rośnie ryzyko, że system będzie lojalny wobec przeszłości, a ślepy na teraźniejszość.

Z technicznego punktu widzenia wymaga to:

• regularnego przeuczenia modeli na nowszych danych,
• weryfikacji, czy dotychczasowe czynniki ryzyka nadal mają sens (np. czy nowe formy przestępczości nie wymykają się starym kategoriom),
• usuwania i korygowania danych, które okazały się wadliwe (np. seria błędnych zgłoszeń, zmiana sposobu raportowania).

Dla osób odpowiedzialnych za nadzór nad policją to ważny sygnał: algorytm predykcyjny nie jest jednorazową inwestycją. Jeżeli system ma być zgodny z prawami człowieka i standardami demokracji, trzeba zapewnić stałe zasoby na jego aktualizację, audyt i poprawki. Zamrożony model będzie z czasem coraz mniej sprawiedliwy – nawet jeśli na starcie przeszedł rygorystyczne testy.

Między efektywnością a minimalizacją ingerencji

Częstym argumentem zwolenników algorytmów predykcyjnych jest to, że pozwalają one na bardziej selektywny nadzór: zamiast „łapać wszystkich”, można skoncentrować się tam, gdzie ryzyko jest wyższe. W teorii dobrze komponuje się to z zasadą minimalnej ingerencji w wolności obywateli.

W praktyce równowaga między efektywnością a ograniczaniem ingerencji zależy od kilku czynników:

• jak szeroko definiuje się „ryzyko” – jeśli próg jest zbyt niski, nadzór rozszerza się na połowę miasta,
• jakie działania podejmuje się w odpowiedzi na wskazania – profilaktyka i obecność patrolu to co innego niż agresywne kontrole osobiste,
• czy istnieją twarde limity czasowe i przestrzenne stosowania intensywnego nadzoru w danym miejscu.

Można wyobrazić sobie bardziej wyważone podejście: model wskazuje obszar podwyższonego ryzyka, a policja najpierw sięga po miękkie środki – zwiększoną widoczność patroli, współpracę z lokalnymi instytucjami, działania edukacyjne. Dopiero gdy te metody nie przynoszą efektu i pojawiają się konkretne zdarzenia, uzasadnione stają się bardziej inwazyjne interwencje. Taki stopniowany schemat lepiej wpisuje się w logikę państwa, które nie chce reagować przemocą „na zapas”.

Międzynarodowe standardy i lokalne realia

Debata o algorytmach predykcyjnych w policji nie toczy się w próżni. Istnieją już różne międzynarodowe wytyczne dotyczące systemów sztucznej inteligencji w sektorze publicznym: zalecenia ONZ, Rady Europy, projekty regulacji unijnych. Często podkreślają one te same elementy: przejrzystość, możliwość odwołania, ocenę wpływu na prawa człowieka, zakaz najbardziej inwazyjnych form automatycznego nadzoru.

Problem zaczyna się tam, gdzie ogólne zasady trzeba przełożyć na konkretne procedury w danym kraju czy mieście. To wymaga odpowiedzi na przyziemne pytania:

• kto dokładnie podpisuje się pod uruchomieniem systemu – minister, komendant, prezydent miasta,
• w jakim trybie obywatele mogą żądać informacji o działaniu algorytmu i jakie dane mogą faktycznie otrzymać,
• jakie są sankcje za nadużycia – np. za użycie systemu poza ustalonym zakresem lub w celach politycznych.

Bez takiego „uziemienia” wysokie standardy pozostają na poziomie deklaracji, a obywatele nadal mogą czuć, że technologia wchodzi w ich życie bez realnych zabezpieczeń. Z drugiej strony, dostosowanie międzynarodowych wytycznych do lokalnego kontekstu daje szansę, aby narzędzia predykcyjne działały tam, gdzie mogą realnie zwiększyć bezpieczeństwo, a nie zsunęły się w stronę masowego profilowania.

Jak włączyć społeczności w rozmowę o algorytmach

Wiele obaw związanych z predykcją w policji wynika z poczucia, że decyzje technologiczne zapadają „za zamkniętymi drzwiami”. Mieszkańcy dowiadują się o ich istnieniu dopiero wtedy, gdy odczują skutki – częstsze kontrole, większą obecność policji, zmiany w ruchu miejskim.

Można to odwrócić, jeśli proces projektowania i wdrażania systemu będzie obejmował prawdziwe konsultacje społeczne, a nie jedynie prezentację gotowego rozwiązania. To mogą być m.in.:

• spotkania z radami osiedli, organizacjami pozarządowymi, ekspertami lokalnymi,
• publikacja zrozumiałych materiałów wyjaśniających, co system będzie robił, a czego robić nie może,
• pilotaże w ograniczonej skali, z jasnym opisem kryteriów sukcesu i warunków przerwania projektu.

Nie chodzi o to, aby każda osoba aprobowała każdy szczegół technologii. Chodzi o poczucie, że głos społeczności został wysłuchany, a obawy potraktowane serio – nawet jeśli nie wszystkie propozycje da się wprowadzić. Taki proces jest wolniejszy niż szybki zakup „gotowego rozwiązania”, ale może uchronić przed sytuacjami, w których dobrze zapowiadający się system staje się politycznym i społecznym obciążeniem.

Kompetencje cyfrowe policji a ryzyko nadużyć

Najczęściej zadawane pytania (FAQ)

Co to są algorytmy predykcyjne w policji i jak działają w praktyce?

Algorytmy predykcyjne w policji to programy komputerowe, które – na podstawie danych z przeszłości – szacują prawdopodobieństwo wystąpienia określonych zdarzeń, np. kradzieży w danej dzielnicy albo ponownego popełnienia przestępstwa przez daną osobę. Nie „wiedzą” one, co się wydarzy, tylko obliczają ryzyko na podstawie wzorów statystycznych lub modeli uczenia maszynowego.

W praktyce system „karmi się” różnymi danymi: zgłoszeniami przestępstw, historią interwencji, danymi osobowymi (wiek, płeć, miejsce zamieszkania), a czasem również informacjami z monitoringu, mediów społecznościowych czy danych lokalizacyjnych. Na tej podstawie generuje rekomendacje – np. gdzie wysłać więcej patroli albo który zatrzymany ma wyższe ryzyko recydywy. Ostateczne decyzje wciąż powinni podejmować ludzie, ale często w oparciu o „score” wskazany przez system.

Czy algorytmy predykcyjne w policji są zgodne z prawami człowieka?

Same algorytmy nie są z definicji ani zgodne, ani niezgodne z prawami człowieka – wszystko zależy od tego, jakie dane wykorzystują, jak są zaprojektowane oraz w jaki sposób policja i sądy korzystają z ich wyników. Z punktu widzenia praw człowieka szczególnie wrażliwe są: prawo do prywatności, ochrona danych osobowych, domniemanie niewinności, zakaz dyskryminacji oraz prawo do rzetelnego procesu.

Jeżeli system zbiera nadmierną ilość danych „na wszelki wypadek”, profiluje całe grupy ludzi lub w praktyce przesądza o decyzjach (np. o areszcie czy wysokości wyroku), bardzo łatwo o naruszenia. Z drugiej strony, przy jasnych regułach, silnym nadzorze i przejrzystości, algorytmy mogą wspierać policję bez łamania praw jednostki – choć wymaga to rygorystycznych zabezpieczeń prawnych i technicznych.

Jakie prawa człowieka są najbardziej zagrożone przez predictive policing?

Najczęściej wskazuje się cztery obszary. Po pierwsze, prywatność i ochrona danych osobowych – bo algorytmy potrzebują ogromnej ilości informacji o miejscach, zachowaniach i powiązaniach ludzi. Po drugie, domniemanie niewinności, gdy osoby z „wysokim ryzykiem” są traktowane jak potencjalni przestępcy, mimo że niczego nie zrobiły.

Po trzecie, równe traktowanie i zakaz dyskryminacji: systemy uczą się na danych historycznych, które zawierają uprzedzenia i schematy działania policji (np. częstsze kontrole w biedniejszych dzielnicach). Po czwarte, prawo do rzetelnego procesu – gdy sądy i prokuratury opierają decyzje o areszcie czy karze na nieprzejrzystych „score’ach”, których oskarżony nie może zweryfikować ani skutecznie podważyć.

Czy algorytmy predykcyjne w policji są zgodne z RODO i prawem UE?

Zgodność z RODO i prawem UE nie jest automatyczna – trzeba ją dopiero wykazać. Przetwarzanie danych na potrzeby predictive policing musi mieć wyraźną podstawę prawną, być konieczne i proporcjonalne do celu, a także objęte ścisłymi regułami dostępu, retencji i bezpieczeństwa. W wielu przypadkach konieczna jest szczegółowa ocena skutków dla ochrony danych (DPIA), a także konsultacje z organem nadzorczym.

Problem pojawia się wtedy, gdy policja łączy wiele baz danych, profiluje osoby na dużą skalę albo korzysta z komercyjnych rozwiązań „czarnej skrzynki”, których działania sama do końca nie rozumie. W takiej sytuacji bardzo łatwo o naruszenie zasady minimalizacji danych, przejrzystości czy prawa osoby do informacji o przetwarzaniu. Sama etykieta „bezpieczeństwo publiczne” nie zwalnia z przestrzegania RODO.

Czy algorytmy predykcyjne są obiektywne, czy wzmacniają uprzedzenia policji?

Popularne przekonanie, że „komputer jest obiektywny”, w przypadku predictive policing często się nie sprawdza. Algorytmy uczą się na danych historycznych, które odzwierciedlają nie tylko rzeczywistą przestępczość, lecz także sposób działania policji: gdzie wysyłała patrole, kogo częściej legitymowała, w jakich dzielnicach częściej spisywano mandaty. Jeśli określone grupy były w przeszłości nadreprezentowane w statystykach, algorytm uzna je za „wyższe ryzyko”.

Powstaje spirala: system wysyła więcej patroli do „gorących punktów”, policja częściej tam interweniuje, więc do bazy trafia więcej danych o tych miejscach i osobach, co utwierdza algorytm w przekonaniu, że właśnie tam jest największe zagrożenie. Bez świadomej korekty i audytów algorytmy mogą po prostu „zacementować” stare uprzedzenia w nowej, technologicznej formie.

Czy policja może używać sztucznej inteligencji do typowania „osób wysokiego ryzyka”?

Z prawnego punktu widzenia to jeden z najbardziej kontrowersyjnych obszarów. Typowanie „osób wysokiego ryzyka” zwykle oznacza daleko idące profilowanie, oparte na szerokim zestawie danych: od historii kontaktów z policją, przez sieci znajomych, aż po aktywność w sieci. Taka praktyka mocno ingeruje w prywatność i może prowadzić do stygmatyzacji osób, które nie popełniły żadnego przestępstwa.

Prawo UE – w tym RODO i projektowane regulacje dotyczące AI – idzie w stronę silnego ograniczania zastosowań, które mogą prowadzić do masowego nadzoru i oceny „ryzyka” całych grup społecznych. Jeżeli takie rozwiązania są w ogóle dopuszczane, wymagają bardzo precyzyjnych ram: jasnej podstawy ustawowej, realnej kontroli sądowej i możliwości zakwestionowania decyzji opartych na algorytmie.

Czy w Polsce używa się algorytmów predykcyjnych w policji i sądach?

W Polsce temat jest mniej obecny w debacie publicznej niż w USA czy Europie Zachodniej, ale to nie znaczy, że takich narzędzi się nie testuje. Rozwiązania z zakresu analityki predykcyjnej pojawiają się w projektach pilotażowych, zwłaszcza przy analizie danych o przestępczości, planowaniu patroli czy analizie dużych zbiorów informacji operacyjnych.

Na razie brakuje jednak pełnej przejrzystości: obywatele często nie wiedzą, czy decyzje policji lub prokuratury były wspierane przez systemy AI, ani jak wyglądała ocena ich zgodności z prawem i prawami człowieka. Dlatego tak ważne są pytania o podstawy prawne, audytowanie tych narzędzi oraz możliwość niezależnej kontroli ich wpływu na praktykę działania służb.

Najważniejsze punkty

• Algorytmy predykcyjne w policji nie przewidują przyszłości, lecz wyliczają prawdopodobieństwo zdarzeń na podstawie dostępnych danych, a odpowiedzialność za decyzje pozostaje po stronie ludzi – policjantów, prokuratorów i sędziów.
• Różnica między prostą statystyką a złożonym systemem AI jest kluczowa: mapy przestępczości pokazują, co już się wydarzyło, natomiast modele predykcyjne próbują wskazać, gdzie i kto „może” popełnić przestępstwo, wykorzystując ogromne zbiory danych.
• Im więcej danych zasila system (zdarzenia, dane osobowe, kontekst, media społecznościowe, monitoring), tym silniejsze naruszenia mogą dotyczyć prywatności, równego traktowania i domniemania niewinności – nawet jeśli intencją jest poprawa bezpieczeństwa.
• Algorytmy uczą się nie tylko rzeczywistej przestępczości, lecz także nawyków policji; jeśli służby od lat częściej kontrolują określone dzielnice lub grupy, system będzie „utwardzał” te schematy i kierował tam jeszcze więcej patroli, wzmacniając istniejące nierówności.
• Rozwój predictive policing następował stopniowo – od statystyk i map „gorących punktów”, przez systemy scoringowe (np. ocena ryzyka recydywy przy aresztach), aż po analizę monitoringu, rozpoznawanie twarzy i profilowanie w mediach społecznościowych.
• Największy niepokój budzi to, że decyzje operacyjne policji coraz częściej opierają się na modelach ryzyka działających w tle, bez jasnej informacji dla obywateli, co może prowadzić do poczucia bycia stale podejrzanym bez konkretnej przyczyny.