Dlaczego państwa tak chętnie próbują oddać system pomocy społecznej w zarząd algorytmom? Mike Zajko – assistant professor (adiunkt) na wydziale Historii i Socjologii University of British Columbia w Kanadzie. Zajmuje się badaniem wpływu technologii, w szczególności AI i algorytmów, na rządzenie. Na łamach pisma „Surveillance & Society” ukazał się niedawno jego artykuł poświęcony wykorzystaniu algorytmów do śledzenia odbiorców pomocy społecznej „Automated Government Benefits and Welfare Surveillance”. Zajmuje się pan kwestią cyfrowego państwa dobrobytu i wykorzystywania algorytmów do nadzoru usług publicznych. Przyznam, że to nie brzmi specjalnie złowrogo. Może jednak za tymi hasłami kryje się więcej zagrożeń, niż się domyślamy? – Pojęcie cyfrowego państwa dobrobytu odnosi się do procesu zapoczątkowanego jeszcze w latach 90., w ramach którego do systemu świadczeń społecznych, pomocy socjalnej czy administrowania usługami publicznymi wprowadza się coraz więcej automatycznych mechanizmów decyzyjnych. Z jednej strony, chodzi o to, by odciążyć człowieka i uprościć biurokrację. Z drugiej zaś, by w ogóle zmienić rolę ludzi w zarządzaniu świadczeniami i naturę pracy w administracji publicznej. Ryzykujemy jednak, że ograniczymy rolę człowieka i urzędnika do stemplowania decyzji podejmowanych przez system komputerowy. W ten sposób narazimy masę niewinnych ludzi na konsekwencje potencjalnie niesprawiedliwych czy niepotrzebnie surowych decyzji podejmowanych przez sterowany algorytmem automat. A komu najbardziej zależało na tym, żeby kwestie pomocy społecznej czy administracji usługami publicznymi zautomatyzować? Rządom i samorządom, które mogą chcieć zaoszczędzić, firmom, które na wdrażaniu takich technologii zarabiają, czy samym odbiorcom świadczeń i usług? – W dużym stopniu bierze się to z niekończącej się pogoni za większą efektywnością. Oczywiście konkretne motywacje mogą się różnić pomiędzy krajami Europy, Kanadą i USA, ale zbiorczo możemy powiedzieć, że chodzi o wymogi neoliberalizmu. Przykładowo – jak najszybsze skrócenie kolejki spraw do rozpatrzenia albo obcięcie wydatków publicznych na urzędników. Moim zdaniem to rządy i samorządy pierwsze nakręcają to zjawisko, a firmy przychodzą później. Kiedy zaczęło się to na dobre? – O cyfryzacji pomocy społecznej pisano już w latach 90., ale zmiana była raczej stopniowa niż nagła. W gruncie rzeczy zaczęło się od przeniesienia do rzeczywistości cyfrowej procesów, które same w sobie były algorytmami, tylko realizowanymi przez ludzi. Bo wszystkie te formularze, przetwarzanie informacji, nanoszenie ich na arkusze i wyciąganie z nich systemowych wniosków to także były algorytmy, tyle że wykonywane ludzką ręką. Są badacze, którzy wskazują, że państwo tak chętnie adaptuje się do nowych rozwiązań zmierzających do automatyzacji, bo samo jest czymś na kształt systemu przetwarzania informacji i wdrażania decyzji. Wejście algorytmów cyfrowych zaczęło się zaś od arkuszy w Excelu, a potem była dalsza automatyzacja procesów, która w założeniach zaczęła przypominać AI. Ostatnia dekada – właściwie ostatnie pięć lat – to wdrożenie systemów opartych na uczeniu maszynowym (machine learning, ML), czyli właściwej sztucznej inteligencji, jak rozumiemy ją dzisiaj. Właściwej, czyli jakiej? – Fachowo mówi się o zautomatyzowanych systemach decyzyjnych (automated decision-making systems, ADM) w dziedzinie administracji publicznej. Powinniśmy przestać kojarzyć ten proces z jakimiś myślącymi maszynami czy robotami wyposażonymi w mózgi i dysponującymi inteligencją. Tak jeszcze nie jest. Ale te systemy robią coś inteligentnego. W zastosowaniu ADM w cyfrowym państwie dobrobytu nie chodzi tylko o to, że algorytm sprawdza, czy człowiek właściwie wypełnił wniosek. Algorytm najpierw jest trenowany na wielkich zasobach danych w procesie uczenia maszynowego, aby następnie mógł rozpoznawać prawidłowości i odpowiednio je sklasyfikować w kolejnych zbiorach danych. Dzięki temu narzędzia te są bardziej sprawne, ale i nieprzejrzyste, ponieważ nie do końca jasne jest, w jaki sposób dochodzą do podejmowanych decyzji. O jakim stopniu skomplikowania tak naprawdę mówimy? Bo jestem w stanie wyobrazić sobie zarówno bardzo banalne, jak i bardzo wyrafinowane zastosowania podobnych narzędzi. – Przykładowo tropienie wyłudzania zasiłków. Zauważmy: już u podstaw tych rozwiązań leży założenie, że ludzi pobierających zasiłki jest za dużo i na pewno mamy do czynienia z nadużywaniem systemu. A wyzwaniem jest tylko to, jak zjawisko wyeliminować. Algorytmy przygotowane do przesiewania i porównywania dużych zasobów danych oraz weryfikowania odrębnych baz danych mogą być w tym pomocne. Weźmy Holandię, gdzie m.in. na podstawie pomiarów zużycia wody i liczby osób zameldowanych pod konkretnym adresem
