Bakom en vägg av sekretess använder Försäkringskassan ett dataprogram eller en artificiell intelligens för att jaga fuskare. Det kunde Svenska Dagbladet nyligen berätta. Datorerna försöker beräkna hur stor risken är att du gör fel eller till och med fuskar när du ansöker om ersättning för att till exempel vårda ett sjukt barn.

Misstänker datorn att något är skumt hamnar du i en stickprovskontroll och tvingas vänta på dina pengar. För den som lever på marginalen kan det betyda katastrof. Men det är inte det enda problemet.

Stickprov som kan slå hårt mot utsatta

Försäkringskassans datorer behandlar nämligen inte alla på samma sätt. Enligt Svenska Dagbladets granskning är de betydligt mer misstänksamma mot kvinnor än mot män. Att ha låg inkomst, kort utbildning eller utländsk bakgrund är också sådant systemet reagerar på.

Oskyldiga ensamstående mammor kontrolleras medan trixande pappor med hög inkomst slinker igenom.

Ingen borde vara förvånad. Datorer används som beslutsstöd i många sammanhang. En idé är förstås att kunna granska väldigt många ärenden på ett effektivt sätt. Men också ett sätt att komma undan subjektivitet och känslor. Datorerna tittar ju bara på fakta, eller?

Diskriminering inbyggd i algoritmerna

Erfarenheten säger att fördomar smyger sig in i den här sortens program. Datorerna tittar kanske på fakta, men vilka fakta och från vilken utgångspunkt beror på hur de är programmerade. Därför pekar Försäkringskassans program oftare ut kvinnor än män och oftare människor som heter Fatima än den som heter Eva.

Diskriminering naturligtvis, men kanske inte så annorlunda än om granskningen skötts av människor.

Så kan det vara. Fördomarna finns ju där från början. Men en människa kan i alla fall ställas till ansvar. Det blir svårare med en dator, och speciellt svårt med Försäkringskassans datorer.

De är nämligen superhemliga. Du har ingen möjlighet att få reda på vilken riskpoäng datorn givit dig eller varför. Helst ska du inte ens veta om att myndigheten har gjort en profil på dig.

Hemliga system utan insyn

Det är som något av Franz Kafka.

Enligt Försäkringskassan skulle fuskare komma undan kontroller om de visste hur det fungerade.

Det är som om man jagade den ryska underrättelsetjänsten, terrororganisationer av Baader-Meinhof-klass eller internationella narkotikasyndikat.

I själva verket är det alltså ensamstående mammor och föräldrar från andra länder Försäkringskassans utredare granskar. Och chefen för kontrollenheten tycker inte ens att det är ett problem.

Fuskare eller ensamstående mamma?

Det har stormat kring Försäkringskassan och trygghetssystemen under ganska många år nu. Till stor del har det handlat om politiska beslut. Tuffare kontroller och lägre ersättningar har varit partiernas sätt att vältra över ansvaret på den som är sjuk eller har ett barn som är sjukt.

Men i kölvattnet på de politiska kraven tycks det också ha vuxit fram en kultur av misstänksamhet på myndigheten. Människor som har rätt att få hjälp verkar ofta uppfattas som simulanter och fuskare.

I den kulturen är det inte konstigt om myndighetens kontrollutredare uppträder som om de vore hemliga agenter eller att de låter datorer göra profiler på människor utan att berätta.

En kultur av misstänksamhet

I vanliga fall skulle uppgifter som de här ha landat i krav på regeringen. En uppmaning till socialförsäkringsminister Anna Tenje att kalla upp Försäkringskassans chef för ett allvarligt samtal. Korten på bordet, helt enkelt.

I det här fallet känns det ganska meningslöst. Som moderat är Tenje en av orsakerna till problemet. Hon kommer inte att kritisera Försäkringskassan för att man jagar ensamstående mödrar eller föräldrar från andra länder.

Tvärtom.

Ingvar Persson är fristående kolumnist på Arbetets ledarsida. Tidigare har han bland annat varit ledarskribent i Aftonbladet.