När jag var liten tänkte jag att staten skulle ta hand om mig om jag råkade illa ut. I min bekväma uppväxt i en villaförort i Stockholm var det lätt att tro att Sverige alltid kommer att bry sig om de som behöver hjälp.

Sedan fick jag vänner som varje månad behövde slåss för att inte kastas ut ur skyddsnätet. Bara i höstas fick jag höra från en handläggare på Arbetsförmedlingen att jag borde fortsätta söka jobb även om jag inte längre söker a-kassa. 

Ett misstag nu skulle kunna kosta mig ersättning i framtiden.

Det kan vara okända deadlines, underkända läkarintyg eller att man missade en sväng i den byråkratiska labyrinten. Att vara kroniskt sjuk är som ett heltidsjobb. 

Men även om man gör ett misstag när man söker a-kassa kan man stå utan ersättning i flera månader. När Sverige inte litar på de svagaste, varför ska de svagaste lita på Sverige?

Ensamstående mamma kan vänta flera veckor

I onsdags avslöjade Svenska Dagbladet att Försäkringskassan använt “AI-verktyg” för att sortera vab-ansökningar. Det förvånar mig inte att algoritmen ofta pekade ut kvinnor och personer med låg utbildning eller utländsk bakgrund som potentiella fuskare. 

En ensamstående mamma som vabbar från sitt jobb på Coop kan behöva vänta på beslut i flera veckor eller utredas. 

Av ingen annan anledning än att en algoritm reagerar på att hennes föräldrar föddes utanför Sverige och att hon inte pluggat på universitet.

Datorer kan bara imitera människor, inte tänka själva. Algoritmerna lär sig våra lagar och normer, men också våra fördomar.

Försäkringskassans svar är förutsägbart: lita på oss och lita på algoritmen. Det är svårt när till och med existensen av verktyget är under sekretess. För att inte tala om hur det har tränats. 

Politiker använder ChatGPT

I måndags avslöjade dessutom Dagens Nyheter att den socialdemokratiska riksdagsledamoten Olle Thorell ställt 180 frågor till ministrar med hjälp av ChatGPT. 

Det är osannolikt att han är den enda politikern som använder AI-verktyg i sin tjänst. 

AI är ett kraftfullt men trubbigt verktyg. Det är en hammare i ett samhälle där många problem kräver skruvar. En maskin kan göra en första enkel sållning av ansökningar till en myndighet. Men så fort den gör djupare bedömningar kommer människors förutfattade meningar att mångdubblas. 

Large Language Models och Machine Learning fungerar bäst för avgränsade uppgifter som hade varit tidskrävande eller omöjliga för människor att utföra. 

Varken myndighetsutövning eller riksdagsarbetet faller in där. 

Datorer är inte mer neutrala än instruktionerna de får

Det sägs jämt att AI är den nästa industriella revolutionen. Men idag har vi fler AI-hammare än spikar och en mångmiljardindustri som vill sälja fler hammare. 

Teknikoptimister som inte förstår teknik tar tacksamt emot en hammare som kan effektivisera sitt arbete utan att tänka på riskerna. 

Så fort en uppgift kan ha allvarliga följder för en människa eller har utrymme för tolkning kommer ett AI-verktyg vara olämpligt. 

Datorer är inte mer neutrala än instruktionerna de får. Och eftersom att människor ofta har mer eller mindre medvetna fördomar kommer även de att leta sig in i AI-algoritmer. 

ChatGPT kan läsa och sortera tusentals ord på nolltid men kan inte förklara varför den gav dig svaret du bad om. Och kan därför inte ansvarsutkrävas. 

Det är själva grunden i svensk förvaltning.

Maskiner kan inte motivera beslut

Sveriges myndigheter ska vara för och av folket. Politiker skriver lagar som är lika för alla. Myndigheter ska lyda under politisk styrning. Och byråkraterna ska fatta rättssäkra och opartiska beslut, men också tjäna medborgare. 

Som statsvetare lärde jag mig att det är omöjligt att kombinera. Försäkringskassan kan inte följa ett politiskt beslut att kraftigt reducera beviljad ersättning utan att börja tolka lagen annorlunda.

Vi kan välja nya politiker, kräva nya lagar och överklaga beslut. Men en maskin kan inte motivera sina beslut eller anmälas för tjänstefel. 

Det handlar om tillit. Som medborgare ska vi kunna lita på att staten tar hand om oss när vi behöver det. 

Och att myndigheter litar på att vi gör vårt bästa för att göra rätt. Man litar inte på människor genom att be ett datorprogram räkna hur stor chans det är att man är en bidragsfuskare.

Varför ska vi lita på myndigheter när de inte ens vill läsa våra ansökningar själva?