Paranoia och ångest när AI blev chef på lagret

31 deadlines per dag. 

På skärmen blinkar det i rött eller grönt beroende på om du jobbar tillräckligt snabbt eller inte. 

Samtidigt övervakas du av chefer som befinner sig på distans.

Forskare vid Karolinska Institutet har kunnat undersöka hur algoritmisk arbetsledning fungerar på lagret hos ett e-handelsföretag i Sverige mot löfte om anonymitet.

Enkelt förklarat innebär algoritmisk arbetsledning att AI eller algoritmer tar över arbetsuppgifter som traditionellt har utförts av en mänsklig chef.

Det kan till exempel vara att AI fattar beslut om schemaläggning och utvärderar anställdas arbetsprestationer. 

”Du mäts hela tiden i realtid”

Forskarna har intervjuat anställda på lagret som berättar att de känner sig övervakade, utbytbara och stressade till följd av systemet de jobbar med. 

Bärbara skärmar används som främsta arbetsverktyg. Där får de reda på vad de ska plocka, vilken hylla varorna står på och vilken väg de ska ta genom lagret för att det ska gå snabbast. Genom skärmen får de anställda även reda på hur lång tid de har på sig.   

– Sedan mäts du hela tiden i realtid. Hur ligger du gentemot deadline? Ligger du efter blinkar det rött. Presterar du i nivå med kravet får du grönt ljus, säger Karin Hennum Nilsson, doktorand på Karolinska Institutet och psykolog på Centrum för arbets- och miljömedicin i Stockholm. 

Tvingas springa

Kraven synkar inte alltid med de anställdas kapacitet, visar studien som bland andra hon har gjort. 

”Det ska vara grönt, om det inte är det får du en utskällning av cheferna. Och om du går i normalt tempo blir det rött, så du tvingas springa”, säger en av de anställda till forskarna. 

Sms:et: ”Varför packar du inte?”

Systemet som styr arbetet för lagerarbetarna på e-handelsföretaget tar inte hänsyn till att oväntade saker kan hända – som att man till exempel behöver hjälpa en kollega eller röja undan något, berättar Karin Hennum Nilsson.

”Om vi missar en deadline kommer ett sms: Vad händer? Om någon tar fem minuter för att städa upp, så kommer ett sms: Varför packar du inte? Så det kan vara ganska stressande”, berättar en anställd på e-handelsföretaget för forskarna.

Parametrar saknas

Att E-handelsföretaget lovar kunderna leverans inom 24 timmar leder till ett uppdrivet tempo och hopplöshet, enligt studien.

”Vi kan redan på morgonen se att det inte finns en chans att vi kommer hinna med allt. För parametrarna: hur mycket tid vi har, hur många vi är, eller hur många timmar vi har – de parametrarna existerar inte”, säger en anställd till forskarna.

Allt vanligare med AI på jobbet

AI blir allt vanligare på arbetsplatser i Sverige. Det handlar om alla möjliga branscher som logistik, kundtjänst, detaljhandel och finans. 

– Generellt kan man säga att det används mer möjliggörande i tjänstemannayrken och mer kontrollerande inom arbetaryrken, säger Karin Hennum Nilsson som håller på med fler studier inom samma ämne. 

Större risk för olyckor

Enligt henne tyder mycket på att AI på jobbet riskerar att leda till ett kraftigt förhöjt arbetstempo och bristande självbestämmande. 

– När beslutsfattandet flyttas till tekniken blir arbetstagaren av med kontroll, säger Karin Hennum Nilsson. 

Det uppdrivna tempot kan leda till större risk för arbetsplatsolyckor, menar hon. 

– Det kan till exempel handla om att man kör för fort för att hinna med sin deadline.

”Som en sorts bestraffning”

I studien om hur AI används på e-handelsföretagets lager framkommer att arbetarna inte vet hur datan som samlas in används – vilket leder till paranoia.

Till exempel är vissa oroliga för att data över deras produktivitet används som straff.  

”Ibland är du till exempel på en station, och om det går dåligt den dagen så blir du flyttad till en annan station som en sorts bestraffning”, säger en anställd i studien. 

Kan bryta mot mänskliga rättigheterna

Forskarna skriver att flera anställda beskriver att systemet används som ett verktyg för att övervaka de anställda i realtid och för att chefer ska kunna detaljstyra arbetet.

Till exempel kunde en högt uppsatt chef stoppa delar av produktionen på distans – vilket enligt forskarna skapade bilden av  en ”ständigt närvarande chef som alltid såg vad som pågick”.

Forskarna skriver att kontinuerlig övervakning i syfte att kontrollera anställda kan bryta mot Europakonventionen. 

– Det är svårt att veta vad som är algoritmisk arbetsledning och vad som är dåligt ledarskap, konstaterar Karin Hennum Nilsson.

Förslaget: Involvera arbetstagarna

Hon och de andra forskarna föreslår att arbetstagare ska involveras mer i arbetet med AI.

Att det och ett systematiskt arbetsmiljöarbete är viktiga metoder för att mildra de potentiellt skadliga effekterna som algoritmisk arbetsledning kan leda till. 

– Just nu är det stort fokus på hur många jobb AI kommer ta över och hur många som kommer att bli arbetslösa. Men vi behöver också fokusera på hotet som finns just nu – hur det påverkar arbetare som jobbar under AI i detta nu, säger Karin Hennum Nilsson.