När Skynet slutar vara science fiction
Egentligen är det inte Arnold Schwarzenegger som är skurken i scifi-klassikern Terminator.
Den T-800 han spelar är bara ett verktyg för Skynet, en artificiell intelligens som utvecklats för att kontrollera militära system och som vänt sig mot mänskligheten.
Handlingen framstod mer som ond feberdröm än dystopiskt framtidsscenario när filmen hade premiär 1984. Samma år som Tetris skapades, Machintosh lanserade sin första PC och Facebookgrundaren Mark Zuckerberg föddes. Internet skulle inte se dagens ljus på ytterligare ett årtionde.
Snabbspola till nutid och Skynet känns inte fullt lika avlägset. Internationellt pågår en digital kapprustning för att utveckla autonoma vapensystem. Liksom en kampanj för att stoppa det motståndarna kallar ”mördarrobotar”.
Dödande på distans är sedan länge en integrerad del av det moderna kriget. När en amerikansk drönare bombar i Afghanistan eller Pakistan fattas beslutet av en pilot hundratals mil därifrån.
Avståndet påstås bidra till avhumanisering. Den som trycker på knappen ser prickar på en skärm, inte individer av kött och blod.
Men avgörandet ligger åtminstone hos en människa. Med autonoma vapensystem, krigsredskap som styrs av artificiell intelligens, är det en algoritm som beslutar om att döda.
Kritikerna är många och namnkunniga.
I augusti larmade 100 av världens främsta forskare inom artificiell intelligens och robotik – däribland Teslas Elon Musk och Googles Mustafa Suleyman – om att ett omedelbart förbud krävs för att undvika en ”tredje revolution av krigföring”.
De två första var krutet och atombomben. Uppfinningar som för evigt förändrade världen.
I september antog EU-parlamentet en resolution mot autonoma vapensystem. FN:s generalsekreterare Antonio Guterres har efterlyst internationell lagstiftning mot ”moraliskt motbjudande” mördarrobotar. Och ett växande antal FN-stater – för närvarande 26 – kräver ett konventionsreglerat förbud.
Men länder som USA, Ryssland, Storbritannien och Israel har blockerat diskussionerna.
Internationella fördrag har framgångsrikt begränsat spridningen av landminor och klusterbomber, dåtidens lågteknologiska mördarrobotar som väckte avsky för att de dödade utan urskiljning.
Men en landmina kan inte programmeras att aktivt söka upp en viss etnicitet. En klusterbomb kan inte kodas att detonera när någon talar illa om sin lokala diktator.
Så varför fortsätter stater att satsa på autonoma vapensystem?
Sannolikt av samma anledning som filmens generaler lät utveckla Skynet. Löftet om ökad militär kapacitet är så bländande att riskerna bleknar.