Uppdrag: undvika katastrofer

Mänsklighetens öde hänger på en tråd.

Hur skör tråden är vet vi inte. Under det kalla kriget var kärnvapenförintelsen nära vid åtminstone ett tillfälle: Ryska varningssatelliter visade att amerikanska robotar hade avfyrats, men en rysk överste förstod att varningarna var felaktiga och lät bli att starta vedergällningsattacken.

Kärnvapnen finns kvar även i dag, men även nya hot pockar på uppmärksamhet. Ett är den så kallade singulariteten, att vi skapar en artificiell intelli­gens så kraftfull att den blir omöjlig att kontrollera och eventuellt bestämmer sig för att utrota människan.

Hotet från den artificiella intelligensen har i det allmänna medvetandet hittills mest varit en angelägenhet för sciencefictionfilmer som Terminatorserien, men det är en fråga som tas på fullt allvar av forskare.

Seth Baum är grundare av Global catastrophic risk institute, en tanke­smedja specialiserad på att analysera de stora hoten mot mänsklighetens överlevnad.

Från början var han ingenjör, liksom sin far och morfar.

– Jag tyckte det var ett intressant yrke, men jag började fundera över de sociala och etiska aspekterna på tekniken. Frågor som ”vilken typ av teknologi bör vi egentligen utveckla?” Men den typen av frågor kan ingenjörsvetenskapen inte riktigt besvara, vi behöver andra tankesätt för det. Så jag började tänka på de här etiska frågorna mer och mer, och det var så jag kom in på ämnet global katastrofrisk.

Global catastrophic risk institute fungerar som ett nätverk och medar­be­tarna är i allmänhet forskare anställda vid företag eller universitet. Mycket av Seth Baums arbete handlar om att nå ut till beslutsfattare. I april och maj hålls ett FN-möte om kärnvapenspridning och då kommer han att hålla ett föredrag för delegaterna. I måndags var han en av föredragshållarna vid ett möte om riskerna med nya teknologier på Kungliga vetenskapsakademien i Stockholm.

Osäkerheterna i många av de här frågorna är enorma och mycket är spekulation. Är det över huvud taget någon idé att försöka kvantifiera dem?

– Det kanske inte är det. Det finns stora nackdelar med att sätta siffror på saker och ting. Psykologiskt tenderar vi att hänga fast vid siffror, och då riskerar vi att missa den stora poängen. Jag föredrar att i stället prata om de generella slutsatserna. Helst vill vi hitta lösningar som fungerar oavsett exakt hur stora problemen är.