av VINCENT FLINCK AMBLE-NAESS
Föreställ dig två kärnvapenkrig. I det ena kriget får 100 procent av mänskligheten sätta livet till, medan det andra lämnar en på hundra vid liv, så att dödssiffran slutar på 99 procent. De flesta är överens om att det första kriget är värre än det andra. En fråga kvarstår emellertid: hur mycket värre?
Tankeexperimentet, som ursprungligen formulerades av filosofen Derek Parfit, presenteras i The Precipice, Oxfordfilosofen Toby Ords nyutkomna bok. Tidigare har författaren publicerats huvudsakligen i fackfilosofiska tidskrifter, och boken är hans debut i den populärfilosofiska genren.
Ämnet för boken är vad författaren kallar existentiella risker, det vill säga hot mot mänsklighetens existens. I Parfits efterföljd argumenterar Ord för att tankeexperimentets första krig är mycket värre än det andra, och att skillnaden i värde också är oproportionerlig mot skillnaden i dödsoffer. Den avgörande distinktionen består nämligen i hur kriget påverkar framtida generationer. Om 99 procent av mänskligheten går under kan civilisationen så småningom återhämta sig, men om vi går miste om också den sista procentenheten blir detta naturligtvis omöjligt. Det är av den anledningen som en sådan händelse vore det värsta tänkbara, menar Ord.
I bokens första del argumenterar författaren för sin sak ur flera moralfilosofiska perspektiv. I denna fråga borde utilitarister, plikt-, dygd- och rättighetsetiker kunna enas, menar han. Ansatsen är lovvärd, även om Ords utilitaristiska övertygelse på många ställen skiner igenom.
Bokens andra del utgör lejonparten av texten och ägnas åt en detaljerad genomgång av de existentiella riskerna. Toby Ords tes är att de största riskerna är de vi löper till följd av den teknologiska utvecklingen. Naturkatastrofer som kometnedslag, vulkanutbrott och exploderande stjärnor behöver vi inte oroa oss för, skriver Ord, och sammanfattar sedan den forskning som finns att tillgå i frågan. Om något tar kål på oss lär det bli vi själva, menar han. Den som väntar sig ett brandtal för klimatet lär emellertid bli besviken, därför att även om den globala uppvärmningen visserligen ägnas ett eget kapitel är det framför allt andra teknologier än förbränningsmotorn som filosofen vill varna för. Han befattar sig nämligen inte bara med de teknologier vi har i dag, utan spekulerar fritt i de risker som kan uppstå i samband med framtida upptäckter. Det kanske mest intressanta kapitlet är det som avhandlar så kallad artificiell intelligens, AI.
Om vi lyckas utveckla en artificiell intelligens vars tankeförmåga vida överträffar vår egen riskerar vi att falla offer för dess makt, menar författaren. Så småningom ersätts vi kanske till och med i rollen som planetens förvaltare. Toby Ord tycks mena att scenariot inte ens är särskilt osannolikt. Han presenterar en undersökning från 2016, där världsledande AI-forskare tillfrågades om hur sannolikt de trodde att det var att en superintelligent dator skulle utvecklas före 2061. Det genomsnittliga svaret blev då 50 procent. Därför, menar Ord, borde stora resurser ägnas åt att ta reda på hur katastrofen kan förebyggas, exempelvis genom forskning i AI-säkerhet. Det bör sägas att denna syn på potentialen hos AI knappast delas av samtliga. Exempelvis tecknar den svenske fysikern Ulf Danielsson en motbild i boken Världen själv, som recenserades i Signum nr 4/2020.
Toby Ord skriver också insiktsfullt om pandemier. Han koncentrerar sig emellertid på virus som utvecklas av människor. Redan i dag, menar Ord, kan samhällsfarliga virus framställas i förhållandevis enkla laboratorium. Risken är att de sedan sprider sig därifrån, antingen av misstag eller som ett led i en krigs- eller terrorhandling. Liknande läckor har också förekommit, vilket författaren redogör för med målande beskrivningar. Han föreslår även en serie lagändringar för att förhindra att det händer igen.
I den tredje delen av boken beskriver författaren det samhälle vi skulle kunna bygga om vi lyckades avvärja riskerna. Genom vetenskap och gemensamt arbete menar Ord att vi kommer att kunna göra oss av med inte bara rasismen och sexismen utan även tristessen och kanske till och med själva lidandet. Författaren medger att det är svårt att föreställa sig en sådan transformation, men evolutionen är ju inte heller färdigställd, påminner han, och spekulerar sedan i huruvida ett framtida utvecklingsstadium kanske ändå kommer att lyckas bättre. Dessutom, tillägger han, kan ju evolutionen alltid få lite hjälp på traven av gentekniken. Det är något med hans framtidsvision som gör den på samma gång överdrivet optimistisk och överdrivet pessimistisk. Vetenskapen kan lösa nästan alla problem, men i gengäld är den också allt vi har att hoppas på.
Sammantaget är ändå The Precipice en mycket läsvärd bok, inte bara som ett översiktsverk över civilisationens fallgropar utan även som en redogörelse för hur en utpräglad utilitarist – som dragit de yttersta konsekvenserna av sin övertygelse – ser på frågan om vad i tillvaron som är värt att rädda.
Vincent Flink Amble-Naess är fri skribent, Uppsala.
Ur Signum nr 6/2020, s. 62–63.