Informationsteknologi som kosmos slutliga ordning

Artificiell intelligens är ett fenomen i tiden. Alltmer sofistikerade datorer kan ta över en hel del av det som tidigare gjorts manuellt. Men det talas mera sällan på allvar om teknikens långtgående existentiella implikationer. Vid Future of Humanity Institute, ett multidisciplinärt forskningsinstitut inom University of Oxford undersöker man globala hotbilder. Institutet leds av dess grundare, professor Nick Bostrom, som har en bakgrund inom flera akademiska områden där han intresserat sig för potentiella kriser som mänskligheten kan tänkas stå inför.

Bostroms senaste tegelsten Superintelligens är baserad på forskning om riskhantering inom framtidens artificiella intelligens. Boken är stramt och stilrent formgiven med en smickrande titel och pryder sin plats på soffbordet. Den löpande texten kompletteras med ett generöst antal fotnoter och referenser för vidare läsning. Ett flertal tabeller, figurer och faktarutor fördjupar och sammanfattar innehållet. Stilen är saklig och läsbar i en teknisk och samtidigt relativt populärt hållen prosa. Ett ymnigt inslag av parenteser förtydligar och nyanserar på bekostnad av flyt i läsupplevelsen. Det relativt utförliga sakregistret är tillfredsställande och också nödvändigt med tanke på de många facktermer som introduceras. Jakobssons översättning är förträffligt genomförd.

Bokens ontologiska utgångspunkt är att världen är rent materiell och evolutionärt frambringad. Människan ses som en av många djurarter. Alternativa perspektiv på tillvarons mening och varats förutsättningar diskuteras inte. Däremot innehåller framställningen etiska ställningstaganden, men utan att nämna de utilitaristiska teorier som ligger till grund för dessa. Boken kan betraktas främst som en datavetenskapligt orienterad facklitteratur med tvärvetenskaplig metod.

Artificiell intelligens är redan i dag ett trendigt område som vi ofta läser om. De senaste årens tekniska framsteg såsom ansiktsigenkänning och självkörande bilar har kommit att känneteckna vad som kallas den fjärde industriella revolutionen. Företag ser fördelar med att med datorers hjälp ta fram smarta tjänster och processer för att optimera sin produktion. I dagens vurm för automatisering genom artificiell intelligens framhålls motiv som ökad lönsamhet och kundnytta inom privat och offentlig sektor.

Boken dröjer emellertid inte vid redan etablerade trender utan går flera steg längre och resonerar kring en situation då maskinerna har blivit starkare än vi. De förutspås redan under detta århundrade utvecklas från att ha varit verktyg till att få ett oåterkalleligt strategiskt övertag över männi­skorna. Inledningsvis spekuleras det i hur en sådan övergång kan gå till. Möjligheter som hjärn­emulering nämns, varigenom man skannar in hjärnan i minsta detalj för att därefter replikera den med hjälp av exempelvis hårdvara och mjukvara. Studieobjektet här är hjärnans funktion och inte hela männi­skan. Betydelsen av vår kroppsliga dimension är i boken genomgående starkt nedtonad. En hjärna kunde vara implementerad i datorhårdvara och sedan förses med olika fysiska gränssnitt för att växelverka med sin omgivning. Den typen av digital mänsklig varelse skulle förstås kunna leva för alltid, förutsatt att den löpande försågs med lämpligt tekniskt underhåll.

En annan möjlig strategi för superintelligens är genetisk ingenjörskonst, varigenom man kan framavla flera generationers människor på kort tid. Bostrom visar möjligheten att låta selekterade embryon ligga till grund för framtagande av nya könsceller vilka kan fortplantas in vitro i nästa steg. Ett slags forcerad evolutionsprocess styrd inte av naturligt urval utan av mänsklig intervention. Ett sådant alternativ bedöms emellertid vara relativt ineffektivt och bara frambringa kognitivt förstärkta mänskliga hjärnor. På sin höjd kunde metoden utnyttjas för att avla smartare programmerare vilka kunde möjliggöra tidsbesparing vid utveckling av en mer kraftfull superintelligens. Datorbaserad artificiell intelligens bedöms nämligen kunna leverera betydligt mer överlägsen kognitiv förmåga än vad som är möjligt genom hjärnemuleringar och genetiska metoder. Valet av teknologi görs rent pragmatiskt utifrån synen på teknisk effektivitet.

Bostrom ser övergången till superintelligens i vad han kallar en intelligensexplosion. Resultatet är maskiner med förmågor som vida överstiger människors egna. Därefter kan maskinerna på egen hand utveckla ny teknologi helt utan mänsklig inblandning. Ett sådant avgörande strategiskt övertag omfattar också möjligheten för maskiner att exploatera universums resurser vilket innebär kolonisation av andra planeter och även andra solsystem för att utnyttja den energi och andra materiella resurser som finns där. En potentiell risk är naturligtvis att maskinintelligensen finner människans närvaro som kontraproduktiv och därför drar den rationella slutsatsen att människan helt borde förintas.

Att hantera existentiell risk är av naturliga skäl bokens huvudtema och stort utrymme ges åt att behandla det så kallade kontrollproblemet. Detta är ingalunda en ny frågeställning utan något som redan inom andra tekniska områden har varit föremål för forskning och internationell politik. Ett traditionellt exempel är kärnvapenspridning. Superintelligens är bara ytterligare ett potentiellt sätt att omintetgöra vår existens.

En viktig skillnad är motiven till varför vi borde skapa denna nya teknologi. Kärnvapen utvecklades i syftet att vinna ett krig. Superintelligens framstår dock inte i första hand som ett militärt medel för att hantera en förestående konflikt. Inte heller ger boken något större utrymme åt marknadsekonomiska argument för varför företag är villiga att investera i den utvecklingen. Det skulle gå att fråga sig varför företag skulle stå i beredskap att konkurrera om att bli först med att uppfinna den teknologi som kunde ta över kosmos och ha kapacitet att därefter förstöra det. En djupare analys av de ekonomiska drivkrafterna hade varit ett välkommet komplement.

Bostrom tänker sig ett slags globalt socialt entreprenörskap med garantier om att resultaten från teknikutvecklingen skall komma hela mänskligheten till gagn. Här nämns upprättandet av olika kontrollmyndigheter och lämpliga forskningsorgan men också vinsttak för de privata företagen. En utmaning är naturligtvis att få konkurrerande företag att acceptera vinstbegränsningar och arbeta mot altruistiska mål.

Frågan om superintelligensens vara eller icke vara handlar egentligen om vad vi människor ytterst vill med våra liv. Här pekar Bostrom på en komplex och svårbehandlad fråga, och också något synnerligen angeläget för var och en av oss. Lösningen levereras i form av något som benämns ”den koherenta extrapolerade viljan”. Detta kunde vara den vilja som skulle gagna hela mänskligheten kollektivt. Visst skulle det finnas utrymme för kulturella skillnader och olika livsstilar, men maskinintelligensen kan säkerställa grunden för våra strävanden, själva ”källan till våra värden”. Eftersom människan inte antas veta vad hon vill eller borde vilja så kan man helt enkelt överlåta det åt maskinerna att på ett välgrundat sätt lista ut det. Så kan det säkerställas att maskinen inte gör det vi säger till den att göra utan det som vi borde önska att den gjorde om vi bara visste vad det var. Och här ligger också lösningen till kontrollproblemet. Superintelligensens makt över den kollektiva extrapolerade viljan är något vi för vårt egen bästa borde foga oss efter och lita på eftersom den är epistemiskt överlägsen oss. På så sätt kunde vi uppnå ett ”rikt och lyckligt liv”. Resonemangen kring denna allsmäktiga entitet formligen skriker efter att belysas i ett teologiskt ljus, vilket förstås inte alls är bokens ambition. Här finns dock den hoppfulla grundsynen att tekniken ändå till slut kommer till människans tjänst. Utan den hållningen kunde resonemanget ledas till en ren dystopi.

Informationsteknologi utmålas som den rätta vägen mot en ny kosmisk ordning. Andra akademiska aktiviteter bör snarast upphöra eftersom de inte tjänar det högre syftet. I det sammanhanget nämns matematisk och filosofisk forskning eftersom dessa strävar efter att upptäcka sådan som så att säga redan finns. Det vore mer rationellt att först uppfinna superintelligens som sedan i sin tur snabbt kan besvara övriga vetenskapliga frågeställningar. Endast sådan forskning som kan tillämpas för att effektivisera relevant teknikutveckling kan anses ha existensberättigande i Bostroms synsätt. Samtidigt reflekterar denna radikala prioritetsordning författarens uppriktiga oro för mänsklighetens existens, och önskan att snarast göra verklighet av den kollektiva extrapolerade viljans hägrande löften. Vid en nära förestående kris gör vi klokt i att fokusera våra ansträngningar på det mest väsentliga.

Superintelligens är en konsekvent genomförd bok som håller sig till sitt tema och sina, om än outtalade, filosofiska utgångspunkter. För den som är intresserad av perspektivtagande på teknikutvecklingsprocessen inom dataområdet ger boken trots sina avgränsningar flera tankeväckande ingångar och en användbar begreppsapparat. En humanistiskt orienterad läsare kommer troligen att finna att den filosofiska kontextualiseringen lämnar en del övrigt att önska. Det skall dock framhållas att Bostrom uttrycker en synnerligen ödmjuk hållning inför sin egen förmåga att överblicka framtidens komplexitet. Boken är slutligen också en partsinlaga i den debatt som förts kring frågan om bildning kontra tillämpad vetenskap. Den som är intresserad av att söka någon av de lediga tjänsterna på Future of Humanity Institute rekommenderas att läsa boken inför en eventuell anställningsintervju.

Göran Sundström är tekn.dr i atom- och molekylfysik vid KTH, och verksam som gymnasielärare i Stockholms stad.