Evolutionen och medvetandet med Dennett och Bostrom

av GÖRAN SUNDSTRÖM
Tänk dig att du teleporteras atom för atom till en materiellt sett exakt kopia av dig själv. De atomer du består av skulle alltså kopieras till en annan plats än där du befinner dig utan att korsa det fysiska rummet. Sedan blir det strömavbrott och du famlar i mörkret. När ljuset kommer tillbaka möter du dig själv. Det går inte att säga vem som är originalet, frågan är till och med meningslös.

Måhända borde man eliminera en av individerna för att undvika redundanta exemplar. Det skulle faktiskt inte vara en orimlig åtgärd att avlägsna en av individerna, hävdar forskarna Daniel Dennett och Nick Bostrom, som tidigare i veckan gästade ett utsålt Cirkus i Stockholm under det senaste Pi-symposiet som arrangerades av Fri Tanke förlag.

Det som möjligen kunde beaktas är om vår disposition för att känna sympati hindrade oss från utsläckande av liv, om nu en av individerna eliminerades. En fråga som de båda forskarna diskuterade var skiljelinjen mellan varelser som kan värderas etiskt, och objekt som saknar moraliskt värde. Här levererades inte några tydliga svar, men exempel på etiskt neutrala varelser som spindlar och robothundar belystes.

Forskarna var eniga om att medvetandet, eller ”jaget” med fri vilja inte är något extra som finns i människan. Vår fria vilja är fullständigt förenligt med ett system av atomer, bara de placeras exakt rätt. Det skulle vara helt rimligt att en hög med atomer som följer deterministiska lagar uttalade att ”jag kan göra det, men jag vill inte”.

Bostrom förtydligade också att det är sekundärt, eller irrelevant, för en varelse att anta en viss fysisk yttre form. Man kan alltså mycket väl tänka sig samma intelligenta och medvetna varelse representerad i en dator, förutsatt att datorn kunde efterlikna hjärnans väsentliga funktioner.

Symposiet kretsade kring möjligheterna och konsekvenserna med artificiell intelligens, ett begrepp som florerat i decennier. Forskarna tänker sig att man i framtiden kan se en utveckling där maskiner har högre intelligens än människan. Man talar här om superintelligens. Det handlar om att replikera, och överträffa, den mänskliga hjärnans struktur med hjälp av avancerad teknologi. Neuronerna i hjärnan kan representeras av mikroprocessorer, vilka sedan sammanbinds genom sofistikerade system, så kallade neurala nätverk.

Detta är en teknologi som används redan i dag, men som förutspås utvecklas långt vidare. Superintelligens sägs vara den sista innovationen människan gör. Därefter tar maskinerna över civilisationen, och det går snabbt efter det att superintelligensen sett dagens ljus. Det finns en risk att superintelligensen tillämpar objektiv etik och bestämmer sig för att mänskligheten utgör en belastning och därför måste utrotas. Fram tornar en hotbild minst lika allvarlig som klimathotet eller kärnvapenkrig.

Inledningsvis anförde Daniel Dennett, professor i filosofi vid Tufts University i Massachusetts, en beskrivning där han ställde begreppen kompetens och förståelse mot varandra. Medan han menade att maskiner i någon utsträckning kan anses kompetenta, så saknar de den förståelse för mening som vi människor har. Dennett talade om vad som kännetecknar denna unikt mänskliga förmåga. Det har att göra med kognitiv evolution, ett naturligt urval av tankeverktyg. Det är alltså inte bara våra kroppar som undergår evolution utan det sker även på det sociala och kulturella planet. På det sättet utmejslas över tid kraftfulla intellektuella verktyg genom naturligt urval. Detta skulle vara det som skiljer oss från djur, eller dagens robotar. Men egentligen innebär det att vi inte är något annat än atomer arrangerade på ett specifikt sätt. Det finns ingen själ eller liknande som skall adderas till den materiella varelsen.

Denna strikt materialistiska uppfattning om människan delar han fullt ut med svensken Nick Bostrom, professor i filosofi vid University of Oxford, som inom Future of Humanity Institute ägnar sig åt att utarbeta försvarsstrategier för den händelse att vi lyckas skapa superintelligens. Medan Bostrom är tämligen övertygad om att superintelligensen kommer att se dagens ljus inom några decennier, förhåller sig Dennett mer tvivlande till en sådan utveckling. Dennett ser det som orealistiskt för att inte säga uteslutet av praktiska, kommersiella och juridiska skäl. Han menar att komplexiteten hos våra hjärnor är så stor, med sina 86 miljarder neuroner, att de tekniska utmaningar som det för med sig att replikera den är närmast oöverstigliga. Till detta kommer företagens förmodade ovilja att investera i design av maskiner som är så intelligenta att de inte går att kontrollera. Denna typ av produkter skulle troligen ha begränsad kommersiell potential. Människan borde i stället ägna sina krafter åt de akuta problem som föreligger nu. Här nämndes klimathotet, men även svält och geopolitisk instabilitet.

Samtidigt som Dennett på ett tilltalande sätt pläderade utifrån en pragmatisk syn på företagens forsknings- och utvecklingsbudgetar, så måste man konstatera att åtminstone vissa akademiska budgetar redan nu finansierar forskning kring de eventuella riskerna med kommande superintelligenta maskiner. Det blir också tydligt att en kompetent diskussion av superintelligens inte förs med mindre än att vissa centrala begrepp flitigt används: människans fria vilja, etik, mening, ansvar och Skaparen.

Göran Sundström 2017-11-18