Algoritmens själ – artificiell intelligens

Den självkörande bilen kommer att bli en välsignelse för mänskligheten. Det är näringslivet, vetenskapen och politiken i USA eniga om. Man motiverar detta med att 90 procent av trafik­olyckorna i dag beror på den mänskliga faktorn. Detta förhindras genom autonoma fordon, vilket kommer att leda till 30 000 färre döda i trafiken.

Den självkörande bilen är en förbannelse för programmerare. Hur ska ett sådant fordon reagera när bromsarna plötsligt inte fungerar? Affärsspelet Moral machine (http://moralmachine.mit.edu), som utvecklats av Massachusetts Institute of Technology (MIT), ställer deltagaren inför alternativ med svåra följder. I exemplet Kill the poor (döda de fattiga) sitter två läkare, en kvinnlig chef och två manliga chefer i bilen. Kör bilen rakt fram krockar den med en mur och alla passagerarna dör. Alternativet är att bilen viker undan och kör över fem föräldralösa barn, som samtidigt korsar övergångsstället. Vad skulle du välja?

Det är långt mer än några makabra teoretiska skrivbordsövningar. Artificiell intelligens, teknologin bakom det autonoma resandet, har påbörjat sitt segertåg. Den genomsyrar alla samhällsområden. Den förändrar sättet på vilket människor tar sig från punkt A till punkt B. Den kan skicka drönare i stället för soldater i strid. Med tanke på dess inverkan är det desto märkligare att det inte finns någon gemensamt erkänd definition av artificiell intelligens. Det enda man kan säga är att en dator kan utföra uppgifter som tidigare varit förbehållna människor. Utifrån data kan inte endast tidigare skeenden återges utan även algoritmer utvecklas, som kan fatta beslut om framtiden.

Lösningarna på etiska frågor bör man inte överlämna till näringslivet

MIT-försöken visar att många av dessa handlingsalternativ snabbt för den mänskliga beslutsförmågan till sina gränser. En studie som publicerats i tidskriften Science visar att de flesta av de tillfrågade ansåg att en programmering som offrade passagerarna är etiskt riktig om den därigenom kan förhindra en värre katastrof. De flesta skulle dock endast köpa en självkörande bil om den till varje pris skyddar medpassagerarna. Biltillverkare som vill sälja sin produkt kommer att ta detta faktum på stort allvar. Studien kommer fram till följande slutsats: ”Att definiera algoritmerna som ska fatta dessa moraliska beslut, är en enorm utmaning.”

Den artificiella intelligensens födelse­ögonblick ligger redan 60 år tillbaka i tiden, och högtflygande förväntningar har ständigt grusats. Men nu tycks allt vara annorlunda. I internets tidsålder har mängden data, som låter sig kopplas samman och utvärderas på ett intelligent sätt, ökat explosionsartat. Parallellt med detta har datorernas beräkningskapacitet vuxit. Till detta kommer framstegen inom neurovetenskaperna. Den artificiella intelligensen liknar den mänskliga hjärnas sätt att fungera, genom att den skapar ett konstgjort, neuronalt nät som bearbetar informationen i olika skikt.

Pengar och mänskliga själsförmågor har dragits med i suget efter den lovande teknologin. Den artificiella industrins omsättning beräknas stiga från 8 miljarder USD 2013 till 70 miljarder USD 2020. För närvarande står amerikanska firmor eller nystartade företag för 90 procent av alla globala investeringar i artificiell intelligens. Dataingenjörer är hett eftertraktade och lockas med höga löner i stora skaror från de ledande universiteten.

Desto märkligare är det att den kyrkliga och politiska sfären inte har uppmärksammat dilemmat med marknad och moral lika mycket som näringslivet och vetenskapen. I Tyskland har förbundsregeringens etikkommission först nu lämnat förslag på de första etiska reglerna för det automatiserade resandet. Men i USA har de sex största företagen, som vill tjäna allra mest på artificiell intelligens, redan grundat en etikkommission. Partnership for Artificial Intelligence, som bildats av Amazon, Apple, Facebook, Google, IBM och Microsoft, utgår ifrån premissen att artificiell intelligens ”utlovar stor nytta för människor och samhälle”.

Andra företrädare för teknikeliten riktar alltmer uppmärksamhet mot skräckeffekten. ”Med artificiell intelligens bjuder vi in djävulen”, säger Tesla-chefen Elon Musk. En av världens mest kända vetenskapsmän, fysikern Stephen Hawking, varnade för den mänskliga rasens undergång, om maskinerna visar sig vara smartare än männi­skorna och beslutar sig för att utrota dem från jorden. Den svårtolkade futuristen Ray Kurzweil förutspår år 2045 som Singularitet, det vill säga den tidpunkt då den maskinella intelligensen kör om människorna en gång för alla. Nästa logiska steg är för Kurzweil den utvidgade människan, som kommer att utrustas med datachipimplantat – och som fortsätter att existera efter sin fysiska död i form av en digital kopia.

Den nya teknologin har börjat att förändra människan och hennes tänkande. Den artificiella intelligensens främsta tekniska framsteg kommer här endast att överträffas av allmaktsfantasierna hos dess försvarare. De vill spränga människans hittillsvarande gränser. Ray Kurzweil nämner en mix av 100 tabletter per dag, som ska förlänga livet. Peter Diamandis, en av grundarna av tanke­smedjan Singularity University, har grundat det nystartade företaget Human Longevity. Dess slutmål är att förlänga männi­skans levnadsålder till 700 år.

Den katolske teknikoptimisten Kevin Kelly är så begeistrad av den digitala tidsåldern att han i sin bok The Inevitable: Understanding the 12 Technological Forces That Will Shape Our Future redan har utropat en ny begynnelse. En oförblommerad anspelning på Första Mosebokens ”I begynnelsen skapade Gud himmel och jord”. Bör Bibeln skrivas om efter mottot: Gud såg att algoritmen var god?

Om teologer vill ha något att säga till om i debatten om artificiell intelligens måste de snarast ställa sig en rad svåra frågor. Kevin Kelly talar om en ”teknologisk upplösning”. Även om man utgår ifrån att artificiell intelligens vid sitt ”viljeskapande” också stöder sig på religiösa grundsatser, så går det inte att bortse ifrån hur denna beter sig, om olika trosövertygelser kommer fram till olika resultat. Sålunda är det inget orealistiskt scenario att den tekniska utvecklingen kommer att påskynda och skärpa religiösa konflikter. Till detta kommer också frågan om den övermänskliga superintelligensen skulle kunna bli så inflytelserik att den skulle kunna sudda ut gränsen mellan Skapare och skapelse. ”Artificiell intelligens skulle kunna bli det största hotet mot den kristna teologin sedan Charles Darwins Om arternas uppkomst”, skriver Jonathan Merritt i tidskriften The Atlantic.

”Välsignelseroboten” är för många en skräckvision

En av kärnfrågorna lyder: Kan intelligenta maskiner ha en själ? Här står två tankeskolor mot varandra. Företrädare för den traditionella uppfattningen hänvisar till att endast människan har förmågan att vara Guds avbild. För dem kan en dator aldrig uppnå Gudslikhet (imago Dei), oavsett sitt utvecklingsstadium. Hittills har kristna betraktat själen som ett ”uteslutande mänskligt element”, ”en inre och evig komponent, som uppmuntrar vår andliga sida”, som Merrit beskriver det.

Paul Scherz, som är katolsk moralteolog vid Georgetown University i Washington D.C., håller inte med. Han ser i den grekiska filosofiska traditionen själen som ”principen för växande och utvecklingen i alla levande ting, i alla rörelser och varseblivningar hos djuren liksom i människornas rationalitet”. Djur och växter skulle följaktligen ha en själ, och därför skulle även en artificiell intelligens, som tänker och som kan förändra sin omvärld, ha ett slags själ, skriver i Scherz i den katolska nättidskriften Cruxnow.com. Det är inte längre någon avvikande uppfattning. Den knyter an till den förmåga, som maskinerna har utvecklat, till att forma en fri vilja och att fatta självständiga beslut.

Kevin Kelly arbetar redan med en katekes för robotar. Om människor utvecklar ting med en egen autonomi, så måste de ge dessa moralisk vägledning. ”Vi måste få dem att förstå skillnaden mellan gott och ont”, menar Kelly. Han jämför utformningen av tekniska system med den [konfessionella] religionsundervisningen i skolan. Robotar kan likt människor bli ”Guds barn”. Presbyterianen Christopher J. Benek spinner vidare på samma tråd: Autonoma maskiner kan synda. De får därför hoppas på förlåtelse. Och Kristus har inte bara återlöst människorna utan även maskinerna.

Vägen från själ till själavård är inte lång. Den evangeliska kyrkan i Hessen och Nassau utvecklade inför världsutställningen om reformationen apparaten BlessU-2. Den ger den långsökta fantasin om en prästrobot ett ansikte. ”Välsignelseroboten” är en interaktiv installation och gick att beskåda i Wittenberg. Maskinen talar tio språk och det går att välja en kvinnlig eller en manlig röst.

Den gläder de fattiga och skriver påpassligt ut sina texter. Medier från hela världen har rapporterat om maskinen – framför allt på grund av skräckfaktorn. Provokationen under Lutheråret lyckades, men teologiskt förblir alla frågor öppna. Någon lösning på prästbristen torde dock BlessU-2 av förklarliga skäl inte kunna bli. Vem kan på allvar tänka sig att sätta sin tilltro till en robot eller att bikta sig för en sådan?

Hur fascinerande denna fråga än må vara så bör den inte skymma blicken för de mer påtagliga och ytterst världsliga problemen. Det skulle ju kunna bli så att superintelligenta datorer någonstans någon gång kan utveckla något sådant som en fri vilja. Men här och nu manipulerar smarta telefoner, som styrs av artificiell intelligens, den fria viljan hos sina användare. De förser dem med riktad reklam och vinklad information. Facebook och Twitter avskärmar så mycket från andra sätt att tänka att de har ökat splittringen i samhället och skadat demokratin, vilket har blivit dramatiskt märkbart i USA.

I sin encyklika Laudato si’ (Lovad vare du) oroar sig påven Franciskus för kvaliteten i de mänskliga relationerna: ”Dagens medier gör det möjligt för oss att förmedla och att dela kunskap och känsloyttringar med varandra. Trots detta hindrar de oss också ibland, med de andras rädsla, fasa, glädje och komplexiteten i deras personliga erfarenhet från att komma i direktkontakt med varandra.” Denna anmärkning kan skärpas ytterligare. Eftersom den artificiella intelligensens förmåga att identifiera ord kraftigt har förbättrats, har dess människoblivande kommit ännu närmare. Allt fler människor roar sig med mobilappen Siri eller med den verbalt interaktiva högtalaren Amazon Echo. I Japan har äldre personer vant sig vid interaktiva husdjursrobotar, som ersätter de mer svårskötta husdjuren.

De med lägre kvalifikationer skulle kunna bli utvecklingens förlorare

En av de få kyrkliga ledare som intensivt ägnat sig åt att reflektera över artificiell intelligens är kardinal Reinhard Marx. Under sin USA-resa i början av maj 2017 samtalade ordföranden för den tyska biskopskonferensen i Berkeley Center vid Georgetown University med en grupp forskare om följderna av en hejdlös digitalisering. Det är ”ytterst naivt” att tro att artificiell intelligens av sig självt skulle leda till en bättre värld, sade Marx. Snarare måste det gå att utkräva ansvar, så att teknologin tjänar människorna. Under den tyska digitalkonferensen DLD (Digital Life Design) höll kardinalen ett tal och ställde frågan: ”Är en värld utan arbete, där maskiner arbetar och människorna bara gör av med pengar, verkligen något eftersträvansvärt?”

Han oroar sig för sammanhållningen i samhället och för försvaret av det indivi­duella människovärdet. Den kristna socialläran står vid avgrunden till det nya arbetslivet. Ty under de närmaste fem åren kommer 5 miljoner arbetsplatser att försvinna i industriländerna, enligt Världsekonomiskt forum i Davos. Artificiell intelligens, säger man där, kommer liksom vid tidigare industriella revolutioner att ”mala ner dem som väntar och tittar på” och skapa ett enormt välstånd för dem som kan dra nytta av maskinerna. Hur de med lägre kvalifikationer och de svaga i samhället ska klara av detta avslöjas inte. Hur dessa ska hjälpas och fångas upp i omställningen kommer att bli en av de stora politiska och moraliska frågorna under de närmaste åren.

Även här står det automatiserade resandet inför det digitala dilemmat: Det är en ekonomisk drivkraft för miljardinvesteringar att människor och varor billigare, snabbare och säkrare ska kunna komma från punkt A till punkt B. Dessa ekonomiska, och i trafiksäkerhetsmässig bemärkelse också moraliska, överväganden kommer att göra sig alltmera gällande, även om lastbilschaufförernas och taxiförarnas arbetsplatser kommer att falla offer för detta.

Som vanligt i människans historia är teknologin i sig varken god eller ond, utan allt beror på vad man gör med den. När det gäller artificiell intelligens är risken ytterst påtaglig att vinsten privatiseras, samtidigt som kostnaderna överförs på samhället. Samtidigt rymmer den enorma möjligheter till ny kunskap, som kan kopplas ihop på ett intelligent sätt. Verkliga framsteg är inom räckhåll: individanpassad medicin kan bota svåra och sällsynta sjukdomar, precisionsjordbruk förhindrar missväxt och hungersnöd, intelligenta energisystem och trafiklösningar sparar naturresurser, digitala undervisningsprogram kan gå in på varje enskilt barns styrka och svagheter.

Det skulle således vara helt felaktigt, och till och med omoraliskt, att möta artificiell intelligens med vägran och rent av fördömanden. Uppgiften för kyrkor och ansvarsfulla politiker består mer i att påminna dess användare om deras förpliktelser gentemot det gemensamma goda. För att klara detta behöver teologer och filosofer, socialvetare och jurister göra sig mödan att lära sig de teknikbegeistrades terminologi. Och mer än det: för att kunna hävda sina värderingar i den digitala tidsåldern behöver de själva ett språk som är begripligt.

Översätttning: Per Lindqvist

Artikeln var ursprungligen publicerad i Herder Korrespondenz nr 7/2017 och publiceras med tillstånd av Verlag Herder, Freiburg, www.herder-korrespondenz.de.