av ALEXANDER FILIPOVIC
Den teknologi som man något oegentligt kallar ”artificiell intelligens” (AI) är sedan länge en del av vår vardag. Navigationsmjukvara, språkassistenter och system för att beställa hem varor används av många människor dagligen. Utöver den dagliga användningen av sådana tjänster dyker det även upp frågor om AI som har större räckvidd: i vilket förhållande står maskinell och mänsklig intelligens till varandra? Hur fattar vi beslut inför framtiden och vem (eller vad) tar ansvar för besluten? Vari ligger det avgörande mänskliga, när AI fungerar snabbare, ställer säkrare diagnoser och är mera uthållig än mänsklig vårdpersonal? Och hur förhåller sig den åtminstone potentiella allmakten i ett AI-system till vår gudsbild? Dessa och många andra frågor är relevanta för hur människan uppfattar sig själv och världen och därmed också hur vi talar om Gud. Vilken verklighet ser vi i den frambrytande AI-tidsåldern och hur kan i denna verklighet betydelsen av människans existens och talet om Gud bli klart och redigt? Frågor som dessa blir i vår tid allt viktigare för teologin och den teologiska etiken.
Termen AI betecknar mycket olika saker och används på många olika sätt. EU-kommissionen har 2012 definierat AI på följande sätt: ”Artificiell intelligens (AI) betecknar system med ett ”intelligent” förhållningssätt, som analyserar sin omgivning och som handlar med en viss grad av autonomi för att uppnå bestämda mål. AI-baserade system kan med stöd av endast mjukvara arbeta i en virtuell omgivning (t. ex. språkassistenter, mjukvara för bildanalys, sökmotorer och system för att avläsa ansikten). Men de kan också vara inbäddade i system med hårdvara (som moderna robotar, autonoma bilar, drönare eller användning av sakernas internet).”
Maskinernas betydelse för inlärning
Forskning om AI och om system som exempelvis schackdatorer finns det sedan länge. Men AI-systemen har ökat starkt i betydelse under de senaste åren. Det beror framför allt på de stora datamängder som genom digitalisering av informationsöverföring finns i allt större omfattning och som står till förfogande för maskinell bearbetning. Ständigt ökande räkneförmåga, sammankoppling av informations- och kommunikationsteknologier, speciella hårdvarukomponenter (som sensorer) och förnyandet och vidareutvecklandet av AI-algoritmer leder till att AI-systemen kan användas i allt fler sammanhang. Det är särskilt utvecklingen inom det maskinella lärandet och utvecklingen av smarta robotar som har lett fram till att AI-teknologin numera diskuteras i alla möjliga sammanhang, i synnerhet efter framgången med datorprogrammen ”AlphaGo” och ”AlphaZero” av Google ”DeepMind”.
Digitalisering, data, algoritmer och sammankoppling är alltså de centrala ord som associeras med AI-systemen. De tydliggör att vi här har att göra med ett nytt steg i vidareutveckling av digital teknologi och dataanalys. En del av resultaten är förbluffande och systemen överträffar ofta långt vad som är möjligt att utföra för en människa. Men systemen är överlägsna människan endast där problemställningar, ingående data och måttet på framgång är noga definierade eller kända, som exempelvis vid schackspel. Detta slag av AI-system betecknas som ”svag AI”.
Men människan förfogar över en allmän intelligens, som aktiveras även i oklara situationer och problemställningar, som i interaktionen med vår omvärld. För den allmänna intelligensen fordras sinnesförnimmelser, erfarenhet och komplex rörlighet. En AI med en sådan allmän intelligens – man talar här om en ”stark AI” – finns inte i dag och endast få forskare tror att en sådan AI över huvud är möjlig att utveckla. Även om AI-systemen alltså numera kan agera alltmer självständigt, kommer alltså också framtidens mer avancerade AI-teknologi endast att kunna utföra vissa begränsade uppgifter: en AI-bil kommer bara att kunna fungera som en bil men inte kunna möta andra nya slags utmaningar.
Filosofers och kulturskribenters älsklingsfråga, om ”artificiell intelligens” har medvetande eller inte, spelar ingen roll för de här nämnda frågeställningarna. I sådana debatter verkar ofta snarare science fiction-filmer utgöra ramverket när det gäller att diskutera de tekniska utvecklingsmöjligheterna. Därmed inget sagt mot science fiction, som särskilt i etiska frågor ofta har lämnat framstående bidrag. Samhället kan redan i dag få hjälp av science fiction med frågor av typen ”Vad skulle kunna hända ifall …?” när det gäller problem om en osäker framtid, men också ibland när vi reflekterar över problem om hur vi skall handla redan nu.
Problemen finns inte endast i umgänget med humanoida robotar ”med medvetande” (som alltså inte finns och kanske aldrig kommer att finnas) eller med den abstrakta möjligheten att ladda ner den mänskliga hjärnan i en dator (mind upload). De intressanta och verkliga problemen gäller främst hur människan umgås med den av henne skapade mäktiga tekniken, som ju i sin tur sätter ramarna för vad människan är, kan vara och skulle vilja vara. Med andra ord, i centrum står frågan om hur människan förstår sig själv i världen.
Att teknik i denna mening aldrig kan vara neutral, att den alltid är med och påverkar hur vi formulerar våra frågor om människan, det är för teknik- och mediefilosofer, som man säger, en no brainer. Politiker och ekonomer lever dock inte sällan kvar i föreställningen om att varje teknik är som en värdeneutral hammare: det gäller endast att använda den till något gott. Det är en farligt naiv inställning, något som Marshall McLuhan i boken Understanding Media framhöll redan på 1960-talet.
Därmed ligger också frågorna på bordet om vilken betydelse och roll som den mänskliga existensen ska tillmätas i AI-tidsåldern och vilka följder det får för människans religiösa relationer och hennes gudstro. När tekniken på detta sätt utgör förtecken för hur vi förstår människans fråga om sig själv och om Gud, påverkar detta självfallet även teologin.
Den centrala teologiska uppgiften i relation till AI-teknologierna avser transformationen av det humana, som med AI-teknologierna blir så påfallande. Hur talar vi om Gud i en kultur där människans självförståelse präglas av användningen av AI-teknologier?
Dessa transformationer av det humana är särskilt påfallande inom vissa områden. Våra interaktioner i både arbete och vardag sker alltmer med hjälp av AI-system. Just med hänsyn till människa–maskininteraktion (MMI) infinner sig speciella krav. När man tänker på betydelsen av personlig och social interaktion för människans identitetsbildning och att användningen av MMI ökar i arbete och vardag, så är frågan befogad vilken påverkan allt detta kan ha för hur människan utvecklas och för hur hon förhåller sig exempelvis till beslut som fattas av ett AI-system, till exempel en medicinsk diagnos med terapiförslag.
Alla dessa frågor har många etiska aspekter som också är viktiga för den teologiska etiken. Då gäller det inte först och främst rätt eller fel i moraliskt hänseende, utan snarare den grundläggande frågan om hur människans självförståelse under dessa omständigheter kan förändras när människan ofta interagerar med AI-system, framför allt med AI-robotar.
Ett andra område som särskilt fäster uppmärksamheten på transformationerna av det humana är transhumanismen. Hos Ray Kurzweil, en amerikansk tänkare kring transhumanism och chefsingenjör hos Google, förbinds tankarna på en artificiell superintelligens och människans självtranscendens genom AI-teknologi. AI-styrda brain-computer interfaces skall möjliggöra den fysiska förbindelsen av människa och teknik. Proteser och implantat gör att människorna blir så kallade cyborger. Inte heller här gäller det främst att fördöma eller varna för sådana teknologier, även om transhumanismen också måste kritiseras för sina pseudovetenskapliga inslag och sina bitvis primitiva antaganden. Att koppla samman mänsklig natur och maskiner, inklusive AI, kan uppenbart vara av godo, till exempel i en pacemaker eller i ett cochlea-implantat. Här rör det sig åter igen om att transformera den mänskliga självförståelsen, och då särskilt om att transformera gränserna för människans kropp. Också detta är till en början moraliskt neutralt, då det säkert kan finnas anledningar att antropologiskt ompröva en del äldre synsätt på den mänskliga kroppen. Men genom att transhumanismen teknologiserar religiösa idéer om odödlighet och allmakt och samtidigt ger dem en helt immanent och inomvärldslig tolkning, blir de till utmaningar i mötet mellan transformationen av det humana och människans religiösa övertygelser och praktiker.
Ett sista här skisserat område för transformation gäller synen på den mänskliga kunskapsförmågan. Paolo Benanti, docent vid Jesuitordens universitet Gregoriana i Rom i bland annat teknologietik, har funnit en träffande bild för det. Teleskop och mikroskop med konkava linser var teknologier, med vars hjälp väsentliga vetenskapliga upptäckter gjordes under 1700- och 1800-talet. Med AI-system som utvecklar sig själva med hjälp av stora datamängder kommer vi nu fram till ett nytt instrument: makroskopet. Så kan vi utforska hemligheter i sociala relationer och andra extremt komplexa strukturer i en kombination av big data, stordata, och detaljiakttagelser (som persondata). Att tekniskt komma nära en sådan komplexitet har vi hittills inte kunnat föreställa oss. Hur det förhåller sig med denna kunskap framöver är dock osäkert. Det innebär, som Benanti betonar, en revolution av vår syn på kunskap som vi först måste förstå.
För att ta ett exempel: vid ett framtida förebyggande polisarbete kan det genom analys av falldata bli möjligt att förhindra att planerad brottslighet blir verklighet. Men vad betyder det när vi med ett foto av en människas ögonbotten kan skaffa oss information om hur länge hon har kvar att leva eller vilka psykiska problem hon brottas med? Möjligheterna att få fram information om mänskliga individer förändras mycket snabbt genom AI. Också detta kan förstås som en transformation av det humana.
Vilka aktörer har vad för slags ansvar?
För teologin är det en omfattande uppgift att reflektera över dessa förändringar av den mänskliga självförståelsen och av vår förståelse av Gud inom ramen för den av AI-teknik präglade framtida kulturen. I princip involveras alla teologiska ämnen, framför allt de systematiska och praktiska disciplinerna. Fastän tiden för detta nu är här och AI kan ses som ett tidens tecken, står den systematiska teologin inte lika mycket under tidspress som den teologiska etiken gör. AI-systemen sätts i dag i arbete och måste politiskt debatteras och regleras. Även om konjunkturen för AI-etik är ambivalent (inte sällan bedriver faktiskt ekonomer och regleringsaktörer ethics washing med AI-etik), så finns ändå här mycket att göra.
De etiska problemområdena är människans frihet, förtroendet för AI-systemen, effekterna på det allmänna bästa, frågor om ansvar, systemens transparens, systemens rättvisa och diskrimineringsfrihet, liksom även frågor om dataskydd och självbestämmande om information. De etiska problemen varierar med olika användningsområden för AI. Fördelning av välstånd också i globalt hänseende, frågor om makt och hot mot demokratiska politiska system är också exempel på socialetiska problem inom AI.
Här kan det räcka med att hänvisa till en artikel som Påvliga akademin för livet publicerade i Rom i februari 2020. Artikeln ”Rome Call for AI Ethics” fokuserar på områdena etik (t.ex. människans värdighet och frihet från diskriminering), utbildning (delaktighet i att gestalta genom AI-kompetens) och rättigheter (grundläggande rättigheter och rättsliga regleringar). Med utgångspunkt från detta ställer artikeln upp sex principer för ”etisk användning av artificiell intelligens”. Transparens: AI-system måste i princip kunna förklaras; inklusion: man måste ta hänsyn till alla människors behov, så att alla kan profitera av det och alla individer erbjudas de bästa möjliga förutsättningar för att uttrycka sig och utvecklas; ansvar: de som utformar och använder sig av AI måste gå till väga ansvarsfullt och transparent; fördomsfrihet: man får inte skapa några fördomar eller handla därefter, för att skydda rättvisa och människovärdighet; tillförlitlighet: AI-system måste kunna arbeta tillförlitligt; säkerhet och dataskydd: AI-system måste kunna arbeta säkert och respektera användarens privatsfär.
Hur riktiga dessa principer än må vara, infinner sig ändå frågan om de faktiskt kommer att bli tillämpade. En beståndsdel i en AI-etik, också i kristen kontext, måste vara att utröna vilka aktörer som har vilket ansvar för en god och riktig AI. Det gäller att uppmärksamma olika slags aktörer, företag, föreningar, politiska partier och träda i förbindelse med dem.
Teknologier inom AI kommer alltmer att forma våra liv. De transformationer som är förbundna med vår mänskliga självförståelse behöver vi reflektera över – en uppgift som inte minst teologin behöver ställa sig. Teologiska, antropologiska och etiska perspektiv kopplas samman inom den artificiella intelligensens område på ett utmanande sätt. Här krävs mer av inomteologisk tvärvetenskaplighet. Den teologiska reflexionen över dessa frågor är ännu bara i sin linda.
Översättning: Sten Hidal
Artikeln var ursprungligen publicerad i Herder Korrespondenz nr 3/2021 och publiceras med utgivarens tillstånd.
Alexander Filipovic är professor i socialetik vid den katolska teologiska fakulteten vid Wiens universitet.
Ur Signum nr 4/2021, s. 32–35.