av MAGDALENA DAHLBORG
En intressant sak med den digitala utvecklingen är att den får det materiella att framträda tydligare. Kanske för att det inte längre är den fysiska, ofiltrerade världen som självklart är normen. I mötet med den så kallade artificiella intelligensen kan vi tydligare framträda som kroppsliga människor, men det gäller att vi vågar och orkar ta itu med oss själva som gemensamt studieobjekt.
Rörelsen Respekt och Justitia et Pax-kommissionen i Stockholms katolska stift kallade nyligen till konferens på temat ”AI och etik”. Ämnet är gigantiskt, inte minst i ljuset av företaget Anthropics insisterande på att AI måste förstås som moraliskt subjekt, vilket beskrivs i detta nummer av Signum. Det finns gott om andra etiska frågeställningar i relation till AI, från AI:s moraliska status till ansvarsutkrävande, produktionskedjor, resursanvändning med mera. Den här aktuella konferensen tog – naturligt med tanke på Respekts värdskap – framför allt tag i frågan om AI-användning inom vården, inramat av dels AI inom utbildning, dels ett mer visionärt bidrag som kan förstås som påvens röst i sammanhanget.
Konferensen ägde rum på Ersta diakonis konferensanläggning i Stockholm, en institution som dels påminner om det mänskliga i omvårdnad och utbildning, dels fysiskt förankras i materiell skönhet och tradition. Det inledande föredraget hölls av Tomas Ekenberg, professor i filosofi vid Newmaninstitutet, varefter Debora Spiekermann, filosof och forskare inom bioetik och medicinsk antropologi, tog vid med frågor om användning av AI inom vården. Hon följdes av Lilas Ali, specialistsjuksköterska i psykiatri, som talade om AI och annan användning av digitala redskap inom främst psykiatrin. Efter det att konferensdeltagarna fått möjlighet att möta föredragshållarna i mindre grupper, avslutningsföreläste fader Andrea Ciucci som är sekreterare i Påvliga livsakademin om möjligheter och risker med AI utifrån Vatikanens perspektiv, med tydligt avstamp i encyklikan Magnifica humanitas. Alla föredragen går att finna via Respekts webbplats respektlivet.nu (och i sammanhanget kan också nämnas att Justitia et Pax-kommissionen har en ännu ofullbordad serie miniföreläsningar om AI med professor Clemens Cavallin, vilka nås via katolskakyrkan.se).
Vad vi vill ha
”Världen behöver inte fler uppsatser av typen ’Mitt sommarlov’” – det är inte själva uppsatsen som är poängen med studenters skrivuppgifter. Så illustrerade Tomas Ekenberg ett fundamentalt problem i frågor om användningen av artificiell intelligens i såväl skola som arbetsliv. Problemet är fokuset på produkten, när det egentligen ofta inte alls är slutprodukten som är poängen med övningen. Införandet av AI i en rad sammanhang medför en omställning, som för att inte bli en sorts avgudadyrkan, där människan tjänar tekniken i stället för tvärtom, kräver av oss att vi gemensamt reflekterar över vad ett gott liv och mänsklig lycka är. När vi överlämnar alltmer av sådant som vi uppfattar som tråkigt och tidsödande till AI-program, förmenar vi oss själva delar av vår inlärning, våra kreativa processer och vår utveckling som människor.
Ekenbergs uttalande ovan illustrerar vad som egentligen är syftet med studenternas skrivuppgifter, inte själva produkten utan träningen i att ställa upp information, bestämma vad som är viktigast, ofta också göra självständig en analys baserad på tidigare kunskaper, och sedan presentera detta på ett sätt som är anpassat efter läsaren. Ekenberg menar att vi helst inte ska tala om AI som ”verktyg”, eftersom begreppet verktyg fungerar normativt och framställer AI som gott och användbart, medan AI är någonting annat än ett verktyg, och framför allt mer än så. Han pekade dessutom på risken att AI alltmer tränas på texter som också är skrivna av program, och därmed reproducerar statistiskt sannolika osanningar och i praktiken lägger sig i vägen för verklig ny kunskap.
Vi behöver alltså fråga oss vad tekniken är till för, hur dess löften uppfylls i praktiken, och då behöver vi veta vad det är vi efterfrågar. Sådana frågor stod i centrum för Debora Spiekermanns föredrag om AI-användning inom vården, och den grundläggande frågan var vad som egentligen är ett gott liv och gör oss lyckliga.
Även om gemene man i vardagen tycks använda AI framför allt för effektiv informationssökning och bildredigering, är det kanske inom vården som löftena är som störst. AI förväntas kunna hjälpa till med allt från diagnosticering och journalföring till själva omvårdnaden (i synnerhet inom äldreomsorgen). På Akademiska sjukhuset i Uppsala används nu AI-övervakning på enstaka avdelningar för att förebygga fallskador, och såväl patienter som läkare använder sig av AI för att få mer information om olika symptom och möjliga diagnoser.
Att inspireras av tekniken är inom vården ingenting nytt. Redan flera hundra år tillbaka började en rörelse mot att förstå människan som mekanisk, och att reducera sjukdomar till specifika symptom i specifika delar av kroppen och med specifika typer av terapi för att läka. I samma rörelse finns en tendens att se allt som avviker från det vanliga som någonting patologiskt som behöver fixas. Ju mer vi introducerar olika typer av tekniska lösningar och mekaniska diagnosticeringsprocesser baserade på mätbara provresultat, desto mer kommer också vår förståelse av människan att framför allt beskrivas genom det mätbara och väldefinierade. Problemet är att vi är betydligt mer komplexa än så, vilket inte minst exempelvis experiment med placebo visar. Ibland räcker det faktiskt att tro på medicinen för att få effekt. Andra gånger hjälper inga mediciner, men däremot ett specifikt bemötande. Kanske särskilt olika typer av kroniska smärttillstånd kan undfly varje försök att mäta objektivt och vara svåra att behandla med läkemedel, medan gott bemötande och hjälp till livsglädje och mening kan ge mycket god effekt. Vården behöver inte bara ta hänsyn till utan utgå från människan som kropp och som helhet.
AI-användning vid läkarbesök, oavsett om det är för diagnosticering eller för journalföring, har fler problem. Vi ska kunna lita på läkares tystnadsplikt, men om journalföringen sker via tal-till-textprogram, hur ser det ut med integriteten då? Det har redan uppenbarats att människor använder ChatGPT och liknande program för att diskutera hälsoproblem, samtidigt som dessa program lever vidare och lär sig just genom att spara och bearbeta vidare allt som matas in. Medan läkarrummet och journalen bör vara slutna ”rum”, kräver AI-stödet träningsdata som med nödvändighet är tidigare patienter, deltagare i forskningsstudier med mera. Patienternas integritet och tilliten till vården kan alltså på förhållandevis goda grunder ifrågasättas när AI implementeras i allt fler sammanhang.
Integritetsriskerna togs också upp av Lilas Ali, specialistsjuksköterska inom psykiatrin, vars föredrag egentligen handlade mer om digitalisering inom vården generellt och psykiatrisk vård i synnerhet. Hon konstaterade att det för en del patienter är lättare att vara delaktig i vården med digitala hjälpmedel men pekade liksom Spiekermann på hur det mätbara och då särskilt kostnadseffektivitet driver på teknikutvecklingen på sätt som inte självklart gynnar patientmötet och ett gott liv.
Människans framtid
Om Tomas Ekenberg i inledningen var skeptisk i sin inställning till artificiell intelligens, var fader Andrea Ciucci från Påvliga livsakademin mer positiv, åtminstone till en början. Den fantastiska människan, påpekade han, har bland annat kört fjärrstyrda fordon, Mars rovers, på en annan planet. Ett stort tekniskt framsteg, kombinerat med en mänsklig lekfullhet. Människan har byggt såväl fantastiska som fruktansvärda saker, och ibland ser vi bara det fruktansvärda och missar det fantastiska.
De problem som nämnts under konferensen, och som påtalas i debatten, är verkliga, konstaterade Ciucci. Men problem och risker är fel ställe att börja diskussionen, den måste börja långt tidigare, i frågan om vilket samhälle det är vi vill ha. Han illustrerade detta med vägräcken: vi behöver gränser, räcken, staket. Men vi kan inte sätta upp vägräcken förrän vägen är byggd eller åtminstone planerad. Vi behöver veta var och vart vägen ska gå för att kunna sätta ut räckena. Detta är också en av huvudpoängerna i Magnifica humanitas: vi behöver ha en gemensam idé om bygget och en god fördelning av uppgifter och ansvar för att kunna bygga väl tillsammans.
När gränserna mellan människa och maskin blir mer oklara, riskerar vi – vilket även Spiekermann påtalade – att reducera människan till ett informationsaggregat, ett kluster av data. Det blir en reducering och objektifiering av människan som inte tjänar oss väl vare sig inom vården eller någon annanstans. Det gör också kroppen mer abstrakt, och tar långsamt ifrån oss förmågan att relatera till verkliga, fysiska människor i deras komplexitet. Hur mycket vi än kartlägger och digitaliserar det mänskliga, kommer den verkliga, kroppsliga människan alltid att överraska.
Det finns också en stark rättviseaspekt i användningen av AI. Tendensen är att tekniken är tillgänglig och använd framför allt i rikare delar av världen, men slukar resurser och människokraft i fattigare regioner. Liksom påven Leo XIV påpekade Ciucci behovet av transparens i hela produktionskedjan, inkludering och ansvarstagande på varje nivå, och ett arbete med vilka värderingar systemen tränas till att reproducera.
Den goda uppslutningen vid konferensen och diskussionsglädjen i eftermiddagens gruppsamlingar visar att ämnet engagerar. Det är också tydligt att det egentligen inte handlar om tekniken. De frågor som ställs när program har tränats inte bara att hantera stora datamängder utan också att interagera människolikt handlar framför allt om vilka vi som människor vill vara, och vilket samhälle vi vill ha. Var och en har i sin i vardag möjlighet att ta ansvar för just sin lilla del av hur tekniker används och vilka konsekvenser det får för oss själva och för vår människosyn.
Debora Spiekermann återkom till kroppsligheten i det avslutande panelsamtalet: kanske kan AI få oss att återupptäcka och uppvärdera att vi är kroppar, och att det är vackert.
Magdalena Dahlborg är redaktör och red. sekr. för Signum.
Ur Signum nr 7/2026, s. 5–8.