Påven om artificiell intelligens

Dela
Facebook
Twitter
Pocket
LinkedIn
Skriv ut
Epost

av OLLE BRANDT

Påven Franciskus uppmanade i december till en internationell reglering av artificiell intelligens (AI) samtidigt som EU utarbetade världens första heltäckande AI-lagstiftning. Den 8 december offentliggjordes påvens budskap inför världsfredsdagen 1 januari med titeln ”Artificiell intelligens och fred”. Det var svårt att inte lägga märke till att redan dagen därpå meddelade EU-parlamentet att det nått fram till en överenskommelse med Europarådet om EU:s första regelverk för AI, även om detta troligen inte träder i kraft förrän 2026. AI var alltså i allas mun i slutet av 2023.

I stället för en europeisk lagstiftning hoppades förstås påven på en världsomfattande överenskommelse: ”Jag uppmanar nationernas gemenskap att arbeta tillsammans för att anta en bindande internationell överenskommelse som reglerar utvecklingen och användningen av AI.”

Innan vi ser närmare på påvens budskap om AI kan det vara meningsfullt att se närmare på frågan om internationell AI-reglering för att förstå att påvens önskemål är naturligt men svårförverkligat. Det är nämligen allt annat än lätt att komma överens om en sådan gemensam AI-reglering, påpekade statsvetaren Jonas Tallberg i Dagens Industri den 3 oktober 2023: ”Det råder stora intresseskillnader mellan de tre dominerande aktörerna: USA, Kina och EU. USA är hemvisten för de ledande AI-företagen och prioriterar ett innovationsvänligt företagsklimat. Såväl nationellt som internationellt förespråkar USA frivillig och begränsad reglering, gärna på initiativ av industrin […] Kinas regering ser AI som avgörande för att kunna konkurrera med USA, men också för att säkra regimens överlevnad genom övervakning och censur. […] EU:s modell är att reglera AI beroende på hur riskfylld den specifika applikationen är, för att därigenom åstadkomma en balans mellan innovation och säkerhet.” EU:s nya AI-lagstiftning hoppas därför ”sätta en global standard genom den så kallade Brysseleffekten: att företag och länder utanför Europa självmant anpassar sig till EU:s standarder för att slippa leva upp till olika regler på olika marknader.”

Europa går alltså före, i stället för att vänta på en global överenskommelse, såsom tidigare skett med dataskyddslagstiftningen, i förhoppningen att den europeiska lagstiftningen också denna gång skall bli världsledande i skyddet av individernas rättigheter och friheter gentemot både staten och kapitalet.

AI inte ett neutralt verktyg

Det är naturligt att den världsvida kyrkans ledare hoppas på en svårförverkligad världsomspännande överenskommelse.

Men nu var förstås huvudsyftet med påven Franciskus fredsbudskap, som alltså kom samtidigt som EU:s nya AI-lagstiftning, inte att diskutera lagstiftningens detaljer utan snarare att betona att AI aldrig får ta över kontrollen från människan.

Viktiga delar av hans budskap kretsar kring hur AI präglas av människan och hur viktigt det är att det i sista hand är människan som avgör. Så här sammanfattades dessa bägge punkter när budskapet presenterades i Vatikanen den 14 december av kardinal Michael Czerny, prefekt för Vatikanens dikasterium för fullödig mänsklig utveckling: ”Vi får inte likna tekniska och naturvetenskapliga framsteg vid ett ’neutralt’ redskap som en hammare. Om en hammare bidrar till gott eller ont beror på användarens avsikt, inte på hammartillverkarens. Så är det inte med AI-baserad teknik, som har sin tillverkares individuella och sociala värderingar inbyggda i sig.” Och, tillade Czerny, risken är att denna icke-neutrala hammare tar över, också i krig: ”Vi är allra mest rädda för artificiella intelligenser för krigssyften. De är inte bara mer sofistikerade och destruktiva, de avlägsnar också människans ansvar från slagfältet. Det är ingen som trycker på avtryckaren eller släpper bomberna, det är ju bara en algoritm.”

I sitt budskap påpekar påven att AI ”omfattar en mångfald av vetenskaper, teorier och tekniker som gör att maskiner kan återskapa eller imitera människornas förmåga till kunskap. Att tala i plural om ’former av intelligens’ hjälper oss att betona att det finns en oöverbrygglig avgrund mellan dessa system och människan”, påpekar Franciskus.

2023 var verkligen året då AI nådde allmänhetens uppmärksamhet, inte minst genom möjligheten att pröva dess möjligheter på ett enkelt sett till exempel genom ChatGPT (Chat Generative Pre-trained Transformer), som man lätt kan be skriva en text om vad som helst utifrån den samlade information den finner på nätet. Ett exempel, för den som inte prövat: när jag bad ChatGPT skriva en text om AI för en svensk katolsk kulturtidskrift, fick jag en text som slutade så här: ”Denna reflektion över AI inom ramen för katolsk tro syftar till att öppna upp diskussionen om hur vi kan närma oss dessa teknologiska framsteg med en kristen värdegrund. Det är en uppmaning till reflektion och dialog om hur vi kan forma teknologin för att tjäna det mänskliga goda och respektera den gudomliga skapelsen.” Typiskt för AI: en text som verkar sann, men som i sista hand inte har mycket substans. Utifrån spår av mänsklig aktivitet på nätet kan AI skapa en text som verkar trovärdig.

”Vissa enheters förmåga att producera syntaktiskt och semantiskt sammanhängande texter är till exempel ingen garanti för deras tillförlitlighet”, betonar påven. ”De sägs ’hallucinera’, det vill säga skapa uttalanden som vid första anblicken verkar rimliga men som är ogrundade eller förråder fördomar.”

Påven betonar att det är etiskt otänkbart att låta AI fatta somliga beslut som rör enskilda människors liv: ”I framtiden kan tillförlitligheten för en sökande av ett bostadslån, en individs lämplighet för ett arbete, möjligheten till återfall för en dömd person eller rätten att få politisk asyl eller socialbidrag avgöras av AI. Den brist på olika medlingsnivåer som dessa system inför är särskilt utsatt för former av partiskhet och diskriminering: systemfel kan lätt föröka sig, vilket inte bara producerar orättvisor i enskilda fall utan också, på grund av dominoeffekten, verkliga former av social ojämlikhet.” Här är påven på samma linje som EU:s nya AI-lagstiftning, som bland annat förbjuder ”social poängsättning”, det vill säga ”klassificering av människor baserat på beteende, socioekonomisk status eller personliga egenskaper”.

Framför allt betonar påven att maskinernas och systemens information inte får bli ett fängelse som berövar individen dess frihet, också frihet till vad som ur ett kristet perspektiv kan kallas omvändelse: ”Grundläggande respekt för mänsklig värdighet kräver att vi vägrar att låta personens unika identitet identifieras med en uppsättning data. Algoritmer får inte tillåtas avgöra hur vi förstår mänskliga rättigheter, åsidosätta grundläggande mänskliga värden som medkänsla, barmhärtighet och förlåtelse, eller eliminera möjligheten för en individ att förändras och lämna sitt förflutna bakom sig.”

Fred i fokus

Men det som ligger påven allra varmast om hjärtat är denna gång frågan om fred. Alltsedan 1968 har den katolska kyrkan firat nyårsdagen som en världsdag för fred. Därför ger Franciskus uttryck för sin oro för att det kan bli AI som ”trycker på knappen” i ett krig: ”Forskning om framväxande teknologier inom området för så kallade dödliga autonoma vapensystem, inklusive beväpning av artificiell intelligens, är en anledning till allvarlig etisk oro. Autonoma vapensystem kan aldrig vara moraliskt ansvarsfulla subjekt. Den unika mänskliga kapaciteten för moraliskt omdöme och etiskt beslutsfattande är mer än en komplex samling av algoritmer, och den kapaciteten kan inte reduceras till att programmera en maskin, som hur ’intelligent’ den än är förblir en maskin. Av denna anledning är det absolut nödvändigt att säkerställa adekvat, meningsfull och konsekvent mänsklig tillsyn över vapensystem.”

En annan allvarlig och högst välgrundad farhåga är att AI kan användas av terrorister: ”Vi kan inte heller bortse från möjligheten att sofistikerade vapen hamnar i fel händer, vilket underlättar till exempel terroristattacker eller försök att destabilisera legitima regeringar.”

AI måste användas för att skapa fred, betonar påven: ”Världen har inget behov av ny teknik som bidrar till en orättvis utveckling av handel och vapenhandel och som följaktligen främjar krigets dårskap. Genom att göra det riskerar inte bara intelligensen utan själva det mänskliga hjärtat att bli alltmer ’konstgjort’. De mest avancerade tekniska tillämpningarna bör inte användas för att underlätta en våldsam lösning av konflikter, utan snarare för att bana väg för fred.”

Men kanske är det viktigaste i påvens budskap att han påminner om att det alltid måste finnas plats för människans ingripande, kontroll och översyn. Som det står längst ned på förstasidan av ChatGPT: ”ChatGPT kan göra misstag. Överväg att kontrollera viktig information.”

Olle Brandt är professor i arkeologi och verksam vid Påvliga institutet för kristen arkeologi i Rom.

Ur Signum nr 1/2024.

Dela
Facebook
Twitter
Pocket
LinkedIn
Skriv ut
Epost
Dela
Facebook
Twitter
Pocket
LinkedIn
Skriv ut
Epost

av OLLE BRANDT

Påven Franciskus uppmanade i december till en internationell reglering av artificiell intelligens (AI) samtidigt som EU utarbetade världens första heltäckande AI-lagstiftning. Den 8 december offentliggjordes påvens budskap inför världsfredsdagen 1 januari med titeln ”Artificiell intelligens och fred”. Det var svårt att inte lägga märke till att redan dagen därpå meddelade EU-parlamentet att det nått fram till en överenskommelse med Europarådet om EU:s första regelverk för AI, även om detta troligen inte träder i kraft förrän 2026. AI var alltså i allas mun i slutet av 2023.

I stället för en europeisk lagstiftning hoppades förstås påven på en världsomfattande överenskommelse: ”Jag uppmanar nationernas gemenskap att arbeta tillsammans för att anta en bindande internationell överenskommelse som reglerar utvecklingen och användningen av AI.”

Innan vi ser närmare på påvens budskap om AI kan det vara meningsfullt att se närmare på frågan om internationell AI-reglering för att förstå att påvens önskemål är naturligt men svårförverkligat. Det är nämligen allt annat än lätt att komma överens om en sådan gemensam AI-reglering, påpekade statsvetaren Jonas Tallberg i Dagens Industri den 3 oktober 2023: ”Det råder stora intresseskillnader mellan de tre dominerande aktörerna: USA, Kina och EU. USA är hemvisten för de ledande AI-företagen och prioriterar ett innovationsvänligt företagsklimat. Såväl nationellt som internationellt förespråkar USA frivillig och begränsad reglering, gärna på initiativ av industrin […] Kinas regering ser AI som avgörande för att kunna konkurrera med USA, men också för att säkra regimens överlevnad genom övervakning och censur. […] EU:s modell är att reglera AI beroende på hur riskfylld den specifika applikationen är, för att därigenom åstadkomma en balans mellan innovation och säkerhet.” EU:s nya AI-lagstiftning hoppas därför ”sätta en global standard genom den så kallade Brysseleffekten: att företag och länder utanför Europa självmant anpassar sig till EU:s standarder för att slippa leva upp till olika regler på olika marknader.”

Europa går alltså före, i stället för att vänta på en global överenskommelse, såsom tidigare skett med dataskyddslagstiftningen, i förhoppningen att den europeiska lagstiftningen också denna gång skall bli världsledande i skyddet av individernas rättigheter och friheter gentemot både staten och kapitalet.

AI inte ett neutralt verktyg

Det är naturligt att den världsvida kyrkans ledare hoppas på en svårförverkligad världsomspännande överenskommelse.

Men nu var förstås huvudsyftet med påven Franciskus fredsbudskap, som alltså kom samtidigt som EU:s nya AI-lagstiftning, inte att diskutera lagstiftningens detaljer utan snarare att betona att AI aldrig får ta över kontrollen från människan.

Viktiga delar av hans budskap kretsar kring hur AI präglas av människan och hur viktigt det är att det i sista hand är människan som avgör. Så här sammanfattades dessa bägge punkter när budskapet presenterades i Vatikanen den 14 december av kardinal Michael Czerny, prefekt för Vatikanens dikasterium för fullödig mänsklig utveckling: ”Vi får inte likna tekniska och naturvetenskapliga framsteg vid ett ’neutralt’ redskap som en hammare. Om en hammare bidrar till gott eller ont beror på användarens avsikt, inte på hammartillverkarens. Så är det inte med AI-baserad teknik, som har sin tillverkares individuella och sociala värderingar inbyggda i sig.” Och, tillade Czerny, risken är att denna icke-neutrala hammare tar över, också i krig: ”Vi är allra mest rädda för artificiella intelligenser för krigssyften. De är inte bara mer sofistikerade och destruktiva, de avlägsnar också människans ansvar från slagfältet. Det är ingen som trycker på avtryckaren eller släpper bomberna, det är ju bara en algoritm.”

I sitt budskap påpekar påven att AI ”omfattar en mångfald av vetenskaper, teorier och tekniker som gör att maskiner kan återskapa eller imitera människornas förmåga till kunskap. Att tala i plural om ’former av intelligens’ hjälper oss att betona att det finns en oöverbrygglig avgrund mellan dessa system och människan”, påpekar Franciskus.

2023 var verkligen året då AI nådde allmänhetens uppmärksamhet, inte minst genom möjligheten att pröva dess möjligheter på ett enkelt sett till exempel genom ChatGPT (Chat Generative Pre-trained Transformer), som man lätt kan be skriva en text om vad som helst utifrån den samlade information den finner på nätet. Ett exempel, för den som inte prövat: när jag bad ChatGPT skriva en text om AI för en svensk katolsk kulturtidskrift, fick jag en text som slutade så här: ”Denna reflektion över AI inom ramen för katolsk tro syftar till att öppna upp diskussionen om hur vi kan närma oss dessa teknologiska framsteg med en kristen värdegrund. Det är en uppmaning till reflektion och dialog om hur vi kan forma teknologin för att tjäna det mänskliga goda och respektera den gudomliga skapelsen.” Typiskt för AI: en text som verkar sann, men som i sista hand inte har mycket substans. Utifrån spår av mänsklig aktivitet på nätet kan AI skapa en text som verkar trovärdig.

”Vissa enheters förmåga att producera syntaktiskt och semantiskt sammanhängande texter är till exempel ingen garanti för deras tillförlitlighet”, betonar påven. ”De sägs ’hallucinera’, det vill säga skapa uttalanden som vid första anblicken verkar rimliga men som är ogrundade eller förråder fördomar.”

Påven betonar att det är etiskt otänkbart att låta AI fatta somliga beslut som rör enskilda människors liv: ”I framtiden kan tillförlitligheten för en sökande av ett bostadslån, en individs lämplighet för ett arbete, möjligheten till återfall för en dömd person eller rätten att få politisk asyl eller socialbidrag avgöras av AI. Den brist på olika medlingsnivåer som dessa system inför är särskilt utsatt för former av partiskhet och diskriminering: systemfel kan lätt föröka sig, vilket inte bara producerar orättvisor i enskilda fall utan också, på grund av dominoeffekten, verkliga former av social ojämlikhet.” Här är påven på samma linje som EU:s nya AI-lagstiftning, som bland annat förbjuder ”social poängsättning”, det vill säga ”klassificering av människor baserat på beteende, socioekonomisk status eller personliga egenskaper”.

Framför allt betonar påven att maskinernas och systemens information inte får bli ett fängelse som berövar individen dess frihet, också frihet till vad som ur ett kristet perspektiv kan kallas omvändelse: ”Grundläggande respekt för mänsklig värdighet kräver att vi vägrar att låta personens unika identitet identifieras med en uppsättning data. Algoritmer får inte tillåtas avgöra hur vi förstår mänskliga rättigheter, åsidosätta grundläggande mänskliga värden som medkänsla, barmhärtighet och förlåtelse, eller eliminera möjligheten för en individ att förändras och lämna sitt förflutna bakom sig.”

Fred i fokus

Men det som ligger påven allra varmast om hjärtat är denna gång frågan om fred. Alltsedan 1968 har den katolska kyrkan firat nyårsdagen som en världsdag för fred. Därför ger Franciskus uttryck för sin oro för att det kan bli AI som ”trycker på knappen” i ett krig: ”Forskning om framväxande teknologier inom området för så kallade dödliga autonoma vapensystem, inklusive beväpning av artificiell intelligens, är en anledning till allvarlig etisk oro. Autonoma vapensystem kan aldrig vara moraliskt ansvarsfulla subjekt. Den unika mänskliga kapaciteten för moraliskt omdöme och etiskt beslutsfattande är mer än en komplex samling av algoritmer, och den kapaciteten kan inte reduceras till att programmera en maskin, som hur ’intelligent’ den än är förblir en maskin. Av denna anledning är det absolut nödvändigt att säkerställa adekvat, meningsfull och konsekvent mänsklig tillsyn över vapensystem.”

En annan allvarlig och högst välgrundad farhåga är att AI kan användas av terrorister: ”Vi kan inte heller bortse från möjligheten att sofistikerade vapen hamnar i fel händer, vilket underlättar till exempel terroristattacker eller försök att destabilisera legitima regeringar.”

AI måste användas för att skapa fred, betonar påven: ”Världen har inget behov av ny teknik som bidrar till en orättvis utveckling av handel och vapenhandel och som följaktligen främjar krigets dårskap. Genom att göra det riskerar inte bara intelligensen utan själva det mänskliga hjärtat att bli alltmer ’konstgjort’. De mest avancerade tekniska tillämpningarna bör inte användas för att underlätta en våldsam lösning av konflikter, utan snarare för att bana väg för fred.”

Men kanske är det viktigaste i påvens budskap att han påminner om att det alltid måste finnas plats för människans ingripande, kontroll och översyn. Som det står längst ned på förstasidan av ChatGPT: ”ChatGPT kan göra misstag. Överväg att kontrollera viktig information.”

Olle Brandt är professor i arkeologi och verksam vid Påvliga institutet för kristen arkeologi i Rom.

Ur Signum nr 1/2024.