Var nyktra och vaksamma men inte rädda

av MAGDALENA DAHLBORG

I sin dialog Faidros låter Platon Sokrates använda berättelsen om hur egyptierna fick skriftspråket för att föra fram poängen att den som uppfunnit någonting inte är rätt person att också säga huruvida uppfinningen kommer att vara mänskligheten till gagn. I Sokrates återgivning förklarar Thoth att skriftspråket kommer att hjälpa männi­skorna genom att förbättra deras minneskapacitet. Thamus kontrar med att människorna tvärtom kommer att få sämre minne när de litar till extern lagring. De kommer inte längre att utveckla visdom genom integrerad och befäst kunskap, utan bara spegla det skrivna och därigenom ge sken av visdom.

Motsvarande poäng kan framföras om såväl dagens digitala hjälpmedel som det vi kallar artificiell intelligens, AI, är inte nödvändigtvis, eller i alla fall inte bara, de som utvecklar självlärande maskiner som också ska diskutera maskinernas förtjänster. I stället, konstaterar exempelvis påven Franciskus i flera budskap under de senaste åren, behöver många engagera sig i diskussionen om AI, eftersom de självlärande maskinerna och deras kapacitet att hantera mycket stora mängder information innebär ett stort teknikskifte och väcker djupare frågor om vad kunskap egentligen är och, med alltmer avancerade robotar som i allt högre grad kan imitera verkliga människor, vad en människa egentligen är. Det är därför viktigt att diskussionen inte överlämnas till tech-bolagen, utan att många röster hörs, och att vi närmar oss de många frågorna utan rädsla men med medvetenhet om riskerna.

I det här numret av Signum vill vi bidra till det gemensamma samtalet om AI och några av de frågor som uppstår i ljuset av de nya tekniska möjligheterna. Inte minst etiska överväganden försvåras, när moraliskt signifikanta beslut fattas av maskiner enligt algoritmer som i viss mån programmerat sig själva genom inlärning och där det är svårt för andra att förstå exakt vad som lett fram till beslutet. Det behövs en lagstiftning som kan hantera den svåra ansvarsfrågan, till exempel om ett möjligen diskriminerande beslut inom vården eller på en bank fattats av skäl som på grund av den avancerade tekniken blir svåra att överblicka. AI-tekniken innebär också stora möjligheter för förtryckande regimer att ytterligare kontrollera sin befolkning, men också lockelser för öppna liberala demokratier att kartlägga befolkningen i namn av goda intentioner som hälsa och säkerhet.

Andra viktiga frågor uppstår i utbildningssituationer: Vad är kunskap och vad ska egentligen studenterna lära sig? Hur bör lärare, studenter och lärosäten förhålla sig till den textproduktion som är möjlig med hjälp av program som på uppmaning kan skriva lagom långa texter om rätt ämnen och i olika genrer? Vilka poänger finns det med att lära sig språk, när robotar kan göra allt bättre översättningar i realtid? Än mer brännande är frågan om hur vi ska hantera det som kallas att maskinerna hallucinerar, alltså att de av den insamlade datan från internet producerar falsarier som, eftersom vi tenderar att lita på maskinerna, riskerar att etableras som sanning. Algoritmernas självförstärkande kan bygga berg av ackumulerad dumhet, svåra att genomskåda (i synnerhet för den som litat till det externt lagrade i stället för att integrera kunskap i det egna minnet).

För människor i kreativa yrken kommer skillnaderna att bli stora, förstår vi, om vi ser på tidigare teknikskiften i kreativt skapande som kameran, grammofonspelaren och tryckpressen. Vem som helst kan producera text eller bild med generativ AI, men för att faktiskt skapa nytt behöver personen också verkligen kunna sina saker, använda tekniken vist, formulera goda instruktioner till maskinen och ha förmåga att utvärdera och vidareutveckla resultatet. I händerna på en skicklig konstnär kan generativ AI öppna nya horisonter och ge tekniska möjligheter som vi i dagsläget inte vet att vi kan drömma om. Människan i kreativt samspel med maskiner innebär risker men också stora möjligheter till helt nya uttryck. Särskilt när gränserna mellan människa och maskin blir mer flytande.

Språket är i sig en risk. Vi tenderar att när vi talar om maskinerna, i synnerhet de som blir riktigt bra på att imitera människor, förmänskliga dessa. Vi talar om maskinerna som om de har intentioner och tankar, och kanske även känslor. Å andra sidan har vi sedan slutet av medeltiden fått en alltmer teknifierad förståelse av människan. Betraktar man människan som i princip en rationell apparat finns det förstås skäl att tala om AI som mänsklighetens slut. Robotarna är och kommer alltid att vara bättre än vi på att vara just apparater.

I en av scenerna i filmen Blade Runner ställs frågan om skillnaden mellan android och människa på sin spets. Androiden Roy Batty inser sin dödlighet och ser tillbaka på sådant som han har sett som ingen annan kommer att få se: ”I’ve seen things you people wouldn’t believe … Attack ships on fire off the shoulder of Orion … I watched C-beams glitter in the dark near the Tannhäuser Gate. All those moments will be lost in time, like tears in rain … Time to die.” Det är svårt att se annat än att han/den i det ögonblicket erfar någonting som skulle kunna beskrivas som sorg. Den bok som filmen är grundad på, Do Androids Dream of Electric Sheep?, utforskar vad som skiljer männi­skor och maskiner åt i en tillvaro där maskinerna i allt väsentligt tolkas som mänskliga. I boken framställs empati som det som inte fullt ut går att programmera – men som vi i en genomteknifierad tillvaro riskerar att själva förlora, när vi inte längre på samma sätt värnar fysiska, konkreta relationer till varandra, och när vi låter oss förhärdas av såväl filmer som nyhetsflödets bilder. Här finns det utrymme i diskussionen att värna förståelsen av männi­skan som rationellt djur, i relation till maskinerna med betoning just på djur, med specifika biologiska förutsättningar som påverkar våra sociala liv. ”Djurisk” används ofta pejorativt men innebär också förmåga till medkänsla, strävan efter gemenskap, behov av närhet.

Ännu på lång tid kommer vi inte att veta om teknikskiftet främst är jämförbart med tryckkonsten och kameran, eller om det snarare är i paritet med skriftspråkets och matematikens utveckling. Klart är att den konstgjorda ”intelligensen” redan påverkar hur vi producerar, hur vi konsumerar och hur vi relaterar till varandra och till vår omgivning. Människan genomgår och överlever teknikskiften men förändras också med dem. Just de stora datamängderna och den snabba kommunikationen gör att vi i dag kan genomgå den förändringen med betydligt större gemensam medvetenhet och diskussion än vid tidigare stora skiften. Det är en möjlighet som vi behöver ta vara på – med vaksamhet, men inte med rädsla.

 

Magdalena Dahlborg är redaktör och red. sekr. för Signum.

Ur Signum nr 4/2024, s. 1–2.

Dela
Facebook
Twitter
Pocket
LinkedIn
Skriv ut
Epost

av MAGDALENA DAHLBORG

I sin dialog Faidros låter Platon Sokrates använda berättelsen om hur egyptierna fick skriftspråket för att föra fram poängen att den som uppfunnit någonting inte är rätt person att också säga huruvida uppfinningen kommer att vara mänskligheten till gagn. I Sokrates återgivning förklarar Thoth att skriftspråket kommer att hjälpa männi­skorna genom att förbättra deras minneskapacitet. Thamus kontrar med att människorna tvärtom kommer att få sämre minne när de litar till extern lagring. De kommer inte längre att utveckla visdom genom integrerad och befäst kunskap, utan bara spegla det skrivna och därigenom ge sken av visdom.

Motsvarande poäng kan framföras om såväl dagens digitala hjälpmedel som det vi kallar artificiell intelligens, AI, är inte nödvändigtvis, eller i alla fall inte bara, de som utvecklar självlärande maskiner som också ska diskutera maskinernas förtjänster. I stället, konstaterar exempelvis påven Franciskus i flera budskap under de senaste åren, behöver många engagera sig i diskussionen om AI, eftersom de självlärande maskinerna och deras kapacitet att hantera mycket stora mängder information innebär ett stort teknikskifte och väcker djupare frågor om vad kunskap egentligen är och, med alltmer avancerade robotar som i allt högre grad kan imitera verkliga människor, vad en människa egentligen är. Det är därför viktigt att diskussionen inte överlämnas till tech-bolagen, utan att många röster hörs, och att vi närmar oss de många frågorna utan rädsla men med medvetenhet om riskerna.

I det här numret av Signum vill vi bidra till det gemensamma samtalet om AI och några av de frågor som uppstår i ljuset av de nya tekniska möjligheterna. Inte minst etiska överväganden försvåras, när moraliskt signifikanta beslut fattas av maskiner enligt algoritmer som i viss mån programmerat sig själva genom inlärning och där det är svårt för andra att förstå exakt vad som lett fram till beslutet. Det behövs en lagstiftning som kan hantera den svåra ansvarsfrågan, till exempel om ett möjligen diskriminerande beslut inom vården eller på en bank fattats av skäl som på grund av den avancerade tekniken blir svåra att överblicka. AI-tekniken innebär också stora möjligheter för förtryckande regimer att ytterligare kontrollera sin befolkning, men också lockelser för öppna liberala demokratier att kartlägga befolkningen i namn av goda intentioner som hälsa och säkerhet.

Andra viktiga frågor uppstår i utbildningssituationer: Vad är kunskap och vad ska egentligen studenterna lära sig? Hur bör lärare, studenter och lärosäten förhålla sig till den textproduktion som är möjlig med hjälp av program som på uppmaning kan skriva lagom långa texter om rätt ämnen och i olika genrer? Vilka poänger finns det med att lära sig språk, när robotar kan göra allt bättre översättningar i realtid? Än mer brännande är frågan om hur vi ska hantera det som kallas att maskinerna hallucinerar, alltså att de av den insamlade datan från internet producerar falsarier som, eftersom vi tenderar att lita på maskinerna, riskerar att etableras som sanning. Algoritmernas självförstärkande kan bygga berg av ackumulerad dumhet, svåra att genomskåda (i synnerhet för den som litat till det externt lagrade i stället för att integrera kunskap i det egna minnet).

För människor i kreativa yrken kommer skillnaderna att bli stora, förstår vi, om vi ser på tidigare teknikskiften i kreativt skapande som kameran, grammofonspelaren och tryckpressen. Vem som helst kan producera text eller bild med generativ AI, men för att faktiskt skapa nytt behöver personen också verkligen kunna sina saker, använda tekniken vist, formulera goda instruktioner till maskinen och ha förmåga att utvärdera och vidareutveckla resultatet. I händerna på en skicklig konstnär kan generativ AI öppna nya horisonter och ge tekniska möjligheter som vi i dagsläget inte vet att vi kan drömma om. Människan i kreativt samspel med maskiner innebär risker men också stora möjligheter till helt nya uttryck. Särskilt när gränserna mellan människa och maskin blir mer flytande.

Språket är i sig en risk. Vi tenderar att när vi talar om maskinerna, i synnerhet de som blir riktigt bra på att imitera människor, förmänskliga dessa. Vi talar om maskinerna som om de har intentioner och tankar, och kanske även känslor. Å andra sidan har vi sedan slutet av medeltiden fått en alltmer teknifierad förståelse av människan. Betraktar man människan som i princip en rationell apparat finns det förstås skäl att tala om AI som mänsklighetens slut. Robotarna är och kommer alltid att vara bättre än vi på att vara just apparater.

I en av scenerna i filmen Blade Runner ställs frågan om skillnaden mellan android och människa på sin spets. Androiden Roy Batty inser sin dödlighet och ser tillbaka på sådant som han har sett som ingen annan kommer att få se: ”I’ve seen things you people wouldn’t believe … Attack ships on fire off the shoulder of Orion … I watched C-beams glitter in the dark near the Tannhäuser Gate. All those moments will be lost in time, like tears in rain … Time to die.” Det är svårt att se annat än att han/den i det ögonblicket erfar någonting som skulle kunna beskrivas som sorg. Den bok som filmen är grundad på, Do Androids Dream of Electric Sheep?, utforskar vad som skiljer männi­skor och maskiner åt i en tillvaro där maskinerna i allt väsentligt tolkas som mänskliga. I boken framställs empati som det som inte fullt ut går att programmera – men som vi i en genomteknifierad tillvaro riskerar att själva förlora, när vi inte längre på samma sätt värnar fysiska, konkreta relationer till varandra, och när vi låter oss förhärdas av såväl filmer som nyhetsflödets bilder. Här finns det utrymme i diskussionen att värna förståelsen av männi­skan som rationellt djur, i relation till maskinerna med betoning just på djur, med specifika biologiska förutsättningar som påverkar våra sociala liv. ”Djurisk” används ofta pejorativt men innebär också förmåga till medkänsla, strävan efter gemenskap, behov av närhet.

Ännu på lång tid kommer vi inte att veta om teknikskiftet främst är jämförbart med tryckkonsten och kameran, eller om det snarare är i paritet med skriftspråkets och matematikens utveckling. Klart är att den konstgjorda ”intelligensen” redan påverkar hur vi producerar, hur vi konsumerar och hur vi relaterar till varandra och till vår omgivning. Människan genomgår och överlever teknikskiften men förändras också med dem. Just de stora datamängderna och den snabba kommunikationen gör att vi i dag kan genomgå den förändringen med betydligt större gemensam medvetenhet och diskussion än vid tidigare stora skiften. Det är en möjlighet som vi behöver ta vara på – med vaksamhet, men inte med rädsla.

 

Magdalena Dahlborg är redaktör och red. sekr. för Signum.

Ur Signum nr 4/2024, s. 1–2.