av BARBARA CROSTINI
Netflix har producerat en inträngande dokumentärfilm, The Social Dilemma (2020, 94 minuter), om framtiden för sociala medier. Den skildrar ett antal driftiga, smarta, begåvade unga individer som brukade arbeta som ledare inom tekniksektorn i Silicon Valley. Deras vittnesbörd ger kalla kårar. Ingen av dem stödjer den nuvarande utvecklingen inom systemen som de själva skapat och förespråkat – de har alla blivit tillräckligt övertygade om farorna med sociala medier för att riskera att faktiskt bli av med jobbet genom att opponera sig mot dem. I filmen berättar de varför denna kampanj mot sociala medier har blivit deras mål i livet. Med ett reflekterande, ödmjukt men beslutsamt tonfall väcker de djupgående frågor om hur kultur och samhälle präglas av en framtid där sociala medier tillåts att okontrollerat styra globala nätverk på det sätt som de gör just nu.
Denna grupp av ”omvända” teknikgenier ställer grundläggande filosofiska och etiska frågor. De varnar för att den exponentiella tillväxten av beräkningshastigheten inom AI saknar motsvarighet bland framstegen i den mänskliga historien, och de visar att AI:s kontroll över våra liv redan är ett faktum. De till synes vänliga, glada och kulörta knapparna som vi svajpar och trycker på dagarna i ända döljer den kontrollerande, mörka sidan av denna verksamhet. Bortom skärmen lägger rader av sammankopplade datorer data om oss på hög på ett aldrig tidigare skådat sätt. Allt som de känner till om oss används sedan för att göra förutsägelser, som sedan säljs i marknadsförande syften, och gör oss i sin tur till måltavlor för dessa. I en miljö av fria användare blir vi till en vara som är till salu. Det är inte endast vår köpkraft som öppet exploateras, som genom reklam, utan snarare en mer subtil och smygande förändring som har börjat verka i oss, likt en olaglig droghandel, när dessa verktyg spyr ut förslag genom algoritmer som arbetar bortom mänsklig kontroll. Planen är att vi själva ska förändras till det som marknaden behöver. Det är ett manipulationsknep som använder sig av subliminala, undermedvetna, medel för social kontroll.
Människorna som uppfann sociala medier var inte bara lysande tekniska experter utan även idealister. De trodde att de skapade en positiv kraft för att förbättra samhället, för att återförena eller koppla ihop människor på nya och effektiva sätt. Några av dess landvinningar går fortfarande att inse. Facebook, till exempel, kan hitta organdonatorer inom en större community än någonsin. Grupper med gemensamma intressen – till exempel husdjur – kan utbyta användbar information med varandra över hela jordklotet. Ändå visar denna dokumentär att mekanismerna som upprätthåller affärsmodellen för de ”fria” sociala medierna i slutändan är produkter av bedrägeri och beroende. Sociala medier snokar reda på människors lägre instinkter för att få dem att fortsätta klicka på knappar, gå tillbaka till sina apparater som vore de hypnotiserade och förslavade av behovet av att få mer. Utifrån en attention extraction model (utsträckt uppmärksamhetsmodell) utnyttjar dessa plattformar medvetet mänsklig psykologisk svaghet för att uppnå sitt mål att hålla engagemangsnivån hög och få den att växa genom en kedja av ”vänner”, så att deras marknadsföringsmål kan expandera. Detta är big business, som drivs av vad en av talarna kallar ”religionen vinst till varje pris”. Om man stannar upp och tänker efter, som dessa kritiker föreslår att vi bör göra, har själva innebörden av vänskap förändrats i processen.
Dessa globala jättars framgång är proportionell till deras oerhört stora makt över hela befolkningar. Den går hand i hand med deras förmåga att kontrollera länder och påverka dessas politiska beslut. Dokumentären nämner Myanmar som ett exempel där ett helt land på ett riskfyllt sätt påverkades av propaganda på Facebook. Politiken i detta land låg effektivt i händerna på sociala medier, vars förmåga att övertyga med okontrollerbar information användes fullt ut för att uppnå önskad effekt. Filmen innehåller också en fiktiv berättelse om en ung man som förskjuts av sin familj på grund av sin växande fascination för extremistgrupper, som drivs av störtfloden av falsk information som göds av nyhetsflödet i hans mobiltelefon. Trots hans systers varningar har denna giftiga föda gjort honom tillräckligt sjuk för att hamna i bråk med både sin familj och polisen. Från global till lokal nivå har potentialen för beroende av avsiktskontrollerade sociala medier visat sig utgöra ett verkligt hot mot världsfreden och mot demokratin. De undergräver familjers normala liv och samverkan. En psykolog berättar för oss att de har en bevisad negativ inverkan på tonåringars mentala hälsa, med en förfärande statistik över en växande självmordsfrekvens bland prepubertala flickor (en ökning på uppemot 151 procent inom den första generation som haft tillgång till sociala medier i åldrarna 8–12 år), liksom ett exponentiellt växande antal personer med självskadebeteende. Även om detta kanske inte helt och hållet beror på användandet av sociala medier, så bidrar kombinationen av de datoriserade systemens abnorma lockelse och frånvaron av en sund miljö för tillsyn och samverkan med familj till en ökad alienation bland ungdomar.
Illusionen av objektivitet
En reflektion av den anti-sociala medier-gurun, Jaron Lanier, som skrivit boken Ten Arguments for Deleting Your Social Media Accounts, tycks mig gå djupt in i kunskapsteoretiska frågor när det gäller hur formeringen av ett socialt medvetande uppstår. Lanier jämför den information som tillhandahålls av sociala plattformar, som till exempel Tik Tok, eller andra (det finns alldeles för många för att räkna upp), med en Wikipedia-sida, som kan förändra sitt innehåll utifrån läsaren. Medan vi alla inser att ett faktums objektivitet uppfattas olika av olika människor, genererar en sådan kameleontbenägen verklighet en uppsättning kognitiva ingångsdata som i sig själva är förändringsbara och som varje person kommer att uppfatta som objektiv och universell, i den illusoriska tron att samma information sprids till var och en på internet. Även sökningar via Google kommer att ge olika automatiska förslag beroende på varifrån de är googlade. Dessa illusioner om objektivitet och fritt val jämförs i dokumentären med trolleritrick där trollkarlen bestämmer, eftersom han är mer medveten om våra kognitiva mekanismer än vi vad vi själva kan vara. Med andra ord: Det som pågår här är en mekanism för medvetet bedrägeri som vi aningslöst utsätter oss för varje gång vi använder en funktion på sociala medier. Som en av maximerna som interfolierar filmen uttrycker det på ett sibyllinskt sätt: ”Varje tillräckligt avancerad teknologi är oskiljbar från magi.” Det kommer att ta tid att avkoda meningen i ett sådant påstående, och hur illa det rimmar med våra förväntningar i en vetenskapligt tillförlitlig värld.
I mitt försök att förstå den kunskapsteoretiska påverkan av den föränderliga verkligheten på en skärm kom jag att tänka på en mening hos kyrkofadern Augustinus. I De libero arbitrio undersöker Augustinus med hjälp av sin samtalspartner Evodius vad det innebär att vara en individ med ett eget förnuft, och han drar slutsatsen att vi inte, på grund av denna individualitet, måste mångfaldiga solen eller månen, som vi alla kan se. Som han säger: ”många av oss kan se en sak samtidigt, även om var och en av oss uppfattar denna enda sak som vi ser samtidigt” (2.7.16.63). De gemensamma objekten hjälper oss att forma verkliga åsiktsskillnader men gör oss också fortsatt kapabla att kommunicera och interagera med varandra. Den styrda kunskap som vi får oss till livs från sociala medier har motsatt effekt. Den polariserar opinionen genom att låtsas ge oss en absolut sanning, samtidigt som den alienerar oss från direkt kontakt med andra människor. Den gör oss blyga och obstinata, stolta över att få ”likes” i onaturliga kvantiteter och i onaturlig takt, så att det vardagliga blir ”tråkigt”, förlorar i värde och inte kan mäta sig med våra socialt tillverkade självbilder/egon. För sårbara barn och ungdomar kan den erfarenheten vara förödande. Den får dem att undvika att ta risker i verkligheten, eftersom manipuleringarna av deras fiktiva jag lämnar dem tomma och otillfredsställda – om man ens vågar erkänna det, åtminstone för sig själv. Familjedramat som visas i filmen belyser denna verklighet och dess ytterst sorgliga följder.
Netflixfilmen sparar inte på dramatiken, och dess fiktiva konstruktioner kan till viss del kritiseras. Det är fullt begripligt att man för att förmedla ett angeläget kulturellt motargument vill engagera publiken med en intresseväckande visuell retorik. Trots det, är de som intervjuas i dokumentären, vid sidan av filmens budskap och handling, ytterst kvalificerade för att slå larm utifrån fakta och statistik. Medveten om att det är omöjligt att helt enkelt klara sig utan sociala medier, trots uppmaningen att tysta dem i våra egna liv, försöker filmen att utmynna i några långsiktiga lösningar. Med hänsyn till att sociala medier inte omfattas av några regleringar i lag, förespråkar en talesperson ett totalt förbud av denna typ av mänskliga marknadsplatser. I en jämförelse tar hon samhällets förbud av narkotikahandel eller slavhandel som exempel på ekonomiska aktiviteter som ligger bortom det som vi betraktar som legitimt. Ett annat praktiskt förslag skulle kunna vara att beskatta teknikbolag som inhämtar personuppgifter, så att denna immateriella vara inte kan lagras urskillningslöst. Det finns uppenbarligen vissa sökmotorer som inte samlar in information om oss, till exempel Qwant. Men det är klart att mänsklig teknologi fortfarande måste tjäna pengar, och därför är det affärsmodellen som måste förändras på något sätt. Somliga menar att den sortens förändring kommer att kräva ett mirakel.
Behovet av etisk medvetenhet
På ett privat plan ger filmen helt klart anledning till debatt. Att gå från det omedvetna till en medveten nivå är det första steget i att skaka av sig de bojor som vanan påtvingat oss. Några av vittnesmålen från teknikfolket lät som syndabekännelser. Förfärad av de instrument som han själv hade konstruerat ångrade en pappa att han inte kunde tygla sin nyfikenhet på mejl och notiser, inte ens när han hade kommit hem till sina barn på kvällen. En mamma försökte att låsa in mobilerna i ett vitrinskåp för att kunna njuta av en apparatfri familjemiddag, bara för att sedan bevittna hur hennes 14-åriga dotter krossade glaset för att få tillbaka sin telefon. Min egen 14-åring tyckte att denna scen var överdriven. Ändå kan vi alla känna igen hur nyfikenhetens grepp och vanan att svajpa slukar vår tid. Den får företräde framför andra aktiviteter och kräver mer uppmärksamhet än vad som är hälsosamt att lägga på den. Med uppmärksamheten riktad mot den virtuella världen sjunker förmågan att se sig omkring dag för dag. Även om jag själv uppskattar det utökade nätverkandet och har haft nytta av internationella kontakter, i synnerhet under pandemin, undrar jag om det verkligen går att meddela ett dödsfall på Facebook. Vi använder detta som ett medel, ett verktyg, men, som filmen visar, är vår mobiltelefon inte som en cykel, den är inte ett dött ting, som bara finns där när vi behöver det. Snarare ger den svar på tal. Den vill anpassa oss till sig själv. Efter att ha diskuterat dessa frågor hemma, enades vi om att en period av camping utan elektricitet skulle kunna utgöra ett välbehövligt avbrott. ”Man saknar inte kon förrän båset är tomt”, som talesättet lyder. Det är först när sakerna inte längre finns där som vi kan bedöma hur fästa vi är vid dem. Att åtminstone arbeta på att vara medveten om hur sociala medier påverkar våra liv är en nödvändig analys, om vi inte vill sluta som uppslukade av deras fantasivärld.
The Social Dilemma visar hur varje mänsklig aktivitet kräver en etisk premiss för att fungera och bära god frukt. Filmen reflekterar över sanning, medvetenhet, rationalitet, sårbarhet, social interaktion och politiskt ansvar. Den består av ärliga vittnesmål och dramatiserade handlingar, konstfullt sammanflätade. Den är fylld av nödvändiga reflektioner för dagens värld, och den driver till och med med sig själv genom att på slutet be oss: ”Följ oss på sociala medier. Vi bara skojar!” Men det är vad vi har att välja på.
Översättning: Per Lindqvist
Barbara Crostini är docent i grekiska vid Uppsala universitet och lektor vid Newmaninstitutet.
Ur Signum nr 8/2021, s. 22–25.