Hoppa till huvudinnehåll
Kampen om internet
10 min läsning

Problemet med algoritmer

De stora internetföretagens algoritmer får allt större inflytande och makt över våra liv. De styr vad vi ser på sociala medier och påverka allt ifrån vilka produkter vi väljer till vem vi röstar på i politiska val – utan att vi får insyn i hur de skapas. Hur påverkar det här oss? Och hur påverkar det demokratin och yttrandefriheten i förlängningen? Brendan de Caires, verkställande direktör på PEN Kanada, skriver om hur dessa dolda krafter kan skada samhället och leda till spridning av falska nyheter, filterbubblor och hatspråk.

Credits Text: Brendan de Caires Översättning från engelska: Hans-Jacob Nilsson 20 mars 2020

År 1971 arrangerade Carnegie-Mellon University en debatt om ”Datorer, kommunikation och samhällsintresset.” Moderatorn anförde att ”om någonting karakteriserar vår samtid, är det de komplexa problem som den teknologiska civilisationen skapar, och de allvarliga fysiska och mentala påfrestningar som de ger upphov till.” Herbert Simon, professor i datavetenskap och psykologi, talade om det relativt nya begreppet ”informationsöverflöd”[1]och framhöll att ”en värld rik på information … skapar en brist på något annat – en knapphet på vad det än kan vara som denna information innehåller.” Information, fortsatte han, ”tar mottagarnas uppmärksamhet i anspråk. Det innebär att ett överflöd av information skapar en brist på uppmärksamhet och ett behov av att kanalisera denna uppmärksamhet på ett effektivt sätt …”[2]

Simon förutspådde de sociala mediernas splittrande inverkan med avsevärd framsynthet. Han påpekade i varnande ordalag att framtida teknologier skulle bli tvungna att förhålla sig till hur denna ”alltför rika informationsmiljö” skulle hanteras, mer specifikt vad de skulle behöva ”tillåta att man undanhöll från uppmärksamheten i andra delar av systemet”. Han frågade sig hur framtida medborgare ”när utvecklade beslutssystem växt fram ska kunna få tillgång till ett ändamålsenligt filtrerat urval av överväganden som kan hjälpa dem i deras val av beslut.”

Ett decennium senare hade persondatorer blivit vanliga nära nog överallt; inte långt efteråt blev de noder i nätverk som växte sig allt snabbare och större. Vid millennieskiftet strömmade data från stationära och bärbara datorer och även mobiltelefoner in i den väldiga samling av aktiviteter som vi kallar internet. Den enorma storleken på detta flöde är svår att föreställa sig. 2016 skrev Kevin Kelly, före detta redaktör på Wired: ”Tjugo år efter nätets födelse är det svårt att ta in dess ofantliga omfång. Det totala antalet websidor, inklusive de som visas dynamiskt på förfrågan, överskrider 60 biljoner. Det är nästan 10 000 sidor per person i världen. Och hela detta ymnighetshorn har skapats på mindre än 8000 dagar.”

I mitten av 2019 laddades 30 000 timmar film upp till Youtube varje timme.[3]Medan denna menings skrivs uppskattar www.internetlivestats.com att vi skapar och överför 9000 tweets, 950 Instagram och 1608 Tumblr-poster, 3 miljoner emails och 78 000 Googlesökningar varje sekund. Vår kollektiva onlinetrafik närmar sig 80 terabyte data i sekunden.

Detta överflöd hanteras i det tysta med hjälp av maskinintelligens eller artificiell intelligens (AI) som förvandlar en ocean av data till hanterbara strömmar. Den skräddarsyr Googlesökningar och Facebook- och Twitterämnen och puffar oss – på Amazon, Netflix, Instagram och YouTube – i riktning mot innehåll som på ett ofta kusligt sätt sammanfaller med de sinnesstämningar och åsikter vi för tillfället hyser. Denna kuslighet är ingen tillfällighet, för samma process som avhjälper friktionen i vår ”brukarupplevelse” övervakar oss också, registrerar varje vana och böjelse och skapar individuella ”psykometriska profiler” som sedan dikterar vart vi ska ledas. Algoritmdrivna ”brukarengagemang” är nyckeln till ekonomisk vinst i alla digitala plattformar.

Harvardprofessorn Shoshana Zuboff kallar detta för ”övervakningskapitalism”. Hon skriver att när ”Google upptäckte att vi är mindre värdefulla än andras förutsägelser om vårt framtida beteendeförändrades allt”.[4]Googles grundare skapade ”en företagsform som gav dem absolut kontroll i marknadssfären, och gjorde sig sedan till talesmän för frihet i den offentliga sfären”. För att uppnå detta hävdade de vikten av ”tidigare inte kända sociala verksamhetsområden som ännu inte underkastats lagstiftning” och påstod ”att alla försök att vidta åtgärder mot eller inskränka [deras verksamhet] var mindre välbetänkta och dumma, att regleringar alltid är en negativ kraft som hindrar innovationer och framåtskridande, och att laglöshet är en nödvändig förutsättning för ’teknologiska innovationer’”.

Vad händer med samhällsintresset om sådana åsikter och handlingar får stå oemotsagda? Medan papperstidningar slåss för sin överlevnad i övergången till den digitala tidsåldern – bara i USA har fler än 2000 lagts ner sedan 2004[5]– styrs de digitala nätverk som ersätter dem oftast av maskinintelligens snarare än av journalister och redaktörer. Enligt David Kaye, FN:s särskilda rapportör för främjande och skydd av rätten till yttrandefrihet, blir följden ett medielandskap där vi underkastas ”dunkla krafter med prioriteringar som långt ifrån alltid vill uppmuntra en miljö som möjliggör mångfald inom medier och stärker oberoende röster.”[6]

Dessa dolda krafter skadar samhällsintresset på förutsägbara sätt. De feedbackloopar som driver ”viralitet” – det vill säga maximerar ”brukarengagemang” och ”tid på enheten” – har visat sig var effektiva genvägar till spridningen av falska nyheter, filterbubblor, hatspråk och den ständiga rädsla och aggressivitet som digitala plattformar så ofta blir bärare av. Övergången till maskinstyrning har inneburit att digitala plattformar i stället för att behandla information i termer av dess värde för samhällsintresset, eller som underbyggda åsikter – ideal som framhållits av filosofen Jürgen Habermas[7]– behandlar sina data på ett agnostiskt vis. Det vil säga att de eftersträvar en ökad uppmärksamhet utan bry sig om att värdera det material som skapar denna uppmärksamhet. Följden blir att de processer som gör flödet i sociala medier så effektivt också marginaliserar och tystar miljoner röster tusentals gånger i sekunden, inte av någon medveten ondska – den maskinstyrda censuren är icke-mänsklig och inbyggd i nätverksstrukturen – utan för att algoritmerna är optimerade för att fokusera vår uppmärksamhet mot mer lukrativa ämnen.

Vem har makten att ändra på detta? Facebook och Google, ett duopol som förser mer än två miljarder människor med nyheter, har företagsstrukturer som ger deras grundare nära nog total kontroll över företagens policyer. Men inget av dem har några incitament för att lätta på sitt järngrepp över uppmärksamhetsekonomin, eller ge avkall på sina övervakningsdrivna vinster till förmån för gammalmodiga ideal som samhällsintresset. Sekretessen är deras allierade. Ju mindre vi vet om de digitala svarta lådor som genererar övervakningskapitalisternas enorma vinster, desto bättre är det för dem. Det är svårt att oroa sig för något man inte ser.

En skeptiker kan fråga: Är det här nytt? Har inte publicistiska utgivare alltid försökt styra oss mot mer sensationellt och profitabelt innehåll? Detta är en miljondollarfråga. Är digitala plattformar publicistiska utgivare? Det nuvarande juridiska och politiska ramverket i USA säger nej. Det undantar digitala plattformar från juridiskt ansvar för mycket av deras innehåll, och de stora IT-företagen har arbetat hårt för att det ska förbli på det viset.[8]Section 230 i 1996 US Communication Decency Act – som till stora delar förklarats bryta mot konstitutionen av USA:s högsta domstol – är det främsta skälet till att så mycket av internet hamnade i skydd av det första författningstillägget (som behandlar sådant som yttrandefrihet och pressfrihet – översättarens anmärkning).

CDA 230, som ofta kallats ”de tjugosex ord som skapade internet”, skyddar internetplattformar från ansvar för brukargenererat innehåll och tillåter dem att härbärgera material som annars skulle riskera att dra dem inför domstol. Electronic Freedom Foundation hävdar att det ”gör USA till en trygg fristad för websajter som vill vara en plattform för kontroversiella eller politiska åsikter och en juridisk miljö till stöd för yttrandefrihet”. Det stämmer visserligen, men det ger också digitala plattformar ett heltäckande skydd för deras laissez-fairepolitik i fråga om rekommenderat innehåll. Eftersom de numera utgör den främsta källan till nyhetsförmedling online, har gränsen mellan att publicera innehåll och skapa en publik för detsamma måhända blivit en distinktion utan betydelse.

En annan skeptiker frågar sig kanske hur mycket av vårt beteende online som algoritmerna verkligen kontrollerar? På det går det att få ett mer precist svar.[9]Guillaume Chaslot, en före detta Googleanställd som tidigare arbetat med YouTubes algoritmer, uppskattar att 70 procent av YouTubes visningar genereras av dess rekommendationer. I en artikel i Wired nyligen skriver han att dessa svarar för ”700 000 000 timmar varje dag”. Facebooks nyhetsflöde svarar för ”ungefär 950 000 000 timmar skärmtid varje dag”.[10]Chaslot berättar också att hans betänkligheter mot Googles algoritmer började när han såg att de ”hjälpte videor som marknadsförde politiska konspirationsteorier – som de från den högerextremistiske radiovärden Alex Jones – att få miljontals visningar.” Efter att ha lämnat företaget bildade han en ideell organisation som spårar resultatet YouTubes algoritmer i realtid, och han har också skapar ett webbläsartillägg som kan varna dess användare med texten: ”Den här algoritmen har skapats för att du ska maratontitta, inte för att rekommendera saker som är sanna.”[11]

Grupper som PEN har ägnat en stor del av sin verksamhet åt att försvara kontroversiella skrifter och åsikter, och åt att försvara och ge röst åt dissidenter och minoriteter. Ett viktigt och nödvändigt arbete i en informationsekonomi, men mycket mindre relevant när det gäller den censur som, osynligt, utövas i uppmärksamhetsekonomin. Idag sprids falska nyheter, hatspråk och annan desinformation med hjälp av äganderättskod som för det mesta är helt okänd för den stora allmänheten, och än mindre övervakad eller underkastad demokratisk kontroll.

För ett decennium sedan sågs sociala medieplattformar som en teknologi som skulle underlätta och stärka demokratin. Under åren som gått har den bilden komplicerats. Nu vet vi att de också kan uppamma xenofobi[12], rasism och etnisk rensning, sprida konspirationsteorier, snedvrida politiska val och förvärra sociala och politiska spänningar. Har det inte blivit dags för oss att kräva att de företag som påverkar vårt beteende på nätet med sådan ekonomisk vinning, också måste ta ett större ansvar för en företagspolitik som orsakar så mycket skada?


[1]Ett begrepp myntat av statsvetaren Bertram Gross i boken The Managing of Organizations (1964), och populariserat av framtidsforskaren Alvin Toffler i Future Shock (1970) (på svenska Framtidschocken).

[2]Min kursiv. En utskrift av inlägget finns här.

[4]Shoshana Zuboff, ”The Age of Surveillance Capitalism: the Fight for A Human future at the New Frontier of Power” (London: Profile Books 2018), sid. 93.

[5]Se rapporten ”The Loss of Local News” 2018, Center for Innovation and Sustainability in Local Media, University of North Carolina at Chapel Hill, www.cislm.org/wp-content/uploads/2018/10/The-Expanding-News-Desert-10 14-Web.pdf.

[7]Strukturwandel der Öffentlichkeit. Untersuchungen zu einer Kategori der bürgerlichen Gesellschaft (1962)

[8]Se Electronic Freedom Foundations artikel om Section 230 i 1996 US Communication Decency Act. Den stadgar att ”Ingen tillhandahållare eller användare av en interaktiv datortjänst skall betraktas som utgivare eller talare för någon information som tillhandahålls av en annan tillhandahållare av information”.

[9]2013 uppskattade McKinsey att en fjärdedel av Amazons vinst och 75 procent av användarnas Netflix-val drevs av algoritmer.

[10]”The Toxic Potential of YouTubes Feedback Loop” – Wired magazine, 13 juli 2019.

[11]Wired 25: ”Stories of People Who Are Racing to Save Us. Humanity is facing thorny problems on all fronts. These folks are working to solve them – and trying to avoid the unintended consequences this time.”

[12]”Fanning the Flames of Hate: Social Media and Hate.” Müller, Karsten and Schwarz, Carlo (3 november 2019).

Donera

Stöd yttrandefriheten runtom i världen genom att ge en gåva till PEN/Opp. Varje bidrag gör skillnad!

Ge en gåva på Patreon
Fler sätt att engagera sig

Sök