Framtida vår er til sals: – Absolutt ein trussel mot demokratiet

– Persondata, som er ekstremt verdifulle og høyrer til personen det handlar om, blir gjort til gjenstand for økonomisk utnytting og utbytting. Ein berre plukkar dette opp som ein naturressurs, seier Gisle Hannemyr, universitetslektor og ekspert på data og personvern.

Det er vanleg å tenka på demokratiets død som ei valdeleg hending. Det er ikkje så rart: Under den kalde krigen skjedde tre av fire demokratiske samanbrot ved militærkupp. Når vi vil forstå samtida, gjer vi det med fortida friskt i minne.

Men det finst andre vegar til same utfall.

I dag skjer demokratiets forvitring mange stader på subtilt, nesten umerkeleg vis. Antidemokratiske tyrannar som Hitler og Pinochet er bytta ut med langsame prosessar som dei færraste av oss er bevisste, og som det er langt vanskelegare å setja fingeren på.

Éin slik prosess har utvikla seg til det Harvard-professor Shoshana Zuboff omtalar som «overvakingskapitalismen». Zuboffs livsprosjekt er å finna ut om den digitale framtida vil gjera oss betre – eller om den tvert imot kjem til å gjera oss verre. Visse utviklingstrekk ser, skal vi tru Zuboff, ut til å peika i retning av det siste.

Frå økonomisk ulikskap til informasjonsulikskap

– Dei [Facebook] hjelper påverkarar med å bruke våre data mot oss, samtidig som dei har ein maktposisjon som gjer det umogleg å velje dei bort. Det meiner vi er eit alvorleg menneskerettsproblem. Det fører til menneskerettsbrot, og det set demokratiet i fare, fortel Gerald Folkvord, politisk rådgivar i Amnesty.

Ein Amnesty-rapport frå hausten 2019 konkluderer med at Facebook og Googles overvakingsbaserte forretningsmodell er inkompatibel med retten til privatliv, og meiner den utgjer ein systemisk trussel mot tankefridom, ytringsfridom og ei rad andre menneskerettar. (Grafikk: Skjermdump)

I ein ny rapport skildrar Amnesty ein «faustisk pakt»: For å kunne utøva sine menneskerettar må ein delta i offentligheita, men deltaking i denne (digitale) offentligheita føreset at ein underkastar seg et system tufta på misbruk av dei samme menneskerettane.

– Dette er absolutt ein trussel mot demokratiet. Å påverke folk på denne måten er heilt nytt, seier Gerald Folkvord i Amnesty.

Overvakingskapitalismen, slik Zuboff skildrar den, er kjenneteikna av ein veksande informasjonsulikskap. Medan industrisamfunnet i det 20. århundret dreide seg om å oppnå økonomisk likskap, blir vårt digitale århundre prega av ein veksande avgrunn mellom kva vi veit, og kva digitale selskap veit om oss.

Tankar? Meinte du råmateriale?

– Involvert [i overvakingsøkonomien] er ekstremt mange ulike kategoriar av selskap. Vi har kanskje høyrd om éitt av desse selskapa, men alle desse har høyrd om oss, fortel Gro Mette Moen, fagdirektør for digitale tenester i Forbrukarrådet.

Drivkrafta bak er det Zuboff omtalar som kapitalismens siste mutasjon – ein ny variant av kapitalismen som trenger djupare inn i folk sin private sfære enn på noko tidlegare tidspunkt.

Denne gongen er det den menneskelege erfaringsverda – menneskets kropp, tankar og kjensler – som er råmaterialet, åtvarar forfattaren. Menneskeleg erfaring blir underlagt overvakingskapitalismen med sine marknadsmekanismar, og blir fødd på ny som prognosar om menneskeleg framferd – som i sin tur kan seljast.

LES OGSÅ: Høg temperatur under møtet mellom EU og Facebook-sjefen

Marx for det 21. århundret

Dette har lagt grunnlaget for ein ny økonomisk modell, der eit firma og kundane deira ikkje lenger er på likefot, ifølgje Zuboff. For i overvakingsøkonomien er ikkje kunden noko subjekt, men eit objekt som selskapa utvinner sine råvarer frå. Desse råvarene blir prosessert, gjort om til prognosar, og selde til dei verkelege kundane i den nye økonomien – nemleg andre selskap.

Boka til Zuboff, «Overvakingskapitalismens tidsalder», har blitt omtalt som vår generasjons «Das Kapital», ein oppvekkar på linje med Rachel Carsons «Silent Spring», som gav opphav til miljørørsla på 1960-talet.

Google var opphavet til den overvakingsbaserte forretningsmodellen som no blir kalla «overvakingskapitalismen», og som fleire meiner utgjer ein fare for demokratiet. (AP Photo/Andy Wong)

I boka skildrar Zuboff korleis systemet vaks ut av «dotcom-bobla» – ei finansboble i internettsektoren, som brast tidleg på 2000-talet. Den påfølgande krisa gjorde at spesielt Google måtte finna nye måtar å tena pengar på. Selskapet dreiv allereie med utstrakt innsamling av brukardata, men brukte dette primært til å betra søkemotortenesta.

Men kva om ein nytta slike brukardata til reklameføremål? Dersom folk blei eksponert for reklame basert på tidlegare framferd, ville både presisjon og profitt gå drastisk opp.

Og med det var brukaråtferd omgjort til ein ressurs og ei råvare.

LES OGSÅ: Pass deg for Messenger! Desse meldingstenestene er best på personvern

Framtid til sals!

Verkeleg revolusjonerande var det at ein kunne samla inn data om menneskeleg oppførsel i fortida, og gjera denne om til prognosar om menneskeleg framferd i framtida. Zuboff fortel om korleis data om oss blir tømt over i «berekningsfabrikkar» – også kalla kunstig intelligens – før det blir til prognosar som kan seljast på nye «prognosebørsar», der menneskelege framtider er gjenstand for kjøp og sal.

Ein prognosebørs, eller sanntidsauksjon, blir til kvar gong vi går inn på ei ny nettside. Då startar ein bodrunde, der selskap byr på oss basert på kor interessante vi er.

Til dømes kan ein målretta reklame for kosmetisk kirurgi eller slankemiddel mot brukarar med dårleg sjølvbilde

– Til dette nyttar ein informasjon som er samla inn om oss blant anna gjennom informasjonskapslar, eller «cookies», som sporer åtferda vår på internett. Det fortel Atle Årnes, fagdirektør for teknologi i Datatilsynet.

Interessene våre, og kven vi er, avgjer kor mykje ulike aktørar er villige til å by, og den som går av med sigeren får plassera reklame og informasjonskapslar på maskinen vår, forklarar Årnes.

– Så kan ein føresjå når du er sårbar for visse typar reklame. Til dømes kan ein målretta reklame for kosmetisk kirurgi eller slankemiddel mot brukarar med dårleg sjølvbilde, fortel Moen i Forbrukarrådet.

LES OGSÅ: Føreslår reglar for bruk av sosiale medium i valkampen

– Det er i åtferdsmanipulasjon pengane ligg

Med tida blei Google sin forretningsmodell ganske enkelt standarden. Facebook gjekk frå å vera eit sosialt medium til å bli ein reklamegigant. Og modellen, skriv Zuboff, er rigga for å gå stadig djupare.

– Det er i åtferdsmanipulasjon pengane ligg, seier Hannemyr.

Smarte vodkaflasker, senger og kjøleskap, rektaltermometer og smarte pulsklokker – felles for stadig fleire produkt er at dei samlar inn data om oss, og er kopla til nettet. Det betyr at informasjon om stadig større deler av liva våre går inn i datamassen som utgjer vårt virtuelle sjølv – og at vi blir desto enklare å påverka. Vår puls, søvnrytme og digitale framferd, alt kombinert til stadig meir fullstendige «profilar», som selskap kan kjøpa seg tilgang til. Det meste utan at vi veit om det.

– Heile systemet er så obskurt, vanskeleg og uhandgripeleg, seier Dag Mostuen Grytli, rådgivar i Datatilsynet.

Forbrukarrådet avslører i ein ny rapport at annonseindustrien er ute av kontroll, og driv utstrakt ulovleg innsamling og ukritisk spreiing av data. Éitt selskap, Grindr, delte til dømes sensitive persondata med 19 tredjepartar. Éin av desse igjen, Twitter Mopub, reserverer seg retten til å dela data med 170 partnarar. Og éin av desse, Appnexus, kan dela data med nye 4259 partnarar. (Grafikk: Forbrukarrådet)

Under dekke av den forskjønnande merkelappen «personalisering», fortel Zuboff, har stadig meir aggressiv datainnsamling gått under radaren. Maskert bak ideen om at tenester nødvendigvis må bli meir og meir brukartilpassa – personalisering og nye typar datainnsamling blir såleis ein uavvendeleg prosess, rettferdiggjort av lite anna enn at det nye er litt meir hendig, litt meir nytt, enn det føregåande.

– Ein har lagt til rette for dystopia berre for å mogleggjere reklame, seier Moen, med tilvising til ein Ted-talk av Zeynep Tufekci.

Uvitande, men underhaldne

Braksuksessen «Pokémon Go» er kanskje den mest tydelege manifestasjonen av det Zuboff åtvarar mot. Opprinneleg utvikla av Google, men lansert av uskuldsreine «Niantic Labs». Seinare kom det fram at selskapet tok seg betalt for å leia uvitande brukarar til såkalla «sponsa stader».

I praksis kunne dermed dei verkelege kundane, selskap som McDonalds og Starbucks, kjøpa seg inn, ved at sentrale plasseringar i spelet blei lagt til deira butikkar.

Spelet er, ifølgje Zuboff, eit døme på at overvakingskapitalismen ikkje lenger berre syslar med målretta reklame, men i aukande grad også driv med åtferdsmanipulasjon. No er det virtuelle plutseleg kopla saman med det verkelege. Gjennom Pokémon Go kan ein senda folk til faktiske butikkar, der dei bruker faktiske pengar. Og ein går frå å omsetja sannsynlege utfall, til å handla i garantiar.

– Det er eit system som har bygd seg opp over tid med veldig lite motstand, seier Grytli.

LES OGSÅ: Lei av at Facebook tener seg søkkrike på bruk av dine personlege data? Her er alternativa

Føresetnadar for demokrati

Eit stadig meir finjustert manipulasjonsapparat rigga for å rettleia våre framtidige sjølv i retning det mest profittmaksimerande utfallet. Dette er summen av Zuboffs analyse. Og den set ikkje berre vår frie vilje i fare: også demokratiet står lageleg til for hogg.

Den private sfæren er ein stad for å trekka seg tilbake, for å la idear modnast: Ein slags treningsarena for tanken, ifølgje universitetslektor Hannemyr. Denne private sfæren er langt på veg ein føresetnad og eit premiss for ei fungerande offentlegheit slik vi forstår den i dag, og offentlegheita er i sin tur avgjerande for demokratiet.

– Dette [overvakingskapitalismen] skadar openbert vår kjensle av privatliv, men indirekte også ytringsfridomen, demokratiet og alle dei institusjonane som eit moderne samfunn kviler på. Derfor er dette ei ekstremt skadeleg verksemd, seier Gisle Hannemyr.

Facebook er blant dei mest sentrale selskapa i det Shoshana Zuboff har omtalt som «overvakingskapitalismen». I ein Amnesty-rapport frå i haust blir det uttrykka bekymring over at digitale gigantar er blitt for store til at styresmakter kan halda dei ansvarlege. Amnesty er uroa over kva dette betyr for demokratiet. Illustrasjon: Colourbox