Hva gjør algoritmene med oss og samfunnet?

«Lange tanker taper – umiddelbare reaksjoner får herje», var tittelen på Petter Bae Brandtzægs innlegg på Unio-konferansen.

– Vi må begynne å stille helt nye og eksistensielle spørsmål på grunn av sosiale medier, mener forsker Petter Bae Brandtzæg.

Publisert: 12. desember 2019

Av Hedvig Bjørgum

Han er forsker ved Institutt for medier og kommunikasjon ved Universitetet i Oslo, og sjefforsker ved SINTEF Digital. Han mener Facebook, Twitter og de andre tech-gigantene gjør så mye med debattklimaet og vår generelle debattevne at vi bør tenke oss om.

– Hvem tar beslutningene våre? spør Brandtzæg, og viser blant annet til alle klagene over den følelsesmessige dreiningen i samfunnsdebatten på nett. Det bør adresseres, mener han.

Det flyter over av krenkelser, hatytringer, polarisering og lavt saklighetsnivå mange steder. Brandtzæg mener de lange tankene må vike for umiddelbare reaksjoner på sosiale medier.

– Det interessante er at dette ikke bare gjelder vanlige folks deltakelse i kommentarfeltene: Også professorer, politikere og etablerte aktører i samfunnsdebattens elitesjikt snubler i designet til Facebook, bemerker forskeren.

Dette har sin forklaring.

Algoritmene. Datasettene som gjør at både du og jeg har blitt big business, basert på datainnsamlingene om oss. Selskapene finner igjen hva vi har preferanser for, hvor vi er, hvem vi er sammen med og hvem som får våre kommentarer og «likes» på nettet. Store datasentre i USA samler informasjon, også selv om vi ikke bruker telefonen eller andre dingser.

Så sendes det hele tilbake til oss brukere.

Målrettede og skreddersydde budskap mot det enkelte individ kan være med på å endre holdninger og adferd hos de samme individene.

Hva gjør de med oss?

Algoritmene lever mer eller mindre sitt eget liv, gjennom maskinlæring som produserer kunstig intelligente algoritmer.

Det betyr at heller ikke tech-giganter som Instagram og Facebook har full kontroll over hvordan algoritmene utvikler seg, utover at det at de skal booste brukerengasjementet ditt og mitt.

Dette kan påvirke også den «vanlige» debatten om samfunnet i en grad vi kanskje ikke tar inn over oss, påpeker Petter Bae Brandtzæg:

– For hva skjer med oss om systemene og tjenestene vi omgir oss med, fjerner seg mer og mer fra menneskelig kontroll og fysiske kontekster?

Hvem tar ansvar for folk og samfunn?

Forsker Brandtzæg tror mer kontroll må til. Utfordringen er at både individer og samfunn bruker systemer som baserer seg på skjulte algoritmer vi ikke kjenner konsekvensene av, og heller ikke har kontrollen over.

Det er klart for nye og grunnleggende, eksistensielle spørsmål, ifølge ham:

– Hva gjør algoritmene med oss og samfunnet? Dette er kanskje særlig viktig for oss i Norge å ta en debatt om. Norge er blant verdens meste digitaliserte land, og vi er i økende grad styrt og påvirket av algoritmer laget i Silicon Valley. Hvordan vil det påvirke samfunnsutviklingen her hjemme? spør forskeren.

Systemkrise i hjernen?

Hva har hjernen med samfunnsdebatten og samfunnsutviklingen å gjøre? Jo, mennesker har to systemer å tenke med. Det raske, impulsive system 1, som brukes til å ta raske avgjørelser, og det mer tenksomme system 2.

Facebook er Norges største medium, men er designet for å trigge impulser, følelser og raske reaksjoner. Det er algoritmene som sørger for det, det vil si at det du får opp i strømmen din, er styrt av programmer som vil ha deg til å reagere raskt.

– Det er noe med internett som gjør at vi kan få en bakrus. Facebook er designet for å trigge det impulsive system 1. Det som er problemet, er at også samfunnsdebatten flytter til Facebook, og at den altså drives av algoritmer som trigger det raske systemet i hjernen, sier Brandtzæg.

Når system 2 taper – hva skjer da?

Ulempen med raske og følelsesmessige reaksjoner, er at det er lett å gjøre feil om en ikke vurderer, overveier og resonnerer rundt informasjonen en får på skjermen.

Facebook appellerer til folks primitive instinkter. Kvinner, folkevalgte og folk som er annerledes utsettes for hets. De er mange, ifølge forskeren.

– En av ti kvinner blir trakassert på nettet. Ordførere sier de angrer på ting de har sagt på Facebook. Og så kommer de automatiserte robotene. De er også på system 1.

Umiddelbare følelser herjer

Også det mange kaller samfunnets fremste aktører rammes av dette, slik at mer av debatten blir rask og impulsiv, og mindre gjennomtenkt.

Hva skjer når de som skulle være system 2 i samfunnet, det vil si sørge for sammenhenger og visjoner, debatt og konsekvensanalyser i samfunnet blir dratt med over til system 1 på nettet?

– Holdninger og handlinger fra det raske, umiddelbare og følelsesstyrte system 1 rammer ikke bare vanlige folk. Også dem som vi tanker på som de ansvarlige i samfunnet, rammes av system 1 på sosiale medier, sier forsker Petter Bae Brandtzæg.

Og hva skjer med samfunnet da?

 

Se opptak av Petter Bae Brandtzæg fra Unio-konferansen: