Metas mangelfulle annonseringsvirksomhet
Meta blokkerer ikke Facebook-annonser som inneholder ekstreme hatytringer og feilin formasjon, viser en undersøkelse fra SumOfUs og Global Witness. I et eksperiment utført mellom 6. og 7. oktober sendte vi inn svært krenkende og kontroversielle annonser som blant annet inneholdt utdrag fra manifestet til Anders Behring Breivik, den høyreekstreme terroristen som drepte 77 mennesker i Norge i juli 2011, og krav om tvungen sterilisering av innvandrere. Alle annonsene ble godkjent.
Disse sjokkerende funnene understreker Metas manglende evne til å beskytte brukerne sine. De understreker også behovet for at myndighetene i Norge og andre land øyeblikkelig vurderer mulighetene for regulering, inkludert innføring av et forbud mot overvåkingsbasert markedsføring.
I alt tolv annonser ble registrert og godkjent som ledd i denne undersøkelsen. Disse var rettet mot Facebook-brukere i Norge og inneholdt hatefulle ytringer og/eller feilinformasjon som enten er i strid med Metas egne retningslinjer, norsk lov eller begge deler.1 De inne holdt rasistiske hatytringer, hatytringer mot innvandrere og LHBTIQ-personer, villedende helseinformasjon og informasjon om ekstrem slanking på en blanding av norsk og engelsk. Meta godkjente alle de tolv annonsene til publisering i løpet av en dag, og to av dem ble godkjent nesten umiddelbart. Annonsene ble fjernet av analytikerne før de ble publisert, noe som betyr at de aldri ble sett av Facebooks brukere.
Meta hevder at de ikke tillater hatefulle ytringer på Facebook, og de erkjenner at slike ytringer skaper «an environment of intimidation and exclusion», og at de i enkelte tilfeller også kan «promote offline violence» 2 De forbyr også annonser som kommer med villedende påstander om helse, og som skaper negativ selvfølelse 3 Men som denne undersøkelsen avdekker, følger ikke selskapet sine egne retningslinjer – ikke bare sluses hatefulle ytringer igjennom, de generer også inntekter. De tolv annonsene som ble brukt i dette eksperimentet, burde ha vært svært enkle å oppdage og filtrere bort med tanke på hvor ekstreme de hatefulle ytringene var, og den enkle tekstbaserte utformingen. Likevel ble ikke én eneste annonse fanget opp av Metas systemer.
Dette er langt fra første gang Meta har blitt tatt i å godkjenne svært kontroversielle annonser. En nyere SumOfUs-undersøkelse av feilinformasjon på Facebook i forbindelse med valget i Brasil, avdekket et økosystem av betalte annonser og organiske innlegg som gjentok de høyreekstremes oppfordring til voldelig opprør, fremmet konspirasjonsteorier som trakk valgets integritet i tvil, og som angrep demokratiske institusjoner og myndig hetspersoner.4 En rekke Global Witness-undersøkelser har også vist at Meta ikke har oppdaget annonser som inneholdt hatefulle ytringer og feilinformasjon om valget i Myan mar,5 Kenya,6 Etiopia7, Brasil8 og USA9 .
Farene ved dette er alvorlige, ikke bare fordi ytterliggående innhold enkelt sluses gjennom systemet som godkjenner annonser og når ut til et stort publikum, men også fordi de globale teknologiplattformenes uopphørlige sporing, profilering og målretting av internettbrukere gjør at disse annonsene kan rettes mot dem som er mest mottakelige for budskapene. Én av de falske annonsene våre, som slo fast at gutter ikke vil ha jenter over 60 kilo, og som tilbød metoder for å komme ned i en slik vekt på én uke, var spesielt rettet mot 13–17 år gamle jenter, mens en annonse for konverteringsterapi for homofile var rettet mot tenåringsgutter. I en tidligere studie lyktes også forskere fra Tech Transparency Project med å rette annonser for slankepiller, gambling, alkohol og tobakk mot barn. 10 Uavhengig forskning og Metas egne analyser viser hvor skadelig denne typen innhold er for barn og tenåringer.11
Det er klart at Metas annonsevirksomhet – kjernen i den overvåkingsbaserte forretningsmodellen – er mangelfull og utgjør en reell fare både for den enkelte innbygger og for storsamfunnet. De lovgivende myndighetene i Norge og resten av verden må øyeblikkelig iverksette tiltak for å håndtere de algoritmiske systemene som underbygger denne skadelige forretningsmodellen, og beskytte innbyggerne mot ytterligere misbruk.
Som et svar på våre funn, sier en talsperson fra Meta at «Hatprat og skadelig innhold har ikke en plass på våre plattformer, og denne typen innhold burde ikke godkjennes. Når det er sagt, ble disse annonsene aldri publisert. Vår godkjenningsprosess for annonser har flere lag, både før og etter publisering. Vi fortsetter å forbedre måten vi oppdager krenkende annonser og atferd på, og vi gjør endringer basert på trender i annonsemarkedet.»12
SKADELIG HURTIGGODKJENNING
Denne undersøkelsen var et samarbeid mellom SumOfUs og Global Witness, to kampanjeor ganisasjoner som jobber for et bedre internett der store teknologiselskaper holdes ansvar lige, og sosiale medier prioriterer menneskers velferd fremfor den evige jakten etter profitt.
Den 6. oktober 2022 sendte vi inn tolv annonser til godkjenning hos Facebook ved å bruke en falsk konto. Disse annonsene, som bestod av tekst på ren bakgrunn, var basert på virkelige eksempler på hatefulle ytringer og feilinformasjon som sirkulerer i Norge i dag. Alle annonsene var rettet mot Facebookbrukere i Norge, og med unntak av Behring Breiviks engelske sitater var alle på norsk. To av annonsene ble godkjent nesten med en gang, blant annet den som inneholdt ekstreme slankeråd og var rettet mot tenåringsjenter. Resten ble godkjent innen et døgn. Disse omfattet
• tre sitater fra Behring Breiviks høyreekstreme manifest som forfektet hvitt overher redømme
• krav om tvungen sterilisering av innvandrere og transpersoner
• hatefulle antisemittiske og antimuslimske ytringer
• hatefulle ytringer mot LHBTIQ-personer, inkludert som var rettet mot tenåringsgutter, som omtalte homoseksualitet som en sykdom.
• falske helsepåstander, inkludert en påstand om at gulrotjuice kan kurere Covid-19
• ekstreme slankebudskap rettet mot tenåringsjenter
På grunn av det svært kontroversielle og opprørende innholdet i annonsene gjengir vi ikke tekstene her. Ta kontakt hvis du ønsker å se de fullstendige tekstene.
Alle de tolv annonsene bestod av tekst mot en ren bakgrunn, noe som betyr at de burde være svært enkle å oppdage for Metas systemer. I tillegg var språket som ble brukt, alt annet enn vagt. Det inneholdt tvert imot klare hatefulle ytringer, med veletablerte rasis tiske, homofobe og transfobe billedlige uttrykk, samt lett gjenkjennelig villedende hels einformasjon knyttet til covid-19. At disse annonsene ble godkjent uten motstand, setter spørsmålstegn ved hva Metas systemer egentlig er i stand til å filtrere bort.
Det var to grunner til at Norge ble valgt ut til denne undersøkelsen. For det første har landet flere politiske prosesser på gang som søker å gripe fatt i forretningspraksisen til Meta og resten av teknologibransjen. Stortinget vurderer for øyeblikket en rekke forslag som skal gi innbyggerne økt beskyttelse på nett, inkludert et forbud mot overvåkingsbasert markedsføring. 13 Dette innebærer en mulighet til å begrense de store teknologigigantenes skadepotensiale, som også vil få konsekvenser globalt. To regjeringsoppnevnte kommis joner (én om ytringsfrihet og én om personvern) som nylig har overlevert rapportene sine til politikerne, anbefaler en strammere regulering av sosiale medieplattformer. 14 Og den norske kulturministeren har vært med på å lansere et internasjonalt initiativ for å bekjempe skadelig innhold på nettet 15 For at disse tiltakene skal gi de nødvendige resultatene, er det
En åpen dør til hat: Meta godkjenner annonser med ekstreme og hatefulle ytringer avgjørende at de norske stortingsrepresentantene forstår rekkevidden av Metas mangler på deres egen hjemmebane.
For det andre har studier vist at Meta – til tross for at de hevder at de har forbedret kapa siteten og evnen til å moderere innhold på andre språk enn engelsk16 – heller ikke klarer å fjerne hatefulle ytringer og feilinformasjon i land som Facebook prioriterer, inkludert Brasil. Vi var interessert i å finne ut om det samme mønsteret gjelder språket i et lite europeisk land som vanligvis ikke er i de globale medienes søkelys på grunn av skadelig innhold på nettet. De klare funnene bekrefter at det gjør det. (Alle annonsene seilte igjennom, uavhengig av om de var på norsk eller engelsk.)
Lærdommen er klar: Meta svikter mennesker over hele verden – uavhengig av språk og region. Og de tjener attpåtil penger på dette sviket.
EN FARLIG MEGAFONFormålet med de oppdiktede annonsene som ble brukt i denne undersøkelsen, var å teste Metas systemer og sette søkelyset på selskapets mangler. Alle var imidlertid basert på gjenkjennelige mønstre for hatefulle ytringer, feilinformasjon og skadelig innhold som sirkulerer i Norge, og de viser tydelig at sosiale medieplattformer kan bidra til å forsterke eksisterende ekstremistiske strømninger.
Vi har allerede sett de alvorlige konsekvensene av dette systemet utvikle seg globalt – fra spredningen av vold og nedbrytning av tillit i valgprosesser til rask vekst og radikalisering av ekstremistiske bevegelser, som incelbevegelsen. 17 En rapport fra Amnesty International forrige måned konkluderte med at Metas algoritmer og hensynsløse jakt etter profitt i stor grad hadde bidratt til grusomhetene som ble begått mot rohingyaene av militæret i Myanmar i 2017.18 Omfattende feilinformasjon i sosiale medier spilte en avgjørende rolle i stormingen av Kongressen i USA 6. januar. 19 Koordinerte, sofistikerte feilinformasjonskam panjer spilte en viktig rolle i valget på Filippinene da Marcos-familien gjenvant makten,20 og har blitt brukt i forsøk på å undergrave integriteten til det brasilianske valget.21
Europeiske land må ikke anta at slike trender ikke er deres problem. Én studie som ble gjen nomført for Europakommisjonen i 2021, og en annen som ble gjennomført for Europaparla mentet i 2020, viser at det har vært en stabil økning i hatefulle ytringer og hatkriminalitet i de senere årene i hele EU, og at denne økningen blant annet er knyttet til oppfatninger av økt migrasjon, økonomiske vanskeligheter og en vekst i bruken av sosiale medier.22 De gode
En åpen dør til hat: Meta godkjenner annonser med ekstreme og hatefulle ytringer valgresultatene for høyreekstreme partier den senere tid i Sverige og Italia tyder på at det er gode kår for hatefulle ytringer rettet mot innvandrere og minoritetsgrupper.
Også i Norge florerer hatefulle ytringer på nettet som har hatt forferdelige konsekvenser, også utenfor landets grenser. Anders Behring Breiviks manifest fra 2011 har inspirert hatkriminalitet, blant annet Philip Manshaus’ handlinger i Norge i 2019, 23 men også drapene på 51 mennesker i New Zealand samme år.24 I Norge har en tredjedel av de overlevende ofrene etter Behring Breiviks terrorangrep i 2011 blitt utsatt for hatefulle ytringer eller trusler. 25 Én av fire nordmenn under 20 år har opplevd hatefulle ytringer på nettet, 26 og over halvparten av landets politikere har blitt truet – opp fra 35 prosent i 2013.27
Det blir også stadig klarere at regjeringer andre steder ikke har lyktes med å beskytte de yngste samfunnsmedlemmene mot effektene av algoritmedrevne skader. I Storbritannia viste etterforskningen av det tragiske dødsfallet til Molly Russell, en 14 år gammel jente som hadde blitt bombardert med selvskadings- og selvmordsinnhold på nettet, at sosiale medier hadde bidratt «mer enn minimalt» til dødsfallet.28 Til tross for at det finnes noe oppstykket lovgivning som skal beskytte mindreårige, vil måten internett fungerer på gjøre det praktisk talt umulig å verne barn mot skadelig innhold dersom resten av systemet er travelt opptatt med å spre det. Bare systematisk reform som griper fatt i de underliggende incentivene til, og utformingen av, de sosiale medieplattformene, vil gi barna tilstrekkelig beskyttelse.
Planen for å rydde opp i rotet
Til tross for at det finnes et vell av bevis på systematiske feil og reelle skader over en rekke år, har ikke Meta evnet å iverksette vesentlig korrigerende tiltak. Det er et klart behov for lovgivning for å håndtere trusselen som de store teknologiplattformene utgjør for mennesker og samfunnet. Med tanke på viktige forestående valg, de liberale demokra tienes tilbakegang globalt29 og gjenoppblomstringen av høyreekstreme partier, er dette arbeidet mer presserende enn noensinne.
EUs forordning om digitale tjenester (Digital Services Act) markerer en milepæl i så måte. Den viser at lovgivere kan komme sammen og stille store teknologiselskaper til ansvar, og må nå grundig implementeres og håndheves. Men dette regelverket har betydelige hull og er bare starten på den nødvendige lovgivende reisen. Heldigvis finnes det oppmuntrende tegn som viser at det er vilje til handling. I USA har for eksempel Federal Trade Commis sion, det føderale organet for forbrukervern, sagt at de prioriterer kommersiell overvåking og er klare til å slå ned på digital reklame rettet mot barn. Men over hele verden trengs det mer handling for å hanskes med forretningsmodellen som fremmer den algoritmedrevne forsterkningen av hatefulle ytringer, feilinformasjon og annet skadelig innhold, inkludert et forbud mot overvåkingsbasert markedsføring.
På Nobels Fredssenter i Oslo presenterte nobelprisvinnerne Maria Ressa og Dmitrij Muratov i september i år en ti-punkts handlingsplan for å håndtere den globale informasjonskrisen. 30 Planen, som ti andre nobelprisvinnere og over hundre eksperter og organisas joner verden rundt har sluttet seg til, viser på en overbevisende måte hvordan en teknolo gireform kan lede oss bort fra stupet og skape et globalt ordskifte der menneskerettigheter settes foran profitt. En av utfordringene ifølge planen er å få en slutt på forretningsmo dellen som skaper profitt gjennom overvåking. Styresmakter bør umiddelbart gå i gang med å gjennomføre anbefalingene i planen.
Dette er ikke bare en oppgave for de mektigste landene. Siden teknologiplattformene opererer globalt, er det enklere for dem å gjøre endringer overalt når de først blir tvunget til å gjøre endringer ett sted. Det betyr at små land kan ha en svært stor innvirkning. Da Storbritannia vedtok aldersbestemte designstandarder (Age Appropriate Design Code), gjennomførte plattformer, inkludert Instagram og YouTube, globale tiltak for å beskytte opplysninger om barn. 31 I Norge er et lovforslag om å styrke personvernet på nettet, inklu
En åpen dør til hat: Meta godkjenner annonser med ekstreme og hatefulle ytringer dert et forbud mot overvåkingsbasert markedsføring og etableringen av et algoritmetilsyn, under vurdering, og her har landet en mulighet til å gjøre avgjørende fremskritt. Dersom dette kunne bidra til å tøyle de globale teknologigigantenes urettferdige og farlige forret ningsmodell, ville det være et stort gode – ikke bare for norske innbyggere, men for resten av menneskeheten.
VI ANMODER NORGE OM
• å stemme ja til forslagene for å styrke personvernet, blant annet dem som går ut på å utrede et forbud mot overvåkingsbasert markedsføring og etablere et eget algoritmetilsyn
VI ANMODER ALLE REGJERINGER SOM RESPEKTERER MENNESKERETTIGHETENE, OM
• å umiddelbart foreslå lovgivning som forbyr overvåkingsbasert markedsføring i en erkjen nelse av at denne praksisen er grunnleggende uforenlig med menneskerettighetene
• å beskytte innbyggernes rett til personvern med robust personvernlovgivning
• å kreve at teknologiselskapene gjennomfører og offentliggjør uavhengige vurderinger av konsekvensene for menneskerettigheter, og å be om innsyn i alle aspekter ved virk somheten deres – fra moderering av innhold og effekter av algoritmene til behandling av personopplysninger og retningslinjer om integritet
• å ikke gjøre spesielle unntak for organisasjoner eller individer i ny teknologi- eller medielovgivning, da det vil gi regjeringer og ikke-statlige aktører som produserer feilin formasjon i stor skala, fritt spillerom
VI ANMODER META OM
• å styrke systemene for å moderere innhold, blant annet ved å engasjere flere innholds moderatorer som har tilstrekkelig forståelse av den lokale politiske konteksten, og å gi dem rettferdig betaling og anstendige arbeidsvilkår
• å utvide og forbedre verifiseringen av annonsekontoer, slik at de mer effektivt kan filtrere bort kontoer som legger ut hatefulle ytringer og feilinformasjon
• å vurdere, redusere og publisere risikoen som plattformene deres utgjør for mennes kerettighetene i land der de driver virksomhet
• å publisere informasjon om tiltakene de har iverksatt i hvert land og på hvert språk, for å sikre at de følger sine egne retningslinjer
• å øke gjennomsiktigheten ved å oppgi fullstendig informasjon om alle annonser i Metas
En åpen dør til hat: Meta godkjenner annonser med ekstreme og hatefulle ytringer annonsebibliotek, inkludert tilsiktet målgruppe, faktisk målgruppe, annonseutgifter og annonsekjøperen
• å la revisorer fra en verifisert uavhengig tredjepart kontrollere om selskapet gjør som de sier, og sikre at de kan holdes ansvarlig
MERKNADER
På grunn av det svært kontroversielle og opprørende innholdet i annonsene gjengir vi ikke tekstene i sin helhet i denne rapporten. Hvis du vil se den fullstendige teksten i annonsene, kan du kontakte oss på disinfo@sumofus.org.
Endnotes
1 Én annonse, som markedsførte konverteringsterapi og var rettet mot tenåringsgutter, kan muligens sies å befinne seg i en gråsone. Selv om annonsen bryter med Metas Facebook-stan darder, hører den relevante standarden hjemme i en del av retningslinjene der Meta «krever ytterligere informasjon eller kontekst for å håndheve» innholdet. Det faktum at Meta god kjente denne annonsen er imidlertid talende, særlig siden den aktuelle annonsen var rettet mot barn.
2 Meta transparency center, Hate speech https://transparency. fb.com/en-gb/policies/community-standards/hate-speech/
3 Facebook’s advertising policies https://www.facebook.com/ business/help/488043719226449?id=434838534925385
4 «Stop the Steal 2.0 – How Meta is subverting Brazilian democra cy», SumOfUs, September 5, 2022 https://s3.amazonaws.com/ s3.sumofus.org/pdf/SoU_BrazilElections.pdf
5 «Facebook approves adverts containing hate speech inciting violence and genocide against the Rohingya», March 20, 2022, https://www.globalwitness.org/en/campaigns/digital-threats/ rohingya-facebook-hate-speech/
6 «Facebook approves ads calling for ethnic violence in the lead up to a tense Kenyan election», Global Witness, June 28, 2022 https://www.globalwitness.org/en/press-releases/facebook-ap proves-ads-calling-ethnic-violence-lead-tense-kenyan-election/
7 «’Now is the time to kill’: Facebook continues to approve hate speech inciting violence and genocide during civil war in Ethio pia», Global Witness, June 9, 2022 https://www.globalwitness. org/en/campaigns/digital-threats/ethiopia-hate-speech/
8 «Facebook fails to tackle election disinformation ads ahead of tense Brazilian election», Global Witness, August 15, 2022 https://www.globalwitness.org/en/campaigns/digi tal-threats/facebook-fails-tackle-election-disinforma tion-ads-ahead-tense-brazilian-election/
9 “TikTok and Facebook fail to detect election disinformation in the US, while YouTube succeeds”, Global Witness, October 21, 2022 https://www.globalwitness.org/en/campaigns/digital-thre ats/tiktok-and-facebook-fail-detect-election-disinformation-uswhile-youtube-succeeds/
10 «Pills, Cocktails, and Anorexia: Facebook Allows Harmful Ads to Target Teens», Tech Transparency Project, May 4, 2021 https:// www.techtransparencyproject.org/articles/pills-cocktails-andanorexia-facebook-allows-harmful-ads-target-teens
11 «Facebook Knows Instagram Is Toxic for Teen Girls, Company Documents Show», Wall Street Journal, September 14, 2021 https://www.wsj.com/articles/facebook-knows-instagram-is-to xic-for-teen-girls-company-documents-show-11631620739
12 Sitatet er oversatt fra sin engelske originalversjon, avgitt 25.10.22
13 «Representantforslag om bedre personvern på sosiale medier», Stortinget, https://www.stortinget.no/no/Saker-og-publikas joner/Publikasjoner/Representantforslag/2021-2022/dok8202122-167s/?all=true
14 «Nordic and Canadian ministers join forces to combat harmful content online», norden.org, https://www.norden.org/en/news/ nordic-and-canadian-ministers-join-forces-combat-harmful-con tent-online
15 Nordic and Canadian ministers join forces to combat harmful content online (norden.org)
16 For example, see «Facebook exec on moderating hate speech outside the US: ‘Language is a challenge» Yahoo Finance, October 6, 2021; and «https://finance.yahoo.com/news/facebookexec-on-moderating-hate-speech-outside-of-us-language-a-chal lenge-160356598.html
17 See for example «The Incelosphere: exposing pathways into incel communities and the harms they pose to women and children», Center for Countering Digital Hate, September 23, 2022 https:// counterhate.com/wp-content/uploads/2022/09/CCDH-The-Ince losphere.pdf
18 «MYANMAR: FACEBOOK’S SYSTEMS PROMOTED VIOLENCE AGAINST ROHINGYA; META OWES REPARATIONS», Amnesty International, September 29, 2022 https://www.amnesty.org/en/ latest/news/2022/09/myanmar-facebooks-systems-promotedviolence-against-rohingya-meta-owes-reparations-new-report/
19 «Inside Facebook, Jan. 6 violence fueled anger, regret over missed warning signs.» The Washington Post, October 22, 2021
20 «In the Philippines, a Flourishing Ecosystem for Political Lies», New York Times, May 6, 2022 https://www.nytimes. com/2022/05/06/business/philippines-election-disinformation. html
21 «Stop the Steal 2.0 – how Meta is subverting Brazilian democra cy, SumOfUs, September 5, 2022 https://s3.amazonaws.com/ s3.sumofus.org/pdf/SoU_BrazilElections.pdf
22 «Combating hate speech and hate crime in the EU», European Parliamentary Research Service, June 8, 2022 https://epthink tank.eu/2022/06/08/combating-hate-speech-and-hate-crime-inthe-eu/
23 «Manshaus søkte på Anders Behring Breivik og terroran grep», VG, May 14, 2020 https://www.vg.no/nyheter/innen riks/i/4qPebG/manshaus-soekte-paa-anders-behring-breivik-ogterrorangrep
24 «The Dark Web Enabled the Christchurch Killer», Foreign Policy, March 16, 2019https://foreignpolicy.com/2019/03/16/the-darkweb-enabled-the-christchurch-killer-extreme-right-terrorism-whi te-nationalism-anders-breivik/
25 «Forskningsresultater», NKVTS, https://www.nkvts.no/utoya/ utoya-forskningsresultater/
26 «Én av fire unge har opplevd hatprat på nett», aftenposten.no, February 8, 2022 https://www.aftenposten.no/norge/i/Or1l4b/ en-av-fire-unge-har-opplevd-hatprat-paa-nett
27 «Podkast: 10 år etter 22. juli: Økt hets mot politikere hemmer rekrutteringen», Universitetet i Oslo (uio.no), https://www.uio.no/ om/aktuelt/universitetsplassen/nyheter/2021/10-ar-etter-22-juli/ podkast--22.-juli-10-ar-etter--politikerhets.html
28 «Molly Russell inquest: Father makes social media plea», BBC, September 30, 2022 https://www.bbc.co.uk/news/uk-englandlondon-63073489
En åpen dør til hat: Meta godkjenner annonser med ekstreme og hatefulle ytringerEndnotes
29 «Autocratization Turns Viral, DEMOCRACY REPORT 2021», V-Dem Institute, University of Gothenburg, March 2021 https:// www.v-dem.net/static/website/files/dr/dr_2021.pdf
30 «A 10-point plan to address our information crisis», September 2, 2022 https://peoplevsbig.tech/10-point-plan
31 «TechScape: How the UK forced global shift in child safety poli cies», The Guardian, August 18, 2021 https://www.theguardian. com/technology/2021/aug/18/uk-governments-child-safety-re gulation-leads-to-global-policy-shifts
En åpen dør til hat: Meta godkjenner annonser med ekstreme og hatefulle ytringer