‘The Facebook Files’: hoe Facebook online de haat laat woekeren

Drugskartels gebruiken Facebook om huurmoordenaars te rekruteren. Instagram doet jonge gebruikers vaker aan zelfmoord denken. Facebook wordt graag gebruikt door mensensmokkelaars. Het bedrijf weet dat allemaal, en doet er nauwelijks iets aan. Voormalig Facebook-medewerker en klokkenluider Frances Haugen, die op vandaag voor de Amerikaanse Senaat getuigt, spreekt over een haatmachine die niemand nog onder controle heeft.

Het is vroeg in de ochtend op een geheime locatie aan de Amerikaanse Oostkust. De meest gezochte persoon van Silicon Valley heeft zonet plaatsgenomen op een grote, grijze sofa. Haar naam is Frances Haugen, ze is 37 jaar oud. Ze heeft een hoofdtelefoon met zilveren oortjes over haar blonde haar. Ze spreekt snel. Nu en dan maakt ze weidse handgebaren.

Twee jaar lang werkte Haugen op het hoofdkantoor van Facebook, aan San Francisco Bay. Begin dit jaar besloot ze een stap te zetten die haar leven voorgoed zou veranderen. Ze werd een klokkenluider, die de misstanden bij Facebook aan het licht zou brengen om verandering af te dwingen. In mei stopte ze bij Facebook, het sociale netwerk dat tegenwoordig zo’n drie miljard gebruikers heeft. Frances Haugen is niet de eerste klokkenluider bij Facebook. Maar in tegenstelling tot anderen heeft ze bewijzen: tienduizenden pagina’s dossiers, documenten en bewijsmateriaal tegen het bedrijf en zijn leiding. Dat materiaal geeft een ongeziene inkijk in wat velen tot nu toe enkel vermoedden. Haugen vat het als volgt samen: Facebook brengt de samenleving en de democratie in gevaar.

Het bedrijf en zijn oprichter Mark Zuckerberg krijgen al jaren kritiek te verduren op de manier waarop Facebook, Instagram en Whatsapp functioneren. Die programma’s worden verantwoordelijk gehouden voor zowat alles wat er online verkeerd loopt: digitale verslaving, persoonlijkheidsstoornissen, de erosie van het politieke discours, de verspreiding van haat en leugens, en de ontwikkeling van een surveillancekapitalisme dat mensen opsplitst in datasets om ze allerlei snuisterijen te verkopen. In veel landen, zoals Sri Lanka, Mexico en Ethiopië, heeft opruiing via sociale media geleid tot geweld, en in Myanmar zelfs tot genocide. Uit de documenten blijkt dat Facebook daar maar al te goed van op de hoogte is. De platforms van de groep zijn niet de reden, maar vaak wel de versterker van dergelijke verschijnselen.

Frances Haugen zegt dat ze niet zo van publiciteit houdt. Lange tijd overwoog ze anoniem te blijven, de documenten voor zichzelf te laten spreken en slechts een kleine groep journalisten, bijvoorbeeld van The Wall Street Journal en Süddeutsche Zeitung, in vertrouwen te nemen. ‘Ik post niet eens op sociale media’, zegt Haugen. ‘Ik hou niet van aandacht. Ik kom uit het Midwesten.’ Sinds afgelopen zondag, toen ze een interview gaf aan het nieuwsprogramma 60 Minutes, kent de wereld haar identiteit. Iedereen weet nu dat ze afkomstig is uit Iowa en bij Facebook werkte op de afdeling Civic Integrity, een soort digitale schoonmaakploeg die ervoor moest zorgen dat opruiing, haat en criminele activiteiten op de platforms van Facebook werden voorkomen. Na de Amerikaanse verkiezingen van vorig jaar werd de afdeling opgegeven.

Haugen zal op dinsdag getuigen voor de Subcommissie Consumentenbescherming, Productveiligheid en Gegevensbeveiliging van de Amerikaanse Senaat. Ze is met haar documenten ook naar de Amerikaanse Securities and Exchange Commission (SEC) gegaan, die op Wall Street en in Silicon Valley even gevreesd is als de FBI in de achterkamertjes van de maffia. Ze heeft acht klachten ingediend. Ze wil echt dat er iets verandert.

Wetenschappelijke precisie

Wie de documenten leest die Haugen meenam uit het Facebookhoofdkwartier, de interne studies, de presentaties van conferenties en de chats, staat versteld van de nauwgezetheid waarmee Facebook zijn problemen bestudeert. Er wordt uitvoerig besproken hoe moeilijk moderatoren berichten uit onrusthaarden als Syrië of Jemen kunnen controleren, omdat ze alleen Marokkaans Arabisch spreken. Er valt te lezen dat Facebook weet dat Mexicaanse drugskartels via zijn platform op zoek gaat naar huurmoordenaars, en dat moderne mensenhandelaars in het Midden-Oosten hun ‘koopwaar’ aanbieden.

Met een ongeziene wetenschappelijke precisie heeft Facebook onderzoek gedaan naar de psychologische effecten van tieners die zichzelf de klok rond vergelijken met de digitaal opgesmukte ideaalbeelden op Instagram. Het maakt bijna niet uit of het leeftijdsgenoten zijn die zichzelf met beeldfilters tot popsterren maken of popsterren die op Instagram doen alsof ze normale mensen zijn. ‘We maken lichaamsbeeldproblemen erger voor een op de drie tienermeisjes’, valt te lezen in een interne memo. ‘Tieners schrijven de toename van angst en depressie toe aan Instagram’, stelt een interne presentatie uit 2019. 13 procent van de ondervraagde tienermeisjes in het Verenigd Koninkrijk zou zeggen dat zelfmoordgedachten zijn verergerd door Instagram.

Ondertussen blijft het bedrijf van record naar record snellen op de aandelenmarkt. In juni werd de waarde van Facebook op 1000 miljard dollar geschat.

Is ze niet bang om met zo’n wereldmacht de strijd aan te binden? Frances Haugen aarzelt even, kijkt naar het plafond, haalt haar schouders op. ‘Yeah‘, zegt ze met haar gemoedelijke plattelandsaccent. ‘Ik ben zeker bang dat Facebook me zal aanklagen. Maar ik hoop dat de SEC me de status van klokkenluider toekent, zodat erkend wordt dat ik dit niet met kwade bedoelingen heb gedaan.’

Haugen heeft er al een succesvolle carrière opzitten. Na haar studie aan het Olin College of Engineering in Boston ging ze op haar 21e voor Google werken. Vervolgens werkte ze voor Pinterest, Yelp en voor een start-up. Tussendoor behaalde ze een diploma aan de Harvard Business School. Toen werd ze benaderd door een recruiter van Facebook.

Ze aarzelde. Lang. Facebook heeft een beruchte slechte reputatie onder techneuten. De geheimhouding van het bedrijfsmanagement. Het gebrek aan consequente wil om te veranderen. Het gesjacher met Donald Trump. Dat is ook een reden waarom het bedrijf zo moeilijk mensen kan vinden. ‘Ik heb ermee geworsteld’, zegt ze. Ze zegt dat ze aanvankelijk de hoop had om iets ten goede te veranderen binnen het bedrijf. ‘Ik heb zelf meegemaakt wat verkeerde informatie en agitatie kunnen doen’, zegt ze. Ze vertelt dat een zeer goede vriend van haar radicaliseerde via sociale media. ‘Ik zag hem volledig ontsporen door dingen die hij las op 4chan en Reddit. Hij discussieerde met me over George Soros, die de wereldeconomie zou controleren.’ Toen de recruiter van Facebook haar verzekerde dat ze zou helpen om verkeerde informatie en haat binnen het bedrijf te beteugelen, besloot ze de sprong te wagen.

Belangenconflict

Toen Frances Haugen in juni 2019 bij Facebook begon te werken, was de stemming onder haar collega’s ‘bijna onwerkelijk’. ‘Toen ik door de kantoren van Civic Integrity liep, kon ik voelen hoe opgebrand en getraumatiseerd de mensen daar waren’, zegt ze. ‘Dat komt omdat ze constant het gevoel hadden in een afgrond te kijken. Maar ook door de frustratie dat er ondanks al het werk weinig verandert.’

Door het algoritme te veranderen, slaagde haar team er een keer in om desinformatie op Facebook in één kwartaal met bijna een derde te verminderen. Maar dan realiseerden ze zich dat de desinformatie al snel weer toenam. Iemand had op hetzelfde moment met het algoritme geknoeid. De twee afdelingen wisten niet wat de ander deed. ‘Onze kleinschalige veranderingen werden tenietgedaan door maatregelen die uitsluitend bedoeld waren om het platform te laten groeien’, zegt Haugen. ‘Onze inspanningen deden er gewoon niet toe.’ Door die aanpassing was het desinformatieprobleem gewoon groter geworden. Ze vertelt dat haar bazen dat niet erg leken te vinden. ‘Het was zó gek.’ Gevraagd naar een reactie laat Facebook weten dat het zich niet in haar relaas herkent. ‘We zijn het niet eens met de veronderstelling dat we geen vooruitgang hebben geboekt als het op haatzaaien aankomt. Het verwijderen van haatdragende uitlatingen is op Facebook en Instagram met een factor 15 toegenomen sinds we zijn begonnen met het op te sporen.’

Frances Haugen kan urenlang beschrijven hoe Facebook binnenin werkt. Ze heeft nummers. Ze heeft documenten. Ze heeft ervaring. Keer op keer benadrukt ze dat het allemaal geen kwaad opzet is vanwege Facebook, en dat er te weinig personeel is. Dat leidt tot een permanente toestand van overwerk en problemen die niet opgelost worden. ‘Een bedrijf dat jaarlijks bijna 30 miljard dollar winst maakt, zou 600 mensen aan een gevoelig probleem moeten laten werken in plaats van zes’, aldus Haugen.

Een woordvoerder van Facebook ontkent die beschuldiging: ‘Er werken vandaag 40.000 mensen aan beveiliging. We hebben sinds 2016 meer dan 13 miljard dollar geïnvesteerd in teams en technologieën. Er zijn meer dan 15.000 content reviewers, die de klok rond content beoordelen in meer dan 50 talen op meer dan 20 locaties wereldwijd.’

Frances Haugen benadrukt echter dat het bedrijf voortdurend in een belangenconflict verkeert tussen de openbare veiligheid en zijn eigen winst. Bij het oplossen van die conflicten kiest Facebook altijd voor de eigen winst. Toch zijn er veel eenvoudige oplossingen die ervoor zouden zorgen dat bepaalde gevaarlijke inhoud ‘iets minder viraal’ gaat, stelt ze. Het zijn maatregelen die ook in interne documenten nauwkeurig worden onderzocht. Zo zou Facebook bij een bepaalde inhoud zelfs een waarschuwing kunnen meegeven wanneer zijn moderatoren concluderen dat het problematisch zou kunnen zijn. Er zou ook een reshare limit kunnen komen, een geautomatiseerde limiet op hoe vaak inhoud met anderen kan worden gedeeld. Op Whatsapp kan een bericht sinds april 2020 slechts naar vijf andere gebruikers doorgestuurd worden. Op die manier kunnen berichten zich niet exponentieel verspreiden. ‘Maar dat gaat ten koste van de groei, en daarom worden dergelijke oplossingen niet consequent toegepast’, aldus Haugen.

Voorkeursbehandeling

Facebook vertelt een heel ander verhaal. Gealarmeerd door berichten dat Haugen de publiciteit zocht, stuurde de groep in het weekend een bericht aan alle werknemers. ‘We moeten ons hoofd hoog blijven houden. Jij en je teams doen ongelooflijk werk. Onze instrumenten en producten hebben een enorm positief effect op de wereld en het leven van mensen. Je hebt alle reden om trots te zijn op dat werk.’ De andere verklaringen in de e-mail zijn vergelijkbaar met degene die het bedrijf ook aan Süddeutsche Zeitung bezorgde. ‘Facebook is zich bewust van de grote verantwoordelijkheid.’ Volgens Facebook zijn de documenten van de klokkenluider ofwel overgeïnterpreteerd, uit hun context gehaald, of niet meer in overeenstemming met de huidige stand van zaken.

Frances Haugen kent deze argumenten. Ongeveer 84 procent van het budget voor alles wat bij Facebook onder de noemer beveiliging valt, gaat naar maatregelen die Amerikaanse gebruikers beschermen. Haatzaaiende taal en desinformatie worden opgespoord, gestopt en verwijderd. Slechts 16 procent van de begroting gaat naar de rest van de wereld. Facebook betwist die cijfers. Maar een bord uit een interne presentatie laat zien dat landen eenmaal per jaar op een ranglijst gezet worden van probleemgebieden die speciale aandacht vergen. Er zijn drie niveaus. Op niveau 1 – het slechtste niveau – staan voor 2021 tien landen, waaronder India, Jemen en Myanmar. Het zijn landen in oorlog, of landen waar oorlog dreigt. Op niveau 2 staan landen als Duitsland, Mexico, Iran en Kameroen, vermoedelijk vanwege de verkiezingen die er dit jaar plaatsvonden.

Wat de rangschikking betekent voor de andere landen is moeilijk te zeggen. Uit een intern onderzoek van januari 2021 blijkt dat bijvoorbeeld in Afghanistan het melden van haatdragende taal voor velen niet mogelijk is in hun eigen taal. Het proces om een klacht in te dienen is ‘gebrekkig’, terwijl het een ‘minimumvereiste’ hoort te zijn dat ‘het systeem soepel functioneert wat vertalingen betreft’, aldus de studie. ‘Hoewel haatzaaien consequent wordt gerangschikt als een van de belangrijkste categorieën van misbruik op de Afghaanse markt, is het vervolgingspercentage voor haatzaaien slechts 0,23 procent.’

De onderzoeken worden nog preciezer als het over Amerika gaat. Eind mei 2020 schreef de toenmalige Amerikaanse president Donald Trump het beruchte bericht ‘When the looting starts, the shooting starts‘ (‘Als het plunderen begint, begint het schieten’). Dat bericht was een bedreiging aan het adres van de Black Lives Matter-demonstranten die na de dood van George Floyd de straat op waren gegaan, en werd door de algoritmen van Facebook aangemerkt als haatzaaiend.

‘Onze algoritmes waren er bijna 90 procent zeker van dat deze post in strijd was met Facebooks regel tegen het aanzetten tot geweld’, aldus een intern onderzoek van Facebook. Voor normale gebruikers zou de inhoud verwijderd zijn. Facebook heeft echter X-Check, een speciaal programma dat garandeert dat gebruikers die een bijzonder groot bereik genereren meer speelruimte hebben om de regels te overtreden.

Deze speciale behandeling, vooral door Donald Trump, leidde tot veel woede onder de Facebookmedewerkers. Dat nam nog aanzienlijk toe, vooral na de bestorming van het Capitool op 6 januari 2021, aldus Haugen. Werknemers hadden het gevoel dat het bedrijf waarvoor zij werken – en bij uitbreiding zijzelf – medeplichtig waren aan het feit dat Trumpaanhangers en rechtsradicalen het parlement bestormden en probeerden parlementsleden te vermoorden. Zuckerberg merkte op het intranet van Facebook op dat dit een ‘donker moment’ was in de Amerikaanse geschiedenis.

Die verklaring wekte verontwaardiging onder het personeel. ‘Met alle respect, maar Facebook had lang genoeg olie op het vuur gegooid en moest niet verbaasd zijn dat het uit de hand was gelopen’, schreef een medewerker online. Een ander schreef dat het lagere niveau zijn steentje had bijgedragen, verbeteringen had voorgesteld, maar was ‘afgeschoten’ door de leiding. ‘Ik ben gekomen in de hoop veranderingen teweeg te brengen en de samenleving te verbeteren’, zegt een ander personeelslid. Personeelsleden verklaren dat ze genoeg hebben van ’thoughts and prayers’, de standaardreactie in Amerika wanneer er iets gruwelijk misgaat.

Tovenaarsleerlingen

De lijst van beschuldigingen en aantijgingen die de personeelsleden onder elkaar bespreken is lang. Haugen vergelijkt de reactie van Facebook-managers in dergelijke discussies met de tabaksindustrie in de jaren 1960. Ook zij wisten dat hun producten schadelijk waren. Maar ze bleven het wel ontkennen.

De hoorzitting van dinsdag is een van de belangrijkste momenten in haar leven. ‘We hebben maar één kans om een verschil te maken’, zegt ze. Facebook zal er zeker voor zorgen dat zo’n datalek nooit meer gebeurt. En dan zegt ze: ‘Ik ben er echt zeer voor beducht om Facebook niet te demoniseren. Het voelt zich nu al opgejaagd, en mensen veranderen zelden hun gedrag als je ze vertelt dat ze slecht zijn. We moeten ingrijpen. Er moet een interventie komen. Dat doe je enkel als je iemand echt leuk vindt.”

Ondanks alles verklaart Haugen nog steeds te geloven in het goede van mensen. Die indruk wordt bevestigd in de documenten. Facebook is niet de Death Star uit Star Wars, en Mark Zuckerberg is geen booswicht. In de documenten lijken de Facebookleiders eerder een stel programmeurs die als tovenaarsleerlingen verstrikt zijn geraakt tussen de mallemolen van de wereldgeschiedenis en de aandelenmarkt, en een boosaardige machine hebben gebouwd die ze niet meer onder controle hebben.

Daarom wil Frances Haugen samenwerken met regeringsregulatoren en wetgevers. ‘Zolang we het kader niet veranderen, zal Facebook niet veranderen’, zegt ze. Het bedrijf volgt nog altijd zijn eigen wetten, die bepaald worden door het streven naar vooruitgang, groei en winst. ‘We moeten Facebook mechanismen geven om het te dwingen zijn gedrag te veranderen’, zegt ze. ‘Want zolang de prikkels voor Facebook dezelfde blijven, zal er intern niets veranderen.’

Ze lacht wanneer ze afscheid neemt. Ze weet dat dit voorlopig een van de laatste rustige dagen in haar leven is. Of de geschiedenis aan haar kant zal staan, valt nog te bezien.

De politiek lijkt alvast haar kant te kiezen. Tijdens een van de eerste hoorzittingen van de Senaat na de onthullingen van The Wall Street Journal op 21 september haalde de Republikeinse senator Mike Lee scherp uit naar Steve Satterfield, het vicehoofd beveiliging van Facebook: ‘Wat gebeurt er met de Facebook-medewerkers die betrokken waren bij het verstrekken van de uitgelekte documenten? Zullen er vergeldingsmaatregelen genomen worden?’ Satterfield probeerde de vraag te ontwijken, maar Lee liet niet af. ‘Belooft u dat Facebook geen wraak zal nemen?’ Uiteindelijk knikte de Facebook-manager en zei: ‘Ja, meneer de senator. Ik ben bereid me daarvoor in te zetten.’

Dit artikel verscheen oorspronkelijk in Süddeutsche Zeitung.

Tekst: Lena Kampf, Andrian Kreye en Georg Mascolo

Vertaald en bewerkt door Jeroen Zuallaert