Van abortuspillen tot zichtbare anussen: moderatie op sociale media leidt tot frustratie
Bij de eedaflegging van Donald Trump zaten de topmannen van de grootste Amerikaanse technologiebedrijven op de eerste rij. Vrees voor Big Tech-invloed leidt tot een opflakkering van misverstanden over moderatie op sociale media.
Kort na de eedaflegging van Donald Trump was er ophef bij heel wat gebruikers van Instagram: plotseling bleken honderdduizenden mensen, in tegenstelling tot vroeger, het profiel van Trump of dat van zijn vicepresident J.D. Vance te volgen.
Velen beschouwden het als stiekem gesjoemel door Meta-topman Mark Zuckerberg, die zich in de aanloop naar de nieuwe ambtstermijn van Trump opvallend had uitgesloofd om bij de nieuwe Trump-regering in het gevlij te komen.
Maar de verklaring voor de ervaringen van Instagram-gebruikers was veel banaler: profielen zoals @POTUS (‘President of the United States’) en @VP (‘Vice President’) schakelen bij een regeringswissel automatisch over naar de identiteit van de nieuwe bekleders van die ambten. Wie dus in het verleden Kamala Harris volgde op het @VP-profiel, zag daar vanaf nu inderdaad automatisch de naam en berichten van J.D. Vance staan. Van een complot om Republikeinse politici te promoten is – alvast in dit geval – geen sprake.
Anussen
Het voorval is tekenend voor het wijdverspreide onbegrip over een van de slechtst begrepen fenomenen op sociale media: gebruiksvoorwaarden en moderatie. Iedereen die een profiel aanmaakt op Facebook, X, of een ander sociaal medium zal sowieso moeten instemmen met de gebruiksvoorwaarden van het platform.
Nu Meta stopt met factchecking: kan Europa een vuist maken tegen Mark Zuckerberg?
Moderatie is, eenvoudig gezegd, de manier waarop sociale media berichten van hun gebruikers toetsen aan hun eigen regels. De ‘Richtlijnen voor de community’ van Meta zijn, bijvoorbeeld, een ellenlang document met honderden richtlijnen over onderwerpen als fraude, aanzetten tot geweld, seksueel getinte inhoud, pesten en intimidatie, haatdragend gedrag, privacyschendingen en andere gevoelige onderwerpen.
De gedetailleerde voorschriften bevatten vaak tegelijkertijd allerlei uitzonderingen op de regels, zoals een verbod op ‘zichtbare anussen en/of volledig naakte close-ups van billen, behalve wanneer gelabeld met een waarschuwingsscherm voor gevoelige informatie in een medische context of gezondheidscontext of wanneer gemonteerd op een bekende persoon’.
Helaas: zo goed als niemand leest die gebruiksvoorwaarden. Bovendien gebeuren er ook regelmatig fouten bij de manier waarop de regels door de socialemediabedrijven toegepast worden. Moderatie gebeurt deels door ‘menselijke’ moderatoren: personeelsleden, meestal onderaannemers, die ingehuurd worden om gerapporteerde inbreuken te monitoren en inhoud die tegen de Meta-regels ingaat te verwijderen. Dat gaat van naaktfoto’s en racistische uitspraken tot gruwelijke beelden van kindermisbruik en livestreams van terroristische aanslagen.
Onvermijdelijk worden daarbij fouten gemaakt – missen is menselijk – en raken soms onschuldige berichten onterecht ‘gecensureerd’. Moderatie is nu eenmaal geen eenvoudige job, zeker niet op een sociaal netwerk met miljarden gebruikers. De voorbije jaren doken al verschillende exposés en zelfs rechtszaken op van menselijke moderatoren die posttraumatische stoornissen opliepen door de extreme inhoud van hun werk.
Een groot deel van de moderatie gebeurt dan ook niet door mensen, maar door algoritmische, met artificiële intelligentie aangedreven programma’s. Die worden getraind om, bijvoorbeeld, alle ‘zichtbare anussen’ op Facebook te herkennen en automatisch te verwijderen. Toen Meta recent een tekening van De Standaard-cartoonist Lectrr offline haalde – een pastiche van een nazivlag waarin de swastika vervangen was door het X-logo – was dat waarschijnlijk het gevolg van algoritmische moderatie die de cartoon met dubbele bodem verwarde met daadwerkelijke nazipropaganda.
Factcheckers
‘Fouten’ bij moderatie – het verwijderen van berichten die eigenlijk niet ingaan tegen de regels – leidt tot veel frustratie. Er hangen voor gebruikers van sociale media ook vaak ingrijpende gevolgen aan vast. Je raakt na te veel inbreuken op de gebruiksvoorwaarden soms verzeild in de befaamde ‘Facebookgevangenis’, waar je soms een week of 30 dagen lang niets op Facebook kan posten. Of je kan als gevolg van moderatiebeslissingen de mogelijkheid verliezen om advertenties te kopen.
Hoewel waakzaamheid geboden is, is niemand gebaat bij complottheorieën die voortkomen uit onbegrip over de gebruiksvoorwaarden of moderatie op sociale media.
Tegelijk groeide de misvatting dat de berichten die Facebook op basis van haar eigen gebruiksvoorwaarden verwijderde, ‘gecensureerd waren door factcheckers’ – terwijl die helemaal geen zeggenschap hebben over wat Facebook en andere platformen al dan niet toelaten of promoten. Met zijn wazige communicatie over het uitfaseren van het factcheckprogramma van Meta wakkerde Zuckerberg – bewust of onbewust – die verwarring ook verder aan.
TikTok
Is er dan niets meer aan de hand dan wat onschuldige moderatiefoutjes? Toch wel. Terwijl Zuckerberg de voorbije jaren steen en been klaagde over de ‘druk’ die vanuit de Amerikaanse regering-Biden uitgeoefend werd op zijn bedrijf, lijkt hij zich nu al op voorhand neer te leggen bij bepaalde ideologische stokpaardjes van de Republikeinse partij. De recente aanpassingen aan de Meta-gebruiksvoorwaarden over gender en migratie waren bijna een voorafspiegeling van verschillende executive orders die Trump kort nadien zou uitvaardigen, gaande van het schrappen van antidiscriminatie- en diversiteitsprogramma’s tot een statement dat er ‘maar twee genders bestaan’.
Wetstraat reageert op beslissing Mark Zuckerberg: ‘Vrij spel voor algoritmes die onze kinderen ziek maken’
Veelzeggend is ook de manier waarop TikTok omging met een recente wet die de app zou verbieden in de Verenigde Staten, tenzij moederbedrijf ByteDance haar activiteiten aan een Amerikaanse eigenaar zou verkopen. Die TikTok-ban werd nota bene in 2020 al voorgesteld door Donald Trump, maar die keerde recent zijn kar door de enorme populariteit van TikTok in de VS.
Op 18 januari, tijdens de laatste dagen van Bidens presidentschap, kreeg elke gebruiker van TikTok in de Verenigde Staten een bericht te zien dat de app niet langer gebruikt kon worden. ‘Een stunt’, volgens de regering-Biden, want die had aangekondigd sowieso geen actie te ondernemen om de TikTok-ban uit te voeren.
Een dag later hervatte TikTok haar activiteiten, met als pop-upbericht: ‘Dankzij de inspanningen van president Trump is TikTok terug in de VS!’. Een opvallend staaltje hielenlikkerij.
Boeman
Internetgebruikers die in het verleden getroffen werden door moderatiebeslissingen op sociale media – of door de banale, vaak algoritmische fouten bij dat proces – wezen vaak met een beschuldigende vinger naar ‘de overheid’, ‘de factcheckers’, of een ideologische boeman die daarvan de oorzaak zou zijn.
Het is een fenomeen dat vaker voorkwam aan de rechterzijde van het politieke spectrum. Vandaag vindt men het vooral aan linkerzijde verontrustend om te zien hoezeer Big Tech-miljardairs – voornamelijk uit zelfbehoud – het vuur uit hun sloffen lopen om het Witte Huis te paaien.
En hoewel waakzaamheid geboden is, is niemand gebaat bij complottheorieën die voortkomen uit onbegrip over de gebruiksvoorwaarden of moderatie. Misschien moeten we die saaie teksten over ‘zichtbare anussen’ toch maar eens nauwgezetter gaan lezen, en ondertussen aan de Zuckerbergs van deze wereld meer transparantie vragen over moderatiepraktijken.
Fout opgemerkt of meer nieuws? Meld het hier