Onzichtbare uitbuiting: ‘Om AI bruikbaar te maken, is er heel wat menselijke arbeid nodig’

Achter artificiële intelligentie schuilt heel wat mensenwerk. Vaak wordt het uitgevoerd door werknemers in lagelonenlanden en onder erbarmelijke arbeidsvoorwaarden. Niet alleen techbedrijven, maar ook wij profiteren daarvan. ‘De getraumatiseerde arbeiders die onze surfervaring aangenaam maken, blijven onzichtbaar’, zegt computerwetenschapper Timnit Gebru.

In de lente van 1770 stelde de 36-jarige Hongaarse uitvinder Wolfgang von Kempelen zijn magische schaakautomaat voor aan Maria Theresia van Oostenrijk. De machine bestond uit een levensgrote houten pop met een zwarte baard, grijze ogen, een rode vest en een tulband – klassieke Ottomaanse kledij. In zijn linkerhand lag een lange, fijne pijp. Zijn rechterhand rustte op een grote kast naast een schaakbord. Wie het aandurfde, kon plaatsnemen tegenover de Mechanische Turk, zoals de machine genoemd werd, en het tegen hem opnemen. Onder anderen Napoleon Bonaparte en Benjamin Franklin waagden hun kans en moesten allebei het onderspit delven.

Er werd gezegd dat de Mechanische Turk een automaton was: een machine die zelfstandig handelingen kon uitvoeren. Het complexe systeem van tandwielen en horloges aan de binnenkant van de kast moest de toeschouwer daarvan overtuigen. Maar niets was minder waar. Verborgen tussen het raderwerk zat een getalenteerde schaker van vlees en bloed die met magneten het mechanisme bediende. Het zou bijna 65 jaar duren voor de ware toedracht uit de doeken gedaan werd in een Frans magazine. De ‘magie’ bleek, net als bij goocheltrucs, gezichtsbedrog.

Ook vandaag lijken heel wat machines op eigen houtje te denken, te leren en beslissingen te nemen. De ‘magie’ die dat bij de Mechanische Turk mogelijk maakte, heet tegenwoordig artificiële intelligentie (AI). Dankzij die technologie tonen navigatieapps je op elk moment van de dag de snelste route, helpen slimme thermostaten je energie te besparen en doen streamingdiensten aanbevelingen die passen bij je persoonlijke filmsmaak. Maar net als bij de schaakautomaat is AI soms niet meer dan een rookgordijn. Achter de ‘slimme’ technologie schuilt vaak nog een leger mensen die het eigenlijke werk verrichten.

Schaduwwerk

In het noorden van Antananarivo, de hoofdstad van Madagaskar, monitort een team van 126 mensen in realtime videobeelden van ‘slimme’ bewakingscamera’s in een Franse supermarkt. Als zij iets verdachts opmerken, sturen ze de veiligheidsagent in de winkel een bericht zodat hij in actie kan komen. ‘Die 126 mensen in Madagaskar vormen al jaren de zogezegde artificiële intelligentie achter de slimme camera’s’, zegt de Frans-Italiaanse socioloog Antonio Casilli tijdens een online presentatie voor de European Trade Union Institute (ETUI). ‘Het zijn mensen die naar Europese normen bijzonder weinig betaald worden.’ Soms is het goedkoper om werknemers in lagelonenlanden in te schakelen dan om artificiële intelligentie te trainen. Om goede resultaten op te leveren, moet dat systeem het onderscheid kunnen maken tussen klanten die hun telefoon in hun broekzak steken en klanten die een chocoladereep wegmoffelen. Makkelijk voor mensen, maar moeilijk voor artificiële intelligentie.

126 mensen in Madagaskar vormen al jaren de zogezegde artificiële intelligentie achter de slimme camera’s van een Franse supermarkt.

‘Om artificiële intelligentie bruikbaar te maken, is er heel wat menselijke arbeid nodig en die speelt zich grotendeels af achter de schermen’, zegt ook Stefan Lefever. Hij is technisch directeur digitale transformatie bij Imec, een onderzoekscentrum voor nano-elektronica en digitale technologie. ‘Om te begrijpen waarom, moet je weten dat artificiële intelligentie bestaat uit twee elementen: code en data. De code vormt het algoritme, de data is nodig om dat algoritme te trainen.’

‘In de beginjaren van artificiële intelligentie werd er vooral gefocust op de algoritmes’, zegt Lefever. ‘Vandaag worden heel wat bestaande algoritmes beschikbaar gesteld en kun je die als ontwikkelaar relatief makkelijk gebruiken. Daardoor is de kwaliteit van de data belangrijker geworden. Die moet continu verbeterd worden, maar dat is een repetitief en tijdrovend proces.’

Terwijl AI sterk is in het maken van complexe berekeningen, mist het de cognitieve vaardigheden die de gemiddelde vijfjarige wel heeft. Kinderen weten dat een netjes gekapte poedel en een stoere rottweiler allebei honden zijn. Om datzelfde inzicht te verwerven, heeft AI eerst een enorme hoeveelheid bruikbare data nodig. Maar vooraleer data bruikbaar is, moet die verzameld, voorbereid en gelabeld worden. ‘Afhankelijk van de complexiteit van de data gaan verschillende profielen ermee aan de slag’, aldus Lefever. ‘Dat kunnen data-analisten, -wetenschappers of -ingenieurs zijn, en dat zijn dure profielen om in te schakelen. Bovendien kunnen domeinexperts, zoals artsen die tumoren aanduiden op röntgenfoto’s, geen patiënten behandelen zolang ze data aan het labelen zijn. Niet alleen hun werk, maar ook hun tijd is kostbaar. Daarom wordt naar alternatieven gezocht.’

Om de prijs te drukken, kijken ontwikkelaars naar software die de dure profielen kan ondersteunen in het klaarmaken van data. En als het werk niet te complex is, is crowdsourcing ook een optie. In dat geval worden zogenaamde microwerkers of klikwerkers betrokken om het schaduwwerk uit te voeren. ‘Klikwerkers inschakelen is een goedkope oplossing, maar de vraag is dan hoe nauwkeurig de resultaten zijn’, zegt Lefever, ‘Ook daarvoor bestaan methodieken.’ In het geval van weak supervision gaat men er bijvoorbeeld van uit dat het beter is om 1000 minder nauwkeurige datasamples te hebben (die door minder gespecialiseerde medische profielen gelabeld zijn), dan 100 perfecte (die door chirurgen gelabeld zijn).

‘Artificiële AI’

Bedrijven moeten een evenwicht zoeken tussen nauwkeurigheid en betaalbaarheid. Dat mensen deels of volledig de taken van artificiële intelligentie uitvoeren, is daarom niet uitzonderlijk. Prijs-kwaliteit in acht genomen, blijven microwerkers voor bedrijven vaak nog een interessante optie. Soms nemen mensen het slimme werk achter technologie blijvend voor hun rekening, zoals het geval is bij de bewakingscamera’s in de Franse supermarkt. Amazon bedacht daar de term ‘artificiële artificiële intelligentie’ voor.

In 2005 lanceerde die techgigant MTurk.com, een website waar bedrijven – eventueel anoniem – mensen vinden die voor een paar cent per opdracht online eenvoudige taken uitvoeren. Ze tekenen bijvoorbeeld vierkanten rond tomaten of olijven in salades, zodat slimme apps je op basis van een foto kunnen vertellen hoeveel calorieën je bord telt. Het zijn taken die nodig zijn om artificiële intelligentie te trainen en slim te doen lijken. MTurk heet voluit niet toevallig ‘Amazon Mechanical Turk’ en is slechts één van de vele platformen die het klikwerk faciliteert.

‘Grote techbedrijven als Meta, Amazon of Google doen volop een beroep op zulke outsourcingsdiensten’, zegt Milagros Miceli, onderzoekster aan het onafhankelijke Distributed AI Research Institute (DAIR) in de Verenigde Staten. ‘Maar ook heel wat start-ups besteden dat soort werk uit, en blijven makkelijker onder de radar.’

Almaar meer wetenschappers waarschuwen ervoor dat de ontwikkeling van artificiële intelligentie de patronen van kolonisatie volgt. ‘Meestal huren grote techbedrijven de klikwerkers niet rechtstreeks in, maar gebruiken ze daarvoor zogenaamde delivery service providers die als onderaannemers fungeren’, zegt Timnit Gebru, computerwetenschapper en oprichter van het DAIR-Instituut. ‘Contentmoderators voor Meta worden bijvoorbeeld tewerkgesteld door Sama en niet door Meta.’ Door te werken met zulke onderaannemers, kunnen techbedrijven alle verantwoordelijkheden van zich afschuiven.’

Volgens Amazon werken 500.000 mensen uit 200 landen via MTurk. In welke landen die werknemers wonen, wil het bedrijf niet kwijt. Wel dat het afgelopen jaar minder dan 10 procent van die mensen in het Zuiden geregistreerd staat.

‘Wereldwijd wordt er enorm veel datawerk uitbesteed naar Zuidoost-Azië, en in het bijzonder de Filipijnen’, zegt Miceli. ‘Ook naar India wordt veel werk overgedragen en China vormt een markt op zichzelf. Op het Amerikaanse continent zijn Venezuela, Argentinië en Mexico de grootste spelers. In Afrika is vooral Kenia populair omdat veel werknemers er het Engels beheersen. De meeste werknemers zijn daar trouwens vluchtelingen uit andere Afrikaanse landen. Voor hun werk krijgen ze een miserabel loon.’

Het Amerikaanse weekblad Time onthulde eerder deze week dat OpenAI Keniaanse arbeiders inschakelde om schadelijke inhoud van de populaire tekstgenerator ChatGPT te weren. Voor minder dan twee dollar per uur moesten zij minstens 150 tekstfragmenten per dag te beoordelen waarin tot in het detail seksueel misbruik van kinderen, bestialiteit, (zelf)moord, foltering, zelfverminking en incest beschreven stond. ‘Het was een marteling’, liet een van de arbeiders zich ontvallen.

‘Hoeveel de werknemers vergoed worden voor hun taken, is afhankelijk van de prijs die de opdrachtgever bepaalt, het aantal taken dat ze voltooien en de kwaliteit van hun werk’, zegt een woordvoerder van Amazon Web Services. ‘Werknemers kunnen hun opdrachten zelf kiezen en bepalen ook hoeveel of hoe weinig taken ze uitvoeren.’ Nog volgens de woordvoerder helpt Amazon Mechanical Turk heel wat werknemers aan een stabiel inkomen en draagt het zo bij aan de groei van hun gemeenschap. ‘Een frustrerend argument’, vindt DAIR-onderzoekster Adrienne Williams. ‘Als arbeid geen pad effent naar een veilig en stabiel leven, is het niet meer dan een strohalm waar werknemers zich aan vastklampen om niet in de metaforische afgrond te vallen. Dat is onaanvaardbaar.’

Het idee dat technologie ons werk overneemt, blijkt voorlopig ongegrond. Studies tonen aan dat het ontstaan van hightech jobs gepaard gaat met een grote creatie van lowtech jobs. ‘Elke zogenaamde automatisering levert een nieuwe groep uitgebuite arbeiders op’, zegt Gebru. ‘Die arbeiders blijven vaak onzichtbaar, maar maken het leven van het brede publiek wel een stuk makkelijker.’

Online vuilnisbelt

De Digital Services Act, een wetsvoorstel van de Europese Commissie dat socialemediagebruikers beter moet beschermen, zal internetbedrijven verplichten om in te grijpen als er illegale content op hun online platformen verschijnt. Dat kan dan gaan over haatberichten of desinformatie, maar ook over geweld, pornografie of kindermisbruik. ‘In 2021 werden over de hele wereld ongeveer 85 miljoen foto’s en video’s van kindermisbruik verspreid op het internet’, zegt politiek filosoof Tim Christiaens, die onderzoek deed naar online klikwerk. Het wetsvoorstel deed vragen rijzen over de privacy van internetgebruikers. ‘Terecht, want als contentmoderatie verplicht wordt, moet álle communicatie gecontroleerd worden, ook de versleutelde boodschappen. Maar de mensen die al die content effectief moeten modereren, worden vergeten in heel de discussie.’ Volgens Christiaens werken er momenteel wereldwijd ongeveer 100.000 mensen in contentmoderatie. Hij verwacht dat dat aantal sterk zal stijgen wanneer de Digital Services Act in werking treedt. Elke minuut wordt 300 uur aan user-generated content geüpload op het internet – content die door gebruikers gemaakt en gedeeld wordt, zoals teksten, foto’s of filmpjes op sociale media.

Hoewel het lijkt alsof algoritmes en artificiële intelligentie het screeningswerk uitvoeren, is ook hier vaak sprake van artificiële artificiële intelligentie. ‘Een algoritme kan moeilijk het verschil maken tussen een naakte babyfoto of kinderporno’, aldus Christiaens. ‘Daar is mensenwerk voor nodig, want alle pogingen om contentmoderatie volledig te automatiseren, zijn voorlopig gefaald.’ En dus valt die taak doorgaans op het bord van kansarme, jonge arbeiders die over de hele wereld werken voor onderaannemers van internetgiganten als Meta en YouTube. ‘In Europa bevinden die zich vooral in Nederland en Ierland, maar misschien ook in België. Meestal werken mensen er onder slechte werkomstandigheden en moeten ze een geheimhoudingscontract tekenen, waardoor ze niet mogen zeggen wat ze precies doen of voor wie ze werken.’

De Europese Commissie verwacht dat almaar meer mensen hun beroep maken van het zoeken naar een paar naalden in een online vuilnisbelt van gore en gewelddadige foto’s en video’s.

‘Eigenlijk verwacht de Europese Commissie dat almaar meer mensen hun beroep maken van het zoeken naar een paar naalden in een online vuilnisbelt van gore en gewelddadige foto’s en video’s’, zegt Christiaens. ‘Dat daar in de aankondiging van het wetsvoorstel niets over gezegd wordt, is triest. De getraumatiseerde arbeiders die onze surfervaring op het internet aangenaam maken, blijven onzichtbaar.’

Weinig zekerheid

Al in 2017 berichtte de krant Le Soir over het fenomeen van de microjobs dat toen sterk in opmars was. Maar de situatie in België in kaart brengen, bleek onbegonnen werk. ‘Het is momenteel onmogelijk om het aantal (…) “webwerkers” in België objectief vast te stellen’, schreef de krant. ‘De bevoegde federale overheidsdiensten bevestigen dat die vraag nog niet door hun onderzoeksdiensten is behandeld.’ Met andere woorden: er waren geen cijfers. Kort daarna liet minister van Werk Kris Peeters (CD&V) een onderzoek naar microjobs starten. Maar vandaag, vijf jaar later, blijken we geen stap verder te staan. Zowel UNIZO als de Hoge Raad voor de Werkgelegenheid was rond 2016 bezig met het thema, maar dat werk werd niet voortgezet.

Toch verwacht Christiaens dat het aantal klikwerkers in België relatief beperkt is. ‘Belgische klikwerkers moeten op platformen als Amazon Mechanical Turk namelijk concurreren met werkers uit lagelonenlanden. Het aantal contentmoderatoren is misschien wel groter, maar ik vermoed dat de meeste van die bedrijven voor het Nederlandse taalgebied in Nederland zitten. Als je op Nederlandse jobsites rondkijkt, zie je geregeld vacatures voor contentmoderatie verschijnen, bijvoorbeeld voor TikTok. Op Belgische jobsites vind je daarentegen zo goed als niets.’

Hoeveel bedrijven vanuit België klikwerkers inzetten, is even vaag. Er bestaat slechts één studie uit 2019 over hoe Belgische bedrijven tegenover het outsourcen van microwerk staan. Van de 198 ondervraagde bedrijven gaf 4,5 procent aan al microwerk te hebben uitbesteed en toonde 28,3 procent er interesse voor.

Actief online burgerschap

Ondanks de onduidelijke situatie in ons land, zijn er volgens Christiaens toch lessen uit te trekken. Om te beginnen vindt hij dat internetbedrijven transparanter moeten zijn over schaduwarbeid. ‘In plaats van arbeiders te verbergen achter een scherm van schijnautomatisering, moeten ze open communiceren over het zware onderhoudswerk van hun platformen’, aldus Christiaens.

Daarnaast moeten instanties als de Europese Unie focussen op meer dan alleen maar consumentenbescherming. ‘De EU investeert veel werk in het beschermen van de internetgebruikers, maar ze loopt achter als het gaat over de regulering van algoritmes in de werksfeer. Al brengt de nieuwe wetgeving over platformarbeid daar stilaan verandering in’, zegt Christiaens. ‘De EU mag niet alleen de belangen van de consumerende middenklasse verdedigen en tegelijk een race to the bottom organiseren aan de onderkant van de arbeidsmarkt.’

Als we technologie willen die écht voor mensen werkt, moeten we de behoeften van mensen centraal stellen, niet die van multinationals.

Internetgebruikers moeten ook nadenken over hun eigen verantwoordelijkheden. ‘Het internet is een publieke ruimte waarin wij dagelijks uren vertoeven. Toch gedragen we ons online vaak nog enorm passief. In plaats van meer contentmoderatoren te eisen om online de rotzooi op te ruimen, is er ook een actief online burgerschap nodig om internetplatformen te onderhouden. Wie van het internet een aangename omgeving wil maken, moet daar ook zelf aan bijdragen. Op die manier bouwen we aan een meer democratische en inclusieve publieke online ruimte.’

Ten slotte weet Gebru dat er ook onderzoek gedaan wordt naar de ontwikkeling van artificiële intelligentie waarvoor minder gelabelde data nodig zijn. ‘Maar binnen het DAIR-instituut beseffen we ook dat artificiële intelligentie niet verder ontwikkeld móét worden. Als we technologie willen die écht voor mensen werkt, moeten we de behoeften van mensen centraal stellen, niet die van multinationals. Pas als we er zo naar kijken, kunnen we nadenken over welke technologie gebouwd moet worden.’