AI-marktonderzoek dringt uw huiskamer binnen

Het Belgische Conveo ontwikkelde een AI-agent die marktonderzoek vijf tot honderd keer goedkoper kan uitvoeren dan de mens. Zo dringen bedrijven steeds verder onze privésfeer binnen en reduceren ze ons tot te gelde te maken datapunten, waarschuwt AI-expert Tim Brys.

De Belgische start-up Conveo haalde net vijf miljoen euro op, onder andere bij het prestigieuze Y Combinator. Conveo ontwikkelde een AI-agent die marktonderzoek vijf tot honderd keer goedkoper kan uitvoeren dan de mens: in enkele uren tijd neemt het 500 klanteninterviews af in 50 landen en evenveel talen. Qua technisch vernuft kan deze laatste AI-ontwikkeling alweer tellen.

Dat dit de jobs van huidige marktonderzoekers ter discussie stelt, erkennen de makers in een interview. Maar dat is niet te vermijden, stellen ze. ‘In het kapitalistische systeem, dat op winst gericht is, wordt met technologie gezocht naar meer efficiëntie. Als wij het niet doen, doet een concurrent het.’

  ‘Zij doen het ook!’ Dat klinkt als een flauw excuus. Hoewel, onze kapitalistische economie duwt ons inderdaad naar steeds meer competitie en winstoptimalisatie, geregeld ten koste van de mens (lees: van de werknemer of gebruiker, niet van de werkgever of aandeelhouder). Maar moeten we ons daar dan niet tegen verzetten, of op z’n minst vragen bij stellen, in plaats van het als excuus te gebruiken?

Surveillancekapitalisme

Wat mij echter veel meer zorgen baart in dit interview, is de onverbloemde manier waarop de oprichters van Conveo spreken over de vorm van kapitalisme die ze hanteren. In 2019 beschreef Harvardprofessor Shoshana Zuboff wat ze ‘surveillancekapitalisme’ noemt. Haar onderzoek onthulde het businessmodel dat Google, Facebook en andere internetgiganten in de jaren 2000 ontwikkelden en dat hen groot heeft gemaakt: ze bieden ons gratis diensten aan in ruil voor het recht om ons gedrag nauwgezet te observeren. Dat je een artikel over Gaza op al-Jazeera opent, dat je 10 seconden staart naar een foto van je ex, dat je naar de McDonald’s gaat met je smartphone op zak, enzovoort. Weken en maanden en jaren van dergelijke informatie maakt extreem accurate voorspellingen mogelijk over onze verlangens, onze denkbeelden, onze gezondheid, onze emotionele staat en ons toekomstig gedrag.

Tot zover de surveillance. Nu het kapitalisme: dankzij die voorspellingen kunnen Google en co. ons gepersonaliseerde advertenties serveren. Adverteerders betalen daar grof geld voor, aangezien de kans veel groter is dat hun boodschap effect zal hebben. Ze kunnen ons denken, onze gevoelens en ons gedrag sturen, in hun voordeel: pamperadvertenties voor vrouwen van wie Google raadt dat ze zwanger zijn of antidepressivareclame voor mensen van wie Facebook gelooft dat ze gedeprimeerd zijn.

Na DeepSeek: zitten de VS en de EU op het verkeerde AI-spoor?

Maar ook extreemrechtse boodschappen gericht op jonge mannen die Tiktok als ‘masculien’ ziet of IS-propaganda voor moslims die Twitter als vervreemd inschat.

 Surveillancekapitalisme is de natte droom van elke marketeer en ideoloog, en een nachtmerrie voor elke privacy-activist. Het breekt mensenlevens open en reduceert ze tot te plunderen mijnen: hoe meer persoonlijke data ontgonnen kan worden, hoe meer winst.

Cynisch

Terug naar Conveo. De oprichters vreesden dat mensen niet graag geïnterviewd zouden worden door een AI-agent. Ze ondervonden echter dat net het omgekeerde gebeurde: geïnterviewde personen ervoeren minder sociale druk, want het is geen mens die hen beoordeelt of hun slordige living ziet.

Met als gevolg: ‘Ze leiden ons zelf spontaan met video door hun huis.’ Hoera, een inkijk in hun privéleven! ‘Met enkele bijvragen geven ze steeds meer prijs’, gaan de oprichters verder. Joepie, nog meer data! Binnenkort zal de AI ook ‘de lichaamstaal en emoties van klanten beter leren lezen’. Halleluja, ze zullen niets meer kunnen verbergen!

 Vergeef me mijn cynisme, maar hun uitspraken klinken wel heel erg als surveillancekapitalisten die zich verheugen over het gemak waarmee ze binnendringen bij mensen en hen reduceren tot massa’s te gelde te maken datapunten. Bij Conveo loopt dat weliswaar niet helemaal zoals bij de techgiganten, waar miljoenen mensen gesurveilleerd en gemanipuleerd worden. Het gaat hier ‘maar’ om enkele honderden mensen per onderzoek (al loopt dat al snel op tot tienduizenden als het bedrijfje goed gaat draaien) en verbiedt Conveo ‘ongevraagde reclame’ te maken (moeilijk is het echter niet om de klant toestemming te vragen voor gerichte reclame).

 Conveo maakt het klassieke marktonderzoek invasiever door dat te automatiseren, op te schalen en de surveillance dieper de huiskamer en mensenlevens binnen te brengen. Men kan hopen dat dat marktonderzoek steeds ten dienste van de klant zal staan, maar dat de winstmarge meestal primeert, bewijzen andere surveillancekapitalisten, zoals Google en co.

GDPR

De servicevoorwaarden van Conveo stellen dat iedereen die door de AI geïnterviewd wordt toestemming moet geven voor het verzamelen van data die conform de Europese privacyregelgeving GDPR bewaard en gebruikt zal worden.

Zullen de geïnterviewden echter beseffen wat ze blootgeven bij het ondertekenen van zo’n verklaring? Niet alleen hun mening, maar ook hun gelaatsuitdrukkingen, hun emoties, hun taalgebruik, de spullen in de achtergrond, de partner die voorbij wandelt, de kinderen die op de grond spelen – alles wat steeds krachtigere AI kan halen uit een lang video-interview? Dat daar veel geld mee verdiend zal worden, en dat ze misschien ook gericht gemanipuleerd zullen worden?

Bij andere internetdiensten klikken we ook maar steeds ‘agree’ op verdere inbreuken op onze privacy. Maar ja, je kunt het niet echt inbreuken noemen, want we zijn akkoord gegaan met die vage, veel te lange of moeilijk begrijpbare gebruiksverklaring.

 Zal het Conveo en andere AI-bedrijven lukken om de verleidingen van het surveillancekapitalisme te weerstaan? Om privacy hoog in het vaandel te dragen, naar de geest van de GDPR-wetgeving, niet naar de letter?

‘Als technologie onze levens niet beter en zinvoller maakt, waarom laten we ze dan toe?’