Boekrecensie: ‘Doe zelf normaal’ van Maxim Februari is een bijzonder overtuigende waarschuwing voor de mensheid
We moeten snel inspelen op de klimaatcrisis en op AI. Daarbij komen volgens Maxim Februari onze democratie en grondrechten in het gedrang.
Het Wereld Economisch Forum werkt samen met Stanford University aan de ontwikkeling van AI for the Earth. Tegen 2040 wil het beschikken over een systeem van monitoring, modellering en beheer van de hele aarde dat bepaalt welke acties er onder meer op het vlak van landbouw, waterwinning, visserij en bosbeheer moeten worden ondernomen om de planeet te redden. Mensen zullen er niet aan te pas komen. Alles zal beslist worden door computers. Machtig waartoe de mensheid zoal in staat is, denk u nu misschien. Niet zo de Nederlandse essayist en rechtsfilosoof Maxim Februari. We hoeven de planeet niet te redden, schrijft hij in het essay Doe zelf normaal, die zorgt wel voor zichzelf. Onze grootste zorg zou de méns moeten zijn. Want de combinatie van de klimaatcrisis en de belofte dat AI alles zal oplossen, brengt onze democratie en grondrechten steeds meer in gevaar. Een gedigitaliseerd informatiesysteem is immers geen verbeterde versie van de mens. Het dreigt politiek te herleiden tot een dashboard, aldus Februari.
AI dreigt politiek te herleiden tot een dashboard.
We leven in een wereld waarin het steeds makkelijker is om data te verzamelen en dus te weten te komen wat mensen doen en denken. Ze laten overal sporen na, via zoekmachines natuurlijk, maar ook via klanten- en lidmaatschapskaarten. We worden gevolgd door slimme camera’s en slimme vuilnisemmers houden bij wat we weggooien. Op basis daarvan is het dus mogelijk om het profiel van de modale Vlaming, Belg of Europeaan te bepalen en die op zijn wenken te bedienen. Hoe wil hij dat het beschikbare overheidsgeld gespendeerd wordt? Daar valt best een gemiddelde in te vinden (wat AI trouwens al doet). Maar leidt dat ook tot een rechtvaardig systeem waarbij voor iedereen gezorgd wordt, ook voor de kleine minderheid?
Algoritmes doen wat hen opgedragen wordt, en zij doen dat heel secuur en strikt. Gevoel hebben ze niet en uitzonderingen op de regel kennen ze niet. Bovendien worden ze ook nogal eens door privéfirma’s ontwikkeld, waardoor de overheid steeds meer geprivatiseerd wordt en stadsambtenaren geen idee hebben waarom bepaalde zaken gedaan of gelaten worden. Ze doen gewoon wat de computer hen zegt.
Een samenleving bestaat bij conflict en discussie, aldus Februari, en laat het nu net die twee zaken zijn die zowel klimaatwetenschap als AI willen uitbannen. Doe zelf normaal is een bijzonder overtuigende en erudiete waarschuwing voor de mensheid. Geef je rechten niet uit handen, bezweert het essay de burger. Maar zoals we met het grote succes van het Covid Safe Ticket zagen, is die maar al te bereid zijn grondrechten in te leveren voor een paar zilverlingen.
