‘Met robots en computers alleen bouw je geen sterke samenleving’

‘Technologische superioriteit is allerminst een garantie op het succes van samenlevingen. Een samenleving mag nog zoveel technologische vooruitgang boeken, als mensen zelf niet het gevoel hebben vooruit te gaan, dan is dat niet bestendig, al was het maar omdat de massa zich tegen technologie kan keren’, schrijft Jonathan Holslag (VUB).

In de Odyssee vindt men een passage over de vrouwen van Ithaka en het bijna ondraaglijke gezwoeg met het malen van graan. ‘O, Zeus, laat dit de laatste dag zijn. Mijn knieën zijn verzwakt door dit uitputtende werk.’ Alsof hij de noodkreet van de zwoegende vrouwen van Homerus beantwoordde schreef de Griekse epigrammist Antipater: ‘Stop met malen, jullie vrouwen die ploeteren aan de maalstenen. Slaap uit, zelfs als de haan kraait, want Demeter heeft de nimfen bevolen jullie werk over te nemen, zich te werpen op het wiel, de as in beweging te zetten die met zijn draaiende spaken de zware molenstenen van Nisyros in beweging zet.’ De watermolens van Antipater ontlastten dan wel de vrouwen, de mannen zouden nog vele eeuwen blijven zwoegen met de dorsvleugel, tot ongeveer 1830, met de uitvinding van de dorsmachine: ‘Werk dat maanden kostte kan in enkele weken gedaan worden en de vrijgekomen arbeid kan aan meer waardevolle zaken gewijd worden.’ De Engelse boeren dachten daar anders over: ze vreesden broodroof en sloegen met hun dorsvleugels de machines aan stukken.

Technologische vooruitgang en in het bijzonder het vermogen om de arbeid van mensen over te laten nemen of productiever te maken, heeft steevast geestdrift opgewekt. Meer doen met minder inspanning: wie kan daar iets op tegen hebben? En hoewel technologische vooruitgang ook gepaard gaat met onzekerheid, lijkt het optimisme nadien bevestigd te worden en de gevreesde negatieve effecten wel mee te vallen. Kijk naar de dorsmachine: terwijl de pikdorser vandaag zijn werk doet, rijdt de Engelse boer de oogst met zijn tractor naar de silo – en wellicht rijdt die tractor binnenkort helemaal zonder bestuurder, wordt de hele teeltplanning bepaald door artificiële intelligentie, zodat die Engelse boer eigenlijk enkel nog maar hoeft te investeren in zijn materiaal. Ziedaar: de voorspoed van het kapitalisme. Kapitaal plus technologie is gelijk aan meer productiviteit, meer welvaart en minder werk. De nieuwe mogelijkheden inzake automatisering, robotisering, digitalisering en de toepassing van artificiële intelligentie zijn eindeloos, zeker nu onderzoekers langs alle kanten de Wet van Moore, die bepaalt dat de kracht van computerchips elke twee jaren verdubbelt, willen overtreffen.

We evolueren van productiviteit naar bijna grenzeloze hyperproductiviteit. En hoewel er geen twijfel bestaat over het potentieel van de technologische vooruitgang, blijft het belangrijk om te bekijken hoe die zo goed mogelijk kan bijdragen aan de menselijke vooruitgang. Technologische vooruitgang is een fascinerend proces. Twaalf miljoen jaren lang hebben de eerste mensachtigen erover gedaan om handelingen met de eerste werktuigen in de vingers te krijgen. Eens zij die werktuigen in handen kregen deden zij er drie miljoen jaren over om zich beetje bij beetje van de werktuigen en de fysieke arbeid te bevrijden, door beroep te doen op dieren en externe krachten als water, wind, stoom en stroom. Zoals het er nu uitziet zou de mens zich in slechts enkele decennia ook weleens kunnen bevrijden van de mentale arbeid en deze overlaten aan externe intelligentie, dankzij de combinatie van robots en artificiële intelligentie.

Dat levert kansen op, maar stelt samenlevingen ook voor een bijzonder moeilijke evenwichtsoefening: enerzijds rest hen geen andere keuze dan mee te doen aan de nieuwe wedloop om macht inzake robotisering en artificiële intelligentie, er op economisch en militaire vlak hun positie mee te versterken. Als samenlevingen hier niet in slagen, worden zij immers kwetsbaar en vatbaar voor de invloed van andere samenlevingen, en komt hun veiligheid en autonomie in het gedrang. Het blijft ’the survival of the fittest’.

Vervolgens is het echter minstens even belangrijk om zeer kritisch na te denken over hoe de technologische vooruitgang kan worden omgezet in kansen om een samenhangende, bewuste en gelukkige samenleving te bouwen, want dat is de voorwaarde om macht bestendig te maken. De macht van een samenleving is nooit duurzaam zonder menselijkheid. Enerzijds rest er samenlevingen geen andere keuze dan zich mee in de nieuwe technologische wedloop te storten; maar anderzijds moeten zij zich ook hoeden voor technologisch fetisjisme: met robots en computers alleen bouw je immers geen sterke samenleving.

Economische macht

Bedrijven als Google en Tencent zetten zich schrap om leiders te worden in robotisering en automatisering. Zal hyperproductiviteit, kapitaal gekoppeld aan razendsnelle technologische vooruitgang, ook leiden tot hypercompetitiviteit? Wat betekent dat voor de welvaart en de verdeling ervan? Je zou de huidige toestand kunnen voorstellen als een nieuwe veelzijdige opwelling van creativiteit. Slimme mannen en vrouwen werken over hun latte macchiatto’s in hippe start up’s aan de technologie van morgen: in San Francisco Bay, maar evenzeer in Nairobi, Xiamen, Hyderabad en Brussel.

Dankzij het internet en de wereldwijde beschikbaarheid van investeringskapitaal ontstaat een fijnmazige wereldwijd ecosysteem. Iedereen participeert; iedereen profiteert. De werkelijkheid is echter anders. Hoewel er inderdaad veel kleine spelers actief zijn, woedt de economische strijd om de toekomst van robots en AI vooral tussen Amerikaanse kapitalistische reuzen, zoals Google, en de kampioenen van het Chinese staatskapitalistisme, zoals Tencent en Alibaba.

Ondanks de euforische berichten uit China, lijken de Verenigde Staten toch opnieuw hun economische leiderschap te consolideren. In de top vijftig van sterkste robotbedrijven staan er 32 Amerikaanse en twee Chinese. Ook AI zouden de Verenigde Staten nog steeds erg sterk staan en dat zou ook gelden voor de productie en innovatie van computerchips. Deze rangschikkingen moet men natuurlijk met de nodige voorzichtigheid benaderen, vooral omdat ze door Amerikaanse publicaties werden opgesteld, maar ze lijken toch behoorlijk eenduidig.

Dat doet vragen rijzen over de economische macht van de Amerikaanse reuzen. Nu reeds stellen spelers als Google, Facebook en Amazon zich op als de dominante poortwachters van de digitale markt. Terwijl Europese landen talrijke kleine beloftevolle spelers hebben, lijken de arme landen quasi afwezig, ook India, bijvoorbeeld, een economie die toch een groot aanzien geniet in ICT. Zullen robots en AI het nog moeilijker maken voor die landen om hun welvaart te vergroten?

We weten zeer goed waar de Europese doorbraken, zoals de dorsmachine, in de negentiende eeuw toe leidden. Was de economische productie per hoofd in West-Europa rond 1800 nog slechts tweemaal groter dan die in Azië en Afrika; dan was dat in 1900 vijf keer zoveel. Nadat Europa zijn industriële revolutie op gang trok, steeg de productie per hoofd in Afrika niet tot in 1950, en ook daarna bleef de ongelijkheid enorm. De meest recente technologische omwentelingen hebben de wereldwijde inkomensongelijkheid enorm doen toenemen. Technologische macht schept immers het vermogen om ongelijke economische partnerschappen te bestendigen en zwakke landen in een afhankelijke positie te houden. Dat is geen typische Westerse zonde, maar het Westen realiseerde die dominantie wel voor het eerst op wereldwijde schaal. De Internationale Arbeidsorganisatie (ILO) waarschuwt dat robotisering en doorgedreven digitalisering vooral de lageloonwerkers in arme landen bedreigt. In Cambodja, Indonesië en Vietnam zou meer dan de helft van de arbeidskrachten bedreigd worden met vervanging door machines. Die trend is nog eens extra nefast voor regio’s met een snelgroeiende bevolking, zoals Zuid-Azië en Afrika.

Dankzij robotisering en AI zal de productiviteit blijven toenemen, maar er ontstaat een probleem inzake de verdeling van de winst van de productiviteit. Uiteindelijk valt er maar pas echt te winnen, als landen deel uitmaken van de innovatie, en dat is vaak niet het geval. Maar ook binnen samenlevingen kan de kloof tussen winnaars en verliezers groter worden. Geografisch neigt de innovatie zich steeds meer te concentreren rondom enkele sterke steden en regio’s. Men zou kunnen aanvoeren dat nét daarom een taak is weggelegd voor overheden om te reguleren en te herverdelen, middels een basisinkomen bijvoorbeeld, maar dat is niet evident. Hoewel overheden de macht hebben om dat te doen, heerst er vaak concurrentie tussen overheden om technologiebedrijven aan te trekken en ter wille te zijn. Dat was ook de redenering van het Europees Parlement, dat in een studie vooral pleitte voor fiscale voordelen voor robots eerder dan fiscale herverdeling. De sociale noodzaak voor correcties is groot, maar zwakke landen hebben niet de hefbomen en sterke landen lijken ze liever niet te gebruiken uit vrees in de economische race het onderspit te delven.

Die houding typeert Europa’s oncomfortabele positie: Europa zit op de wip. Er zijn nog troeven, maar de regio zit steeds meer gewrongen tussen de VS en China; en binnen Europa bestaat er een gigantisch verschil op het gebied van robotisering en AI tussen Duitsland en Nederland aan de ene zijde en de rest van de lidstaten aan de andere zijde. Om in de toekomst beter in staat te zijn keuzes te maken en de sociale impact van robotisering en AI te sturen, blijft de preconditie dat Europa de technologische vooruitgang mee moet leiden, voldoende oplossingen zelf creëert om onevenwichtige afhankelijkheid te voorkomen en zo het vermogen behoudt om autonoom maatschappelijke keuzes te maken. Een gezonde marktwerking dient te worden gevrijwaard.

Ook kleine Europese spelers moeten zich kunnen ontwikkelen zonder te worden opgeslokt door overwegend Amerikaanse quasi-oligopolisten. Grensoverschrijdende kennisclusters worden essentieel, maar ook investeringshefbomen, want Europa investeert thans minder dan een vierde van wat de VS in pakweg AI investeren, en de bestrijding van industriële spionage. Het uitgangspunt blijft: om als samenleving op lange termijn te kunnen waken over de positieve impact van robotisering en AI, moeten we als samenleving de macht en autonomie in dit domein ook bewaren.

Harde macht

Toen de mechanische dorser in het negentiende-eeuwse Engeland zijn opwachting maakte, werd de mechanische vooruitgang uiteraard ook in andere domeinen toegepast, niet in het minst in de militaire sfeer. Door de industriële revolutie ondervond Engeland niet alleen de nood om zijn buitenlandse handel te verbreiden, maar kreeg het ook de middelen in handen om andere landen te dwingen hun markten te openen: moderne marineschepen met lichte artillerie. Technologische dominantie kan leiden tot militaire dominantie. Vandaag woedt de strijd om de militaire technologische superioriteit vooral tussen de Verenigde Staten en China. Er gaat geen week voorbij of er verschijnt wel een bericht over een nieuw onbemand vliegtuig, een hypersonisch wapen of de toepassing van artificiële intelligentie op het toekomstige slagveld. Het Amerikaanse Defense Advanced Research Projects Agency (DARPA) besteedt in 2019 alleen al 3,2 miljard dollar aan onderzoek naar militaire technologie; China spendeert minstens evenveel. Het doel van het agentschap is onder andere het ontwikkelen van onbemande wapens gekoppeld aan AI in de ruimte, in de lucht, op het land, op zee – en onder de zee.

Stemmen gaan op om de ontwikkeling van dergelijke nieuwe wapens te limiteren, maar de geschiedenis leert dat dit soort pogingen zelden succesvol zijn. In de vierde eeuw voor Christus werd in China een conferentie tussen staten belegd om de oorlogvoering met strijdwagens aan banden te leggen: tevergeefs. Het Grieks vuur werd als een wapen des duivels beschouwd, maar verspreidde zich razendsnel. In 1139 verbood de Paus het gebruik van ‘de dodelijke kunst’ van de kruisboog. In de veertiende eeuw werd in Europa angstig en bitter geschreven over de nieuwe vuurwapens, maar ook zij geraakten overal in gebruik, al was het maar omdat de Turken ze ook reeds in gebruik hadden. Technologische vooruitgang lijkt moeilijk te stoppen, ook in militaire aangelegenheden. De mens maakt zich meester over nieuwe wapens; wapens ook over de mens.

De vraag die zich stelt, is of er ten gronde echt iets verandert. Uiteindelijk wordt er nog steeds een commando gegeven en voert het wapen uit. De verzuchting om wapens in grotere getalen, snel en doeltreffend op hun doel af te sturen, was wellicht reeds aanwezig toen de primaat de eerste keer met een steen naar zijn mogelijke avondmaal slingerde. Sindsdien zijn projectielen alleen maar krachtiger en beter geworden. ‘Drones’ zijn niet zo zeer een revolutie, maar een voortzetting van die eeuwigdurende evolutie.

Maakt de afstand tussen de belager en doel in dat opzicht een verschil? De primaat met zijn stenen vuistbijl sloeg ook toe, daarvan getuigen de talrijke opgegraven ingehakte schedels die archeologen vonden, ook al zag hij van nabij de doodsangst in het ogen van zijn slachtoffer. Het grootste probleem schuilt niet misschien zozeer in de aard en de accuraatheid van wapens, maar in de accuraatheid van het beoordelingsvermogen van de mens om ze te gebruiken.

Dat brengt ons bij de artificiële intelligentie, want robotwapens worden steeds meer gekoppeld aan artificiële intelligentie die het beoordelingsvermogen van de mens overneemt. Opnieuw stelt zich de vraag of dat op zich zo problematisch is en vooral of het beoordelingsvermogen van de mens per definitie beter is. Stelt u zich een bomvol plein met een terrorist voor: elke seconde telt. Eén bewapende drone wordt bediend door een soldaat die zich op weliswaar haarscherpe beelden suf zoekt naar de terrorist; de andere bewapende drone is uitgerust met software om supersnel bewegingspatronen, lichaamstaal, emotie en lichaamstemperatuur te interpreteren en met 99,9 procent zekerheid het doel te identificeren en binnen de seconde uit te schakelen.

Zolang mensen de keuze maken om die laatste drone in te zetten boven het plein, zou AI dan de aanval misschien niet doeltreffender kunnen maken? We kunnen nog verder gaan. Wat als we dankzij enorm veel data binnenkort kunnen voorspellen hoe geweld escaleert en we dankzij AI snel kunnen bepalen hoe te reageren? Is ook dan menselijk beoordelingsvermogen sowieso beter? Experts verwijzen in dit opzicht graag naar een incident in 1983, waarbij een Russische officier oordeelde niet te reageren op een nucleair alarmsignaal, en de Amerikaanse raketten, die door het detectiesysteem werden gesignaleerd, achteraf ook effectief de weerkaatsing van de zon op wolken bleken te zijn. Maar goed twintig jaar eerder, in 1962, was er ook een Russische officier die verkeerd oordeelde en een Amerikaanse U2 neerhaalde.

Natuurlijk is het ons er vooral om te doen geweld te voorkomen, maar doen we dat het best door ons eenzijdig nieuwe wapensystemen, drones gekoppeld aan AI, bijvoorbeeld, te ontzeggen? Laten we teruggaan naar Engeland in de negentiende eeuw. In 1839, arriveerde het Engelse schip de Nemisis in China, een stoomschip met twee 32-ponds kanonnen. Zou dat ene stoomschip het gigantische Chinese keizerrijk zo gemakkelijk hebben aangevallen als het keizerrijk zelf niet inventiever was geweest in het omzetten van een oorspronkelijk Chinese uitvinding, het buskruit, in een militair voordeel?

Wat was hier de belangrijkste aanjager van het conflict, beter gekend als de Eerste Opiumoorlog: de wapens van de Nemesis, of de verstoring van de machtsbalans, die één land plotsklaps een groot voordeel gaf over een ander land – en de zwakte van de andere bij wijze van spreken een open uitnodiging was tot agressie? Als we het menselijk beoordelingsvermogen en instinct als constant beschouwen, als we de technologische evolutie in defensie als onvermijdelijk zien als nieuwe wapens misschien doeltreffender worden en indien we de stelling aanvaarden dat verstoringen in het machtsevenwicht tussen landen conflicten mee in de hand werken, zou het dan niet beter voor Europese landen zijn om toch ook mee te investeren in die nieuwe wapens?

De externe mens

De ontwikkeling van robots, doorgedreven digitalisering en automatisering schept nieuwe uitdagingen op het gebied van de verdeling van de macht. Wie de technologische vooruitgang domineert, maakt ook een goede kans om op andere gebieden zijn invloed te doen gelden. Maar technologische superioriteit, ook al leidt die tot economische en militaire macht, is allerminst een garantie op succes van samenlevingen. Een samenleving mag nog zoveel technologische vooruitgang boeken; als mensen zelf niet het gevoel hebben vooruit te gaan, dan is dat niet bestendig, al was het maar omdat de massa zich tegen technologie kan keren. Technologie blijft een middel en is geen doel op zich. Naast het behouden van een machtsvoordeel is het dus even belangrijk om goed na te denken over hoe die macht wordt aangewend – en over de definitie van vooruitgang.

Wat voor samenleving willen wij? Wat voor leven willen wij? Het dystopische beeld, het beeld van wat we niet wensen, is helder: AI aangewend door autoritaire politiestaten, slimme camera’s die ons gedrag evalueren, op elke hoek van de straat, en registreren in complexe databanken. De gedachtepolitie van Orwell loert om de hoek. China gaat daar nu reeds erg ver in, maar ook in de Verenigde Staten, bijvoorbeeld, worden dergelijke technologieën ontwikkeld in het kader van het verbeteren van de binnenlandse veiligheid. Een gedigitaliseerde politiestaat is iets dat de meeste mensen voorlopig niet wensen, maar wat wensen wij dan wel?

De voorbije industriële revoluties waren noodzakelijk om onze basisbehoeften te bevredigen, voldoende voedsel te produceren, medicijnen, enzovoort. Maar hoe kan deze technologische evolutie ons vooruit helpen? Wat zijn de prioriteiten: meer snufjes in robotauto’s of minder tijd doorbrengen in de file; knuffelrobots in rusthuizen of meer menselijk contact met oudere mensen; smartphones die in Afrikaanse dorpen real time de veilingprijzen doorseinen of wegen om wat geoogst wordt tot in de veiling te vervoeren? Hoe zorgen we ervoor dat toekomstige productiviteitswinst voor meer mensen een boeiender leven mogelijk maakt, hun creativiteit prikkelt om zo nog meer talent te benutten?

Robotisering vervangt de saaie banen in de industrie vaak met… saaie banen in de dienstensector. Zelfs in rijke landen als Nederland, toonaangevend in digitalisering, levert de productiviteitswinst nauwelijks meer gelukkige banen. Banen met een hoog welbevinden worden er vooral door de overheid gecreëerd, of voor een happy few in de private sector. In België werken we, ondanks flinke investeringen in automatisering en digitalisering, opnieuw meer en verliezen we vooral ook veel tijd onderweg naar het werk. De druk op mensen wordt groter.

Om de kracht van robotisering en digitalisering te laten bijdragen aan de menselijke ontwikkeling, aan een voorspoedige, samenhangende samenleving dienen wij ons eerst de volgende vraag te stellen: wie zijn wij en wat wensen wij? Om die vraag te beantwoorden, is het nuttig te kijken wat geluk determineert. Geluk kunnen we best goed meten, door uitgebreide bevragingen, maar ook door neurologisch onderzoek. Wat mensen gelukkig en goed doet functioneren, wat ze zelf benadrukken als belangrijk, is vaak van subjectieve aard: een doel hebben in het leven, gewaardeerd worden, kunnen tonen hoe goed je in iets bent, menselijk contact, de nabijheid van natuur, enzovoort. Mensen willen mens zijn. Werk beschouwen we vanuit dat perspectief misschien niet steeds als een last, die best zo snel dat kan wordt ‘weggerobotisteerd’, maar ook, indien goed georganiseerd, een mogelijke bron van geluk, respect, zelfrealisatie en verbondenheid.

‘Maar,’ zou men kunnen riposteren, ‘een mensbeeld evolueert.’ Hadden we de eerste homo sapiens een foto voorgeschoteld van hoe naakt en kwetsbaar we er nu uitzien; hij was van schrik in een ravijn gesprongen. De mens evolueert, en dat laat ons misschien toe om geheel andere sensaties te ervaren die ons gelukkig maken. Misschien wordt ons brein wel ooit een gigantisch virtueel projectiescherm, worden zintuigelijke sensaties gesimuleerd en hebben we de rest van ons lichaam niet eens meer nodig. Als robotisering de mens economisch redundant zou kunnen maken, helpt artificiële intelligentie misschien ooit het menselijke bewustzijn in een heel andere dimensie tillen. Wordt de mens zelf redundant, behalve misschien een klein stukje geest. Sommige deskundigen gaan erg ver in die profetieën. In hun boeken doemt het beeld op van een externe mens, een wezen met een krachtig schild van technologie, maar intern weerloos, manipuleerbaar en zwak. Marshall Brain stelde zelfs onomwonden dat mensen net zo irrelevant als kakkerlakken zullen worden.

De kwestie, om te beginnen, is wie dat bepaalt. De mens heeft een vrije wil, maar de externe invloed kan erg groot worden. Wie de digitale kanalen domineert, bepaalt de informatie die op ons wordt losgelaten en dus ook een stuk onze wensen en verwachtingen. Onze behoeften worden nu reeds sterk beïnvloed door reclame, branding en gecommercialiseerde rolmodellen, niet zozeer in functie van een gezond menselijk bestaan, maar van wat producenten te bieden hebben. Als ik op een zonnige middag in een hangmat naar de lucht staar, is dat een geweldige sensatie, als ik daar een selfie van maak levert het op en als ik die sensatie in de toekomst helemaal virtueel maak levert het nog meer op. Het voordeel van virtuele zon is dat zij ‘vermarkt’ kan worden. Maar was die technologische evolutie noodzakelijk? Wenselijk?

China is een land dat machtiger wordt, maar veel mensen leven er als robots en worden gecontroleerd als robots. Goed, er is minder honger in dat land en er wordt aardig geconsumeerd, maar is dat het leven dat we ons voor ogen hebben? Is dat de finaliteit van het verwerven van macht? In het dagdagelijks leven worden steeds meer kleine beslissingen overgenomen door robots en computers: het bedienen van de ruitenwissers, het aanschakelen van een lamp, ja zelfs het doorspoelen van het toilet. Als die beslissingen van alledag zo gestaag worden overgenomen, worden we dan nog steeds genoeg geprikkeld om ons denken te activeren in het maken van grote keuzes over die robots en computers? Bemeesteren wij de technologie of bemeestert de technologie ons? De uitdaging is in dat opzicht misschien niet dat robots gaan lijken op mensen, maar dat mensen beginnen denken als robots: slaafs, onderdanig en weinig geëmancipeerd.

Er zijn veel vragen, veel twijfels. Het kan niet de bedoeling zijn een mensbeeld te projecteren, maar we kunnen wel suggesties formuleren, mensen prikkelen om ondanks het jachtige leven stil te staan bij de impact van technologische evoluties. Hierin kunnen universiteiten een rol spelen. Maar ook de overheid, met een opdracht om te waken over het algemene belang, heeft een gigantische opdracht. Zelfs voor kleine Europese landen blijft het een zaak voor overheden om na te denken over macht en invloed in het veranderende technologische landschap, en de autonomie om keuzes te maken zoveel mogelijk te handhaven. Onderwijs is eens te meer onmisbaar. Macht betekent sterke burgers en het vormen van sterke burgers impliceert meer dan het vormen van programmeurs of ingenieurs; het gaat om programmeurs en ingenieurs die bewust en ethisch keuzes maken. Naast STEM (Science, Technology, Engineering and Math) is er dus aandacht nodig voor sport, filosofie, esthetiek, ethiek en rust (SFEER). Rust is nodig om te kunnen reflecteren, want robots en artificiële intelligentie kunnen pas optimaal renderen indien zij vergezeld worden van erg veel menselijke nuchterheid.