‘Het verschil tussen staten en bedrijven, tussen Poetin en Zuckerberg, wordt steeds kleiner’

Wat is het ergste? Een dictator die alles over je weet of Facebook dat je brein manipuleert? Yuval Noah Harari over kunstmatige intelligentie, en hoe we ons ertegen kunnen wapenen.

Het moet vermoeiend zijn, aan iedereen de wereld moeten uitleggen. Zelfs de Duitse bondskanselier Angela Merkel heeft het u gevraagd, toen u de Duitse vertaling van uw boek kwam presenteren. Hoe begint u daaraan?

Yuval Noah Harari: (grijnst) Ik doe wat ik kan, maar ik begrijp de wereld óók niet echt.

Wat wilde Merkel van u weten?

Harari: Tja, we hadden maar vijftien minuten. Ze wilde vooral weten wat de grootste uitdagingen voor de mensheid zijn.

En wat hebt u geantwoord?

Harari: Een nucleaire oorlog, de klimaatverandering en disruptieve technologieën. Die drie uitdagingen kunnen alleen worden aangepakt als er wereldwijd wordt samengewerkt. De klimaatverandering tegenhouden of artificiële intelligentie (AI) reguleren kan geen zaak van afzonderlijke landen zijn. Als het tussen de Verenigde Staten, Europa en China echt tot een AI-wapenwedloop komt, dan wil dat zeggen dat we er niet in geslaagd zijn om artificiële intelligentie onder controle te houden en een dramatische afloop te verhinderen.

Het verschil tussen staten en bedrijven wordt steeds kleiner. Poetin weet wat Zuckerberg weet.

Verbaast het u dat u als historicus uitgerekend vragen krijgt over de toekomst?

Harari: De meeste mensen zijn meer geïnteresseerd in de toekomst dan in het verleden. En wie wel bezig is met geschiedenis, doet dat om een idee te hebben van wat ons in de toekomst te wachten staat. Dus ja, ik kan best begrijpen dat ik meer vragen krijg over artificiële intelligentie dan over het Romeinse Rijk.

Waar hebt u zelf het meeste belangstelling voor?

Harari: De boeiendste boeken die ik heb gelezen, gingen wel degelijk over het Romeinse Rijk. De menselijke fantasie is veel begrensder dan de realiteit, en omgekeerd is de geschiedenis veel verrassender dan sciencefiction.

Kunnen we met onze kennis van het verleden voorspellingen doen over de toekomst?

Harari: Daar moet je voorzichtig mee zijn. We zijn nauwelijks in staat om voorspellingen te doen over de toekomst, maar algemene trends kunnen we doorgaans wel voorspellen. Er kan gemakkelijk worden voorspeld dat de arbeidsmarkt er door artificiële intelligentie over dertig jaar helemaal anders zal uitzien, maar ik kan niet zeggen welke jobs er precies zullen verdwijnen. Geschiedenis kan ons voorstellingsvermogen wel verbreden. Iemand die de toekomst beschrijft, extrapoleert vanuit het recente verleden, en heeft het meestal fout. Tien jaar geleden was iedereen ervan overtuigd dat de liberale democratie en de vrije markt de hele wereld zouden veroveren. Maar toen kwam de bankencrisis, dan de brexit en daarna Donald Trump! Het is helemaal anders gegaan. En nu wordt die periode aangehaald om nieuwe voorspellingen te doen. Je hoort overal dat het nationalisme toeneemt, dat religieus fanatisme de overhand zal krijgen, dat we door demagogen en dictators omringd zijn. In werkelijkheid zijn de ontwikkelingen erg onvoorspelbaar.

U schrijft in uw boek over het einde van het grote verhaal van de liberale democratie, maar ik vond er niet echt een verklaring voor. Wat is die volgens u?

Harari: Dat weet ik zelf niet. Het is echt verbazingwekkend, want de wereld heeft er nooit beter voorgestaan dan de voorbije twintig jaar onder de liberale democratie. Zeker als je naar Amerika of Europa kijkt, al geldt het evenzeer voor China of India. En toch verliezen de mensen vertrouwen in een systeem dat decennialang vrede en welvaart heeft gebracht. Het moet iets met de menselijke natuur te maken hebben.

De menselijke natuur is sterker dan het verstand?

Harari: De mensen hebben grotere verwachtingen, en ze raken teleurgesteld en worden wrokkig als die niet worden ingelost. Maar dat kan maar een déél van de verklaring zijn.

Wat is het andere deel dan?

Harari: Als je naar Europa en de VS kijkt, zou je kunnen zeggen: na meerdere eeuwen van werelddominantie is de relatieve neergang van het Westen aan de gang. De mensen in Europa en Amerika hebben het nog altijd heel goed, maar in vergelijking met China of Zuid-Korea gaan ze erop achteruit. Het Westen raakt zijn voorsprong kwijt, en dat leidt tot een gevoel van achteruitgang.

In uw boek geeft u de indruk dat de periode van de Koude Oorlog voor grote stabiliteit heeft gezorgd: er stonden verstandige staatslieden aan het roer, die door rationele overwegingen geleid werden. Een mens zou bijna heimwee krijgen naar het tijdperk van de nucleaire wapenwedloop.

Harari: Die indruk hebben we alleen achteraf, omdat de Koude Oorlog vreedzaam is afgelopen. Maar vergeet niet dat er ook een kernramp van had kunnen komen. Er stonden toen twee vijandige machtsblokken tegenover elkaar, maar die beseften wel dat ze de verantwoordelijkheid hadden om het ergste te voorkomen. En toch zou ik zeggen: vandaag is de situatie, ondanks de spanningen met Rusland en China, béter dan ten tijde van de Koude Oorlog.

Als ik lees welke dynamiek de combinatie van computerwetenschap, artificiële intelligentie en biotechnologie zal teweegbrengen, begin ik het einde van de wereld te vrezen. Maar hebben de mensen daar niet altijd voor gevreesd? Waarom moeten we de huidige angst voor de apocalyps nu wel ernstig nemen?

Harari: Het is des mensen. Elke generatie heeft haar eigen voorstelling van de apocalyps, die elk moment kan toeslaan. En toch moet je zeggen: dit keer komt het uit!

In het jaar 999 zeiden de mensen vast ook: dit keer komt het uit!

Harari: Ja, maar toen hadden de mensen het fout, en wij hebben het juist. Toen men ten tijde van de Cubacrisis in 1962 zei dat de ondergang van de wereld voor de deur stond, was dat reëel. In 999 ging het om religieuze inbeelding.

Maar goed, over het algemeen maak ik me niet al te veel zorgen om een apocalyps in de zin van de totale ondergang van de mensheid – het is mogelijk, maar niet erg waarschijnlijk. Ik verwacht geen laatste oordeel in middeleeuwse zin.

Waar ik bang voor ben, zijn sociale en biologische omwentelingen die een heel andere soort samenleving en mensheid zullen voortbrengen. Door de revolutie in artificiële intelligentie en biowetenschappen zou bijvoorbeeld de homo sapiens als soort kunnen opsplitsten in een kaste van übermenschen, superhumans, en een lagere kaste van nuttelozen voor wie er geen werk meer is. Dat vind ik al angstaanjagend genoeg.

Waar moeten we nog echt bang voor zijn?

Harari: Voor de opkomst van digitale dictaturen en regimes die alles controleren.

Meditatie en psychoanalyse zijn niet langer spirituele luxe, maar politieke en economische noodzaak.

In zekere zin bent u een klassieke liberaal: u bent nog altijd banger voor dictaturen dan voor concerns. U hebt liever dat Facebookbaas Mark Zuckerberg uw persoonlijke gegevens kent dan de Russische president Vladimir Poetin.

Harari: Terwijl het verschil steeds kleiner wordt, zoals we konden zien. Poetin weet wat Zuckerberg weet.

Waarom wantrouwt u de staat meer dan de grote bedrijven?

Harari: Het is gewoon een kwestie van macht. Politieke systemen zijn nog altijd veel machtiger dan grote concerns.

Er wordt toch altijd geklaagd dat de politiek machteloos staat tegenover de economie?

Harari: Ten onrechte. Toen het tot een confrontatie kwam tussen Poetin en de oligarchen, hebben de oligarchen aan het kortste eind getrokken. In Amerika is de president machtiger dan de ceo van Facebook of Google. Maar al bij al zal voor de toekomst gelden: wie de data controleert, zal de samenleving controleren. Of dat dan een bedrijf of de regering is, zal niet veel uitmaken want uiteindelijk zullen ze versmelten. De regering kan big data voor staatsdoeleinden gebruiken – dat is wat in China gebeurt; de grote bedrijven daar staan ten dienste van de regering. Of een bedrijf krijgt de totale controle over de data, en dan wordt het zo machtig dat het de facto de regering vertegenwoordigt.

Vanuit een ander perspectief bent u helemaal geen klassieke liberaal: u gelooft niet meer in het individu. De vrije wil gaat ten onder in de stortvloed aan informatie.

Harari: Het individu was machtig zolang het een zwarte doos was, zolang er geen externe observator was die mijn individuele voorkeuren, wensen en gedachten kon kennen. De liberale orde gaat volledig van die veronderstelling uit: niemand weet het beter dan de kiezer, niemand weet het beter dan de klant. Maar als we een systeem hebben dat kan binnenkijken in de oude zwarte doos, en bijgevolg onze diepste behoeften en wensen kan voorspellen en manipuleren, dan bestaat het klassieke individu niet meer.

Ontsnapt er dan niets aan het oog van de dataspecialisten? Mijn persoonlijkheid valt toch niet samen met mijn digitale gedrag?

Harari: Dat is een foute vergelijking. Zo ging het er bijvoorbeeld in de vroegere DDR toe, waar de geheime dienst, de Stasi, het gedrag van mensen kon observeren om er gedachten en opvattingen uit af te leiden. De Stasi vergiste zich heel vaak, want mensen gedroegen zich alleen zus of zo omdat ze wísten dat ze door de Stasi gecontroleerd werden. Tegenwoordig is dat helemaal anders: er zijn steeds meer systemen die het menselijke bewustzijn hacken. Het verschil tussen wat mensen zeggen en wat werkelijk in hun hersens gebeurt, kan tegenwoordig al bij laboratoriumproeven geregistreerd worden. Er bestaan heel eenvoudige tests voor. Proefpersonen moeten bijvoorbeeld gezichten verbinden met een positief of een negatief begrip. Als je een racist bent en het beeld van een zwarte persoon met een positief woord verbindt omdat je er zelf van overtuigd bent geen racist te zijn, heeft je brein een fractie van een milliseconde langer nodig om het gewenste antwoord te geven.

Zo zie je maar: een mens heeft de illusie van de vrije wil, maar de wetenschap weet al lang beter wat er zich in je hoofd afspeelt dan jij. Ik heb geen controle over mijn hersenen. Als ik negatief reageer op een bepaalde groep mensen omdat ze een donkere huid hebben of homoseksueel zijn, kan ik mijn hersenen onmogelijk het commando geven: ‘Nee, niet doen!’

De discussie of er een vrije wil bestaat, is heel oud. Ze ontstaat altijd als er nieuwe technische snufjes opduiken. Vroeger klonk dan: ‘De mens functioneert zoals een uurwerk, dus bestaat er geen vrije wil.’ Later werd dat: ‘Het brein functioneert zoals computersoftware, dus er bestaat geen vrije wil.’

Harari: Maar nu is er een groot verschil: in het verleden ging het maar om metaforen, zonder praktische gevolgen. Als iemand in de zeventiende eeuw zei: ‘De mens functioneert zoals een uurwerk’ en iemand vroeg hem: ‘Goed, voorspel dan maar wat ik zou willen’, dan moest hij toegeven dat dit niet ging omdat hij onvoldoende informatie had. Vandaag zijn we de eerste generatie in de geschiedenis van de mensheid waarvoor dat niet langer theorie is, maar dagelijkse praktijk. Amazon heeft een service die je producten opstuurt die je nooit hebt besteld, omdat ze zeker weten dat je ze wilt hebben.

Volgens u zouden we in staat moeten zijn om onszelf sneller te kennen dan een of ander algoritme dat kan. Hoe zou dat in zijn werk moeten gaan?

Harari: Je kunt nog altijd proberen jezelf beter te kennen dan Amazon of de Chinese regering, want ons brein is extreem complex. En omgekeerd is ook het Amazonalgoritme geen god, het is niet perfect. ‘Ken jezelf!’ is het aloude advies in mijn boek. We vinden het al terug bij de antieke filosofen, bij Socrates, Boeddha en Confucius. Als je jezelf niet meer echt kent, loop je het gevaar gemanipuleerd te worden. Als we kijken naar de laatste verkiezingen in de Verenigde Staten, en naar het Cambridge Analytica-schandaal, weten we dat mensen die verkiezingen willen manipuleren, onze zwakke kanten tegen ons gebruiken. Ze gebruiken onze angsten en onze haat. Ze kunnen de haat niet uit het niets tevoorschijn toveren, maar ze kunnen wel ons emotionele toetsenbord bedienen. Als je bang bent voor migranten, stoppen ze je tijdlijn vol met fake news over migranten. Als je een links-liberaal van de Amerikaanse oostkust bent, zullen ze je makkelijk een verhaal over hillbilly’s in Louisiana kunnen wijsmaken, of wat voor onzin je ook maar gelooft.

Wat is de beste manier om jezelf te kennen?

Harari: Dat is een moeilijke. Zelf probeer ik dat door meditatie. Elke dag twee uur. Anderen doen het met psychoanalyse. Mijn boodschap is: investeer in wat voor jou het beste werkt. Het is niet langer spirituele luxe, maar politieke en economische noodzaak.

Er is dus toch redding voor ons bewustzijn, voor onze zelfbeschikking?

Harari: Rustig, rustig. Een van de eerste stappen op de weg naar betere zelfkennis is al die mythes en illusies over een eigen ik met een vrije wil achterwege te laten. Mensen die geloven in de vrije wil, zijn het makkelijkst te manipuleren.

We moeten bang zijn voor de opkomst van digitale dictaturen en regimes die alles controleren.

Is een wereld zonder die mythes niet treurig en zinloos?

Harari: De waarheid is beter dan elke vorm van fictie.

De sombere toekomst lijkt uw humeur helemaal niet aan te tasten. Zolang u uw meditatieoefeningen kunt doen, is alles in orde?

Harari: Meditatie leert mij dat je altijd in het moment moet leven. Mijn rol in de wereld is die van waarnemer. En om die rol te vervullen, moet ik de dingen zo helder mogelijk bekijken, zonder meteen te reageren. Zodra je reageert, verlies je je klare blik. En als je ergens bang voor bent, zie je het niet in de juiste verhoudingen, het lijkt dan bijvoorbeeld groter omdat je je alleen nog daarop focust. Zulke meditatieoefeningen doe ik. Wat er ook gebeurt, observeer het gewoon!

Meditatie kan het ook stellen zonder vrije wil.

Harari: Als je daarbij de vrije wil ontdekt, is dat uitstekend! Als je vaststelt dat de dingen zomaar, buiten je controle, voor je geestesoog verschijnen, is dat ook uitstekend – dan zit de werkelijkheid gewoon zo in elkaar. Meditatie bevrijdt mij van de zware last om altijd over alles een oordeel te hebben, over jezelf, over de wereld, over de anderen. Dat is goed en slecht tegelijk. Vrij zijn van oordelen leidt tot rust in de geest. Daar kan voor mij geen andere vorm van geluk aan tippen.