Yuval Noah Harari: ‘Artificiële intelligentie kan slaven van ons maken’

Ook in 2025 blijft de populaire Israëlische historicus Yuval Noah Harari waarschuwen voor de gevaren van nieuwe technologieën en de risico’s van totalitarisme, zelfs in zijn thuisland.

‘De mensheid heeft de controle over de wereld nog niet verloren’, zegt de Israëlische historicus Yuval Noah Harari. ‘Of tenminste: nog niet. Maar kunstmatige intelligentie (AI) zal ons leven op deze planeet radicaal veranderen. We moeten beseffen hoe groots en ingrijpend die uitvinding is. Als we als soort niet oppassen, kan dat desastreus eindigen.

De mensenwereld toont grote zwaktes. We voelen ons onmachtig bij het zien van de oorlogen in Oekraïne en het Midden-Oosten, en weten niet wat te doen om een klimaatcrisis af te wenden. Zijn superintelligente systemen niet onze laatste hoop?

Yuval Noah Harari: Artificiële intelligentie is niet zoals eerdere technologieën in de menselijke geschiedenis. Het is niet zoals het wiel, het schrift, de drukpers of de atoombom. Dat waren instrumenten waarmee mensen konden beslissen hoe ze die gebruikten. AI daarentegen is een actor die zelfstandig keuzes kan maken en nieuwe ideeën kan ontwikkelen. Het heeft de capaciteit om onvoorstelbare veranderingen in onze wereld te veroorzaken.

Historicus Yuval Noah Harari: ‘Als Poetin mag winnen in Oekraïne, zal dat soort imperialisme overal ter wereld een comeback maken’

Hoe zou u dit moment in de geschiedenis omschrijven?

Harari: We zetten onze eerste stappen in een nieuw revolutionair tijdperk. Duizenden jaren draaide geschiedenis om biologie en cultuur. Alles in ons leven werd bepaald door de wisselwerking tussen die twee krachten. Nu hebben we daar een derde dimensie aan toegevoegd: AI. Het is alsof er buitenaardse wezens zijn geland. Die zouden we ook niet zomaar de controle geven zonder te weten hoe ze beslissingen nemen. AI kan datzelfde overweldigende effect hebben. Het risico bestaat dat het ons tot slaven maakt.

Maar heeft de geschiedenis niet aangetoond dat nieuwe technologieën vaak veel goeds brengen?

Harari: Kijk naar de uitvinding van de drukpers in 1450. Het duurde nog 200 jaar vol religieuze oorlogen en heksenvervolgingen voordat de verlichting aanbrak. Natuurlijk waren er lichtpunten zoals Copernicus en Galileo, maar de bestseller van die tijd was niet een wetenschappelijk werk. Het was De heksenhamer, een handleiding om heksen op te sporen en te martelen. De geschiedenis leert ons dat technologie tijd nodig heeft om haar volledige potentieel te realiseren, vaak met een donkere tussenperiode.

Waarom is er nog geen wereldwijde regelgeving om de risico’s van AI in te dammen?

Harari: Het probleem is dat landen verwikkeld zijn in een technologische wapenwedloop. Toen ik onlangs in Silicon Valley was, hoorde ik ingenieurs zeggen: ‘We zouden graag vertragen, maar als wij dat doen, winnen de Chinezen.’ Bovendien is het reguleren van AI veel ingewikkelder dan het beheersen van kernwapens. Kunstmatige intelligentie gaat niet om één supercomputer, maar om miljoenen actoren wereldwijd.

Sommigen zeggen dat AI zelfs de klimaatcrisis kan oplossen.

Harari: Dat kan, maar voorlopig maakt AI het probleem alleen maar erger. De ontwikkeling van AI vereist enorme hoeveelheden energie. In de Verenigde Staten zijn alle beperkingen op energiegebruik geschrapt, en binnenkort zal 10 tot 20 procent van de nationale elektriciteit uitsluitend naar AI-ontwikkeling gaan. Dat was tot nu toe de enige rem op de technologische vooruitgang. Men denkt: eerst winnen we de race, daarna lossen we het klimaatprobleem op.

Als historicus bent u bekend met revoluties. Heeft dat uw kijk op AI beïnvloed?

Harari: Zeker. Ik koester van nature wantrouwen tegenover revoluties. De geschiedenis leert dat nieuwe technologieën zelden inherent slecht zijn, maar de manier waarop samenlevingen zich aanpassen is gevaarlijk. Denk aan de industriële revolutie: enorme sociale en economische ontwrichting, armoede en imperialistische experimenten. We moeten zulke fouten vermijden bij AI.

Yuval Noah Harari: ‘AI heeft het besturingssysteem van de menselijke beschaving gehackt’

Hebt u begrip voor het beleid van de Israëlische premier Benjamin Netanyahu te midden van deze crises?

Harari: Nee. Netanyahu heeft Israël verdeeld en verzwakt door zijn focus op het ontmantelen van democratische instituties in plaats van het beschermen van de veiligheid. Na de verkiezingen van 2022 had hij zich kunnen richten op bedreigingen van buitenaf zoals Hamas, maar hij koos ervoor om de rechtsstaat aan te vallen. Dat heeft Israël kwetsbaarder gemaakt dan ooit.

Filosoof Yuval Noah Harari: ‘We kunnen de Derde Wereldoorlog nog voorkomen’

U lijkt te zeggen dat Netanyahu gevaarlijker is dan een nucleair Iran. Klopt dat?

Harari: Dat is absoluut zo. Externe dreigingen zijn ernstig, maar Israël is militair sterk genoeg om daarmee om te gaan. De interne dreiging, de erosie van democratische principes, is veel groter. Het is een reëel scenario dat Israël militaire overwinningen boekt, maar daarna geen democratie meer is.

Wat denkt u dat Netanyahu wil?

Harari: Zijn stilzwijgen over politieke doelen na militaire overwinningen laat ruimte voor speculatie. Zijn prioriteiten lijken vooral gericht op het behouden van macht en het ondermijnen van de democratische fundamenten van Israël, in plaats van een langetermijnstrategie voor vrede en stabiliteit.

Zou AI een rol kunnen spelen in een vredesoplossing voor het Midden-Oosten?

Harari: Nee, ik zou AI nooit zo’n complexe taak toevertrouwen. We mogen niet vergeten dat menselijke diplomatie en samenwerking verantwoordelijk waren voor enkele van de meest vreedzame periodes in de geschiedenis. Begin 21e eeuw zagen we bijvoorbeeld een daling van de militaire uitgaven en een toename van de budgetten voor gezondheidszorg. Dat was een ongekende prestatie van de mensheid, geen technologie.

Maar die vredige periode was niet van lange duur.

Harari: Precies. Mensen begonnen die vooruitgang als vanzelfsprekend te beschouwen. Gezondheidsstelsels brokkelden af en militaire uitgaven stegen wereldwijd. Rusland besteedt nu bijvoorbeeld 40 procent van zijn budget aan defensie. Als deze trend zich doorzet, zullen andere landen volgen, en dan komen we weer in een wereld terecht waarin oorlog en geweld de norm zijn.

Wat heeft dit alles met AI te maken?

Harari: AI zal deze spanningen alleen maar verergeren. Ze kan het militair evenwicht verstoren en enorme economische schokken veroorzaken. Hele industrieën zullen verdwijnen, en honderden miljoenen mensen zullen hun banen verliezen. In een tijd waarin we met AI en klimaatverandering al enorme uitdagingen hebben, kan dat leiden tot een perfecte storm die het internationale systeem destabiliseert.

Historisch gezien hebben nieuwe informatietechnologieën vaak geleid tot nieuwe samenlevingen. Maar nu zien we populisten AI gebruiken om nepnieuws te verspreiden. Wat betekent dat voor democratieën?

Harari: We leven in een tijdperk van informatiestress. Er is een overvloed aan informatie, maar dat is niet hetzelfde als kennis. Veel van wat we consumeren is junkfood: propaganda, nepnieuws en populisme. AI zal daar geen oplossing voor bieden. Integendeel, ze zal een nog complexere wereld creëren. Maar democratieën hebben een uniek vermogen om zich aan te passen en zichzelf te verbeteren. In die zin zijn ze altijd superieur aan dictaturen.

Dus ondanks de risico’s bent u optimistisch over de toekomst van democratieën?

Harari: Democratieën staan voor enorme uitdagingen, maar hun aanpassingsvermogen biedt hoop. Het is aan ons om ervoor te zorgen dat technologieën zoals AI worden gebruikt om samenlevingen te versterken, niet te verzwakken. Alleen met een combinatie van vooruitziende regelgeving en sterke democratische instellingen kunnen we de kansen die AI ons geeft benutten en de risico’s beperken.

Hoe kan AI bijdragen aan een nieuwe wereldorde als democratieën onder druk staan?

Harari: Het probleem met AI is dat het geen waarheid of wijsheid levert. Ze kan weliswaar enorme hoeveelheden data verwerken en complexe systemen creëren, maar ze kan ons niet vertellen hoe we samen moeten leven of wat het juiste pad is. Ze creëert een nieuwe laag complexiteit in onze wereld, en dat kan sommigen, zoals autoritaire regimes, verleiden tot simplistische oplossingen. Maar de geschiedenis heeft ons keer op keer geleerd dat samenlevingen die zichzelf kunnen aanpassen en vernieuwen – zoals democratieën – uiteindelijk veerkrachtiger en succesvoller zijn dan dictaturen.

Maar hoe overtuig je mensen van het belang van die democratische waarden als populisme almaar sterker wordt?

Harari: Dat is een fundamenteel probleem. Mensen raken gedesillusioneerd door de traagheid en complexiteit van democratieën, vooral in een tijd waarin alles sneller lijkt te moeten gaan. Populisten spelen in op die frustratie met eenvoudige, vaak valse antwoorden. AI kan dat proces versnellen door het produceren van meer gepersonaliseerde propaganda en nepnieuws. Maar we moeten erkennen dat de democratische manier – waarbij meningsverschillen worden uitgewerkt en compromissen worden gesloten – uiteindelijk de enige manier is om duurzame oplossingen te vinden. Dat is een traag proces, maar het is de prijs van vrijheid en vooruitgang.

Ziet u enige hoop voor een wereldwijde samenwerking rond AI?

Harari: In de huidige geopolitieke context is dat uiterst moeilijk. Landen zijn verwikkeld in een technologische wapenwedloop, en wederzijds wantrouwen belemmert samenwerking. Maar samenwerking is absoluut noodzakelijk. Zonder een gecoördineerde aanpak zullen de economische, sociale en politieke gevolgen van AI catastrofaal zijn. Het is een enorme uitdaging, maar ik geloof dat de mensheid, wanneer ze geconfronteerd wordt met een existentieel risico, in staat is tot uitzonderlijke samenwerking. We hebben dat in het verleden gezien, bijvoorbeeld met internationale verdragen over kernwapens of de aanpak van het gat in de ozonlaag. Maar de tijd dringt.

Dus ondanks uw waarschuwingen blijft u hoopvol?

Harari: Hoop is essentieel, vooral in een tijd waarin pessimisme de overhand lijkt te hebben. De toekomst is niet geschreven, en het is aan ons om de juiste beslissingen te nemen. AI biedt enorme mogelijkheden voor vooruitgang – in geneeskunde, onderwijs, milieu en zo veel andere domeinen. Maar we moeten uiterst voorzichtig en verantwoord omgaan met deze technologie. Ze is geen hulpmiddel dat we zomaar zijn gang kunnen laten gaan. Ze vereist onze voortdurende aandacht, regulering en morele verantwoordelijkheid. Dat is de enige manier om ervoor te zorgen dat AI ons dient, in plaats van ons te overheersen. 

© Der Spiegel