Historicus Harold James: ‘AI maakt mensen dommer’

Nu artificiële intelligentie in zowat alle geledingen van de samenleving aan een forse opmars bezig is, wordt er druk gediscussieerd of AI nu goed of slecht is voor de mensheid. De vooraanstaande economisch historicus Harold James (Princeton University) ziet een hoop gevaren, maar ook kansen.

De chipfabrikant Nvidia heeft zijn beurswaarde in een jaar tijd verveelvuldigd. Het software- en AI-concern Microsoft is nu het meest waardevolle bedrijf ter wereld. Valt de opmars van AI nog wel gezond te noemen? Of gaat het om een speculatieve zeepbel?

Harold James: Het heeft elementen van beide. Mij lijkt het een boomble, een mix van boom en bubble. Artificiële intelligentie zal de manier waarop we zakendoen en leven fundamenteel veranderen. De grote investeringen en hoge beurswaarderingen zijn gerechtvaardigd. Maar veel van wat men hoopt, zal niet worden waargemaakt, vooral als een groot aantal ­mensen en bedrijven ervan wil profiteren. Dat is typisch voor een zeepbel.

In Nederland brak in de 17e eeuw de tulpenmanie uit, in de jaren 1920 was er de beurshausse in de VS en Europa, en begin 2000 had je in Duitsland de Neuer Markt. Heeft de mensheid dan niets geleerd van de zeepbellen uit het verleden?

James: De klassieke definitie van een zeepbel is dat alle betrokkenen in principe wéten dat iets waardeloos is. Toch investeren en speculeren ze, omdat ze hopen op tijd uit de markt te kunnen stappen voordat die ­instort. Volgens mij zijn de grote spoorwegmaat­schappijen en hun baronnen van de 19e eeuw het beste equivalent van de huidige situatie. Of het nu in Berlijn, Wenen, Rusland of Noord-Amerika was, de spoorwegen waren in die tijd revolutionair en openden enorme nieuwe gebieden. Opeens was het mogelijk om op ­grote schaal graan te exporteren naar West-Europa. Overal werden stations en sporen aangelegd. Maar men realiseerde zich al snel dat er niet zoveel lijnen en spoorwegmaatschappijen nodig waren. Uiteindelijk bleef er maar één belangrijke lijn over in Noord-Amerika.

Verwacht u een vergelijkbaar fenomeen met AI? Zal de huidige euforie worden gevolgd door ontgoocheling?

James: AI is echt revolutionair. Maar veel van de bedrijven die er nu in investeren om bijvoorbeeld medische toepassingen te vinden, zullen niet succesvol zijn. Dat hebben we al gezien tijdens de pandemie. Er was een wereldwijde race naar vaccins en er werden ­enorme bedragen geïnvesteerd. En waar staat AstraZeneca nu?

De economische meerwaarde van de spoorweg was zelfs voor leken duidelijk. Bij het vaccin hoopte de hele wereld op het einde van de pandemie. Maar naar het effect van AI op de economie kunnen we op dit moment alleen maar gissen.

James: We beseffen nu al hoe ingrijpend de veranderingen zijn. Zo’n versnelling van de vooruitgang hadden we ons vijf jaar geleden nauwelijks kunnen voorstellen. Het wakkert de markten aan. Dat zie je in de chipindustrie: decennia oude wetten zoals de wet van Moore – ‘het aantal transistors op een processor verdubbelt elke twee jaar’ – zijn nauwelijks nog van toepassing. Vandaag ontwikkelt de rekenkracht zich veel sneller.

De gevaren van ChatGPT: ‘We dreigen collectief dommer te worden’

Sam Altman, baas van OpenAI, het bedrijf achter de chatbot ChatGPT, voorspelt dat we over vijf jaar artificiële algemene intelligentie zullen zien − op hetzelfde niveau als mensen.

James: De meningen lopen uiteen over de vraag of dat over vijf, tien of twintig jaar zal gebeuren. Maar we moeten erop voorbereid zijn. Feit is dat het tempo ongelooflijk hoog ligt, en de investeringen in de technologie nemen even snel toe, vooral in de Verenigde Staten. Daar vloeide vorig jaar 67 miljard dollar aan privékapitaal naar AI, bijna tien keer meer dan in China. Europa loopt volledig achter.

Zal een handvol Amerikaanse bedrijven uiteindelijk AI gebruiken om het lot van de mensheid te bepalen?

James: Misschien, tenminste wat betreft de ont­wikkeling van de grote modellen. Maar de echte kracht van deze technologie zit in de toepassingen. Dat is voor mij het opwindende. Je kunt het niet vergelijken met ­Thomas Watson van IBM, die de ponskaarttechnologie groot maakte en vervolgens de wereldwijde productie ervan controleerde. Op een gegeven moment zullen we allemaal in staat zijn om AI te gebruiken, te controleren en toe te passen. De machine beantwoordt niet alleen je vraag, ze helpt je om nieuwe verbanden te zien. In de geneeskunde hoeft een arts zich niet zo druk te maken over de vraag: is dit kanker of niet? Hij kan AI gebruiken om de beste therapie te vinden.

Als de ontwikkeling zo snel gaat, hebben we dan meer overheidsregulering nodig?

James: In principe is het proces oncontroleerbaar. Natuurlijk wordt de technologie vooral in de VS ontwikkeld. Maar de toepassingen zullen snel overal zijn. Het is niet iets wat je binnen de perken kunt houden of kunt voorkomen, daar evolueert de technologie te snel voor. In de 20^e eeuw gold in het Oostblok een verbod op de verkoop van de nieuwste computers. Het zouden machines van de revolutie zijn. Toen ik in 1981 in het kader van een uitwisselingsprogramma in de DDR werkte en op de Economische Hogeschool in Berlijn-Karlshorst kwam, vroeg ik naar de afdeling Marxistisch-Leninistische Wetenschap. Ze namen me toen trots mee naar de zolder. Ze hadden net hun oude ideologiefabriek vervangen door een grote computer.

Dus de onlangs aangenomen AI-wet van de Europese Unie is een verloren zaak omdat de revolutie uiteindelijk toch oncontroleerbaar is?

James: Als dat daadwerkelijk zo is, dan zal er regelgeving op mondiaal niveau moeten komen. Als Europa het in z’n eentje doet, moeten we niet verbaasd zijn als we afhankelijk worden van de ontwikkelingen van anderen. Europese burgers zullen terecht eisen dat ze kunnen deelnemen aan de technologische vooruitgang. Ik kom net terug van de voorjaarsbijeenkomst van het Internationaal Monetair Fonds (IMF) in Washington. In de jaren 1990 gebruikten ze WordPerfect van Novell in plaats van Word om niet afhankelijk te worden van Microsoft. Het resultaat was dat de Wereldbank, die Microsoft Word gebruikte, geen IMF-documenten kon openen.

De roep om regels komt van de ontwikkelaars zelf, zoals Sam Altman of techmiljardair Elon Musk. Sommigen roepen zelfs op tot moratoria. Hoe komt dat?

James: De roep om regelgeving is niet meer dan logisch. Als je een leidende positie hebt, heb je er natuurlijk belang bij dat de markt wordt gecompartimenteerd. Ik zie die noodzaak niet bij AI. Het gaat vooral om ethische of morele kwesties.

Welke?

James: Er zullen veel AI-toepassingen komen voor agressieve en militaire doeleinden. Denk aan de Iraanse raketten die onlangs op Israël werden afgevuurd. Veel van die moderne wapensystemen bevatten al AI-elementen, en dat is nog maar het begin. We kunnen een wapenwedloop tegemoetgaan zoals we die halverwege de 20^e eeuw zagen met de kernbewapening. Destijds werd geprobeerd die wedloop in te dammen met internationale verdragen. Vandaag kunnen we zien hoe versleten die verdragen zijn. Duitsland en Japan respecteren ze, Pakistan, Iran en Noord-Korea niet. Op die manier kunnen we geen effectief verbod op AI afdwingen.

Organisaties als Amnesty International roepen op tot een verbod op ‘killer robots’, anderen willen dat mensen op zijn minst betrokken blijven bij de besluitvormingsketen, zodat ze in geval van twijfel nog altijd op een stopknop kunnen drukken. Is dat verkeerd?

James: Wie moet zoiets internationaal afdwingen? Je zou natuurlijk een nieuw instituut kunnen oprichten, analoog aan de Verenigde Naties. Maar kijk naar de VN: die zitten in een zodanige impasse dat ze nauwelijks in staat zouden zijn om op die stopknop te drukken. En is het grotere gevaar van AI niet een menselijk gevaar? Hoe moeten we ermee leven als we binnenkort niet meer de intelligentste wezens op aarde zijn?

U bedoelt: hoe gaan we om met dat gevaar?

James: Tijdens de industriële revolutie werd fysieke menselijke en dierlijke arbeid vervangen door fossiele energie. Wat gebeurde er toen? Mensen werden gezonder en leefden langer, maar hun spieren werden zwakker, hun fysieke kracht nam af. Hetzelfde zou kunnen gebeuren met AI. Veel activiteiten die we vroeger met onze hersenen deden, zullen ons worden afgenomen. AI zal mensen dommer maken omdat ze hun hersenen minder intensief zullen gebruiken en trainen. Of neem interpersoonlijke relaties. Ook die zullen veranderen als gevolg van AI. In China hebben miljoenen mannen al een chatbot als vervanging voor een vriendin. De uitdagingen die daaruit voortvloeien zijn minstens zo groot als de veiligheids- en militaire kwesties.

Artificiële intelligentie maakt mensen minder menselijk?

James: Absoluut. Omdat we minder met elkaar en meer met de machine omgaan. En omdat we geen talen meer hoeven te leren, omdat AI alles meteen voor ons kan vertalen. Daar situeert zich het echte gevaar van deze technologie.

Waarom bent u zo pessimistisch?

James: Ik heb ambivalente gevoelens bij de veranderingen. Als je een ernstige ziekte hebt, dan doe je enorm je best om de beste dokter ter wereld te vinden. AI kan in de toekomst helpen, maar het zal nooit het gevoel van praten met een mens kunnen vervangen. En misschien is dat wel waar het in het medische vak om draait in het AI-tijdperk: de patiënt als geheel zien. Of denk aan jonge mensen. Zij zouden in de toekomst veel beter en meer geïndividualiseerd onderwijs kunnen krijgen dankzij AI. Jongeren hoeven alleen maar gemotiveerd te worden. En dat motiveren is precies wat de leraren van de toekomst moeten doen.

Hoe speel je dat klaar met een generatie leerlingen die weet dat ze het moet opnemen tegen een technologie die alles toch al beter kan?

James: Neem Duitsland in het midden van de 19^e eeuw. Een hele generatie schrijvers moet depressief zijn geweest omdat ze wisten dat ze nooit zouden kunnen schrijven als Goethe. Of Italië na Michelangelo, aan het einde van de 16^e eeuw. Hoe motiveer je jonge mensen om hard te werken en te oefenen? Het is de menselijkheid die het aantrekkelijk maakt om het tenminste te proberen.

Duitsland werd wereldwijd beschouwd als het land van uitvinders en ingenieurs – Konrad Zuse vond de computer uit in Berlijn. Die voorsprong is het kwijt. Wat is er misgegaan?

James: Het Duitse model heeft de tand des tijds doorstaan: de voorkeur geven aan lichte vooruitgang en grote sprongen uit de weg gaan. De VS zijn anders, flexibeler, radicaler. Daar is er een grote bereidheid om innovaties snel te implementeren en in het leven te integreren. In Duitsland staat men terughoudender tegenover verandering. Het opvallende is dat technologische vooruitgang in de VS geen wonderen verricht op sociaal-politiek gebied. Integendeel, het gaat hand in hand met massale verarming.

U bedoelt de groeiende kloof tussen arm en rijk?

James: Veel Amerikanen hebben niet de nodige medische zorg of de juiste voeding. Velen voelen zich verwaarloosd en genieten niet van het onderwijs waar Europeanen toegang toe hebben. En dat zijn maar enkele voorbeelden.

Moet Europa technologisch een versnelling hoger schakelen?

James: Er moet echt iets gebeuren. Mijn perceptie is dat zulke veranderingen eerder zullen werken in landen die zich bedreigd voelen. Neem nu Estland of Zweden en Zwitserland in de jaren 1930. Die maakten zich zorgen over nazi-Duitsland, dus kwamen arbeiders, boeren en burgerlijke partijen samen en die hergroepeerden zich politiek. Daarom geloof ik dat Europa nu ook zal veranderen. Er zijn geopolitieke en technologische bedreigingen die niet langer genegeerd kunnen worden.

‘We leren het meest als de wereld op zijn donkerst is’, schrijft u in uw recentste boek, waarin u zeven schokmomenten in de economie sinds 1840 beschrijft. Beleeft Europa nu zo’n moment?

James: Dat gevoel heb ik, ja. Met alle geopolitieke en technologische bedreigingen waar we vandaag mee te maken krijgen lijkt het alsof we midden in die duisternis te zitten. Misschien zet dat dingen in beweging.

Wat moeten Europese politici doen?

James: Europa heeft geen AI-wet nodig, maar een goede toepassingsstrategie. De vraag moet niet zijn: hoe lokken we OpenAI of Intel hierheen met hoge subsidies? De vraag moet zijn: hoe kunnen we AI gebruiken om het tekort aan geschoolde arbeidskrachten tegen te gaan?

Hoe zou dat kunnen werken?

James: Kunstmatige intelligentie zal veel banen vervangen. Je kunt daar angstig en negatief tegenaan kijken, in de trant van: AI zal onze jobs om zeep helpen. Maar ik ben voorstander van een pragmatische kijk: intelligent gebruik van AI kan ons helpen personeelstekorten tegen te gaan en productiever te worden.

Er is dus toch politieke controle nodig.

James: Nee, integendeel. We hebben te maken met grote belangen en machtige lobbygroepen. Zij zullen er alles aan doen om hun monopolie te beschermen. We hebben niet meer wetten nodig, maar juist veel meer deregulering om uiteindelijk te kunnen profiteren van kunstmatige intelligentie.

Door Simon Book en Marcel Rosenbach