Schrijver Arnon Grunberg: ‘Artificiële intelligentie is zo gevaarlijk als de atoombom’

Arnon Grunberg, mogelijk de productiefste en wellicht de belangrijkste levende schrijver in de Nederlandse taal, komt naar FAAR, het non-fictieboekenfestival in Oostende. Hij zal er spreken ‘over waarvan hij wakker ligt als hij nadenkt over morgen’.

Arnon Grunberg: Ik vraag mij af: kan artificiële intelligentie ons vervangen als mens? Die mogelijkheid bestaat. Dat zien we nu al aan de kwaliteit van de teksten die gecreëerd worden via artificiële intelligentie. De vertaalmachines van Google zijn ontzettend goed geworden. Zullen ze de ambiguïteit die in mensen zit – en dus in onze teksten – ooit kunnen bijbenen? Ik denk van wel. De dag zal komen dat die machines volledig autonoom aan de slag kunnen. Schrijvers worden dan langzaamaan vervangbaar. Ik heb het al eerder voorspeld: binnen een jaar of zeventig wint artificiële intelligentie de Nobelprijs voor de Literatuur.

U vindt het een uitstekend toekomstbeeld dat robots straks mee instaan voor de zorg voor kinderen en ouderen.

Grunberg: Vertaalmachines doen het nu al uitstekend, maar het schijnt veel moeilijker te zijn om robots te maken die precies weten hoeveel druk ze moeten zetten om een glas op te heffen. Zonet bracht een ober ons een kop koffie en een glas water. Een robot kan dat nog niet: ofwel duwt die te hard en dan spat dat glas in scherven uiteen, ofwel is zijn greep te zacht en valt het glas op de grond. Maar goed, ouderen en zieken zullen het binnenkort waarschijnlijk een vijfsterrengevoel vinden als ze door echte mensen worden bediend en verzorgd. Dat is, vrees ik, alleen een kwestie van tijd.

Wat u zegt is een aanleiding tot nederigheid voor intellectuele beroepen: robots kunnen perfect vertalen en winnen al jaren schaakpartijen tegen grootmeesters. Maar een kop koffie aanreiken? Ho maar.

Grunberg: Ik bekijk het filosofisch: misschien winnen we aan comfort, maar de vrijheid komt wel onder druk te staan. Als mensen helemaal vervangbaar zijn, wat stelt onze vrijheid dan nog voor? Dan verdienen onze humanistische idealen toch enige bijstelling. Karl Marx maakte nog het klassieke onderscheid tussen hand- en hoofdarbeid. In zijn tijd bestond al de vrees dat de handarbeid ooit vervangbaar zou zijn door machines, dat dat ook zou kunnen voor hoofdarbeid was onvoorstelbaar. Ondertussen experimenteren ze in de Verenigde Staten al met rechtszaken waarin machines beslissen. Over de meeste Amerikaanse visumaanvragen wordt nu al door machines beslist.

Je zult maar horen dat een machine je veroordeelt tot tien jaar gevangenis. Of tot de doodstraf.

Grunberg: Dat is ronduit gevaarlijk, natuurlijk. Net zoals AI in oorlogssituaties beslissingen zal nemen over welk doelwit wordt gebombardeerd.

AI kan onverwachte neveneffecten hebben. Kinderen die zeggen: “Papa is als dode veel aardiger.”

Knack legde vorige week uit hoe bij rouwverwerking overleden personen artificieel ‘tot leven worden gewekt’ en hoe nabestaanden in virtuele gesprekken met de dode kunnen ‘communiceren’.

Grunberg: Dat is een voorbeeld van de deepfake-manipulatie waaraan we voortdurend blootstaan. Als je verstandige mensen al kunt overtuigen van de illusie dat ze met doden kunnen praten, wat is dan nog echt? Het kan ook tot onverwachte neveneffecten leiden. Kinderen die zeggen: ‘Papa is als dode veel aardiger dan toen hij nog leefde.’

Hij drinkt niet.

Grunberg:(lacht) Hij slaat vrouw noch kinderen! Het is een wezenlijke vraag: rommelt artificiële intelligentie zo met onze condition humaine? In principe ben ik geneigd te zeggen dat wij alleen met andere mensen een waarachtige band kunnen ontwikkelen. Al zien we natuurlijk dat veel mensen een ‘gesprek’ met hun hond of kat verkiezen boven een paar woorden met hun buren of familie. Artificiële intelligentie kan dus best leiden tot radicale vereenzaming.

Uit een aantal van uw teksten zou je nochtans kunnen afleiden dat u een vooruitgangsoptimist bent. Menselijke uitvindingen maken de wereld al eeuwen een betere plek om te leven.

Grunberg: Natuurlijk. Ik geef graag het voorbeeld van de Zonnekoning, die ondraaglijke pijn aan zijn tanden had: de machtigste man van Europa had in Versailles minder goede tandheelkundige zorg dan vandaag mensen met een minimumloon. Tijdens de Eerste Wereldoorlog was de geneeskundige zorg voor soldaten haast onbestaande in vergelijking met de gespecialiseerde hulp die de Navo inzette bij militaire operaties in Afghanistan en Irak. Er sterven ook minder soldaten. Dergelijke vooruitgang is reëel.

Ik ben meer sceptisch over het antwoord op de vraag of we ook morele vooruitgang maken. Tegelijk verzet ik mij tegen doorgedreven pessimisme, tegen het idee dat we nu in de ‘eindtijd’ zouden leven, dat de wereld op het punt staat te vergaan. Ik denk wel dat AI ons mensbeeld drastisch aan het wankelen zal brengen. En dat het potentieel gevaarlijk is, zo gevaarlijk als de atoombom. Maar ik ben sceptisch over de middelen om ons daartegen te verzetten. Met oorlogsrecht kun je zeggen: we doen veel, maar gifgas doen we echt niet. Dat is redelijk succesvol gebleken. AI is complexer. Kun je in het oorlogsrecht zetten: de beslissing over een bombardement mag nooit worden genomen door een machine?

De atoomdreiging bij de oorlog in Oekraïne boezemt u geen angst in?

Grunberg: Ik was als tiener nog wat jong om er zelf bij te zijn, maar in de jaren tachtig stond hier in Amsterdam het Museumplein vol demonstranten tegen de kruisraketten.

Toen zong de Nederlandse popgroep Doe Maar over De Bom: ‘Laat maar vallen dan, het komt er toch wel van. Het geeft niet of je rent.’ Dat klonk behoorlijk fatalistisch.

Grunberg: Ik ben geen pacifist. Zodra je beslist om je eenzijdig te ontwapenen, lever je je uit aan mensen die dat niet doen. Vandaag is de grootste dreiging niet Rusland, maar China. Als wij Oekraïne opgeven aan Rusland, neemt China morgen Taiwan in. Dan verkruimelt de Amerikaanse wereldorde, en dus de onze. Nogmaals, iedereen weet dat een werkelijk conflict met atoomwapens ons allemaal kan vernietigen. Ik citeer graag de militaire historicus Martin van Creveld: ‘Niemand heeft zo veel voor de vrede gedaan als het atoomwapen.’

Schreef u daarom dat de oorlog in Oekraïne niet het begin is van een Derde Wereldoorlog?

Grunberg:(aarzelt) China noch de VS hebben er belang bij om Rusland al te zeer te verzwakken. Deze oorlog zal niet uitmonden in een regime change zoals met Saddam in de oorlog in Irak. De Amerikanen zullen niet oprukken naar Moskou, Biden wil Poetin niet weg. Ook al omdat de meeste alternatieven voor Poetin gruwelijker zijn dan Poetin zelf. Natuurlijk mag Poetin niet winnen van Oekraïne, want dan is de kans groot dat hij nadien zal mikken op Moldavië en de Baltische Staten.

U gelooft nog altijd in een onderhandelde oplossing?

Grunberg: Waarom niet? Waarom móét zo nodig gevochten worden om de Krim? Waarom kunnen we niet terug naar de situatie van voor de inval van Rusland in Oekraïne, maar dan met een echte wapenstilstand? Ook ik zie in Poetin een ongekende agressor, maar ook met ongekende agressors met atoomwapens moet vroeg of laat gepraat worden. De vraag is: hoe definiëren wij een Oekraïense overwinning? Als ik een Oekraïner was, zou ik terugkeer naar de status quo ante een overwinning noemen, dus de toestand van voor 23 februari 2022.

Onlangs was u zelf in Oekraïne. Waarom?

Grunberg: Omdat je ter plekke altijd een wezenlijker beeld krijgt dan als je alleen via CNN of de NOS naar zo’n oorlog kijkt. Je ziet andere schakeringen, want je bent niet afhankelijk van een tussenpersoon. Ik heb in Oekraïne het front niet bezocht, wel steden als Lviv en Odessa. Ik sprak er met veel jongemannen. Ze haten Poetin, maar ze willen niet zelf aan het front vechten: ‘We zijn nog veel te jong om te sterven.’

Op grond van de berichten hier had ik de indruk dat heel Oekraïne achter president Volodymyr Zelensky staat. Ginds merk je meteen dat ze vooral heel erg tegen Poetin zijn, maar dat veel mensen ook zware twijfels hebben over Zelensky en wat er in Oekraïne zal gebeuren na de oorlog. En omdat ik niet gebonden ben aan de nauwere definities van berichtgeving waaraan een journalist zich moet houden, kan ik op mijn manier een ander en beter beeld geven van wat ik zie. Op die manier raak ik nooit uitgeleerd. Dat is dan weer een gelijkenis met artificiële intelligentie: wie vertaalprogramma’s gebruikt, leert ook voortdurend bij.

In Syrië zag ik de eerste keer een meisje van tien met afgerukte benen: ze had op een landmijn getrapt. Artificiële intelligentie kan ons leren over het gevaar en de effecten van landmijnen, maar nooit over de pijn van dat meisje en het peilloze verdriet van zo’n moeder naast een ziekenhuisbed.

Grunberg: Je kunt inderdaad zeggen dat artificiële intelligentie pas echt bestaat als zo’n machine pijn kan voelen en doodsangst kent. In 2005 was ik gastschrijver aan de Technische Universiteit van Delft. Een student vroeg toen: ‘Kan een machine niet de indruk wekken zelf te lijden, en dat zo overtuigend doen dat iedereen denkt dat het waar is?’ Dat is de cruciale kwestie in onze omgang met artificiële intelligentie: komt er een ogenblik dat we zullen geloven dat het echt is? Dan is deepfake niet meer te onderscheiden van de werkelijkheid.

Nu al heeft artificiële intelligentie via algoritmes perverse, zelfs gevaarlijke effecten. U waarschuwde in een essay in Het Parool onlangs voor de manier waarop kinderboekenschrijver Pim Lammers op sociale media werd afgemaakt, nadat hij eerst geframed was als ‘pedofiel’.

Grunberg: Sociale media zijn geen zelfreinigende structuren. Integendeel: hoe absurder, hoe grover, hoe verder van de realiteit – hoe ‘beter’ sociale media functioneren. Iemand schrijft iets aanstootgevends, dus nemen andere mensen daar per definitie aanstoot aan, en hup: met z’n allen komen we terecht in het spel. Het is niet zomaar aaantrekkelijk, het werkt ronduit verslavend. Ik merk het zelf: als ik een mail krijg met felicitaties dan vind ik dat aangenaam, zonder meer. Als iemand mij beledigt, dan bekruipt mij toch het gevoelen om zelf een paar zinnen terug te schrijven. Negativisme en kritiek doen ons bestaan meer op zijn grondvesten schudden dan waardering.

Sociale media zijn bepaald ongenadig, en dat heeft ook invloed op de reguliere media. U noemde het ‘brandstof om de burger op te hitsen’. Iemand ‘pedoseksueel’ noemen – of ‘verkrachter’ of ‘racist’ – is hoegenaamd niet neutraal: ‘Waar die woorden opduiken, gaan beschuldiging en veroordeling samen. Men hoeft er geen seconde meer over na te denken, de pedofiel staat buiten de mensheid en is daarmee de ideale zondebok. Mensen haten is niet netjes, maar wie de pedofiel haat, brengt slechts het verlangen naar het goede in praktijk.’

Grunberg: Dat is natuurlijk het grote gevaar: dat agressie op sociale media consequenties krijgt in de werkelijke wereld. Op sociale media spelen mensen voor aanklager en rechter tegelijk. Als u als beschuldigde voor een echte rechter verschijnt, kunt u altijd vrijgesproken worden van blaam. Maar zo werken sociale media niet. Je komt in een pseudojuridische praktijk terecht waarin men tegelijk aanklager, rechter en beul is. Wie beschuldigd wordt, is op hetzelfde moment veroordeeld en dient ter plaatse zijn straf te ondergaan.

Soms ligt het nog moeilijker, want wat met mensen die ook zijn gestraft? De Vlaamse televisiemaker Bart De Pauw werd door de rechtbank veroordeeld voor belaging. Ook na die uitspraak bleef de druk van media en sociale media op De Pauw groot. Vorige week kwam dan het bericht dat hij een zelfmoordpoging had ondernomen. Wat voor leven heeft in deze samenleving een man die – terecht – veroordeeld is voor grensoverschrijdend gedrag?

Grunberg: Of je bent voor de doodstraf, of je bent ertegen. Als je ertegen bent, zoals ik, laat je mensen toe om na een gerechtelijke uitspraak en een straf ook terug te keren in de samenleving, en de draad van hun leven weer op te pikken. Anders ben je eigenlijk vóór de doodstraf. Natuurlijk zijn er uitzonderlijke gevallen zoals Marc Dutroux. Ook in Nederland kennen we het stelsel van Terbeschikkingstelling (TBS) voor de enkelingen waartegen we de maatschappij in alle omstandigheden moeten beschermen. Maar dat geldt alleen voor de écht uitzonderlijke gevallen.

Neem dat geval van Marco Goecke, die gelauwerde Duitse choreograaf die een recensente met hondenpoep heeft besmeurd wegens haar kritische beoordeling van zijn werk. Natuurlijk hoorde die man zich niet te vergrijpen aan die vrouw. Maar moet je op grond van één incident zijn carrière ruïneren? Er zit zelfs iets sadistisch in het kijken naar de val van een bekende figuur, het genieten van zijn onmacht. Het is toch buiten verhouding dat het nieuws van die choreograaf met zijn zakje hondenpoep de hele wereld is rondgegaan, tot The New York Times toe? Alsof we ons met zijn allen erover verlustigen dat iemand uit de danswereld met zijn zuivere vormen ook op een hoogst onelegante manier kan struikelen.

Aan de ene kant willen we diversiteit en inclusie, en pleiten we daarom ook voor een veilige plaats voor mensen die psychisch zwakker staan. Ik ken die choreograaf niet, ik lees alleen dat hij blijkbaar zijn zelfbeheersing verloor en nadat hij zijn hond had uitgelaten die vrouw heeft belaagd. Dat is hoogst gênant, maar tegelijk toonde hij ook zijn zwakte. En welke straf geeft de samenleving hem? Door dat ene moment van zwakte zal hij mogelijk nooit nog een choreografie kunnen uitvoeren. Staat dat in verhouding met een zakje hondenpoep?

Is wat de recensente overkwam, hoe schandalig ook, geen wake-upcall voor journalisten en schrijvers? Een pen kan soms meer pijn doen dan een vuistslag.

Grunberg: Daarom vind ik zelfbeheersing een mooie deugd, ook als schrijver. Al op school leer je toch dat een vechtpartij niet veel oplost, zeker als je zelf niet sterk bent. (lachje) Misschien is dat het voordeel van fysiek niet de allersterkste te zijn: je leert de-escaleren, want je wilt er zonder klappen uitkomen. Dat is het verschil tussen het echte leven en het artificiële – sociale media inbegrepen: men beheerst zijn driften niet meer. Dat geldt natuurlijk ook voor die choreograaf, maar toch vind ik het in zijn geval tragischer. De feitelijke straf staat niet in verhouding tot het echte misdrijf. Dat verbaast mij ook van de progressieve kant, die altijd tegen te strenge straffen was, omdat dat uiteindelijk beter is voor de samenleving. Maar blijkbaar leven we weerom in preutse tijden, en schikken we ons naar een nieuw calvinisme.

MeToo is in essentie toch een positieve beweging? Mijn dochters hebben uitzicht op een leven met minder angst voor ongewenste belaging dan alle generaties vrouwen voor hen.

Grunberg: Ik ben geen vrouw en ik weet niet hoe het is om belaagd te worden. Toch moeten we een onderscheid blijven maken tussen een echte verkrachting en andere vormen van lastigvallen. Als iemand op café in mijn billen zou knijpen, zeg ik: ‘Hou daarmee op.’ Blijkbaar hoort dat niet meer. We zijn geconditioneerd geraakt aan het idee dat er voor elk probleem een institutionele oplossing moet komen. Laisser-faire, laisser passer: die gedachte is weg. Maar als je niets meer achter je kunt laten, heb je natuurlijk ook geen leven.

Studenten kunnen of durven zogezegd hun docent niet meer aanspreken en daarom ‘moeten’ ze dus voortdurend naar een vertrouwenspersoon. Waarom? Het gaat toch niet om kleuters die voor het minste naar de juf rennen? Burgers die hun mondigheid opgeven, leveren ook in op hun vrijheid. In die zin zie ik zelfs een verband tussen die nieuwe zedigheid en artificiële intelligentie: ze beknotten onze vrijheid, zogezegd in de naam van diezelfde vrijheid. Dat mensen nooit meer grensoverschrijdend gedrag zullen vertonen, is een illusie. Het leidt er alleen maar toe dat we met zijn allen steeds meer afhankelijk worden van gedrag dat de artificiële intelligentie en andere zedenmeesters ons aanpraten, los van het werkelijke leven.

Als onrecht bestrijden je levensdoel is, heb je altijd nieuw onrecht nodig om je leven zinvol te houden. Ja, dan duiken er plots begrippen op als microagressie, om toch maar ‘onrecht aangedaan te kunnen worden’. Dan kun je zeggen: ‘Ik voel mij niet veilig met de manier waarop de heer Grunberg mij aankijkt.’ Op het moment dat je over veilige ruimtes gaat spreken, wordt het subjectieve aanvoelen de norm. Leven is nu eenmaal een risicovolle bezigheid: de enige totaal veilige ruimte is de doodskist, of het crematorium. Soms voelt het aan alsof zelfs het vrije Westen trekjes begint te krijgen van de goede oude Sovjetcultuur: er is altijd wel iemand die ons wil verklikken of aangeven.

Aan de universiteit van Antwerpen zijn twee personeelsleden bestraft nadat een vertrouwelijk gesprek onder vier ogen – waarin ze neerbuigend spraken over allochtone studenten – was opgenomen zonder dat ze het wisten.

Grunberg: Milan Kundera heeft beschreven hoe in het communistische Tsjechoslowakije privégesprekken afluisteren dé manier was om dissidenten in diskrediet te brengen. Natuurlijk vertelden zulke mensen ook foute zaken en domme grappen. Die werden dan op de radio uitgezonden om hun reputatie te schaden. De echte fout aan het Antwerpse voorbeeld dat u gaf, is niet de conversatie, maar het onterechte gebruik van de opname. We zijn als samenleving te fel gefocust op het onwenselijke en op het idee dat het onwenselijke koste wat het kost moet worden bestreden. Dat brengt ons met zijn allen in een afhankelijke positie van dat wat niet mag of niet zou mogen. En dus roepen we voortdurend om meer repressie. Terwijl een open, tolerante, liberale samenleving juist gebaat is met zo min mogelijk repressie.

De wederzijdse tolerantie staat inderdaad onder druk. Harry Potter-auteur J.K. Rowling wordt gecanceld, het hele werk van Roald Dahl herschreven door sensitivityreaders. Een groot deel van de publieke opinie vindt dat vandaag uitstekend.

Grunberg: Tolerantie gaat natuurlijk over nare dingen, anders is het geen echte tolerantie. Vandaar dat ik ook voorstander ben van demonstratierecht voor neonazi’s. Zij zijn mijn vijanden. Maar vrijheid en demonstratierecht betekenen toch niets als ik alleen mijn vrienden vrijheid gun? Dus op universiteiten mogen mensen spreken met wie ik het volkomen oneens ben. Natuurlijk. De Franse schrijver Louis-Ferdinand Céline was een gore antisemiet, en zelfs eentje zonder spijt. Op zijn racistische geschrijf na, lees ik hem desondanks graag, en ik hoop dat boeken als Dood op krediet en Reis naar het einde van de nacht gelezen blijven worden. Als ik dat over Céline vind, dan toch zeker ook over Rowling en Dahl?