‘Nog maar twee jaar geleden braken generatieve AI-systemen door. Als we een nieuwe hoogmoed-en-val cyclus willen vermijden, dan moeten we goed nadenken over welke grenzen we kunnen verleggen en wat de gevolgen daarvan zijn’, schrijft Tim Brys.

“U zult zoals God zijn,” beloofde de slang aan Eva. “Laat ons een toren maken die tot de hemel reikt,” besloten de Babelse bouwers. “Ik ben god!” riep farao in de film Exodus: Gods and Kings. Deze verhalen uit de Joodse traditie belichten een diep menselijk verlangen: iets in ons wil al onze beperkingen overstijgen, de wereld volledig naar onze hand zetten en elk verlangen bevredigd zien.

Kortom: we willen als goden zijn. Vaak met catastrofale gevolgen, volgens die verhalen: Adam en Eva moesten het paradijs uit, Babel eindigde in spraakverwarring en farao verdronk met zijn leger in zee. Bij de Grieken vertaalt Icarus’ fatale vlucht langs de zon hetzelfde patroon: hoogmoed komt voor de val.

In de 21^e eeuw staat de mensheid dichter dan ooit bij haar gedroomde goddelijkheid. We overwonnen de dodelijkste ziekten en zijn steeds minder sterfelijk. Om in de hemel te komen hebben we geen torens meer nodig, want met raketten landen we zelfs op de maan. De wetenschap brengt ons steeds dichter bij de alwetendheid. Met hologrammen brengen we doden zoals Elvis weer tot leven. En dankzij AI kunnen we wezens scheppen naar ons evenbeeld, zoals Marcy Cortega, de AI-gegenereerde popster, of, nog sterker, artificial general intelligence, AI met de capaciteiten van een mens: OpenAI CEO Sam Altman stelde deze week te weten hoe dat moet gebouwd worden en zou het willen verwezenlijken binnen het presidentschap van Trump.

Vooruitgang of hoogmoed?

Al eeuwenlang is frustratie over onze beperkingen een drijvende kracht in de technologische vooruitgang. We verwierven een ongeziene mate van controle over de wereld en hebben zo de levens van velen gezonder, langer en kwaliteitsvoller gemaakt. Vandaag zetten we dat élan voort, hopende dat steeds minder beperkingen de mens van zijn volle potentieel zullen houden. Volgens transhumanisten zal zelfs onze grootste begrenzing het begeven: door ons bewustzijn over te zetten naar een computer zouden we de dood overwinnen en homo deus worden.

Vooruitgang wordt echter hoogmoed wanneer we arrogant elke grens verleggen en elk verlangen bevredigen terwijl we de gevolgen ervan niet begrijpen of ontkennen. In onze drang naar technologische groei hebben we de natuur geplunderd, maar beseffen nu dat zelfs water in ons natte België niet onuitputtelijk is. Onze industrie heeft zoveel gas gegeven dat het klimaat verandert en extreme weerspatronen vele levens bedreigen. De ingenieuze elektronica die ons digitale superkrachten geeft is gebouwd op slavernij in Afrikaanse metaalmijnen. We zijn steeds meer geconnecteerd dankzij sociale netwerken, maar hun verslavende algoritmes dragen bij tot mentale problemen en polarisatie.

Na het hoogmoedig verleggen van onze grenzen komt vaak een pijnlijke val en moeten we geschaafd terugkrabbelen, grenzen herontdekken en die gedisciplineerd leren respecteren, als het niet te laat is: water duurzaam beheren, minder broeikasgassen uitstoten, mijnwerkers correct vergoeden, stoppen met doomscrollen.

Generatieve AI

Nog maar twee jaar geleden braken generatieve AI-systemen door. Als we een nieuwe hoogmoed-en-val cyclus willen vermijden, dan moeten we goed nadenken over welke grenzen we kunnen verleggen en wat de gevolgen daarvan zijn. Helaas lijken we opnieuw blind vooruit te lopen, want je zou maar eens je marktaandeel zien slinken. Generatieve AI is de wieg nog niet ontgroeid, maar wordt al massaal ingezet: vooral voor onschuldige optimalisaties, maar enkele toepassingen doen de grondvesten van onze maatschappij daveren.

Het onderwijs zit met de handen in het haar: door ChatGPT moet niet alleen evaluatie volledig herdacht worden, maar zouden studenten ook essentiële vaardigheden niet meer leren. In onze geïndividualiseerde samenleving lijden we psychologisch onder een schaarste aan menselijk contact, en toch, of daarom, ontwikkelen steeds meer mensen relaties met chatbots; sexuele rollenspellen vormen zelfs het tweede meestvoorkomende gebruik van ChatGPT. Google stootte ondertussen 48% meer broeikasgassen uit door generatieve AI. En experts zoals Altman die artificial general intelligence nastreven waarschuwen paradoxaal zelf dat die technologie een existentiële bedreiging kan vormen voor de mens, vegelijkbaar met nucleaire wapens.

De vraag is: wat zijn de gevolgen van het ongebreideld scheppen en in gebruik nemen van AI-systemen? Worden we hier collectief beter van of zullen we net als Dr. Frankenstein hoogmoedig grenzen overschrijden waar we later spijt van krijgen? Het is niet omdat het kan en goed voelt, of geld opbrengt, dat het op de lange termijn ook goed is.

Gezonde grenzen

In ons streven om zo onbeperkt te worden als God hebben we onze wereld getransformeerd en nieuwe virtuele werelden geschapen. Alleen ontdekken we soms dat we er niet goed in gedijen, omdat we er niet voor geschapen zijn. Wij en de wereld zijn niet oneindig maakbaar maar inherent begrensd. Blind technologisch vooruitstormen vanwege een vooruitgangsideologie die alle grenzen wil wegvagen – of omwille van het geld – is hoogmoedig.

Laat ons duidelijke grenzen aflijnen voor het gebruik van AI. De EU AI Act-regelgeving is maar een eerste stap.

We moeten luisteren naar onze wijsheidstradities en moderne psychologen die aangeven wat goed is voor de mens en zo bepalen welke grenzen we wijselijk kunnen verleggen. De knapste AI-koppen en bedrijven kunnen op basis daarvan vooruitgang maken – traag maar zeker – ten goede van iedereen. Nu is het te vaak zo snel mogelijk, ten goede van een elite en ten koste van de rest. AI kan helpen de grootste uitdagingen van onze tijd aan te gaan: zo draagt ons lab bij aan oplossingen voor klimaatverandering en pandemieën. Maar AI kan ons ook té dicht bij de zon doen vliegen. En dan zal de val onvermijdelijk diep zijn.

Tim Brys is doctor in artificiële intelligentie, master in religie, werkt bij het AI-lab van de VUB.