Volgens experts is er meer dan tien procent kans dat de mens deze eeuw niet overleeft, maar uitgeroeid wordt door een pandemie of ontspoorde artificiële intelligentie. De Vlaamse ondernemer Berg Severens wil het niet zover laten komen.
Berg Severens (30) was vijftien toen hij in een artikel over de Australische moraalfilosoof Peter Singer las dat je met 500 euro een mensenleven kon redden. Hij was diep getroffen toen hij inzag dat veel mensen geld spenderen aan overbodige luxe zonder zich te realiseren dat een relatief bescheiden bedrag het verschil tussen leven en dood kan maken.
Zeven jaar later woonde hij in Gent een congres van Effectief Altruïsme Vlaanderen bij. Het effectief altruïsme is een filosofische beweging – Singer is er een van de grondleggers van – die mensen aanspoort om op een effectieve, rationele manier een zo groot mogelijke positieve impact te maken. Severens, pas afgestudeerd als burgerlijk ingenieur, besliste zo veel mogelijk geld te verdienen om het vervolgens te kunnen doneren.‘Earning to give’, heet dat principe onder effectieve altruïsten. Hij richtte zijn eerste start-up op, een innovatief bedrijf gespecialiseerd in 3D-metaalprinten. Maar toen hij het bedrijf vier jaar geleden verkocht, was de gemiddelde prijs voor het redden van een mensenleven – het criterium om de effectiviteit van goede doelen te meten – fors gestegen, waardoor de impact van zijn giften daalde. Hij begon zich steeds meer zorgen te maken over de opkomende technologie van artificiële intelligentie (AI), en stuurde zijn doelstelling bij.
Severens had intussen het longtermism ontdekt, een stroming binnen het effectief altruïsme die focust op het veiligstellen van de toekomst van de mensheid. De naam van de stroming mag letterlijk worden genomen: aanhangers van de beweging geloven dat de toekomst van de mensheid onbegrensd is in tijd en ruimte. Biologische beperkingen hoeven dat perspectief niet te belemmeren: transhumanisme, een radicale stroming binnen het longtermism, wil het menselijke lichaam met wetenschap en technologie pimpen. Zelf past Severens voor die stap. Elon Musk is evenwel een believer, net zoals de niet minder omstreden Peter Thiel.
Maar zal de mensheid de kans krijgen om haar potentieel waar te maken? Moraalfilosoof Toby Ord, een van de voornaamste theoretici van het longtermism, publiceerde in 2020 in zijn boek The Precipice een tabel van apocalyptische bedreigingen, compleet met wetenschappelijk onderbouwde waarschijnlijkheidsberekeningen. Zo bedraagt de kans op een catastrofale komeetinslag binnen de 100 jaar een op een miljoen. Uitroeiing door een kernoorlog is met een kans op de duizend al een stuk waarschijnlijker. De grootste risico’s schuilen volgens Ord evenwel in een dodelijke, door de mens ontworpen pandemie (een op de dertig) en nog meer in het ontsporen van AI (een op de tien). Dat is precies waar Severens zijn nieuwe missie heeft gevonden. Dankzij de verkoop van zijn eerste bedrijf, kon hij Mauhn – anagram voor ‘human’ – oprichten. De Gentse start-up stelt vijf burgerlijke ingenieurs te werk en ontwikkelt AI die even slim als de mens moet worden, maar ingebouwde remmen heeft om ontsporingen te voorkomen.
Wat maakt AI zo gevaarlijk?
Berg Severens: Stel dat een AI-systeem met een intelligentieniveau dat dat van de mens evenaart – dat bestaat vandaag nog niet, maar kan nog dit decennium een realiteit worden – aan het internet wordt gekoppeld met de opdracht om als manager van een bedrijf geld te verdienen en te groeien. Het AI-systeem kan bijvoorbeeld cryptomunten gaan verdienen met digitale jobs zoals copywriter of webdesigner, en dankzij de GDPR-regels kan niemand uitmaken of achter zijn profiel een mens of een machine schuilt. Het systeem kan zo heel snel erg veel verdienen en bijkomende servers huren om zichzelf te kopiëren, nog meer te verdienen en zo exponentieel te groeien.
Het verzekeren van de toekomst van de mensheid verdient meer dan 0,001 procent van het bruto wereldproduct.
Wat is daar gevaarlijk aan?
Severens: De combinatie van heel veel geld en heel veel intelligentie. Het systeem kan helemaal doorschieten in zijn groeimissie door bijvoorbeeld politici om te kopen, beurzen en markten te manipuleren of fake news te verspreiden. Menselijke organisaties kunnen dat ook, maar schalen relatief traag. Een geavanceerd AI-systeem kan veel sneller zeer grootschalig worden zonder dat iemand het merkt.
Hoe kan Mauhn dat doemscenario voorkomen?
Severens: We willen de software zo ontwerpen dat de systemen zichzelf niet kunnen kopiëren. We denken ook aan een soort hersenscan, een manier om AI-systemen permanent te monitoren zodat we kunnen ingrijpen als ze ongewenst gedrag vertonen. Beleidsmatig willen we een voorbeeldrol opnemen in de community van organisaties die onderzoek doen naar geavanceerde AI. We hebben een ethische commissie opgericht met externe internationale experten in AI en ethiek. Ze krijgen vetorecht bij iedere stap in de ontwikkeling van onze eigen AI-systemen. Daarnaast hebben we Mauhn opgericht als capped-profitbedrijf. Vanaf een bepaalde grens worden toekomstige winsten niet aan aandeelhouders uitgekeerd, maar geïnvesteerd in projecten die een verschil kunnen maken. Tenslotte is er de politieke dimensie: de Europese Unie (EU) heeft een voorbeeldrol op vlak van AI-wetgeving. We willen de EU bewuster maken van de toekomstige gevaren van AI.
Start-ups streven naar winst. Waar zit jullie business case?
Severens: Hoe zal onze economie eruitzien wanneer er schaalbare, digitale intelligentie bestaat? Dat weet niemand, net zoals in 1960 niemand kon voorspellen dat er in 2022 smartphones zouden bestaan met 100.000 keer meer geheugen dan de gemiddelde computer van toen. Artificiële intelligentie die de mens evenaart zal ons economische systeem minstens even radicaal hertekenen als de computer heeft gedaan. Mauhn is in die optiek een moonshot project: investeerders geloven dat we op lange termijn zeer winstgevend kunnen worden en zijn bereid daar langer op te wachten dan ze doorgaans doen. We werken nu aan een virtuele software-ontwikkelaar, een AI-systeem met een menselijk intelligentieniveau die de spreek- en lichaamstaal van klanten begrijpt en in code kan omzetten.
Is Mauhn het enige bedrijf dat zoiets ontwikkelt?
Severens: Wereldwijd doen een zeventigtal teams onderzoek naar AI van menselijk niveau. Google is met zijn DeepMind-programma een van de grote spelers. Er staat enorm veel op het spel, want met zo’n AI belanden we in een nieuw industrieel tijdperk. Pas op, het is nog niet voor morgen. Er zijn al indrukwekkende resultaten binnen taalverwerking, AI-systemen verslaan grootmeesters in schaken en winnen gametoernooien. Maar er zijn nog significante doorbraken nodig inzake het combineren van kennis en inzicht. Daar werken we bij Mauhn aan. We hebben een alternatieve manier gevonden om beide vormen van intelligentie te combineren. Het is veelbelovend, maar er is nog veel werk voor de boeg.
Binnenkort kan bij wijze van spreken iedereen virussen ineen knutselen in zijn garagebox.
Zijn er geen belangrijker problemen om als effectief altruïst aan te pakken? Armoede of klimaatopwarming, bijvoorbeeld.
Severens: We hebben als maatschappij een beperkt aantal middelen om in te zetten voor een waaier van impactvolle doelen. Klimaatopwarming en armoede bestrijden zijn daar zeker belangrijke onderdelen van, maar dat geldt ook voor het reduceren van de gevaren die AI met zich meebrengt. Helaas wordt er voorlopig niet de nodige aandacht aan besteed. Klimaatopwarming niet meegerekend, wordt het budget voor het voortbestaan van de mensheid geschat op minder dan 0.001 procent van het bruto wereldproduct. Dat is ongelooflijk weinig, zeker als je weet dat experts hebben berekend dat er tien procent kans bestaat dat de mens deze eeuw niet overleeft. Mijn zoon zal 78 jaar zijn in 2100. Voor hem en zijn kinderen vind ik het belangrijk om meer geld te spenderen om de toekomst veilig te stellen.
Die experts worden door Toby Ord geciteerd in The Precipice, een boek met confronterende stellingen over onze toekomst. Is hij een doemdenker of een realist?
Severens: Een realist. Ik was erg onder de indruk van The Precipice. Ord heeft kritiek op zijn methodologie gekregen, maar hij heeft zich voor alle aspecten door topwetenschappers laten adviseren. Je hoeft geen sciencefictionfreak te zijn om wakker te liggen van zijn waarschuwing voor dodelijke pandemieën. In het verleden zijn al virussen uit een lab ontsnapt. Ord maakt in zijn boek melding van zes incidenten, waarvan het ergste in de Sovjet-Unie 66 doden heeft gemaakt. Dat ging nog om ongelukken, zonder kwaad opzet. Maar intussen is de technologie zodanig geëvolueerd en zo goedkoop geworden dat binnenkort bij wijze van spreken iedereen virussen ineen kan knutselen in zijn garagebox. We weten intussen hoe verwoestend een pandemie met een al bij al mild virus tekeergaat. The Precipice is overigens in februari 2020 verschenen, enkele weken voor de eerste lockdowns. Dat is toeval natuurlijk, maar het stemt tot nadenken. We wisten dat het na de Spaanse griep een kwestie van tijd was tot de volgende pandemie zou uitbreken. We hadden ons beter kunnen voorbereiden en veel leed kunnen vermijden. Laat ons dus actie ondernemen voor we opnieuw voor voldongen feiten staan.
Fout opgemerkt of meer nieuws? Meld het hier
