‘Als de toekomst niet rooskleurig is, zal dat aan ons liggen en niet aan de robots’

Robots worden door kunstmatige intelligentie slimmer en zullen in de toekomst zelf beslissingen gaan maken, ook over leven en dood. ‘Maar de mens moet controle hebben over wat hij aan de computer overlaat’, zegt Jochanan Eynikel, auteur van ‘Robot aan het stuur’.

De komende tien jaar zal ons leven meer veranderen dan de afgelopen vijftig. Volgens de onderzoekers van McKinsey is dan zestig procent van alle beroepen geautomatiseerd. Want artificiële intelligentie (AI) is over tien jaar geen toekomst meer, maar is ons leven compleet binnengedrongen met alle gevolgen van dien. ‘We gaan naar een periode waarbij technologie steeds bepalender wordt. Dat technologie het steeds meer overneemt van de mens en als het ware aan het stuur komt’, zegt Jochanan Eynikel, filosoof en expert toekomstdenken bij ETION. Hij schreef het boek ‘Robot aan het stuur’, met als centrale vraag hoe je mensgericht kunt blijven ondernemen in een wereld waarin technologie het steeds meer van de mens overneemt.

Sinds de industriële revolutie is ons leven drastisch veranderd. Met de welvaart die kwam kregen we vakbonden en sociale zekerheid, maar dat gebeurde over een periode van decennia. Mensen konden zich rustig aanpassen en het was niet alsof er plots een fabriek stond die alle arbeid overbodig maakte, het ging om een geleidelijk proces. ‘Nu ontwikkelt technologie zich veel sneller’, zegt Eynikel. ‘En technologie heeft altijd invloed op menselijk gedrag, dus kan je maar beter nu al nadenken over die menselijke impact. Dat wordt in een context waar technologie veel sneller en ingrijpender evolueert steeds belangrijker.’

Een van de centrale vragen in uw boek is welke vragen robots mogen beantwoorden.

Jochanan Eynikel: Als je kijkt naar de toekomst moet je nu niet alles vast willen leggen, dat lijkt me geen goed idee. Er zijn onder impuls van Stephen Hawking en Elon Musk al 23 principes opgesteld waar kunstmatige intelligentie aan moet voldoen, en daar staan al een aantal goede regels in – zoals dat AI gericht moet zijn op het algemeen belang, dat we autonome dodelijke wapens moeten vermijden en dat de mens controle moet hebben over wat hij aan de computer overlaat. Dat betekent trouwens niet dat we geen zelfrijdende wagens mogen hebben, maar dat we al wel over de juridische en morele implicaties nagedacht hebben mocht het tot een onvermijdelijke dodelijke aanrijding komen. Uit welke principes moet die robot aan het stuur dan handelen?

Dan heeft u het over future proof wetgeving. Het Europees Parlement is hier al mee bezig en zoekt daarbij naar ethische standaarden voor autonome systemen. Wat is hier het belang van?

Eynikel: Je moet de huidige wetgeving in vraag stellen, maar tegelijk een kader creëren waarin nieuwe innovaties mogelijk zijn. Neem bijvoorbeeld de discussie over volledig autonome wapens: onder meer het Europees Parlement heeft daar al een verbod op uitgevaardigd. Velen willen niet dat een wapen autonoom beslist over leven en dood. Maar ook bij wagens wordt dat relevant als zij in crisissituaties over mensenlevens moeten beslissen. Bovendien verandert de verantwoordelijkheid: wanneer de gebruiker de wagen niet langer bestuurt, kan je hem moeilijk verantwoordelijk houden voor het gedrag van de wagen. Dan moet je kijken naar verzekeringssystemen voor fabrikanten, in plaats van de bestuurder.

Wat moet er in zo’n kader opgenomen worden?

Eynikel: Het Europees Parlement doet een suggestie voor een rechtspersoonlijkheid voor robots, vergelijkbaar met de rechtspersoonlijkheid van organisaties. Dat wil zeggen dat robots bepaalde rechten zouden kunnen hebben (bijvoorbeeld copyright) maar ook aansprakelijk kunnen worden gesteld voor schade via de eigenaars die hen vertegenwoordigen. Zoiets moet je echt met ethici, technici, beleidsmakers en mensen met verzekeringsexpertise samen onderzoeken.

Een computer gaat uit van rekenkundige benaderingen, hoe kan hij in de toekomst menselijke beslissingen nemen, een hoop van onze beslissingen zijn niet rationeel.

Eynikel: Die vraag mis ik soms in de wilde disruptietheorieën over de technologische tsunami die ons te wachten staat. Ik ging laatst ergens spreken en toen vroeg iemand waarom robots geen ethiek kunnen ontwikkelen, maar dat is net iets waar de robot niet voor gemaakt is – ze zijn er voor rekenkracht en snelheid.

Hoe zou een robot bijvoorbeeld naar kinderarbeid kijken, wanneer hij beslissingen over management en bedrijfsvoering moet nemen. Hoe zou hij tot de beslissing komen dat kinderarbeid niet goed is? Wij, of een hele hoop grote bedrijven, zijn daarmee gestopt terwijl het efficiënter en goedkoper was. We staan daar negatief tegenover omwille van morele overwegingen en bijhorende druk – daar gaat ethiek over. Een computer zou misschien tot dezelfde beslissing komen op basis van berekeningen, omdat het ziet dat het de samenleving niet ten goede komt. Maar een moreel bewustzijn van ‘dat wil ik niet’ kan de computer niet zelf naar voren brengen.

Tesla- en SpaceX-topman Elon Musk maakt zich er zorgen over dat robots uiteindelijk te slim worden. Waardoor wij eindigen als een soort huisdieren van kunstmatig intelligente systemen.

Eynikel: Daar maak ik mij nu geen zorgen over – al zeg ik niet dat het onmogelijk is – maar dat hij dat zegt toont wel dat iemand die daar heel hard in investeert en aan het stuur zit beseft dat dit geen normale technologie is; het is een technologie met heel veel impact.

Maar waarom zou een robot ons willen overheersen? Dat betekent dat ze bewustzijn ontwikkelen waarin ze bepalen dat ze het overnemen. Het is goed dat je nadenkt over doemscenario’s om ze te kunnen vermijden, maar een computer heeft nu absoluut nog eigen geen wil. Als een computer uiteindelijk besluit om zoveel mogelijk mensen te doden, dan hebben wij dat er zelf ingestoken. Dat is niet de wil van de machine.

In uw boek quote u een beroemd boek over deze materie, ‘The Second Machine Age’: As we have fewer constraints on what we can do, it is then inevitable that our values will matter more than ever.’ Ziet u de toekomst van kunstmatige intelligentie rooskleurig tegemoet, in een tijdperk van president Trump en mogelijke opkomst van nog meer populisme in Europa?

Eynikel: Op het vlak van technologie zie ik het lichtroze. Het zal aan ons liggen of het rooskleurig is of zwartgallig. Ik stoor me soms aan het idee dat technologie ons overkomt als een soort natuurfenomeen waar niets aan te doen is. Uiteindelijk heb je mensen en bedrijven die aan het stuur zitten. We gaan technologie steeds meer nodig hebben om vraagstukken op het gebied van zorg en de opwarming van de aarde aan te pakken. Ik denk dat technologie daarbij een zege zal zijn, als we er maar op een gecontroleerde manier mee omgaan.

Na de verkiezing van Trump zag ik het minder rooskleurig door de verharding van het politieke landschap, al hebben de verkiezingen in Nederland gelukkig het gezond verstand laten zegevieren. Als de toekomst niet rooskleurig is, zal dat aan de mens liggen en niet aan de robots.