Pionier Luc Steels over artificiële intelligentie: ‘We moeten onze menselijke natuur verdedigen’

Al meer dan veertig jaar werkt pionier Luc Steels aan onderzoek over artificiële intelligentie. Een gesprek over zelfrijdende auto’s, de meerwaarde van verplegers, en waarom elke AI-opleiding een vak over cultuur zou moeten aanbieden. ‘Het is onmogelijk om de menselijke geest te evenaren.’

Luc Steels kan zich nog exact voor de geest halen waar zijn fascinatie voor artificiële intelligentie (AI) begon. ‘In 1972 zag ik een film over een experiment van de Amerikaanse computerwetenschapper Terry Winograd. Die had een systeem ontwikkeld waarbij je bevelen kon ingeven, die vervolgens uitgevoerd werden door een robot. Dan toetste je bijvoorbeeld “schuif het rode blokje naar rechts” in, en schoof de robotarm dat rode blokje naar rechts. Dat was voor mij een openbaring – de meeste computers werkten toen nog met ponskaarten, moet je weten. Op dat moment heb ik beslist dat ik me hierop wilde werpen.’

En zo koos Steels na een opleiding Germaanse filologie warempel voor de computerwetenschappen. Na aan het prestigieuze Massachussets Institute of Technology te hebben gestudeerd, zou hij terugkeren naar België om aan de Vrije Universiteit Brussel (VUB) een prestigieus AI-lab uit de grond te stampen. Wat volgde waren ‘meer dan veertig jaar van voortdurende verwondering’, waarin Steels zich ontpopte tot een ware AI-pionier.

Ook na zijn emeritaat blijft Steels overlopen van de passie voor zijn vakgebied. Dat brengt hem dezer dagen in de eigenaardige situatie dat hij vooral de verwachtingen moet temperen. ‘Het gaat voortdurend op en af in de wetenschap’, vertelt hij enigszins geamuseerd. ‘Er zijn periodes waarin er veel aandacht is voor AI. Meestal valt dat samen met een wetenschappelijke doorbraak die voor enthousiasme zorgt. Maar na enkele jaren blijkt dat we er nog lang niet zijn, en ebt de aandacht weer weg. Nu zitten we weer in zo’n fase van enthousiasme, maar niet omdat er een grote doorbraak is. De huidige aandacht komt door twee factoren: de groeiende rekenkracht van computers, en de grote beschikbaarheid van data door sociale media.’

En dus komt de droom om ooit het menselijke brein te evenaren weer dichterbij?

Luc Steels: Het is onmogelijk om de menselijke geest te evenaren. Die is gewoon veel te complex. Wij wandelen rond, praten, kijken, ruiken, voelen, en daar leren we uit. Het is tot op vandaag een mysterie hoe wij dat allemaal kunnen. Pas door experimenten met AI zijn we beginnen in te zien wat voor complexe wezens wij zijn. Zelfs de simpelste beweging vergt enorme hoeveelheden coördinatie en informatieverwerking.

Acht u het mogelijk zo’n complexe structuur ooit na te maken?

Steels: Nee. We kunnen AI alleen realiseren via leersystemen. Eigenlijk moet je de aanpak van AI-onderzoek vergelijken met die van de gebroeders Wright. Hoe hebben zij het vliegtuig uitgevonden? In eerste instantie keken ze uiteraard naar hoe vogels vlogen, maar ze hebben nooit geprobeerd om letterlijk een vogel na te bouwen. Ze hebben machines gebouwd waarmee ze gaandeweg inzicht kregen in de essentie van het vliegen. Veel van die machines bleken niet te kunnen vliegen, maar de Wrights bleven ze aanpassen tot het werkte.

Stel dat u vandaag een beginnend onderzoeker zou zijn. Waarop zou u zich focussen?

Steels: O, het is vandaag echt extreem interessant om aan AI-onderzoek te doen! Er is beter ‘speelgoed’: krachtigere robots, betere motors, 3D-printers. (denkt even na) Misschien zou ik me nu, als beginnend onderzoeker, meer toeleggen op de biologie. Ook in dat vakgebied zijn er al decennia lang wonderbaarlijke ontdekkingen. Er zijn trouwens groeiende banden tussen AI en biologie. Intelligentie is iets levends, iets wat de hele tijd verandert. We moeten systemen ontwikkelen die leren van elkaar en voortdurend evolueren.

Is het geen probleem dat we op

den duur eigenlijk niet meer weten wat die leersystemen doen?

Steels: Er zijn zorgen, ja. In de Verenigde Staten wordt AI nu al gebruikt om te beslissen of iemand vervroegd kan vrijkomen. Die systemen zijn gemaakt met deep learning. Dat is een statistische methode die duizenden processen, vonnissen en uitspraken over vervroegde vrijlating heeft gecombineerd met de resultaten. Op die manier probeert het systeem te voorspellen welke gevangenen zullen recidiveren en welke niet. Alleen bleek dat niemand kon uitleggen waarom er over bepaalde mensen een beslissing wordt genomen. Het systeem zoekt naar patronen, maar pikt ook toevalligheden op die er niets mee te maken hebben. Het maakt geen onderscheid tussen correlatie en causaliteit. Zo bleek het bevooroordeeld te zijn tegenover zwarten of mensen met een Slavische naam. Als je naam op ‘-ski’ eindigde, volstond dat meestal al om geen vervroegde invrijheidstelling te krijgen. Dat is natuurlijk onaanvaardbaar.

Je mag dus nooit blind vertrouwen op AI-systemen. We moeten ze zo ontwerpen dat je kunt nagaan op basis waarvan ze een beslissing nemen. Bij deep learning is dat niet altijd zo. Zeker alle toepassingen die direct betrekking hebben op mensen moet je met de grootste omzichtigheid behandelen.

Gebeurt dat voldoende?

Steels: AI-experts zijn zich absoluut bewust van de tekortkomingen. Als het toch gebeurt dat toepassingen als die in de VS gebruikt worden, is het vooral onder externe druk.

Vanwaar komt die druk?

Steels: Er zijn ondernemers en managers die enthousiast raken over de technieken en daardoor te voortvarend te werk gaan. Het is natuurlijk verleidelijk voor pakweg een verzekeringsmaatschappij om een AI-systeem te voeden met data en op basis daarvan te leren beslissen of iemand al dan niet een verzekering krijgt. Maar het zou compleet onverantwoord zijn om geen verzekeringsagenten meer in dat proces te betrekken.

Er heerst in bepaalde kringen een overoptimistisch geloof in wat AI kan teweegbrengen. Ik ben daar sceptisch over. Het idee dat er over enkele jaren een hyperintelligente robot de keuken binnenstapt en spontaan een ei begint te bakken, is totaal onrealistisch. AI hééft onwaarschijnlijke mogelijkheden: op het gebied van medische beeldvorming, bijvoorbeeld, zijn computers in sommige gevallen al beter in patroonherkenning dan mensen. Maar zelfs in die gevallen moet de mens nog altijd de eindbeslissing nemen. We mogen nooit denken dat een computer slimmer is dan wij. Wij zijn in staat om in een handomdraai een context in te schatten. Dat kan een computer niet.

Hoe kijkt u naar de zelfrijdende auto? Zal die ooit gemeengoed zijn?

Steels: Ik ben ervan overtuigd dat we er ooit massaal gebruik van zullen maken. Er is op dat gebied enorme vooruitgang geboekt. Maar we moeten tegelijk beseffen wat de limieten van de huidige technologie zijn. Het zal nog heel lang duren voor de zelfrijdende auto’s er zijn.

Durft u daar een termijn op te plakken?

Steels: Elk wetenschappelijk gebied kampt met fundamentele problemen waarvan je nooit weet tegen wanneer ze opgelost zullen zijn. Toen Einstein de relativiteitstheorie ontdekte, werd plots van alles mogelijk. Maar zo’n moment is moeilijk te voorspellen: het had vroeger kunnen komen, en evengoed nog eens twintig jaar later. Deep learning is bijvoorbeeld ontwikkeld op basis van fundamenteel onderzoek uit de jaren 1980.

Aan de andere kant hoeven we niet op het afgewerkte product te wachten om al te profiteren van de AI die erachter zit. Automatisch parkeren lukt bijvoorbeeld al heel goed. Of neem nu machinevertaling zoals Google Translate: die werkt niet zeker niet perfect, maar bruikbaar is ze wel al.

Hoe doen we het in België eigenlijk qua AI-onderzoek?

Steels: Vergeleken met onze buurlanden lopen we achter. In Nederland hebben alle universiteiten een bacheloropleiding artificiële intelligentie, bij ons geen enkele. In Zweden pompt de Wallenberg Foundation 0,5 miljard euro in AI-onderzoek, Frankrijk investeert 1,5 miljard, Duitsland 3 miljard. Er is een initiatief van de Vlaamse regering aangekondigd, maar dat is vooral een inhaalbeweging om de industrie te stimuleren. We hebben dringend stabiele onderzoekslaboratoria nodig.

Vindt u dat een taak voor de overheid, of kijkt u naar het bedrijfsleven?

Steels: Ik vind dat de overheid daarin een belangrijke rol heeft. Wij hebben geen grote bedrijven zoals Facebook of Google die enorme AI-onderzoeksdepartementen hebben. We hebben geen grote bedrijven die er onmiddellijk mee aan de slag kunnen.

Vreest u niet dat AI-technieken vandaag vooral interessant zijn voor autoritaire regimes?

Steels: In landen als China wordt AI inderdaad gebruikt om een autoritair systeem op te bouwen. We moeten dus voorzichtig zijn met de technieken die we ontwikkelen. Wetenschappers worden zich steeds beter bewust van de ethische implicaties van hun werk.

Is dat geen zwaktebod? Eigenlijk hoeft er maar één onverantwoorde wetenschapper te zijn om een technologie te ontwikkelen die volstrekt immoreel is.

Steels: Op zich is AI neutraal. Je kunt het evengoed omdraaien: wij wetenschappers hebben de plicht om die technieken te ontwikkelen, omdat ze ook belangrijke vraagstukken oplossen. Het probleem is dat je als wetenschapper soms pas de negatieve implicaties van je werk ziet als het al de verkeerde richting uitgaat.

Eind vorig jaar beweerde een Chinese wetenschapper al dat hij een tweeling als embryo genetisch manipuleerde. Bewijst dat niet dat we niet zomaar op wetenschappelijke goodwill mogen rekenen?

Steels: (nadrukkelijk) En die man is teruggefloten door zijn volledige vakgebied. Bovendien bestond de techniek die hij gebruikte al. Hij heeft ze alleen zonder scrupules toegepast.

Vindt u het geen wezenlijk probleem dat we moeten vertrouwen op de scrupules van wetenschappers? Er hoeft maar één bedrijf met die techniek aan de haal te gaan om ze gemeengoed te maken.

Steels: Dat argument kun je voor alles aanhalen. Je verbiedt toch ook geen auto omdat je er wapens op kunt monteren?

Stelt u in het AI-onderzoek zelf veto’s?

Steels: Ik ben tegen AI-systemen die niet transparant zijn. Dat is nu al een brandend probleem. Als jij straks je Facebook-pagina opent, heb jij geen idee waar jouw nieuwsfeed vandaan komt. Wat je te zien krijgt, wordt bepaald door een AI-algoritme dat gebaseerd is op het onlinegedrag van miljoenen mensen. Dat heeft een enorme impact op welke boodschappen er verspreid raken. We moeten weten op basis waarvan die nieuwsfeed samengesteld wordt, om manipulaties te kunnen opsporen. Nu is er bij wijze van spreken geen verantwoordelijke uitgever bij sociale media. Er is niemand die je voor desinformatie of manipulatie ter verantwoording kunt roepen.

Die technologische evolutie dreigt ook heel wat beroepen overbodig te maken. Hoe kijkt u naar de vervangingsangst?

Steels: Er zijn veel taken die nooit door AI zullen worden overgenomen. Neem nu een tuin onderhouden. Dat vraagt enorm veel kennis. Wat is onkruid? Waar moet ik snoeien in een verwilderde tuin? Zulke zingen zijn voor ons relatief eenvoudig, maar een robot krijgt ze nooit geleerd. Dat geldt voor heel wat handenarbeid. Ook alle werk waarbij interactie met mensen nodig is, kun je eigenlijk niet laten uitvoeren door robots.

In de zorgsector bestaat een zekere vrees dat robots voor een kaalslag zullen zorgen.

Steels: Dat is je reinste bangmakerij: verplegers zullen nooit vervangen worden door robots. Natuurlijk kun je een robot ontwikkelen die je het bed uit kan helpen. Maar bij genezing is de interactie met mensen juist cruciaal. Dat geldt bijvoorbeeld ook voor het onderwijs. Leerkrachten vervangen door apps is totale waanzin.

Aan de andere kant lijken jongere generaties juist minder behoefte aan menselijke interactie te hebben. Uit Amerikaans onderzoek blijkt dat jongeren niet meer telefoneren, omdat ze dat te confronterend vinden.

Steels: Misschien verklaart het gebrek aan echt menselijk contact door excessief gebruik van sociale media waarom de jongeren van vandaag zich ongelukkiger voelen. Bij elk nieuw medium zie je een generatie die zich er totaal op werpt. Vroeger keken families stilzwijgend naar televisie, vandaag tokkelt iedereen op zijn smartphone. Dat zal weer weggaan, denk ik. Er komt een generatie die menselijke interactie weer naar waarde zal schatten.

Technologie mag nooit een doel op zich worden. We moeten onze menselijke natuur verdedigen: niet tegen de technologie maar tegen onszelf. Artistieke en sociale zelfontplooiing moet weer centraal komen te staan in ons leven. Je ziet het ook in de AI-opleidingen: die zijn veel te pragmatisch opgebouwd, veel te eenzijdig gericht op techniek en industriële activiteit. In een AI-opleiding zouden studenten eigenlijk verplicht een vak moeten hebben waarin cultuur centraal staat.

Waarom vindt u dat zo belangrijk?

Steels: Omdat je anders veel te eenzijdig gaat denken. Ik heb met mijn studenten dikwijls artistieke projecten gedaan om hun hoofd te openen. Technologie wordt vandaag bedacht en gemaakt door mensen die de echte wereld niet kennen. Dat is een enorm probleem.

Hoe bedoelt u?

Steels: AI is tot nu toe vooral voortgekomen vanuit een strikt wiskundige benadering, of vanuit de ingenieurswetenschappen. In die vakgebieden staat de mens niet centraal. Dat was aanvankelijk geen probleem, omdat AI zich vooral in de context van technische domeinen ontwikkelde. Vandaag is de situatie anders. AI begint steeds meer invloed te hebben op niet- technische domeinen, zoals de manier waarop we met elkaar communiceren. In het algemeen merk ik bij veel AI-ingenieurs de neiging om voor alles een technologische oplossing te zoeken. Terwijl je voor sommige problemen beter een maatschappelijke of een politieke oplossing kunt zoeken.

Een laatste vraag, namens de voltallige Knack-redactie: acht u het mogelijk dat AI gaandeweg ook journalisten zal vervangen?

Steels: Dat is een totaal belachelijk idee. Ja, er zijn programma’s die samenvattingen produceren of korte beschrijvingen kunnen maken. Maar die kunnen nooit een waardige vervanger voor journalisten zijn. Journalistiek is net iets waar mensen bij uitstek beter in zijn dan machines: ze vergt creativiteit, een brede culturele kennis, communicatie met andere mensen. De taak van de journalist is veel te belangrijk om aan een computer over te laten.