‘Robots zullen de aarde veroveren, maar ze zullen onze kinderen zijn.’ MIT-professor Marvin Minsky, wereldautoriteit op het vlak van artificiële intelligentie, over onze toekomst.
Wat is artificiële intelligentie en waar kunnen we ze kopen?
Toegegeven, een nogal simplistisch uitgangspunt voor een gesprek met Marvin Minsky, maar de Amerikaanse hoogleraar kan er minzaam om lachen. Hij beseft namelijk als geen ander dat artificiële intelligentie thuishoort in het rijtje van woorden als quantummechanica en expressionisme: begrippen die iedereen al wel vaker heeft gehoord, maar die niemand precies kan definiëren of omschrijven. Het rekenmachientje dat het product berekent van 316,68 en 17,309: is dat artificiële intelligentie? En een zoekmachine op internet die relevante resultaten opspoort? En een computer waarmee we kunnen spreken? De juiste antwoorden: nee, soms en ja. ‘Artificiële intelligentie is overal om ons heen. Maar waar precies, daar bestaan veel misverstanden over.’
Marvin Minsky, hoogleraar aan het wereldvermaarde Massachusetts Institute of Technology (MIT) in Boston, bestudeert al sinds de late jaren veertig artificiële intelligentie. In de jaren vijftig vond hij de eerste echte AI-toepassing uit: SNARC, een neural network simulator, in mensentaal ‘een toestel dat kon leren om dingen te leren of met elkaar te vergelijken. Meteen na mijn uitvinding raakte ik echter vooral geïnteresseerd in wat het apparaat niét kon.’
Wanneer is artificiële intelligentie eigenlijk uitgevonden?
Marvin Minsky: Het heeft altijd bestaan. Sinds de eerste verhalen over het bouwen van robots. In de jaren dertig schreef Hugo Gernsbeck een heel goed sciencefictionverhaal (in Astounding Stories, nvdr) over een intelligente robot uit de jaren tachtig. Een visionair, die Gernsbeck. Maar in zijn tijd had men het nog niet over artificiële intelligentie, die term heeft pas later ingang gevonden. In het begin sprak men van cybernetica. Ikzelf raakte er als klein kind door gefascineerd na het lezen van H.G. Wells en Isaac Asimov, robotexperts avant la lettre. De sciencefictionliteratuur heeft me als het ware de weg getoond.
Zijn de ideeën over de mogelijkheden en de reikwijdte van artificiële intelligentie sterk veranderd door de jaren heen?
Minsky: Ik denk het niet. Gewoon omdat de visie van bij de aanvang al behoorlijk sterk en verstrekkend was. Men geloofde dat er robots gingen komen om mensen te helpen in de industrie, en die robots bestaan vandaag, ze staan in alle grote fabrieken. Men geloofde ook dat robots even slim zouden worden als de mens of zelfs slimmer, en ook dat moment is niet meer veraf. De vooruitgang van de mens verloopt heel traag en lijkt zelfs stil te vallen. We worden elke generatie een centimeter groter, maar wezenlijk verandert er niet veel. Terwijl de vooruitgang van de machines alleen maar versnelt.
Niettemin hebben ze nog altijd een serieuze intellectuele achterstand op de mens.
Minsky: Het hangt ervan af wat je onder de termen intellect en intelligentie verstaat. Machines behalen betere resultaten in vaardigheden zoals wiskunde, maar staan op andere terreinen bijlange nog niet op het niveau van de mens. Ze zijn nog niet inventief, bijvoorbeeld. Ze zijn heel goed in specifieke opdrachten, maar beschikken niet over genoeg algemene kennis en gezond verstand om ons bij te benen. Een klein kind weet miljoenen kleine dingetjes over de wereld, maar heeft ook duizenden manieren om nieuwe dingen aan te leren. De computer kan zichzelf wel dingen aanleren, maar enkel op een primitief niveau.
Kruist de studie en ontwikkeling van artificiële intelligentie vaak het medisch en psychologisch onderzoek naar de werking van onze hersenen?
Minsky: Ik vind dat de medische wetenschap meer tijd zou moeten steken in de studie van AI, omdat wij misschien de sleutel vasthouden die ze al decennialang zoekt. Psyschologen en filosofen buigen zich over de vraag hoe mensen denken en leren; ingenieurs zeggen ‘dat interesseert me niet’ en werken aan machines die hetzelfde kunnen als de mens. Het absurde is: de psychologie kijkt vol hoop naar artificiële intelligentie in de hoop tot nieuwe inzichten te komen, terwijl de onderzoekers van artificiële intelligentie vol hoop uitkijken naar nieuwe bevindingen in de psychologie die van dienst kunnen zijn. Van beide kanten bestaat er een erg afwachtende houding.
En dus verloopt uw onderzoek trager dan gehoopt?
Minsky: Ja. We weten veel over de werking van een hersencel, maar weinig over hoe hersencellen zich gedragen in groep. Bovendien: de hersenen bestaan uit minstens vierhonderd delen, en heel wat van die delen vormen nog onbekend terrein voor de wetenschap. Vooral de hersenschors is moeilijk te doorgronden. Het lijkt alsof die is opgebouwd uit verschillende kolommen, met telkens vierhonderd cellen die met elkaar en met andere kolommen in verbinding staan. Niemand heeft een sluitende theorie over de werking van zo’n kolom. In mensentaal: het is moeilijk om te ontdekken wat de kleine deeltjes doen, de deeltjes waaruit de grote elementen zijn samengesteld. Dat we weinig weten over hoe mensen dingen leren, komt precies doordat het middelste deel van de hersenen veel onbekenden bevat.
Heeft men die materie onderschat? In de literatuur van twintig jaar geleden liet de wetenschap uitschijnen dat de intelligente robots al onderweg waren.
Minsky: Klopt. Die voorspellingen moeten met een korreltje zout genomen worden. Omdat men bepaalde problemen taxeerde zonder ze eerst te hebben doorgrond. Ja, dan kan het dus lelijk tegenvallen. Toen John McCarthy (hoogleraar computerwetenschap aan de Amerikaanse Stanford-universiteit, nvdr.) werd gevraagd hoelang het zou duren vooraleer computers gezond verstand zouden hebben, zei hij: tussen vier en vierhonderd jaar. Dat zou ik zelf niet beter gezegd kunnen hebben. Kijk, de oplossing van een probleem hangt niet alleen samen met de moeilijkheidsgraad ervan, maar ook met het aantal mensen dat zich erin verdiept. Vandaag houden zo’n vijftigduizend onderzoekers zich bezig met de ontwikkeling van AI-producten voor de industrie.
Want daar valt geld mee te verdienen. Minder dan tien onderzoekers buigen zich beroepshalve over de vraag: hoe zit gezond verstand in elkaar? Dat schrijnende gebrek aan mankracht kan ertoe leiden dat dat onderzoek nog heel lang aansleept, ongeacht hoe moeilijk of makkelijk het probleem.
Aan het MIT heeft u enkele van de meest begaafde studenten ter wereld in de klas zitten. Kunt u hen niet motiveren om onderzoek te verrichten in de essentiële domeinen?
Minsky: Ja en nee. Ik kies studenten op basis van hun eigen opvattingen en ideeën. Dan is het natuurlijk fout om hen in een bepaalde richting te duwen. Nu, tien of twintig procent van het essentiële onderzoek wórdt gedaan door studenten van mij. Meer kan ik ook niet verlangen.
Mag ik uw vraag van daarnet overnemen: zal de computer ooit gezond verstand hebben?
Minsky: O, ik twijfel er niet aan. Als vijf vorsers al het werk moeten doen, zal het nog wel even duren. Maar als het er vijfhonderd worden, komen we misschien al over enkele decennia of zelfs enkele jaren tot concrete resultaten.
Maar hoe stop je gezond verstand dan in de computer? En hoe omschrijf je gezond verstand?
Minsky: Gezond verstand draait om het gegeven: wat maakt dat je iets begrepen hebt? Als ik zeg ’telefoon’, weet je waar ik het over heb. Toch betekent ’telefoon’ honderd verschillende dingen. En om het begrip telefoon goed te vatten, moet je heel veel van die betekenissen kennen. De telefoon is een apparaat met een hoorn. Waarbij je een nummer moet draaien of indrukken. Zodat je wordt verbonden met een groot netwerk. En als de persoon die je opbelt niet thuis is, werkt het systeem niet. Als het toestel stuk is, ook niet. Evenmin als de persoon al met iemand anders aan het telefoneren is. Dat noem ik negatieve kennis: voor elke situatie of omstandigheid waarin een bepaald systeem werkt, kennen we drie of vier omstandigheden waarin het systeem niet werkt. Op een geheel ander niveau is de telefoon een toestel waarmee je anekdotes kunt uitwisselen. Waarmee je een pizza kunt bestellen. Al die dingen leren we door gebruik en ervaring. Het lijkt belachelijk als ik het allemaal zo uitleg, maar je moet je in de positie van de computer verplaatsen.
Gezond verstand veronderstelt voorts dat je weet wat de uitzonderingen op het begrip telefoon zijn. Stel dat de persoon die je opbelt niet met je wil praten. Dat gegeven maakt geen deel uit van het begrip telefoon, maar is wel essentieel voor een goed gebruik van het medium. Net zoals je moet weten dat het ongepast is om iemand om drie uur ’s ochtends te bellen.
Het beschrijven van zo’n netwerk van omstandigheden en variaties vereist een enorme input van data in de computer of robot.
Minsky: Akkoord. Maar je vindt vast wel mensen die dat monnikenwerk op zich willen nemen. Het komt er nu vooral op aan om theorieën te ontwikkelen over hoe je daarbij te werk moet gaan. Want één ding staat vast: het heeft geen zin om zomaar data in te voeren, in de veronderstelling dat het dan allemaal zal lukken. Als je zegt ‘ik heb mijn telefoon rood geverfd’, dan moet de computer eigenlijk vragen of dat een effect heeft op de werking van het toestel. Dat zou getuigen van intelligentie, want zo’n vraag veronderstelt veel kennis. Kennis over de werking van een telefoon, over de eigenschappen van verf, over het belang of de irrelevantie van kleuren, enzovoorts. Een kind weet dat een rode telefoon evengoed werkt als een zwarte, zolang je maar geen verf morst in de hoorn. Dat leg je echter niet zomaar aan een computer uit.
Wij mensen leren door ervaring. Komt dat overeen met het invoeren van de ‘juiste’ data in de computer, in plaats van zoveel mogelijk data?
Minsky: Een deel van het brein werkt wellicht als een relationele database, waarbij begrippen relaties oproepen met andere begrippen. Een ander deel van het brein werkt dan weer als een primitieve computer met een klein geheugen. Vandaar dat je een telefoonnummer van zes cijfers wel kunt onthouden, terwijl je dat met een getal met twaalf cijfers nooit zou kunnen. Heel interessant, die analyse. Het is belangrijk om uit te vinden welke delen van het brein op welke manier in elkaar zitten. Die wetenschap zal ons wellicht veel leren over welke data we moeten invoeren.
Stelt artificiële intelligentie zich tot doel om het menselijke brein te kopiëren? Of is dat misschien een misverstand?
Minsky: Neenee, geen misverstand. Maar zoals gezegd, het ontbreekt ons aan mankracht. En er is niemand die het onderzoek leidt. We hebben meer mensen als Alan Newell (hoogleraar aan de universiteit van Dundee in Schotland, nvdr.) nodig, die zeer interessante theorieën heeft ontwikkeld over de werking van de hersenen. Alleen bleken ze niet helemaal te kloppen. Als de mens er niet in slaagt om een probleem op te lossen, zegt hij na tien of twintig minuten: laat ik het eens op een andere manier proberen. Die plotse wijziging van strategie past niet in de theorie van Newell.
Mijn theorie is: als we aan iets denken, lopen in ons onderbewustzijn drie of vier andere sporen parallel mee. En als het eerste spoor niet werkt of er duikt een nieuw element op in de situatie, schakelen we automatisch over naar een ander spoor. Dan lijkt het alsof we ineens aan iets anders denken, maar ik denk dus dat er sprake is van parallelle denksporen in ons onderbewustzijn.
Daar schreef u vijf jaar geleden al over.
Minsky: Ja, en nu probeer ik al die artikels te bundelen in een boek. ( The Emotion Machine moet het vervolg worden op het alom gelauwerde The Society Of Mind uit ’87, nvdr.) Soms wou ik dat ik voor een magazine schreef, want dan ben je gebonden aan deadlines en word je gedwongen tot zelfdiscipline.
Kunnen computers zo gemaakt worden dat ze verschillende denksporen tegelijk volgen?
Minsky: Ja, normaal gezien wel. Maar dan moet je er wel eerst voor zorgen dat de computer automatisch iets op vijf verschillende manieren bekijkt. En dat de machine connecties maakt van het ene spoor naar het andere. Zodat hij bij een wegversperring een van de andere straten ingaat, in plaats van rechtsomkeert te maken. Als er in een computerprogramma verwarring ontstaat, keert het terug naar het begin en rapporteert een fout. Als er in ons hoofd verwarring ontstaat, vinden we vaak een uitweg zonder naar de beginstelling terug te keren. De vraag is: hoe zitten die parallelle sporen in elkaar? En wat doet een mens beslissen om pauze te nemen of even televisie te gaan kijken, als hij voelt dat hij vastzit met een probleem? Dat is de vraag.
Snellere computerchips en processoren zullen niet helpen.
Minsky: Juist. Een computerprogramma bedenkt slechts één goede oplossing voor een probleem. Lukt dat niet, dan is er een bug. Alles moet vanaf het begin goed gaan en naar één punt leiden. Ja, die redenering geldt voor exacte wetenschappen zoals wiskunde, maar faalt in veel andere omstandigheden.
Moet je elke individuele schakel in het brein begrijpen om de ultieme intelligente robot te bouwen?
Minsky: Nee, ik denk het niet. Al was het maar omdat een groot deel van onze hersenprocessen totaal nutteloos is, helemaal nergens toe leidt. Maar de ontleding van de hersenen blijft een huzarenstuk. Ik geloof dat de hersenen gedeeltelijk functioneren volgens oeroude processen die stammen uit de tijd van het ontstaan van zoogdieren. Processen die toen voldeden, maar die faalden toen ze in een nieuwe situatie terechtkwamen. Bugs, kortom, waarvoor dan patches werden ontwikkeld in de hersenen. Dat ingewikkelde procédé van bugs en patches maakt de analyse van hersenen zo complex. Als we erin zouden slagen om dat procédé te ontcijferen, zouden we wellicht een brein kunnen ontwikkelen dat alles van de eerste keer goed doet. Maar hoe doe je zoiets, teruggaan naar de bron van de hersenen? Een van de mogelijke manieren is een onderzoek naar het brein van de inktvis. Want de inktvis heeft van alle niet-gewervelde dieren het sterkst geëvolueerde brein. En behoort tot de oudste diersoorten. De inktvis doet een aantal dingen die wij ook doen, maar dan op een andere manier. Het zou interessant zijn om na te gaan waar de overeenkomsten en de verschillen zitten.
Terug naar de toekomst: zal de computer ooit kunnen huilen?
Minsky: O ja. Kijk, alle standaardemoties zijn gewoon verschillende manieren van denken. Bijvoorbeeld: als je een belangrijke beslissing moet nemen en je hebt weinig tijd, moet je op een heel gerichte manier denken. Je laat details vallen, je vergeet even alle langetermijnplannen, omdat er onmiddellijke actie vereist is. Dat heet dan: kwaad worden. Een emotie, maar perfect rationeel onder de gegeven omstandigheden. Emoties zijn een deel van onze intelligentie. Als we een computer ontwikkelen die heel slim is en die heel complexe problemen kan oplossen, dan begrijpt die computer wellicht de noodzaak om te overleven. Al was het maar omdat hij anders niet meer in staat is om opdrachten te kunnen uitvoeren. Dus ontwikkelt hij overlevingsmechanismen. Last hij bijvoorbeeld pauzes in, om slijtage van hardware te voorkomen. Zijn overlevingsinstinct is dan wel niet aangeboren, maar kan ontdekt worden als een noodzakelijk element voor de goede werking. Marcel Proust schreef dat zijn boeken helemaal afgewerkt in zijn hoofd zaten, vooraleer hij achter de schrijftafel ging zitten. Op een bepaalde dag vroeg hij zich af: wat als ik dadelijk van de trap val en niet meer bij machte ben om te schrijven? Van toen af was hij een stuk voorzichtiger.
Sinds kort heeft artificiële intelligentie ook voor de absolute computeranalfabeet een gezicht: Aibo, de robothond van Sony. Een doorbraak of een gadget?
Minsky: Het ding ziet er schattig uit, maar verder… Sony verkoopt het beest voor 2500 dollar, maar het is hoop en al 250 dollar waard. Er zitten helemaal geen nieuwe technologieën in de carrosserie. Begin jaren zeventig had men in Leningrad al een robot met zes poten die op eigen beweging over een muur kroop. Aibo lijkt me tijdverlies, in het beste geval een leuk speelgoedje. Als Sony de broncode van de software zou vrijgeven, dan zouden we misschien nog ergens geraken. Want dan zouden andere programmeurs kunnen voortbouwen op wat er in de hond zit.
De mooiste resultaten van artificiële intelligentie vind je op dit moment in de spraakherkenningspakketten voor de computer. Dertig jaar van grensverleggend onderzoek is daaraan voorafgegaan.
Kan artificiële intelligentie zichzelf dupliceren, zonder externe hulp?
Minksy: In de jaren tachtig zijn experimenten uitgevoerd met computers die zelf nieuwe programma’s ontwikkelden en bij zichzelf installeerden. Het enige probleem was: hoe knap dat ook allemaal leek, die computers overstegen niet het niveau van een tweejarig kind. Ze evolueerden dus wel, maar slechts tot op een bepaald niveau.
Zodra we erin slagen om een computer te bouwen die verder raakt dan een tweejarig kind, zou het hek van de dam kunnen zijn. Want als een programma een bepaald niveau bereikt, is het in staat om op eigen kracht intelligentie aan te kweken. Net zoals de mens, maar dan duizend keer sneller. Er zijn sf-boeken geschreven waarin de computers de wereld in het bestek van een paar uren overnemen.
Weinig realistisch.
Minsky: Nee, volgens mij erg realistisch. Geloof me, op het moment dat we ontdekken dat een computer intelligentie aankweekt bij zichzelf, moeten we het ding meteen uitschakelen. En ons bezinnen over onze toekomst. Want eenmaal de computer slimmer is, zal hij meteen véél slimmer zijn. En zal het te laat zijn om in te grijpen, want de computer zal op elk manoeuvre anticiperen. Goed, we zijn nog een heel eind verwijderd van dat moment, maar waakzaamheid is geboden. Veel AI-vorsers raken zodanig gefrustreerd door de traagheid van hun onderzoeken, dat ze vergeten om zich af te vragen wat er zou gebeuren als het allemaal wél zou werken. Die redenering geldt ook voor de genetica: als we beter worden in het ontwerpen van genen, kunnen we een ziekte uitvinden die iedereen uitmoordt. Ik wil geen paniek zaaien, maar we moeten wel beseffen waarmee we bezig zijn. Ik snap totaal niet waarom mensen zich druk maken om genetisch gemanipuleerde planten en groenten, als er zoveel gevaarlijker ontwikkelingen voor de deur staan.
Een ander toekomstbeeld dat velen doet huiveren: computerchips die worden ingeplant in onze hersenen, om bepaalde zwakheden te camoufleren of compenseren.
Minsky: Die implants komen er vast en zeker. En wellicht zonder dat we erbij stilstaan. Kijk, dankzij de vooruitgang van de technologie kunnen we binnenkort een heel geavanceerde computer om onze pols binden, zoals een horloge. Dat is handig, maar een horloge kun je verliezen of breken. De volgende stap is een computer in ons lichaam. Het is mooi dat we een computer dankzij spraaktechnologie opdrachten kunnen laten uitvoeren via mondelinge boodschappen, maar het zou natuurlijk veel mooier zijn als de computer reageert op onuitgesproken gedachten. Enzovoorts. Ik denk: de weerstand tegenover die nieuwe technologieën verdwijnt op het moment dat we er het gemak van inzien. Ben je vergeetachtig? Een simpele oplossing: via een implant in de hersenschors je kortetermijngeheugen versterken. Zulke ingrepen vereisen niet eens een volledige kennis van de hersenwerking, precies daarom denk ik dat ze reeds op korte termijn gerealiseerd zullen worden.
Verwacht u geen ethische bezwaren?
Minsky: Dat hangt van de verpakking af. Als het er allemaal netjes uitziet, zonder draden of tubes, zullen de bezwaren wel meevallen. Overigens heb ik weinig respect voor ethiek. Ethiek is eigenlijk: mensen vertellen wat ze niet mogen doen. Als wetenschapper heb ik geen tijd om na te denken over de consequenties van mijn werk. Wetenschappers zijn daar ook helemaal niet goed in, het is aan anderen om zich daarover uit te spreken.
Computers met gezond verstand en implants in de hersenen brengen me tot een fascinerende uitspraak die u ooit deed: robots zullen de aarde overnemen, maar het zullen onze kinderen zijn.
Minksy: Ja. Bedankt dat je die visie deelt. Alles wel beschouwd, wat is nu de samenvatting van de mensheid? Volgens mij dit: een vader is bang dat zijn kind slimmer wordt dan hijzelf, maar tegelijk dróómt hij ervan dat zijn plaats zal worden overgenomen door zijn kind. Als ras willen we almaar meer, almaar verder. Kan dat niet op de gewone manier, dan maar via de hulp van technologie. Al de rest is van ondergeschikt belang.
Bart Vandormael
