Hersenchips, gedachtelezen of een nieuwe persoonlijkheid? ‘Geen what-if scenario meer’

In een paar minuten een vreemde taal leren? Een laptop bedienen met je gedachten? Volgens neuro-ethicus Marcello Ienca maakt neurotechnologie dat in de nabije toekomst mogelijk. ‘We moeten nu ethische en politieke beslissingen nemen voor het te laat is.’

We staan aan de vooravond van een nieuwe wereld waarin mens en machine meer en meer met elkaar verweven worden en neurotechnologie rechtstreeks in de hersenen geïmplanteerd wordt. Wat is het ergste dat ons kan overkomen?

Marcello Ienca: In het slechtste geval wordt onze wereld nog dystopischer dan die in George Orwells roman 1984, een totalitaire wereld waarin de nooit geziene, almachtige ‘Big Brother’ alles en iedereen in de gaten houdt. Er is nog maar één laatste stukje vrijheid, schrijft Orwell, ‘de paar kubieke centimeter in je eigen schedel’. Maar als onze hersenen ooit met de digitale wereld verbonden worden, verliezen we zelfs over die laatste kubieke centimeters de controle

In zo’n wereld worden onze hersenen bespioneerd en gemanipuleerd. Door de staat of door techbedrijven?

Ienca: Bedrijven kunnen in je brein een verlangen naar bepaalde producten creëren. En dictaturen kunnen de hersenen van gevangenen of tegenstanders hacken om hun gedachten te wissen. De Chinese overheid zou bijvoorbeeld de politieke en religieuze overtuigingen van de moslimbevolking in Xinjiang kunnen veranderen. Hersenmanipulatie maakt dat over enkele decennia allemaal technisch realiseerbaar.

Heeft dat neuroverhaal ook een mooie kant? Hoe zou die eruit zien?

Ienca: Als een wereld vol medische revoluties. Neurotechnologie kan bijbelse wonderen waarmaken: een doofstomme kan weer spreken en een verlamde kan weer lopen. Artificiële intelligentie maakt dat allemaal mogelijk.

Maar heeft de technologie ook voordelen voor gezonde mensen?

Ienca: Wat is gezond? Volgens een recent rapport van het gerenommeerde medisch tijdschrift The Lancet lijdt een op de twee mensen minstens één keer in zijn leven aan een psychische aandoening. Wereldwijd zijn dat 4 miljard gevallen. Of denk aan kwalen als chronisch slaaptekort. Neurotechnologie kan helpen om je beter te voelen en beter te slapen.

En je zult ook digitale apparaten rechtstreeks met je hersenen kunnen bedienen. Toetsenborden of touchscreens zijn dan verouderd en traag. Een rechtstreekse verbinding tussen je hersenen en de apparaten maakt communicatie eenvoudiger.

Kunnen we in zo’n ‘neuroparadijs’ ook onze mentale vaardigheden verbeteren? Komt er doping voor de hersenen?

Ienca: Waarom niet? Die technologie bestaat in zekere mate al. Neurostimulatie kan al worden gebruikt bij mensen met een depressie of om parkinson en slapeloosheid te behandelen. Simpel gezegd worden elektrische golven door bepaalde delen van de hersenen geleid. Die technologie evolueert heel snel. Misschien kunnen we binnenkort objecten op een kilometer afstand herkennen of binnen een paar minuten een vreemde taal leren.

Wie zal zoiets kunnen betalen? Alleen de superrijken?

Ienca: Dat is een belangrijk probleem. Als alleen een handvol superrijken het zich kan veroorloven, creëert het nog meer ongelijkheid in de samenleving. Daarom hebben we maatregelen nodig om rechtvaardigheid en gelijkheid te garanderen. Neurotechnologie moet universeel toegankelijk zijn. Alleen dan ben ik voor zo’n breindoping.

Bang voor artificiële intelligentie? Werk aan uw EQ

Regisseurs en schrijvers visualiseren graag de toekomst. Geven hun films en romans een goed idee van wat ons te wachten staat?

Ienca: In de Steven Spielberg-film Minority Report is er een politiedienst die mensen preventief arresteert omdat voorspeld wordt dat ze moorden zullen plegen. Zo’n scenario is niet onwaarschijnlijk. Je kunt biomarkers voor asociaal gedrag vinden en daarmee mensen identificeren die hoogstwaarschijnlijk strafbare feiten zullen plegen. In het ergste geval kan de politie die mensen dan preventief arresteren, ook al hebben ze niets verkeerd gedaan.

Maar er zijn ook positieve toekomstvisies. In een Star Trek-boek wil kapitein Kirk toegang tot de gedachten van bezoekers van de Enterprise. Maar hij krijgt geen toestemming: ‘Geestelijke privacy is een onschendbaar recht van alle burgers van de Federatie en mag niet worden afgeschaft.’

Minority Report speelt zich af in het jaar 2054, Star Trek in de 23e eeuw. Een verre toekomst?

Ienca: Je mag niet onderschatten hoe snel nieuwe technologie ingeburgerd raakt. De smartphone is nog maar 17 jaar oud en heeft onze maatschappij en ons dagelijks leven al radicaal veranderd.

Wie ontwikkelt die nieuwe neurotechnologie?

Ienca: Zeer verschillende, soms invloedrijke spelers. Aan de ene kant zijn er natuurlijk neurowetenschappers over de hele wereld, en aan de andere kant zijn er steeds meer privébedrijven. Denk aan Elon Musks Neuralink of technologiegroepen zoals Meta, IBM, Apple en Samsung. Verschillende landen werken ook aan de technologie voor militaire doeleinden.

Elon Musk achterna? ‘Er komt heus geen chip die iedereen intelligent maakt’

Wat is uw rol als neuro-ethicus?

Ienca: Een neuro-ethicus heeft drie hoofdopdrachten. Eerst en vooral moeten we zorgen dat de technologie op mensen gericht is en wordt ingezet op een verantwoordelijke en ethische manier. We vormen ook een schakel tussen de wereld van technologische innovatie en het technologiebeleid. Zo stellen we samen met beleidsmakers regelgeving op. Voorts moeten we mensen informeren over de risico’s en kansen van neurotechnologie, zodat ze een weloverwogen beslissing kunnen nemen over hun brein.

Dat zijn veelbelovende ambities. Hoe bent u van plan die te verwezenlijken?

Ienca: ​​Op vraag van de Unesco is er dit jaar een groep internationale deskundigen gevormd, waar ik deel van uitmaak. We stellen neurorechten op die beschermd moeten worden binnen de mensenrechten. Het belangrijkste is het fundamentele recht op mentale zelfbeschikking. Iedereen moet zelf kunnen beslissen wat er met zijn hersenen gebeurt.

De smartphone heeft ons leven radicaal veranderd. Komt er ook zo’n ‘iPhone-moment’ van gedachtelezen?

Ienca: Dat hangt ervan af wat je verstaat onder gedachtelezen. Bepaalde mentale toestanden afleiden uit gegevenspatronen? Dat kunnen we al zonder neurotechnologie. In video’s kan AI bijvoorbeeld niet alleen gezichten herkennen, ook emoties.

Of bedoel je gedachtelezen in de zin van de inhoud van gedachten ontcijferen? Vijf tot tien jaar geleden zou ik gezegd hebben dat zoiets in de nabije toekomst onmogelijk was. Maar artificiële intelligentie heeft de situatie drastisch veranderd. AI-modellen worden steeds beter getraind om de inhoud van gedachten te decoderen uit hersenactiviteit.

Daarvoor moeten proefpersonen wel een MRI-scan ondergaan of hersenkabels gebruiken. Dat is niet zo praktisch voor een ‘gedachtepolitie’.

Ienca: Er bestaan al draagbare systemen. De apparaten om hersenactiviteit te lezen zullen ook steeds kleiner, preciezer en goedkoper worden. Ze zullen dus vaker voorkomen in ons dagelijks leven.

Kortom, in de nabije toekomst kunnen Apple, Facebook, Amazon en andere bedrijven niet alleen onze digitale activiteiten bespioneren, maar ook onze gedachten?

Ienca: Apple heeft onlangs een patent aangevraagd voor een nieuwe AirPods-sensor met eeg-elektroden. Dat betekent dat Apple met de volgende generatie AirPods in theorie herseninformatie kan verzamelen en die kan combineren met databanken over consumentengedrag. Nu kan het eeg nog niet veel decoderen. Maar één ding is zeker: voor het eerst in de geschiedenis zal de hersenactiviteit van miljoenen mensen tegelijkertijd geregistreerd kunnen worden. Dat is geen what-if scenario, het staat te gebeuren.

Wie controleert dergelijke ontwikkelingen?

Ienca: Dat is precies waar neuro-ethici zich mee bezighouden. Mensen mogen die technologie niet passief ontvangen, maar moeten de controle over hun eigen lot behouden. De technologie moet ons dienen, niet omgekeerd.

Hoe gedetailleerd kunnen onze gedachten al gelezen worden?

Ienca: Tot een paar jaar geleden was dat nog heel vaag. AI kon toen niet meer dan een silhouet reconstrueren wanneer iemand aan een mens dacht. Tegenwoordig wordt die schets steeds gedetailleerder. Het zou me niet verbazen als AI ooit mensen kan identificeren.

Zal de hersenscan ook onze intenties onthullen?

Ienca: Dat is goed mogelijk. We zullen ook dromen kunnen ontcijferen. Misschien zelfs al over tien jaar.

Zullen bedrijven en overheden onze hersenen kunnen manipuleren?

Ienca: Dat zou wel eens kunnen. We zullen bepaalde hersengebieden veel nauwkeuriger kunnen aanspreken. Mensen zouden zichzelf kunnen ‘neurostimuleren’, denk bijvoorbeeld aan iemand met een kort lontje die wat rustiger wil worden.

Dus we zullen persoonlijkheden kunnen ontwerpen via neuromodulatie?

Ienca: We zien nu al dat ingrepen in de hersenen de persoonlijkheid kunnen veranderen. In Nederland werd een patiënt behandeld met neurostimulatie, waardoor zijn symptomen fors verbeterden. Maar plots ontwikkelde hij ook een obsessieve passie voor de muziek van Johnny Cash.

Hoever kunnen die persoonlijkheidsveranderingen gaan?

Ienca: Rita Leggett, een Australische patiënte met epilepsie, is daar een goed voorbeeld van. Ze kreeg een hersenimplantaat om haar aanvallen te voorspellen. Dat verlichtte haar dagelijkse leven. De fabrikant ging later failliet, waardoor het implantaat na drie jaar tegen haar wil verwijderd moest worden. Sindsdien voelt ze zich een andere persoon. In de vaktaal heet dat discontinuïteit van de persoon.

Het algoritme was een deel van haar geworden?

Ienca: Mens en implantaat waren versmolten tot één hybride persoon.

Wie is dan de echte ik? De persoon met of de persoon zonder implantaat?

Ienca: Rita Leggett identificeerde zich als de persoon met implantaat. Tijdens gesprekken met parkinsonpatiënten zagen we een soortgelijk fenomeen. Zij kregen elektroden in de hersenen om hun symptomen te verlichten. Die werden tijdelijk uitgeschakeld voor bijvoorbeeld kalibratie. Toen de patiënten daarover vertelden, zeiden ze niet ‘de elektrode werd uitgeschakeld’, maar ‘ik werd uitgeschakeld’.

Dat klinkt angstaanjagend. Als zo iemand een misdaad begaat, wie is dan schuldig? Mens of implantaat?

Ienca: Welke beslissing nam AI en welke de mens? Dat zullen we niet kunnen checken. Wie is de ware ik? Er bestaat geen enkele manier om dat te achterhalen. Daarom is het belangrijk om de invloed van hersenimplantaten op het bewustzijn en de subjectieve beleving beter te onderzoeken.

Mag neurotechnologie deel uitmaken van justitie? Zullen de politie of inlichtingendiensten de gedachten van een verdachte mogen lezen?

Ienca: Vandaag kan dat nog niet. In India werd een vrouw tot levenslang veroordeeld omdat de politie met een hersenscan had bewezen dat ze van een misdaad afwist. Dat is onzin, met de huidige technologie kan dat gewoon niet. En zelfs al zouden we op een betrouwbare manier gedachten kunnen lezen, dan nog zou ik terughoudend zijn. Want tijdens een verhoor is dat een ernstige schending van je privacy.

Kan een implantaat de volledige controle overnemen?

Ienca: Nee. De hersenen zijn een extreem plastisch orgaan en hebben een groot aanpassingsvermogen. Hersenen en AI zullen op elkaar reageren en samensmelten tot een hybride persoon.

Zal iedereen ooit een hersenchip hebben?

Ienca: De markt voor neurotechnologie groeit razendsnel. Het recentste rapport van de Europese Raad toont dat er de laatste tien jaar twintig keer meer onderzoek naar gedaan werd. Er waren ook veel meer patentaanvragen. Bijna alle grote techbedrijven hebben neurodata als toekomstige business ontdekt. Naast de AirPods van Apple met eeg, heeft Meta de neurotech start-up CTRL-Labs overgenomen. Google voert ook onderzoek naar neuromarketing. Implanteerbare neurotechnologie is nog complexer, omdat ze een chirurgische ingreep vraagt. Elon Musk wil met Neuralink neurotechnologie voor iedereen ontwikkelen.

Hoe belangrijk is zijn initiatief?

Ienca: Als ik tien jaar geleden iets zei over Brain Computer Interfaces, wist niemand waarover ik het had. Tegenwoordig kent bijna iedereen het onderwerp, omdat veel mensen al van Neuralink gehoord hebben. Dat is het enige waarvoor ik Elon Musk dankbaar ben. Hij heeft publieke aandacht voor het thema gecreëerd.

Maar jullie zijn geen vrienden?

Ienca: Musk is wereldkampioen in het wiel opnieuw uitvinden. Hij gebruikt bestaande technologie en laat de wereld dan geloven dat hij die heeft uitgevonden. De manier waarop hij klinisch onderzoek voert en communiceert is gevaarlijk. Als er iets misloopt, kan dat de ondergang van neurotechnologie betekenen.

Hebben we die technologie zelfs nodig? Zou het niet slimmer zijn om de toegang tot onze hersenen te verbieden?

Ienca: Zolang hersenimplantaten grote risico’s meebrengen, ben ik het met u eens. De implantatie via een chirurgische ingreep is gewoon te onbetrouwbaar om in te zetten bij de hele bevolking. Maar wat als het anders uitgevoerd kan worden? Een pil die naar de hersenen wordt geleid kan een goede oplossing zijn.

Op die manier vindt u het dus wél legitiem om hersenchips te commercialiseren?

Ienca: In principe wel. Alleen als we er alles aan doen om misbruik en manipulatie te voorkomen en een eerlijke toegang te verzekeren. Een verbod zou juist een inbreuk zijn op de vrijheid om zelf te beslissen over onze hersenen.

Steven Latré (Imec): ‘Als AI niet duurzamer wordt, is het gedoemd om te falen’

Kan neurotechnologie ook ingezet worden tijdens oorlogen?

Ienca: Dat kan een belangrijke techniek worden. Het Chinese leger heeft een programma ‘cognitieve oorlogsvoering’. Ook het DARPA-instituut van de VS investeert intensief in een neurotechnologisch programma.

Er zijn drie zwaartepunten. Directe communicatie tussen hersenen en computers kan essentieel zijn tegen afluisteren. Voor soldaten is selectieve manipulatie van het geheugen belangrijk om bijvoorbeeld trauma’s te wissen. Verder wordt er ingezet op hersengestuurde voertuigen. Vooral met drones lukt dat al goed.

Wat is het volgende?

Ienca: Ik denk dat de technologie voor het gedachtelezen ingezet zal worden om gevangenen te verhoren. Ze kunnen ook onderzoeken hoe ze een persoonlijkheid kunnen kneden om soldaten volgzamer en agressiever te maken.

Moeten neurowapens internationaal verboden worden, zoals biologische en chemische wapens?

Ienca: Daarvoor moet er eerst een ethische basis zijn. Onze groep deskundigen zat een week lang samen in Parijs om een ontwerp op te stellen voor neurowetten. Het belangrijkste principe: geen regering, geen bedrijf en geen militaire organisatie mag zonder toestemming ingrijpen in de neurale processen van een persoon.

Denkt u dat uw voorstellen doorgevoerd kunnen worden?

Ienca: De onderhandelingen met de nationale regeringen zijn van start gegaan. Tegen midden 2025 moet de herziening afgerond zijn. Er is vooruitgang.

Een land als China zal waarschijnlijk niet willen meewerken aan beperkende maatregelen.

Ienca: Dat zou ik niet durven zeggen. In de groep deskundigen zat ik naast Qingming Luo, de belangrijkste neurowetenschapper van China. Het land is duidelijk geïnteresseerd om de regels mee te bepalen. Internationale afspraken zijn zeker mogelijk. En dit is het ideale moment daarvoor.

Hoezo?

Ienca: We bevinden ons op een historisch keerpunt. Voor het eerst kunnen we hersenfuncties nabootsen en artificiële intelligentie combineren met onze eigen intelligentie. We moeten nu ethische en politieke beslissingen nemen voor het te laat is. Neurotechnologie staat nog in haar kinderschoenen. We kunnen de ontwikkelingen dus nog sturen, maar het moet wel nu gebeuren.

Vertaald door Chloé Cottyn & Fleur Valette