De Londense politie gaat in drukke buurten camera’s met gezichtsherkenning inzetten om in real-time winkeldieven te klissen. Hoe zit dat juist in België? Knack sprak privacyexpert Matthias Dobbelaere-Welvaert en Frank Schuermans, voorzitter van het Controleorgaan op de politionele informatie.
Het VK investeert 64 miljoen euro in AI-gezichtsherkenning. De Londense politie wil winkeldieven kunnen spotten in een mensenmassa.
Matthias Dobbelaere-Welvaert: De Metropolitan Police experimenteert al jaren met gezichtsherkenning. Maar wetenschappelijk onderzoek heeft uitgewezen dat het systeem vaak valse hits oplevert. Mensen die op straat waarschuwingsborden zagen voor live facial recognition maakten soms een omwegje. Maar dan waren ze al op voorhand verdacht. Het systeem werkte ook discriminerend.
Hoezo?
Dobbelaere-Welvaert: Geen enkel AI-systeem is neutraal. Het wordt gevoed door mensen en data. Maar mensen hebben vooroordelen, die de AI binnensluipen. En voorts heb je ook een foutenmarge, bij welke huidskleur dan ook.
Hoe zit het in België? Mogen hier politiebusjes rondrijden met gezichtsherkenningstechnologie?
Frank Schuermans: Specifiek over gezichtsherkenning bestaat er bij mijn weten in geen enkel Europees land aparte wetgeving. De Belgische politie gebruikt gezichtsherkenning in beperkte mate, binnen de context van gerechtelijke onderzoeken. De wet op het politieambt laat immers toe dat agenten biometrische gegevens gebruiken om personen te identificeren – of het nu gaat om slachtoffers, daders of getuigen. Of wanneer de politie beschikt over de foto van een dader, dan kan ze die met een app van Israëlische origine door haar eigen politiedatabanken halen op basis van gezichtsherkenning.
Maar dat is toch nog iets helemaal anders, en veel meer ingekapseld in een concreet gerechtelijk onderzoek, dan wat je in het VK ziet: in een publieke ruimte camera’s hangen om gezichten te herkennen. Dat doet de politie in België niet. Zéker niet. En als het zou gebeuren, is het illegaal.
Gebruikt onze politie die app vaak?
Schuermans: Ik weet niet exact wie er allemaal gebruikmaakt van die app. De federale gerechtelijke politie alvast, en wellicht ook bepaalde grote politiezones. Maar eigenlijk is het niet meer dan het hanteren van een geautomatiseerd fotoboek, op basis van gezichtsherkenning.
Als we nu ook nog eens gaan toelaten dat elk privébedrijf, voetbalclub, supermarkt, milieuvereniging, boerenorganisatie en gemeente een eigen biometrische databank heeft… Dat is waanzin.
In 2020 lekte wel uit dat de Belgische politie de app Clearview AI had gebruikt.
Dobbelaere-Welvaert: Clearview AI was het eerste bedrijf dat een volledige scraping deed van foto’s op sociale netwerkprofielen op Facebook, X en LinkedIn. Inmiddels zijn er al een twintigtal bedrijven die dat ook doen. Als je vervolgens videobeelden van pakweg een inbraak vergelijkt met al die foto’s in een databank, heb je meteen een hit. De Belgische politie heeft dat inderdaad een aantal keer gebruikt, in een demoversie. Tenminste: voor zover we weten. Want het Controleorgaan op de politionele informatie is de enige controleautoriteit die daarop toeziet. Met amper acht zijn ze, en toch zijn ze verantwoordelijk voor de hele politie. Zij kunnen gewoon niet alles weten en controleren.
Schuermans: Wij hebben destijds het gebruik van Clearview AI door de politie een halt toe geroepen. Inmiddels weet ik dat men intern aan het werken is aan wetgeving die de politie moet toelaten om zulke zaken op termijn wél te kunnen inzetten. Maar wellicht zal men nu de kat uit de boom kijken tot wanneer de Europese AI Act in voege treedt.
Beschermt dat Europees kader ons tegen gezichtsherkenning?
Dobbelaere-Welvaert: Een eerste versie van de AI Act is goedgekeurd. Zodra de wetgeving er finaal doorkomt hebben lidstaten nog tot 2027 de tijd om een AI-autoriteit, vergelijkbaar met de Gegevensbeschermingsautoriteit, op te zetten. De AI Act legt zeer hoge boetes op bij overtredingen. Ze kunnen oplopen tot 7 procent van de jaaromzet van bedrijven. De wet maakt het moeilijk voor private bedrijven om gezichtsherkenning in te schakelen. Maar voor politie en opsporingsdiensten zijn er natuurlijk uitzonderingen.
Schuermans: De AI Act stelt wel dat er voorafgaandelijke rechterlijke toetsing zal moeten komen. In ons systeem komt dat neer op een machtiging door een onderzoeksrechter. In die zin trekt de nieuwe wetgeving wel grenzen aan wat er mogelijk is.
In 2017 al schreef Knack over het risico dat in België ANPR-camera’s ook gezichtsherkenning zouden gaan inzetten. Gebeurt dat vandaag al?
Schuermans: Neen. Tenzij het achter onze rug zou gebeuren. Maar dat zou me sterk verbazen, want daar komen ze niet mee weg.
In 2019 moest de federale politie een experiment met gezichtsherkenning op de luchthaven van Zaventem meteen stopzetten.
Dobbelaere-Welvaert: De politie had nagelaten om een inschatting van de impact te maken. Was de technologie wel proportioneel? In Kortrijk heeft men software die in staat is om iemand met een rode rugzak op te sporen. Die software is perfect in staat om ook gezichtsherkenning toe te passen. Het is kwestie van een druk op de knop. De politie zegt dat ze dat niet doet. Maar wij hebben daar geen controle over. In ieder geval zou het niet proportioneel zijn.
In de haven van Antwerpen helpt gezichtserkenning om drugstrafiek aan te pakken.
Dobbelaere-Welvaert: Volgens mij is dat zeer discutabel. Zodra de nieuwe AI Act in voege treedt, zal dat moeilijk worden.
Ook in de Eurostar-terminal in station Brussel-Zuid en aan de Europese buitengrenzen komt er gezichtserkenning.
Schuermans: Daarvoor is er wél een wettelijke basis, namelijk de Europese verordeningen rond grenscontroles. Dat is nog iets anders, natuurlijk, dan de veel ruimere finaliteit van ‘criminaliteitsbestrijding’.
Geharde criminelen vinden vast wel mogelijkheden om gezichtsherkenning te omzeilen, van make up aanbrengen tot gezichtsbedekkende kledij dragen.
Op de Antwerpse Ten Miles zijn 30.000 lopers gefotografeerd. Via gezichtsherkenning kon een Duits bedrijf hen persoonlijke foto’s van de wedstrijd toesturen. Blijkbaar hadden deelnemers zich automatisch akkoord verklaard bij de inschrijving.
Dobbelaere-Welvaert: Een bedrijf kan ook in zijn voorwaarden zeggen dat je een pasgeboren kind moet afgeven, daarom is het juridisch nog niet correct. Ten Miles is een voorbeeld van gezichtsherkenning toepassen in een commerciële sfeer. Dat valt momenteel onder de Algemene Gegevensverordening (GDPR), en die stelt dat geïnformeerde, expliciete en vrijwillige toestemming nodig is. Je kunt je afvragen hoe vrijwillig zo’n toestemming is bij een loopwedstrijd. Centrale vraag is of de lopers die foto’s niet kunnen krijgen zonder deze verregaande toepassing. Natuurlijk wel: de organisatie kan ze gewoon op Facebook of op een eigen website ter beschikking stellen. Daarvoor is gezichtsherkenning helemaal niet nodig.
Lorin Parys, ceo van de Pro League, lanceerde het idee om gezichtsherkenning in te zetten aan de ingang van voetbalstadions. Jurgen De Landsheer, korpschef van de politiezone Brussel-Zuid, reageert in De Morgen dat het kan helpen bij het opvolgen van stadionverboden.
Dobbelaere-Welvaert: Veiligheid, milieu, iedereen heeft wel redenen om gezichtsherkenning in te zetten. Het probleem is dat we iedereen zijn goesting laten doen. Op den duur heb je nergens nog privacy en zit je biometrie in 1001 databanken. Het is al eng genoeg dat de overheid met het Rijksregister eigenlijk al over een biometrische databank beschikt. Als we nu ook nog eens gaan toelaten dat elk privébedrijf, voetbalclub, supermarkt, milieuvereniging, boerenorganisatie en gemeente een eigen biometrische databank heeft… Dat is waanzin.
Het kan federaal gecentraliseerd worden, maar dan moet men kunnen garanderen dat het systeem onkraakbaar is – wat niet kan. Denk maar aan de hacking van de stad Antwerpen. Burgers hebben er nog altijd last van. En dat ging niet eens om biometrische gegevens. Ik hoed me voor de dag dat mijn gezicht ergens op straat ligt.
Schuermans: Je ziet dat het hellend vlak alleen maar erger wordt. We kennen niet eens de accuraatheid van gezichtsherkenning. Je moet je ook de vraag stellen: wat als we de verkeerde vasthebben, wat gaan we dan doen? Er is nog geen wetgevend kader voor de politie, laat staan dat dat er zou zijn voor private spelers zoals voetbalploegen. Ik ben zéér sceptisch over het voorstel van de Pro League. Wie gaat dat allemaal controleren en hebben ze de gevolgen goed ingeschat? Dat is allemaal weinig doordacht.
Sommige chefs bij de politie denken daar onvoldoende over na – zij denken vooral aan wat het operationeel kan opleveren. Tot op de dag dat zijn of haar biometrische gegevens terechtkomen in een database die misbruikt wordt voor, bijvoorbeeld, identiteitsfraude. Er zijn zo veel aspecten en risico’s aan dergelijk voorstel verbonden, dit is echt geen eenvoudig debat. Laat ons misschien eerst eens kijken of overheidsspelers in staat zijn om verantwoord om te gaan met dergelijke zeer invasieve technologie vooraleer de deur open te zetten voor private actoren.
Is gezichtsherkenning écht zo problematisch?
Dobbelaere-Welvaert: Je moet je afvragen: willen we wel dat de overheid onze gezichten permanent scant? We laten al toe dat we voortdurend gefilmd worden. Moeten we nu ook nog eens pikken dat algoritmes voortdurend onze gezichten eruit filteren? Daarnaast heb je het risico dat databanken met biometrische gegevens worden gehackt en gestolen. Bovendien vinden geharde criminelen vast wel mogelijkheden om gezichtsherkenning te omzeilen, van make-up aanbrengen tot gezichtsbedekkende kledij dragen.
We hebben altijd gezegd dat we niet richting China willen afglijden, want dat is een dictatuur waar de overheid alles weet. Maar wij zijn hen sneller aan het inhalen dan China nu evolueert. Wij zijn sneller camera’s aan het plaatsen dan je je vroeger kon indenken. Voor mij is gezichtsherkenning zowat de laatste horde die we nog hebben in publieke privacy. Als gezichtsherkenning er doorkomt, in welke vorm dan ook, is het over en uit voor onze privacy. Dan weet je dat, zodra je een stap buiten zet, je nul privacy hebt tegenover de overheid. Dat vind ik een heel enge gedachte.
Fout opgemerkt of meer nieuws? Meld het hier