In een baanbrekende resolutie heeft het Europees Parlement in Straatsburg fors stelling genomen tegen de wildgroei van kunstmatige intelligentie (AI) bij de politiediensten.
U kent ze wel, de beruchte ANPR-camera’s, bedoeld voor nummerplaatherkenning (en dus ook voor nazicht of de autobelasting wel betaald is). Maar bestaande technologie leidt automatisch tot bijkomend, soms wettelijk verboden gebruik. Zo wil de politie nagaan of u niet zit te bellen met uw gsm aan het stuur of wie weet welke andere ongeoorloofde handelingen u wel stelt op de voorbank. Verschillende steden gebruikten de camera’s om het uitgaansverbod tijdens de coronacrisis te controleren. Luchthavens zoals die van Zaventem wendden ze aan voor gezichtsherkenning.
Daar wil de resolutie paal en perk aan stellen. Met een grote meerderheid – 377 stemmen tegen 248, bij 62 onthoudingen – stemde het EP er donderdag voor om de burgerlijke vrijheden en het recht op privacy waarborgen.
We nemen duidelijk stelling tegen voorspellend politiewerk gebaseerd op het gebruik van AI en het verwerken van biometrische gegevens die de poort openzetten voor massabewaking.
Europees Parlementslid Peter Vitanov.
De Bulgaarse rapporteur Petar Vitanov (S&D) was overduidelijk: ‘We willen een moratorium op de inzet van gezichtsherkenningssystemen in rechtshandhaving’. Europa is China niet en wil dat ook niet zijn. Bovendien riskeert dergelijke technologie tot grove fouten én discriminatie te leiden.
‘We nemen duidelijk stelling tegen voorspellend politiewerk gebaseerd op het gebruik van AI en het verwerken van biometrische gegevens die de poort openzetten voor massabewaking’. Dat sluit nauw aan bij het ongenoegen in de rechtswereld dat steeds vaker de bewijslast bij de beklaagde wordt gelegd, wat opnieuw ongrondwettelijk is.
Automatische gezichtsherkenning
De resolutie legt drie grondprincipes vast. Eén: AI-technologie kan alleen onder menselijk toezicht – de machine kan nooit het laatste woord krijgen – en de gebruikte systemen en algoritmes moeten open, doorzichtig en controleerbaar zijn. Twee: verbod op private gegevensbanken die steunen op gezichtsherkenning, verbod van politiewerk dat uitgaat van gedrag en verbod op ‘het toekennen van scores’ aan burgers, waarbij onder meer hun betrouwbaarheid wordt in kaart gebracht. En drie: verbod op het gebruik van automatische gezichtsherkenning bij grenscontroles en in openbare ruimtes.
Waar mogelijk moeten openbare instellingen met andere woorden alleen voor iedereen toegankelijke software gebruiken. Mensen mogen uitsluitend gevolgd worden wanneer er sterke aanwijzingen zijn dat ze bij een misdrijf betrokken zijn. Het zogenaamde leugendetectiesysteem bij grensovergangen (iBorderCtrl) moet eruit. Als een lidstaat van de EU dat weigert, moet er zo nodig een inbreukprocedure worden opgestart.
Kritiek
Voor de conservatieven gaat dit allemaal te ver. De Nederlander Jeroen Lenaers van de Europese Volkspartij (EVP) is erg teleurgesteld. ‘Het Europees Parlement gaat verder dan de AI-act van de Commissie, gepubliceerd in april. Die beoogt een regulering van kunstmatige intelligentie. Wat nu is aangenomen, hindert de strijd tegen de zware misdaad. Met middelen uit 2001 loop je hopeloos achterop’.
Een coalitie van rood, groen en blauw haalde makkelijk de meerderheid – met soms vreemde bondgenoten zoals het Vlaamse Belang. EVP en ID stemden tegen – met soms vreemde bondgenoten zoals de N-VA.
Wat nu is aangenomen, hindert de strijd tegen de zware misdaad.
