Het Hongaarse parlement heeft een amendement aangenomen om de Budapest Pride te verbieden. Mensen die toch opdagen, zullen met behulp van software voor gezichtsherkenning geïdentificeerd en beboet worden. ‘Technisch gezien is dat in België ook al perfect mogelijk’, aldus VUB-professor Rosamunde van Brakel.
Dinsdag nam het Hongaarse parlement een amendement aan om de Budapest Pride te verbieden. Het gaat om een amendement op een wet uit juli 2021, die de afbeelding of de ‘promotie’ van homoseksualiteit aan minderjarigen verbiedt op televisie, in literatuur en op school. Volgens Hongaars minister Gergely Gulyás moet de wet kinderen beschermen.
Om te voorkomen dat mensen ondanks het verbod toch de straat opgaan, wil de Hongaarse regering software voor gezichtsherkenning inzetten. Die kan mensen dan identificeren en beboeten. Deelnemers riskeren boetes tot 200.000 forint (omgerekend zo’n 500 euro).
Het is een opvallende maatregel. De AI Act, die op 2 februari in werking trad, verbiedt immers het gebruik van gezichtsherkenningstechnologie in de openbare ruimte. Die regelgeving voorziet wel in een lijst met uitzonderingen, bijvoorbeeld als het gaat over een bedreiging van de nationale veiligheid of over terrorisme, maar ‘de bescherming van kinderen’ staat daar niet tussen.
Volgens VUB-professor Rosamunde van Brakel, gespecialiseerd in surveillance, is zowel het verbieden van de Pride als het inzetten van gezichtstechnologie een inbreuk op de mensenrechten. ‘Het Europees Hof voor de Rechten van de Mens kan zich daar nu over uitspreken, maar zoiets vraagt tijd. Bovendien is het duidelijk dat Hongarije lak heeft aan mensenrechten of wetgeving. De inzet van gezichtsherkenningssoftware is daar een symptoom van. Voor autoritaire regimes is dat een tool om burgers te controleren.’
Hoe werkt zo’n technologie voor gezichtsherkenning in de publieke ruimte?
Rosamunde van Brakel: Bij realtimegezichtsherkenning wordt de publieke ruimte continu gefilmd en analyseert een algoritme de gezichten van de mensen die zich erin bewegen. Dat algoritme gaat op zoek naar mensen die op een zogenaamde watchlist staan: een lijst van mensen naar wie de politie op zoek is omdat ze bijvoorbeeld verdacht worden van een misdrijf of als vermist zijn opgegeven. Als het algoritme voldoende overeenkomsten vaststelt, is er sprake van een match en krijgen de ordediensten daar een melding van.
‘Alle elementen om ook in België aan gezichtsherkenning te doen, zijn er. Het systeem moet alleen maar geactiveerd worden.’
Is realtimegezichtsherkenning in België technisch gezien al mogelijk?
Van Brakel: Absoluut. In die zin is wat in Hongarije gebeurt een waarschuwing voor andere Europese lidstaten, en zeker ook voor België.
Ook hier zijn er immers politici die de rechtsstaat ter discussie stellen en bepaalde mensenrechten vooral wat vervelend vinden. Onze publieke ruimte hangt al vol camera’s, en de laatste jaren zijn er ook veel bij gekomen die de mogelijkheid van gezichtsherkenning aan boord hebben. Bovendien heeft België, via onze identiteitskaarten, een database van de gezichten van zijn volledige bevolking. Alle elementen om aan gezichtsherkenning te doen, zijn er. Het systeem moet alleen maar geactiveerd worden.
Wanneer gaat dat gebeuren?
Van Brakel: Als er in de toekomst een soort Belgische Trump komt, zou het snel kunnen gaan. Niet zelden wordt technologie overhaast ingezet op momenten van uitzonderlijke dreiging, zoals een pandemie of terroristische aanslagen. Op zulke momenten is het mogelijk om een uitzonderingstoestand in te roepen waarin wetgeving en zeker mensenrechten minder van belang zijn. Het gevaar bestaat dat die beslissingen later niet meer worden teruggedraaid. Dan zitten we met technologie die geïmplementeerd is zonder grondig stil te staan bij de sociale impact ervan, of bij de mogelijke gevolgen op lange termijn.
In het federale regeerakkoord staat dat de regering ‘proeftuinen’ zal maken voor nieuwe operationele toepassingen en nieuwe technologieën, zoals de inzet van gezichtsherkenningstechnologie voor de opsporing van veroordeelden en verdachten. Gelden voor die proeftuinen minder regels?
Van Brakel: Precies. De AI Act is bedoeld om een veilig en betrouwbaar gebruik van AI-technologie te waarborgen, maar die wet voorziet ook de mogelijkheid om met de technologie te experimenteren in zogenaamde proeftuinen. Daarin gelden de waarborgen niet. Wetenschappers kunnen daar gebruik van maken voor onderzoek, en dan zijn ze onderhevig aan voorwaarden die gelieerd zijn aan wetenschappelijk onderzoek. Maar ook de politie kan via een proeftuin experimenteren met technologie, en dat is niet gereglementeerd. Nochtans hebben die experimenten een directe impact op burgers.
Over het algemeen krijg ik het gevoel dat er in België erg weinig ruimte is om kritisch na te denken over nieuwe technologieën en dat we die met z’n allen maar vlot moeten omarmen. Beleidsmakers en adviesraden zijn een bijzonder homogene groep mensen, die vooral wit en mannelijk is. De stem van vrouwen of minderheden ontbreekt in het discours. Je kunt je afvragen of de manier waarop technologie geïmplementeerd wordt wel zo democratisch is. En als men technologie inzet voor de veiligheid, over wiens veiligheid gaat het dan?
Fout opgemerkt of meer nieuws? Meld het hier