Toezichthouders wijzen de weg naar een breder verbod op gezichtsherkenning

Van opinie naar richtlijn

Eerder al riepen niet alleen wij, maar ook de Europese toezichthouder (EDPS) en de koepel van nationale toezichthouders op gegevensbescherming in Europa (EDPB) op voor een breed verbod op biometrische surveillance in de openbare ruimte. Nu heeft de Europese koepel van nationale toezichthouders die positie overgenomen in haar richtlijnen voor het gebruik van gezichtsherkenning door handhavingsautoriteiten. En dat is goed nieuws!

“In particular, remote biometric identification of individuals in publicly accessible spaces poses a high risk of intrusion into individuals’ private lives and does not have a place in a democratic society as by their nature it entails mass surveillance. In the same vein, the EDPB considers AI-supported facial recognition systems categorising individuals based on their biometrics into clusters according to ethnicity, gender, as well as political or sexual orientation as not compatible with the Charter.”

European Data Protection Board (EDPB)

Wat houdt dat brede verbod in?

Het brede verbod in de positie van de EDPS en EDPB gaat verder dan het verbod zoals dat nu omschreven staat in de door de Europese Commissie voorgestelde AI-Verordening. In de nieuwe richtlijnen schrijft de EDPB dat het verbod zou moeten gelden voor:

• Álle biometrische identificatie op afstand in de openbare ruimte, omdat het hier gaat om massasurveillance. En daarvoor, schrijft de koepel van toezichthouders, is geen plaats in een democratische samenleving. Ook maakt zij duidelijk dat systemen die achteraf gezichtsherkenning op beelden toepassen niet per se een kleinere inbreuk maken dan systemen die gezichtsherkenning realtime toepassen.
• Gezichtsherkenningssystemen die met behulp van kunstmatige intelligentie personen op basis van biometrische kenmerken indelen in groepen naar etniciteit, geslacht, politieke overtuiging of seksuele geaardheid. We zijn erg blij dat de toezichthouder biometrische categorisatie meeneemt in het verbod!
• Technologie op basis waarvan aannames gemaakt worden over de emoties van een persoon. Eerder schreven we al dat er geen wetenschappelijke basis bestaat voor deze systemen, maar zij wél een bewezen inbreuk maken op onze rechten en vrijheden.
• Het voor handhavingsdoeleinden gebruik maken van persoonsgegevens uit een databank die is gemaakt door massaal en ongericht persoonsgegevens te verzamelen. Denk bijvoorbeeld aan het gebruik van Clearview AI, en hoe die databank tot stand is gekomen door als een stofzuiger gezichten van het internet te schrapen.

Op naar een breder verbod!

Dat de EDPB de eerdere oproep heeft overgenomen in haar richtlijnen is goed nieuws. De richtlijnen zijn opgesteld door de nationale en Europese toezichthouders gezamenlijk en dienen als leidraad voor Europese en nationale beleidsmakers en handhavingsautoriteiten. Dat betekent dat de toezichthouders in elk geval helder hebben dat zij ons en onze samenleving tegen deze technologie moeten beschermen, en hoe die bescherming eruit zou moeten zien. En dat zij een helder handelingsperspectief meegeven aan beleidsmakers, want die zijn op het moment aan zet. Op naar een breder verbod op biometrische surveillance in de openbare ruimte!

Lees hier de gehele richtlijnen voor het gebruik van gezichtsherkenning voor handhavingsdoeleinden