Europese AI wetgeving laat zien waarom wij vechten voor een verbod

In het wetsvoorstel van de Europese Commissie over kunstmatige intelligentie staat een gedeeltelijk verbod op biometrische surveillance in de openbare ruimte. Dat is een goed begin en laat zien dat ons werk zeker niet voor niets is. Maar er zitten nog te veel gaten in de wetgeving om van echte bescherming te kunnen spreken. Daarom gaan we door met de strijd voor een verbod op álle biometrische surveillance in de openbare ruimte….

…Welke bescherming missen we in dit voorstel?

Allereerst is de verwoording van het verbod erg specifiek, en laat het vele soorten biometrische surveillance buiten beschouwing. Denk bijvoorbeeld aan deze soort surveillance voor commerciële doeleinden. Hiermee lijkt het wetsvoorstel vormen van biometrische massasurveillance toe te staan die minimaal op gespannen voet staan met de fundamentele rechten en vrijheden die in bestaande Europese wetgeving zijn verankerd.

Ook staan er meteen uitzonderingen op het verbod geformuleerd die nog aardig wat ruimte laten. Bijvoorbeeld voor het gericht zoeken naar een potentieel slachtoffer van criminaliteit, preventieve inzet wanneer er sprake is van een dreiging ten opzichte van de fysieke veiligheid van een persoon of het zoeken van iemand die verdacht wordt van een zwaarder misdrijf. Wel worden er bij deze uitzonderingen vereisten geformuleerd zoals beperkingen in tijd, plaats en gerichtheid op personen.

Daarnaast is het verbod expliciet beperkt tot real-time systemen. Dat betekent dat bijvoorbeeld gezichtsherkenning die wordt toegepast op de beelden die zijn opgenomen door ‘normale’ camera’s in de openbare ruimte niet onder het verbod vallen. Daarmee is het verbod dus niet van toepassing op CATCH, het systeem dat de Nederlandse politie gebruikt, maar valt dat enkel binnen het hoge risico regime.

En beperkt het verbod zich tot biometrische identificatie. Dat is een erg beperkte formulering. De Europese toezichthouder op gegevensbescherming heeft eerder gezegd dat iemand onderscheiden van andere mensen hier ook onder valt. Dit zet de deur open voor mogelijk discriminatoire praktijken als het categoriseren of selecteren van mensen op basis van uiterlijke kenmerken. Ook zegt het niets over het volgen van mensen in de publieke ruimte zonder dat dit gericht is op hen identificeren.

Tot slot schuilt er gevaar in de vage bewoordingen. Het verbod geldt nu ten aanzien van systemen die worden ingezet zonder voorafgaande kennis van de gebruiker van het systeem over of de persoon waar de inzet zich op richt aanwezig zou zijn en geïdentificeerd kan worden. En als je hier de draad kwijtraakt is dat niet gek, dat doen wij ook een beetje.

We zijn blij met de erkenning van de Commissie dat deze systemen enorm intrusief zijn en hoge risico’s meebrengen voor onze rechten en vrijheden en onze vrije samenleving. Ook is het een eerste stap dat er nu een gedeeltelijk verbod in het voorstel is opgenomen. Maar voor echte bescherming is er meer nodig. Daarom blijven wij hard werken naar een verbod op álle biometrische surveillance technologie in de openbare ruimte. Help ons in de strijd voor een verbod en onderteken ons burgerinitiatief!

Alles bij de bron; Bits-of-Freedom