Nauwelijks aandacht voor data, privacy en discriminatie in verkiezingsprogramma’s
Het was zoals dat heet een what the f*ck-momentje.
Samen met collega David Davidson las ik een brief van de Autoriteit Persoonsgegevens (AP), waaruit blijkt dat de helft van alle algoritmes van de Belastingdienst niet voldoet aan wettelijke vereisten. Deze geautomatiseerde systemen beoordelen of je een risico bent op een fout of fraude. Zo ja, dan volgt er doorgaans een controle. Of stopzetting van een betaling.
Omdat de selectiecriteria in ruim 50 algoritmes slechts berusten op de ‘ervaring’ van ambtenaren, en niet op gedegen onderzoek, zijn deze algoritmes discriminerend en dus illegaal, oordeelde de toezichthouder deze week.
Een maand eerder beschreven we hoe banken moslims en Palestina-activisten op het matje roepen om hun naam, geloof of activisme. Banken vragen wat hun gevoelens zijn ten aanzien van Hamas. Of waarom ze een vliegticket naar Istanbul hebben gekocht.
Wat is bedoeld als wapen tegen de financiering van terrorisme, verandert zo in een systeem dat hele groepen wantrouwt en mogelijk discrimineert. Bij witwascontroles loopt het ook de spuigaten uit, met verlies van je bankrekening als het ultieme gevolg.
Ook banken gebruiken algoritmes, in dit geval voor het surveilleren van miljoenen transacties.
Een klant van Bunq kon daardoor opeens niet meer pinnen. Toen hij vroeg waarom, gaf de bank geen antwoord.
De trend is duidelijk: we worden in toenemende mate beoordeeld door geautomatiseerde systemen, op basis van steeds meer data – onze data. Maar zonder dat daar enige transparantie – en dus rechtsbescherming – tegenover staat. De risico’s op schending van grondrechten en meer in het bijzonder de privacywet zijn levensgroot.
Zulke waarschuwingen zijn aan de wetgever niet besteed. Dit jaar ging de Wet gegevensverwerking samenwerkingsverbanden van kracht, die de overheid vergaande vrijheid geeft om persoonsgegevens te verzamelen, te analyseren en te delen – ook met banken en vice versa. Zo gauw je een algoritmisch vinkje achter je naam krijgt, gaat dat mogelijk overal rondzwerven, ook als dat onterecht is.
Daarom was ik benieuwd of de verkiezingsprogramma’s van de grootste partijen enige aandacht besteden aan dit thema.
Dat valt tegen.
De PVV maakt er geen woord aan vuil.
De VVD pleit ervoor om sociale media onder ‘streng toezicht’ te brengen, maar diezelfde openheid eist de partij niet ten aanzien van de overheid.
Het CDA komt niet verder dan een ‘betere verankering van digitale ethiek’ en ook dit voornemen richt zich niet op de overheid.
D66 wil dat mensen de ‘regie’ krijgen over hun ‘online leven’. Dit idee mist iedere uitwerking. En het lijkt ook niet te slaan op de bits van de Belastingdienst.
PvdA-GroenLinks is de enige partij die een einde wil maken aan ‘discriminerende algoritmen en systemen’ door het verbeteren van het toezicht. Voorts willen de sociaaldemocraten ‘transparantie en uitlegbaarheid’ wettelijk verplicht stellen bij ‘iedere vorm van geautomatiseerde beoordeling’. Dan moet de Belastingdienst je iedere keer melden dat je als hoog risico wordt gezien en uitleggen waarom.
Alles bij de bron; FTM