AP wil weten hoe ChatGPT met persoonsgegevens omgaat

De Autoriteit Persoonsgegevens (AP) heeft zorgen rondom de omgang met persoonsgegevens bij organisaties die generatieve AI gebruiken, zoals ChatGPT. De privacywaakhond heeft daarom aangekondigd de komende tijd verschillende acties te ondernemen. Als eerste stap is ChatGPT-maker OpenAI om opheldering gevraagd over zijn omgang met persoonsgegevens.

ChatGPT is net als andere AI-modellen getraind met data. Daarvoor zijn bijvoorbeeld data verzameld die al op het internet stonden, maar er kan ook gebruik worden gemaakt van vragen die mensen stellen. Die vragen worden dan opgeslagen en toegevoegd aan de trainingsset. Volgens de AP kunnen dergelijke data ook gevoelige en heel persoonlijke informatie bevatten, “bijvoorbeeld als iemand advies vraagt over een echtelijke ruzie of over medische zaken”.

Of ChatGPT dergelijke data ook gebruikt en zo ja, op welke manier dan, is niet helemaal duidelijk. Dat wil de privacywaakhond nu weten van OpenAI.

De AP is niet de enige Europese privacytoezichthouder met vragen rondom generatieve AI. Eind mei kondigde het samenwerkingsverband van Europese privacytoezichthouders EDBP aan dat een speciale werkgroep belast wordt met de consequenties van generatieve AI voor de gevoelige persoonsgegevens van Europanen.

Alles bij de bron: AGConnect