De onzichtbare hand van het algoritme

Deze week: Chefs vs. AI, “het algoritme” en de taal van het internet.

Evelyn’s week op het internet

Evelyn was teleurgesteld door wat ze ontdekte toen ze onderzocht hoe ChatGPT omgaat met recepten. In plaats van beoordelingen van door AI gegenereerde recepten, kwam ze vooral uit bij video’s waarin koks een battle aangaan met AI. Gelukkig stuitte ze ook op iets veel smakelijkers: de ontspannende video’s van @tatopearltea, die Ierse Chinese restaurants bezoekt en rustig vertelt wat hij daar eet.

Het algoritmen

Aanbevelingssystemen, ook wel bekend als ‘het algoritme’, zijn computerprogramma’s die bepalen welke content we te zien krijgen op sociale media en andere platforms. Deze systemen maken gebruik van ons eerdere scrollgedrag en gevoelige privé-informatie om te bepalen wat we wel en niet te zien krijgen op de platformen. Het idee achter aanbevelingssystemen is om de gebruiker de ‘best mogelijke ervaring’ te bieden door hen de inhoud te tonen die ze het meest waarschijnlijk leuk vinden. Dit wordt gedaan door het verzamelen van gegevens over bijvoorbeeld naar welke filmpjes je langer kijkt, wat je leuk vindt en andere online activiteiten. Door deze informatie te gebruiken, kan het algoritme een ‘profiel’ van de gebruiker samenstellen en aanbevelingen doen op basis van hun interesses en voorkeuren. Lotje waarschuwt dat het hier niet gaat om het bieden van de ‘best mogelijke ervaring’ voor de gebruiker, maar voor die van het platform zelf: “Het tricky gedeelte van zulke algoritmen, is dat ze zijn gemaakt om de belangen van het platform na te jagen. Een platform wil geld verdienen. Dat doen ze door advertenties te tonen. Hoe meer advertenties ze jou tonen, hoe meer geld ze verdienen. Hoe meer tijd jij doorbrengt op een platform, hoe meer advertenties je kan zien. Dus: die algoritmen hebben als doel om ons zo lang mogelijk op een platform te houden.”

Onderzoek van De Groene Amsterdammer en RTL Nieuws laat zien dat het algoritme bijvoorbeeld extreme video’s over eetstoornissen op TikTok kan aanbevelen aan mensen die geïnteresseerd zijn in afvallen of diëten. Op deze manier kan het algoritme een gevoelig publiek targeten en hen blootstellen aan potentieel schadelijke inhoud. Een ander risico van aanbevelingssystemen is dat het kan bijdragen aan de verspreiding van onjuiste informatie en complottheorieën, en dat het ons kan beperken in onze blootstelling aan nieuwe ideeën en meningen. Lotje: “Platformen doen er alles aan om ons zo lang mogelijk op een platform te houden. Zo pusht Facebook berichten waar mensen met een boze emoji op reageren meer dan berichten waar mensen met een blije emoji op reageren. Want dat triggert mensen, en dan blijven ze op het platform. Maar daardoor krijg je wel een beetje een gek beeld van de werkelijkheid. Extreme content doet het “goed”, als in: mensen zijn getriggerd, en blijven langer op een platform hangen. Daardoor krijgen we clickbait, desinformatie, polarisatie te zien. En dat is niet goed voor onze democratie. Maar wel voor de portemonnee van TikTok.” Lotje schreef eerder deze blog over de schadelijke impact van desinformatie.

Nieuwe Europese wetgeving gaat de platformen aan banden leggen met betrekking tot onder andere deze aanbevelingssystemen. “Vanaf aankomende zomer moeten de grootste platformen naast hun huidige algoritme, een algoritme aanbieden dat niet is gebaseerd op profilering (jouw online gedrag). Dan kan je denken aan een chronologische volgorde (zoals nu ook al soort van mogelijk is op Insta). Ik ben heel benieuwd wat TikTok gaat doen, want met de miljarden video’s die daar per seconde worden geüpload is chronologisch onmogelijk. Het kan de goede kant op gaan, maar je kan ook voorstellen dat het alternatief “de aller extreemste video’s” gaat zijn – want het is nog steeds een commerciële tech-tijger die er achter zit. We hopen dat ze kiezen voor een mensvriendelijker alternatief. Het is in ieder geval heel goed dat mensen straks meer keuze hebben”. Over DSA hebben we al eerder in onze podcast uitgebreid gesproken.Wil je op de hoogte blijven van al ons werk rondom platformen, abonneer je dan op onze nieuwsbrief.

We bellen met…

We bellen met Rami Ismail, game-developer en activist voor diversiteit en inclusiviteit in de game-development scene. Hij deelt zijn reflecties op hoe er in de digitale wereld wordt omgegaan met taal. Denk bijvoorbeeld aan hoe zoekmachines indexeren, maar ook aan ogenschijnlijk simpele handelingen zoals het kopiëren en plakken van tekst tussen verschillende programma’s. De focus op Engels en het Latijnse alfabet sluit volgens Rami mensen uit en betekent ook dat heel veel informatie nauwelijks ontsloten wordt aan het mondiale publiek. Rami zet zich in om inclusiviteit te bevorderen door bijvoorbeeld zijn evenement GameDev.World in acht talen te laten vertalen.