Twitter lijkt witte mensen op foto's eerder uit te lichten dan zwarte mensen, bleek deze week uit tests van gebruikers. Media schreven over "racistische algoritmes", maar kunnen we dat wel zo noemen? En hoe ontstaat discriminatie in computersystemen?

Het begon vorige week allemaal met een gesprek tussen de witte student Colin Madland en een zwarte faculteitsmedewerker via de videobeldienst Zoom.

Op Zoom is het mogelijk om een virtuele achtergrond in te stellen, zodat de ander niet kan zien in welke ruimte je werkelijk zit. Maar de software wist de uitsnede niet goed te maken, waardoor het hoofd van de zwarte man wegviel in de achtergrond. Daardoor was alleen een shirt zonder hoofd erboven te zien.

De student plaatste een screenshot op Twitter om het probleem aan te kaarten, toen hij op een andere fout stuitte. Twitter toont previews van afbeeldingen die uitklapbaar zijn, maar sneed in dit geval in de mobiele app alleen de witte man uit.

De tweet won aan aandacht en niet lang daarna experimenteerden veel andere gebruikers met plaatjes waarop witte en zwarte mensen stonden. In veel gevallen bleek de witte persoon uitgesneden te worden.