De Autoriteit Persoonsgegevens (AP) gaat een onderzoek uitvoeren bij de Dienst Uitvoering Onderwijs (DUO). Verschillende media berichtten over misstanden bij de fraudecontrole van uitwonende studenten, waarbij mogelijk sprake is geweest van discriminatie. De autoriteit heeft al een fysiek bezoek gebracht aan DUO, dat de problemen wijt aan de algoritmes waar het mee werkt.

Die algoritmes zorgen ervoor dat bepaalde studenten eruit worden gefilterd, aldus cyberexpert en voorzitter Eward Driehuis van CSIRT.global. 'Als je aan algoritmen denkt, denkt men al snel aan grote robots met AI, die heel veel data slurpen', duidt hij. 'Maar in 99 procent van de gevallen is een algoritme eigenlijk een simpel setje regels. Iemand een dag voor zijn verjaardag een kaartje sturen, is ook een algoritme.'

Volgens Driehuis zijn de toegepaste 'regeltjes' vanuit DUO dan ook bedoeld om voor te sorteren op mogelijke verdachte gevallen tussen de miljoenen leningen. 'En die verdachte gevallen worden vervolgens aan menselijke onderzoekers gegeven', vervolgt hij. Hij stelt dat daar de fout waarschijnlijk ingeslopen is. 'Dat gebeurde kennelijk op een manier waarbij er negatieve bijeffecten zijn ontstaan, die dus discriminatie in de hand hebben gewerkt.'