AI-systemen weerspiegelen de wereld waarin ze getraind zijn - inclusief de vooroordelen. Hoe je bias herkent en wat je eraan kunt doen.
In 2018 ontdekte Amazon dat hun experimentele cv-screener vrouwen lager beoordeelde. De reden was simpel én pijnlijk: het systeem was getraind op tien jaar aan succesvolle cv’s - die overwegend van mannen waren. De AI deed precies wat het geleerd had. En dat was het probleem.
Wat is bias in AI?
Bias is een systematische afwijking. Een AI-model is biased als het bepaalde groepen consistent anders beoordeelt zonder dat daar een legitieme reden voor is. Bias is vrijwel nooit het gevolg van kwade opzet; het is een artefact van de data, de keuzes tijdens training en de context waarin het model wordt ingezet.
Vijf bronnen van bias
- Historische bias: de trainingdata weerspiegelt een ongelijke wereld (zoals bij Amazons cv-screener).
- Selectiebias: bepaalde groepen zijn onder- of oververtegenwoordigd in de data.
- Meetbias: kenmerken worden voor verschillende groepen anders gemeten of gelabeld.
- Aggregatiebias: één model wordt op een diverse populatie toegepast terwijl subgroepen verschillende patronen hebben.
- Deploymentbias: het systeem wordt gebruikt in een context waar het niet voor ontworpen was.
Waar het in de praktijk misgaat
Gezichtsherkenning herkent witte mannen vaak nauwkeuriger dan vrouwen of mensen van kleur. Spraakherkenning werkt slechter voor regionale accenten. Vertaalmodellen vullen geslacht in op basis van stereotypes (“The doctor said he…”, “The nurse said she…”). Kredietmodellen kunnen postcode gebruiken als proxy voor etniciteit.
Dit zijn geen marginale gevallen. Voor wie afgewezen wordt voor een baan, lening of woning is dit het hele verhaal.
Hoe herken je bias als gebruiker?
Je hoeft geen datawetenschapper te zijn om bias op te merken. Drie eenvoudige checks:
- Test met variaties: laat dezelfde prompt of input draaien met verschillende namen, geslachten, leeftijden of regio’s. Verandert de uitkomst zonder goede reden? Dan is er een signaal.
- Vraag het model om uitleg: een toelichting onthult vaak de aannames. Als die aannames stereotype zijn, weet je waar je staat.
- Kijk naar foutverdelingen: als een model 95% nauwkeurig is op de hele populatie maar 70% op een subgroep, is de gemiddelde score misleidend.
Wat de EU AI Act eist
Voor hoog-risico AI moet er een datakwaliteitsanalyse zijn, inclusief mogelijke bias. Het systeem moet onder menselijk toezicht staan en er moet logging zijn die je achteraf kunt analyseren. Bias-management is niet langer een ethische bonus, het is een wettelijke vereiste.
Wat je vandaag kunt doen
- Maak het probleem expliciet: welke groepen zouden door dit systeem geraakt kunnen worden?
- Verzamel of vraag om gedesaggregeerde prestatiecijfers (per subgroep, niet alleen gemiddeld).
- Bouw een menselijke reviewstap in voor besluiten met grote impact.
- Documenteer wat je hebt getest en gevonden - een audittrail beschermt jou én je gebruikers.
- Train alle betrokkenen in basis-AI-ethiek; dit gaat niet alleen over engineers.
Een neutrale AI bestaat niet. Een verantwoorde AI wel.
Bias verdwijnt niet vanzelf
Modellen worden beter, maar bias blijft een eigenschap van data - niet van algoritmes. Zolang we modellen trainen op de wereld zoals die is, leren ze de wereld zoals die is. Het is aan ons om te beslissen wat we daarvan willen herhalen en wat we willen corrigeren.
In onze AI-geletterdheidscursus oefen je met biasdetectie aan de hand van Nederlandse casussen - van werving tot zorg.
