Machine learning bias is wanneer een AI-systeem stelselmatig oneerlijke of vertekende resultaten geeft omdat de voorbeelden waarvan het leerde scheef waren. Het model is niet kwaadaardig. Het weerspiegelt simpelweg de patronen in zijn data, en als die patronen onevenwichtig waren, komen ook de beslissingen onevenwichtig uit.
Een duidelijk voorbeeld is een wervingstool die getraind is op tien jaar aan aangenomen mensen. Als het bedrijf vroeger vooral één type kandidaat aannam, leert het model dat patroon en bevoordeelt het stilletjes vergelijkbare sollicitanten, ook al wordt het dat nooit opgedragen. Dit is een direct gevolg van de trainingsdata die het kreeg, en daarom is bias zo’n centraal thema in ethische AI.
Bias komt niet alleen uit scheve geschiedenis. Het kan ook insluipen als een groep simpelweg ondervertegenwoordigd is, zodat het model te weinig voorbeelden heeft om die groep goed te leren, of als wat je meet een vervanger is voor wat je echt belangrijk vindt. Een model dat “goede medewerkers” beoordeelt op geklokte uren straft bijvoorbeeld parttimers af die uitstekend werk leveren. De oorzaak is zelden één foute regel code. Het zit verbakken in de data en de formulering.
Het gevaar is dat het zich verschuilt achter een schijn van objectiviteit. Een spreadsheet voelt neutraal, dus een bevooroordeeld model kan eerlijk lijken terwijl het stilletjes een oud onrecht op schaal herhaalt. Je beheerst het door uitkomsten over verschillende groepen te testen tijdens model-evaluatie, de data te herstellen waar het kan, en een mens in de lus te houden bij gevoelige beslissingen.
Bij TopDevs testen we op bias voordat een AI-functie beslissingen over echte mensen afhandelt, en zeggen we een klant rechtuit wanneer de data nog niet geschikt is voor de klus.
