Ethische AI is de praktijk van AI-systemen zo ontwerpen en draaien dat ze mensen eerlijk behandelen, verantwoording kunnen afleggen en niet stilletjes schade aanrichten. Het gaat over eerlijkheid, transparantie, privacy en menselijk toezicht, en het geldt vanaf de data waarop je traint tot aan de beslissingen die het systeem in de praktijk neemt.
En het is concreet, niet abstract. Een model dat op oude wervingsbeslissingen is getraind kan dezelfde vooringenomenheid leren die in die beslissingen zat, en die dan op grote schaal herhalen. Dat is machine learning bias in actie, en dat vroeg opmerken is een kerndeel van ethische AI. De oplossingen zijn onder meer duidelijke guardrails op wat het systeem mag doen en een mens in de lus houden bij beslissingen die iemands baan, geld of gezondheid raken.
Transparantie telt net zo zwaar. Wijst een model een lening af of zet het een claim op rood, dan moet iemand in gewone taal kunnen uitleggen waarom, en niet schouderophalend naar een black box wijzen. Daarom is een mens in de lus bij zwaarwegende beslissingen niet alleen netjes, het is vaak wat de beslissing verdedigbaar maakt.
Het overlapt ook sterk met de wet. Persoonsgegevens verantwoord behandelen is zowel een ethische plicht als een verplichting onder de AVG in Europa. De klassieke valkuil is ethiek als een afvinkvakje aan het eind behandelen. Tegen die tijd zit de bevooroordeelde data er al ingebakken, en die er weer uit halen kost veel meer dan vooraf de juiste vragen stellen.
Bij TopDevs zien we ethische AI als onderdeel van de bouw, niet als een nagedachte, zodat we klanten systemen opleveren waar ze achter kunnen staan.
