‘Geweldige’ recruiting-tool van Amazon had vooroordelen tegenover vrouwen

Amazon probeerde tussen 2014 en 2017 een tool te maken dat kunstmatige intelligentie gebruikte om de beste kandidaten voor een baan te vinden, net zoals het producten op zijn website rangschikt. De kandidaten kregen een beoordeling van een tot vijf sterren. Maar het systeem bleek vooral goed te zijn in het identificeren van mannen, meldt Reuters.

Kunstmatige intelligentie-systemen hebben vaak veel data nodig om te leren. Het algoritme van Amazon zou dus ook veel data nodig hebben om te kunnen bepalen wat het bedrijf wilde in een kandidaat voor een baan. De bedoeling van het systeem was dat je er 100 CV’s in stopt, het de vijf beste kandidaten teruggeeft en je die zo kunt aannemen. Het moest de “heilige graal” voor recruiting zijn.

Maar dat ging dus niet helemaal zoals gepland. Het team besloot het systeem te trainen op basis van CV’s die in de afgelopen tien jaar naar Amazon werden gestuurd. En dat waren vooral mannen. Dus toen het algoritme zijn conclusies maakte over wat er wel en niet goed is in een kandidaat, nam het de voorkeur voor mannen die Amazon in het verleden toonde over.

Het algoritme ging zelfs zo ver dat het het woord “women” (vrouwen) afstrafte op een CV. Stond er dus op dat je lid was van een vrouwenclub of een vrouwelijk sportteam, dan werd je daarop afgestraft. Amazon zou geprobeerd hebben om het algoritme neutraler te maken, maar er was geen garantie dat het minder bevooroordeeld was.

Slecht algoritme

Bovendien was het algoritme uiteindelijk ook gewoon niet goed. Het deed bijvoorbeeld aanbevelingen voor kandidaten voor een baan, terwijl die kandidaat helemaal geen ervaring of vaardigheden had in die sector. Uiteindelijk werd het project stopgezet.