Fotograf: Rich Pedroncelli

Amazon byggde AI som nobbade kvinnor – stängdes ned

En AI-tjänst skulle hjälpa Amazon vid rekryteringar. Men den stängdes ned efter att verktyget visat sig systematiskt ranka kvinnors ansökningar lägre, avslöjar Reuters.

2014 började e-handelsjätten Amazon utveckla ett AI-verktyg för att automatiskt granska nya jobbsökandes CV:n utefter 50 000 termer som förekommit i tidigare ansökningar.

Men 2017 lades projektet ned enligt Reuters, som hänvisar till källor med insyn i projektet.

Skälet till nedläggningen ska vara att AI:n inte betygsatte kandidater på ett könsneutralt sätt eftersom modellen var tränad på att hitta mönster genom CV:n som skickats in under de föregående tio åren, varav de flesta kom från män.

Resultatet blev, enligt tidningen, att systemet gav kvinnliga sökande lägre poäng. Exempelvis rankades examen från två universitet för kvinnor lägre, och likaså sjönk poängen om ordet "women's" förekom i ett CV.

E-handelsbolaget försökte först göra programmet könsneutralt, men lade till slut ned projektet eftersom det inte fanns några garantier för att AI:n skulle vara neutral kring andra kriterier

"Alla vill ha den här heliga graalen. De ville bokstavligen att det skulle vara en motor som kunde ta emot 100 CV:n och spotta ut de fem bästa som sedan skulle anställas", säger en av källorna till Reuters.

Enligt källorna till Reuters förlitade sig Amazon aldrig helt på AI:n, utan använde den för att titta på rekommendationer för nya anställda.

Sedan 2015 har Amazons personalstyrka mer än tredubblats till drygt 600 000 anställda. 64 procent av de anställda är män, enligt Reuters.