Rekryteringsroboten Vera är ett exempel på hur AI redan används vid rekrytering. Fotograf: Robotvera.com

Artificiell intelligens – ett hot mot jämställdhet?

Egentligen borde vi inte vara förvånade. Känsliga maskiner bär på en farlig potential. Artificiell intelligens bör behandlas delikat. Om vi inte gör rätt, finns det risk att vi kodar in ojämställdhet, sexism och rasism. Vi måste justera den data som AI matas med för att den ska bli mer jämställd. Det skriver innovationschef Tone Marie Wahlström och juniorkonsult Dilan Kaya för IT-tjänstebolaget Evry i en debattartikel.

Artificiell intelligens (AI) kan hjälpa läkare med diagnostisering, välfärden kan utvecklas och infrastrukturen förbättras. Möjligheterna är oändliga. Samtidigt kan morgondagens teknik förstärka stereotyper och skillnader mellan män och kvinnor.
Den brittiska dataforskaren Karen Spärck Jones konstaterade ofta att "data är för viktigt för att överlåtas till män". Det kan tyckas vara en aggressiv inställning, men inte om vi tolkar det ur ett genusperspektiv.

Ett AI-system kan lära sig vad människor värderar, men mänskliga beteenden speglar inte alltid mänskliga värden. Den som står bakom algoritmerna, kan liknas vid en lärare framför en skolklass. Maskinen lär sig, frågan är från vem?

78% av världens alla yrkesverksamma inom artificiell intelligens är män, enligt den senaste rapporten från the World Economic Forum Global Gender Gap Report.

Konsultföretaget Gartner beräknar att 85% av alla AI -projekt kommer att leverera felaktiga resultat på grund av bias i data, algoritmerna eller de ansvariga som sköter dem. Problemet handlar alltså egentligen om AI i sig, utan människan som programmerar algoritmen. AI både upprätthåller och förstärker köns-bias om vi inte agerar.

Det finns en rad klassiska exempel. Amazon fick stänga ner sitt rekryteringsverktyg, eftersom algoritmen lärde sig att systematiskt nedgradera kvinnors CV:n för tekniska jobb som exempelvis programutvecklare. Programvara för ansiktsigenkänning kan gissa kön med stor noggrannhet – om du är en vit man.

Ytterliga ett exempel är språklig översättning. Alla pronomen på turkiskan är könsinklusiva, där han/hon/det/den översätts med O. Trots det skapar Google translate fortfarande könspronomen vid översättning från turkiska till engelska - HAN är läkare och HON lagar mat. Ytterligare skrämmande exempel finns inom rättsväsendet, utbildning och sjukvård.

För att vända trenden och inkludera kvinnor i algoritmerna behöver dagens företag ställa sig en rad frågor. Vilka är ansvariga för att utforma och utveckla AI i vår organisation? Hur attraherar vi fler kvinnor till jobb inom AI? Hur omskolar vi kvinnor för att ta vara på deras kunskap inom AI-tillämpning?

Svaret är att få in fler kvinnor till IT/tech-branschen som idag består av blygsamma 28 procent, enligt SCB. Detta faktum är extra viktigt att ta hänsyn till eftersom de som styr algoritmerna i sin tur kommer att styra många automatiserade aspekter av våra dagliga liv i framtiden.

Det är bara människan bakom algoritmerna som kan stoppa dominansen av ett kön, etnicitet, ålder eller kultur. Vi behöver alltså större mångfald hos personer som ansvarar för att väga in potentiella samhällsrisker som tekniken kan bära på. Vi måste redan på ett tidigt stadie använda verktyg och metoder för att ge flickor en positiv bild av teknik, redan i förskolan. Introducera dem till kodning och programmering genom lek, ge dem förbilder att se upp till.

Vid rekryteringsprocesser bör vi tillämpa konkreta spelbaserade rekryteringsverktyg som Gamification, en metod för att rekrytera personer endast utifrån deras kompetens. I vår innovationsavdelning Innovation Hub har metoden gett tydliga resultat, där det nu finns 21 nationaliteter och 49% kvinnor.

Hälften av jordens befolkning är kvinnor. Det bör med all tydlighet även framgå i programmeringen av vår samtid. Utan fler kvinnor i den svältande IT-sektorn porträtteras bara ett halvt samhälle.

Det är dags att ändra på det.

Tone Marie Wahlström, Chef Innovation Hub EVRY
Dilan Kaya, juniorkonsult Innovation Hub EVRY


Nyhetsbrevet för det nya näringslivet:

Kalendarium

MEST LÄST PÅ VA.SE

Senaste dygnet I veckan
  1. Paret satsade sina bröllopspengar och hackade Ikea – idag säljer de sina soffben i 30 länder
  2. En av Sveriges smartaste energiinnovationer tokrusar på börsen
  3. Fondens floppår drabbade 300 000 sparare – nu lämnar förvaltaren
  4. Rusning till Leif GW:s och Göran Perssons bolag som laddar för börspremiär
  5. Ännu en minusdag på börsen – Stockholm intar jumboplats bland europeiska index
  1. Därför blir så många inkompetenta män ledare – och så kan det förhindras
  2. Då: Kickad från Ericsson – Nu: Han är bäst betalde svenske chefen någonsin
  3. Listan: Börsens allra bästa köp – enligt 988 analyser
  4. Aktien rasade 26% – sen stoppades all handel i forskningsbolaget
  5. Forna världsartisten går mot sitt andra stora genombrott – som vd för familjeföretaget

För dig som prenumerant

BLOGG

Följ chefredaktören på klimatresan

Under 2019 utmanar Veckans Affärer sina läsare att minska sina affärsresor med flyg med hälften. Chefredaktör Åsa Uhlin håller koll på hur det går med det och sitt eget mål att flyga mindre på bloggen VA:s klimatresa.