Fotograf: Mikael Wallerstedt / Pexels

"Struntprat att AI kan förgöra mänskligheten" menar professorn som jämför dagens algoritmer med en bakteries intelligens

Artificiell intelligens och algoritmer kommer inte att förgöra mänskligheten eller hota hela branscher. Det finns betydligt värre saker att oroa sig för i så fall. Det hävdar David Sumpter, som är professor i tillämpad matematik vid Uppsala universitetet och aktuell med boken ”Outnumbered”.

Algoritmer är inte så farliga som många tycks tro.

Det hävdar David Sumpter som är professor i tillämpad matematik vid Uppsala universitet och som efter att ha läst datorvetenskap vid universitetet i Edinburgh, Skottland, har ägnat nära hälften av sitt 45-åriga liv åt att studera algoritmer.

Då jag talar med honom har den liberala tankesmedjan Fores kvällen innan hållit releasefest i och med en svensk utgåva av boken ”Outnumbered” som kom ut i höstas - ”Uträknad – Sanningen om Algoritmerna som styr världen” som ges ut av Volante.

”Jag har med stigande förvåning kunnat se hur media har gått från en positiv rapportering om AI och maskininlärning till alltmer negativ rapportering med rubriker med budskap om att algoritmerna styr våra liv.”

Han menar att även om välkända profiler som Googles Innovationschef Ray Kurzweil, Oxford-professorn Nick Bostrom och professor Max Tegmark har kommit med påståenden om att AI kan förgöra mänskligheten så är det "ren bullshit".

”Utvecklingen av Artificiell Generell Intelligens, AGI, har inte kommit längre än en hur en bakterie fungerar i kroppen. Så de växande klyftorna i samhället och att exempelvis Afrika släpar efter övriga världen i sin utveckling är långt viktigare frågor än struntprat om att AI kan förgöra mänskligheten.”

Då han trots sin aversion mot Max Tegmarks teorier besökte en större föreläsning slet han sitt hår när professorn - som har fått epitetet ”världens smartaste svensk” - presenterade en slide med budskapet att AI kan hjälpa världen att uppnå FN:s hållbarhetsmål 2030.

”Det kommer AI inte att kunna göra. Vi måste snarare själva lösa enkla problem som att få mediciner till rätt plats och få ordning på vissa länders infrastrukturer än att vänta på att AI löser sådana problem.”

Faktum är också att utvecklingen av en generell AI har oerhört långt kvar till den ens kan härma en hund.

”Då min hund tittar på mitt ansikte tycks den kunna förstå när det är dags att gå ut eller äta. AI bygger snarare på mönsterigenkänning och kan inte likt hunden förstå sociala sammanhang.”

Precis som att David Sumpter anser att mänskligheten inte behöver vara orolig för att AI ska förgöra den anser han att företag heller inte behöver vara oroliga för att revolutionerande algoritmer ska vända upp och ned på olika branscher.

Resonemanget lyder att det inte är själva algoritmerna, utan snarare problem som växande klyftor i samhället som har banat väg för stora förändringar som exempelvis världens växande populism.

Han exemplifierar med att det inte var så att Ubers algoritmer skulle ha varit så mycket bättre än konkurrenterna, utan snarare körde en stentuff linje med hårda arbetsvillkor för redan fattiga människor.

”Det är klart att Uber-förarna blir förbannade när de får allt lägre och lägre betalt, medan medelklassen åker allt billigare taxi på deras bekostnad. Det har inget att göra med Ubers algoritm som möjligen är snäppet bättre än konkurrenterna.”

På liknande sätt har inga revolutionerande algoritmer för att sprida information fått mediebranschen att gå igenom ett stålbad, enligt David Sumpter.

”Mediebranschens kris beror snarare på att vem som helst kan lägga ut information idag och att det därmed finns en uppsjö information att tillgå.”

Det massiva informationsutbudet gör också att David Sumpter anser att resonemanget om att filterbubblor där vissa grupper i samhället får information från samma källor är nys.

”Algoritmer kan visserligen förstärka att vissa idéer lyfts och sprids mer än andra. Men för att få bukt med växande problem som populism och rasism måste vi snarare bli bättre på att övertyga människor om att populismen inte är till gagn för mänskligheten".

Det finns också en rad tydliga exempel som visar att algoritmerna ofta är betydligt sämre än människor på att fatta beslut.

Ett bra exempel var när Googles språkalgoritm liknade en mjukvaruingenjörs vänner vid gorillor.

”En människa förstår genast om en kommentar är rasistisk eller sexistisk, men det gjorde inte Googles algoritm.”

Ett annat exempel var när Facebooks algoritm tog bort den legendariska bilden på den nakna flickan som hade fått napalmskador under Vietnam-kriget.

Algoritmernas bristfälliga förmåga att fatta korrekta beslut ser David Sumpter som en viktig orsak till att idén om att använda AI i samband med rättsprocesser är uppåt väggarna.

Boken lyfter även fram att algoritmer inte är särskilt bra på att klara av den så kallade femfaktormodellen som går ut på att dela in människor i olika grader av fem olika personlighetsdrag som exempelvis introvert och extrovert.

En av diskussionerna i boken gällande just femfaktormodellen rör Facebooks så kallade Cambridge Analytica-skandal där den sociala nätverksjätten via personlighetstestet "This is your digital life" läckte uppgifter från 87 miljoner användare.

”Jag talade med Aleksandr Kogan som tidigare arbetade på Cambridge Analytica och var den som tog fram testet”. Han var ärlig med att det inte fungerar att använda algoritmer för att bedöma en människors personlighet på ett träffsäkert sätt. Mina egna tester har lett till samma resultat.”

Så det är med andra ord överdrivet att låta Facebook-grundaren Mark Zuckerberg ställas inför senaten och kongressen efter Cambridge Analytica-skandalen och nu riskera rekordböter på 5 miljarder dollar?

”Det är svårt att svara på då jag inte är expert på juridiken.”

Han berättar att han själv fick en inbjudan till Kongressen.

”Jag tackade nej då det främst var republikaner som ville att jag skulle komma dit för att stärka resonemanget om att Cambridge Analytica inte påverkade utgången av det amerikanska presidentvalet.”

Precis som att han menar att ”This is your digital life” inte var så bra på att analysera människors personlighetsdrag är han inte särdeles imponerad över att Google AI Alpha Go besegrade världens bästa mänskliga spelare i det avancerade brädspelet Go.

”Det handlade inte om utvecklingen av intelligens, utan snarare om att Googles AI-bolag DeepMind hade utvecklat algoritmer som kunde identifiera mönster med olika kombinationer för att utveckla olika lösningar att spela Go så bra som möjligt. Så jag är snarare mer imponerad av hur bra vissa människor är på ett så avancerat brädspel som Go.”

Och även om världen exempelvis har fått betydligt mer träffsäkra sjudygnsprognoser än förr beror det snarare på att väder har stabila parametrar som den kraftigt ökade datorkapaciteten har kunnat dra nytta av.

Bortom sjudygnsprognoser är det dock betydligt svårare att träffa rätt.
Ändå är det ingenting mot att försöka förutspå utvecklingen i samhället som går så snabbt det är mer eller mindre omöjligt med eller utan algoritmer.

”Det fanns inga möjligheter på 1970-talet att förutspå att Kina skulle bli den maktfaktor det är idag. Och vi kan aldrig i förväg ta reda på om exempelvis Afrika går mot en storhetstid.”

Rådet till företag som oroar sig över vad algoritmer och AI-samhället kan ställa till med är att inte tänka så mycket på framtiden, utan snarare lägga krutet på vilka man anställer.

”Uppsala är ett av världens ledande universitet och vi examinerar årligen cirka 50-60 studenter med så bra betyg att man verkligen förstår AI på ett avancerat sätt. Men tittar du på arbetsmarknaden finns konsultföretag som påstår att man har hundratals AI-experter anställda. Ekvationen hänger inte ihop.”

David Sumpter menar att det mesta tyder på att många företag anställer personer som inte är tillräckligt kvalificerade inom hur AI och algoritmer fungerar, men ändå ger dessa fina jobbtitlar som AI-forskare och annat.

Fotbollsintresserade David Sumpter har även skrivit boken ”Soccermatics” och då jag frågar om en algoritm hade kunnat räkna ut att Zlatan Ibrahimovic skulle ösa in mål för La Galaxy den här säsongen blir svaret.

”Du kan visserligen förutsäga en säsong, men det är svårare med flera säsonger eller än mer en enstaka match. Så hur bra fotbollsspelare Zlatan än är säger algoritmerna att vem som gör mål beror till en tredjedel på spelaren och till två tredjedelar på laget. Så det är bara ytterligare ett exempel på att algoritmerna kommer till korta.”


Kalendarium

För dig som prenumerant

VA KVINNA PODCAST

BLOGG

Följ chefredaktören på klimatresan

Under 2019 utmanar Veckans Affärer sina läsare att minska sina affärsresor med flyg med hälften. Chefredaktör Åsa Uhlin håller koll på hur det går med det och sitt eget mål att flyga mindre på bloggen VA:s klimatresa.