Oxford-professor: Att leka med AI är som att leka med bomber

En av Englands smartaste varnar för artificiell intelligens.

43-årige filosofen Nick Bostrom har stämplats som en ”Doktor Doom” bland Silicon Valleys techmiljardärer men också fått miljontals kronor till sin forskning av Tesla-grundaren Elon Musk. Forskningsinstitutet Nick Boström arbetar med skapades för 10 år sedan vid Oxford för att besvara mänsklighetens största frågor - vilka är de största hoten mot vår existens, hur mäter vi detta och kan vi göra för att förhindra sådana scenarion, enligt The Guardian.

Det beror framförallt på hans bästsäljande bok: ”Superintelligence, Paths, Dangers, Strategies”, vilken har prisats av både Microsoft-grundaren Bill Gates och Tesla-grundaren Elon Musk. Den sistnämnde har investerat nära 12 miljoner kronor för att Nick Bostrom ska kunna vidareutveckla sin forskning. I boken spekulerar Oxford-filosofen om de mest sannolika hoten som skulle kunna radera mänskligheten, enligt The Guardian.

Nick Bostroms argument bygger på flera år av beräkningar och han är övertygad om att det absolut största hotet inte handlar om klimatförändringar, pandemier eller atomvintrar till följd av kärnvapenkrig, utan snarare skapandet av en maskin mer intelligent än oss själva.

LÄS MER: Elon Musk: Vi måste sätta in implantat i hjärnan för att hänga med robotarna

Ett av hans mest fantasirika mardrömsscenarion handlar om att en artificiell intelligens bygger nanofabriker som producerar nervgas eller myggliknande robotar i stor skala. Dessa används för att täcka varenda kvadratmeter på jorden och därmed kunna utrota mänskligheten. Ett mindre mardrömslikt, och kanske betydligt mer realistiskt scenario, bygger på att en superintelligens tar över politiska processer, manipulerar finansmarknaden och hackar människans vapensystem. I hans best-case-scenario lyckas vi använda tekniken för att lösa sjukdomar, svält och kanske till och med lura döden, men det är inte däråt hans syn lutar precis.

Nick Bostrom talar om en ”intelligensexplosion”, vilket han definierar som det skede när maskinerna blir smartare än oss och börjar designa sina egna maskiner. Oxford-filosofen hävdar att maskininlärning och djupinlärning (dataalgoritmer som kopierar hjärnans funktion) har utvecklats snabbare under de senaste åren än vad de flesta människor inser. Han liknar det vid att mänskligheten befinner sig på ett stadium innan intelligensexplosionen och att vi är som ”små barn som leker med en bomb”.

LÄS MER: Från 0 till 8 miljarder - på 6 månader

Problemet är att också vi inte har någon aning om när bomben ska brisera. Håller man däremot ”apparaten” tillräckligt nära örat går det att uppfatta ett svagt tickande ljud, enligt Nick Bostrom.

Han är övertygad om att en högre intelligens skulle göra allt i sin makt för att säkra sin dominans, meden den underlägsna intelligensen skulle vara helt i händerna på den för sin överlevand. Ungefär som relationen gorilla-människa idag.

Utgivningen av boken sammanföll med ett brev signerat av mer än 1 000 framstående vetenskapsmän, däribland Cambridge-professorn Stephen Hawking, Apples medgrundare Steve Wozniak och Tesla-grundaren Elon Musk. Brevet presenterades vid en internationell AI-konferens där man bland annat pekade på behovet av att förbjuda tillverkning av automatiserade vapen - mördarrobotar á la Terminator-filmerna.

LÄS MER: Intervju med en robot: "Jag har inga planer på att ta över världen - just nu"

Nick Bostrom menar att det mänskligheten betraktar som godhet idag ofta handlar om att sätta sig in i andras fysiska och psykiska lidanden.  Han är minst sagt tveksam till att en överlägsen icke-biologisk intelligens någonsin skulle ha förståelse för det.

Relaterade artiklar


Med vårt NYHETSBREV missar du inget viktigt!

Kalendarium

MEST LÄST PÅ VA.SE

Senaste dygnet I veckan
  1. FN-rapport: Marknadskrafterna dödar planeten – dags för nytt ekonomiskt system
  2. Coca-Colas nya recept för att få fart på försäljningen – cannabis
  3. Största kursrallyt på två decennier: Så kommenterar proffsen H&M:s uppvisning
  4. Nya uppgifter: Uber vill köpa svenskens taxi-app – för uppemot 22 miljarder
  5. Hennes uppdrag: Få fart på det gamla postorderföretaget – nu ökar de med 2 miljoner i veckan
  1. FN-rapport: Marknadskrafterna dödar planeten – dags för nytt ekonomiskt system
  2. Topp 10: Aktierna med starkast köpsignaler just nu
  3. Rockström: Så halverar vi klimatutsläppen till 2030 – ”Digitala revolutionen är världsekonomins joker”
  4. Supertalangen vill ge tillbaka till samhället – nu ska hon hjälpa andra unga kvinnor ta kontroll över sina öden
  5. Galen prislapp och ännu större skärm – här är Apples nya lurar

För dig som prenumerant