Schack, Go, poker, intelligens och mänsklighetens framtid

Läser i tidningen att människan besegrats av en dator, i brädspelet Go. Det var länge sedan Garry Kasparov besegrades i Schack av datorn Deep Blue, 1997. Det står i artikeln att det nu bara är i spelet Poker som människan är överlägsen datorerna. Många tankar väcks, om både människan, maskinerna, framtiden och livet. Maria Gunther har skrivit, och jag börjar veckan med att tänka vidare utifrån valda delar av hennes artikel.

I torsdags förlorade [Lee Sedol] den andra av fem matcher efter att både han och Alphago förbrukat sina två timmar av speltid och gått in på övertid.

– Jag antar att jag förlorade eftersom jag inte kunde hitta några svagheter i programmet, konstaterade Lee Sedol på presskonferensen efteråt.

Människan är människa och maskinen maskin. Två helt olika anordningar, skulle man kunna tala om, som här förts samman för att mäta sig med varandra med utgångspunkt i det kinesiska brädspelet Go. Sedol förlorade för att datorn spelade utan känsla och därmed omänskligt. Vad man har gjort är att man valt ut en av människans många kompetenser, den att spela Go, och sedan, med utgångspunkt i mänsklighetens samlade kunskaper om spelet och dess komplexitet, skapat en maskin som sedan ställs mot mänsklighetens just nu bästa Go-spelare. Självklart var det bara en tidsfråga innan maskinen skulle vinna, men det betyder inte att maskinen är intelligentare än MÄNSKLIGHETEN. Den tanken bygger på det logiska felslutet att intelligens är ett solitärt fenomen. Datorn agerar med utgångspunkt i alla kunskaper och erfarenheter som finns, medan Sedol spelar på sin känsla och sina erfarenheter.

– Det är nästan 20 år sedan datorn Deep Blue slog Garry Kasparov i schack. Sedan dess har Go varit som den heliga graalen för artificiell intelligens, sa Demis Hassabis vid vetenskapskonferensen AAAS i Washington DC i februari.

Schack är ett spel som är mer logiskt och dess regler är mer styrda. Där finns inte alls samma utrymme för intuition. Schack handlar om att följa regler. Därför var det lättare att skapa en dator som minns alla partier som någonsin spelats. Mötet mellan Deep Blue och Garry Kasparov var ett möte som handlade om minneskapacitet mer än något annat. Go handlar inte så mycket om regelföljande, utan mer om att anpassa sig efter situationerna som uppstår och om att skapa nya, tillfälliga regler allt eftersom. Reglerna är så pass öppna att de ändras utifrån relationen mellan spelarna och det rådande läget. Intuition är en egenskap som skiljer sig från logiken, en föränderlig och kontextanpassad egenskap.

Mänsklig intelligens är en sak, och artificiell intelligens en annan. Det är två olika intelligenser. Varför ses det som ett framsteg när människan besegras av en dator? Hur kan man förstå uppståndelsen och drivkrafterna och vad säger det om samhället?

Han är grundare av företaget Google Deepmind som skapat Alphago. Redan i januari blev det offentligt att Alphago hade slagit europamästaren Fan Hui, och därmed blivit det första program någonsin som besegrat en professionell Go-spelare. Men Lee Sedol spelar på en helt annan nivå än Fan Hui. I Asien är han närmast en superstjärna, som tillhört den absoluta Go-eliten i ett decennium.

– Lee Sedol är en innovatör. I hans partier kommer han ofta med helt nya drag som sedan blir standardsekvenser. Jag tror att han kommer att skrivas in i historien som en av de största spelarna någonsin. Det finns högst en handfull andra som kan mäta sig med honom, säger Daniel Jensen, ordförande i svenska Go-förbundet.

Google står bakom datorn som besegrade Sedol. Ett privat, multinationellt företag alltså. Vad är deras drivkraft? Att tjäna pengar på människans olika önskningar och begär. Google hämtar kunskapen från djupet av mänskligheten, och säljer sedan den informationen till människor och andra företag. Och ju mer som står på spel, desto mer uppmärksamhet riktas mot företeelsen och desto mer datortrafik genereras. Jag är inte särskilt imponerad av "framgången", för den bär samtidigt på ett allvarligt hot. Människans syn på sig själv som kompetent och klok riskerar att förändras, och om börjar tvivla på människans förmåga blir det lättare att manipulera, kontrollera och styra människors tankar mot mål som ser ut att vara genuina, men som i själva verket är någon annans. Så länge man jämför specialiserade maskiner med, må så vara den bästa människan, kommer maskinen att vinna, men att vara människa är långt mer komplext än någon maskin i världen. Människan är människa, med allt vad det innebär. Maskiner är och förblir maskiner. Vad är poängen med att jämföra?

Spelet Go uppstod i Kina för mer än 3 000 år sedan. Det spelas med vita och svarta stenar på ett bräde med 19 gånger 19 linjer, och målet är att omringa motståndarens stenar och hägna in en så stor del av spelbrädet som möjligt. Spelet har några få enkla regler, men variationerna är nästan oändliga. Antalet möjliga kombinationer av stenar på brädet är en etta med 170 nollor efter, eller fler än alla atomer i hela universum.

– Go är mer än bara ett spel i Asien. Det har också en andlig dimension. Konfucius skrev att det är en av de fyra konster som en sann lärd måste behärska, tillsammans med kalligrafi, poesi och konst, säger Demis Hassabis.

En andlig dimension. Kanske är det därför datorn vann, för som Sedol säger saknar datorn svagheter. Datorn går att förklaras, vilket inte gäller människan eller livet. Go är skapat av människor, för människor. Det handlar om ett spel som konstruerats för att utgöra ett slags plats där människor kan mäta sin kompetens med andra människor. 

Det finns fler än 2.000 professionella Go-spelare. Japan, Kina och Sydkorea har speciella skolor där barn lär sig spela Go i stället för att gå i vanlig skola.

Go är liksom andra mänskliga verksamheter mer än själva spelet och dess regler. Älskade spel integreras i vardagen och både påverkar och påverkas av människorna som spelar det. Ett spel rymmer väldigt mycket mer än spelande, liksom livet. Tänker på den ömsesidiga relationen mellan Baseball och USA, till exempel. Reduceras spelet till vem som vinner försvinner spelets själ. Kanske är det därför inte förvånande att det är ett vinstdrivande företag, som bara fokuserar på ekonomin och vinsten som driver utvecklingen i den riktningen. Men vad ska vi människor göra sedan, när det skapats datorer som utan problem besegrar människor i spel efter spel och aktivitet efter aktivitet? Vad gör det med meningen med livet? Riskerar inte livets mening att gå förlorad, eller förväxlas med pengar? Det är i alla fall en möjlig konsekvens, och den vill jag peka på, för jag tror det är viktigt.

Skillnaden mellan Alphago och datorn Deep Blue, som besegrade Garry Kasparov i schack 1997, är enorm. I schack finns det i genomsnitt 20 olika drag en spelare kan göra varje omgång. I Go finns det ungefär 200 möjligheter, alltså 10 gånger fler, vid varje drag. Det är därför omöjligt att bygga en dator som räknar ut alla möjliga drag som kan utföras. Demis Hassabis, som själv var världens näst högst rankade unga schackspelare när han var 13, menar att Go handlar mer om intuition än uträkningar, och om mönsterigenkänning och de undermedvetna processer som vår hjärna är så bra på att hantera.

– Om du frågar Go-spelare varför de gjorde ett visst drag säger de ibland bara att draget kändes rätt. En schackspelare kan alltid förklara exakt vilka beräkningar som låg bakom, säger han.

Ju mer spelet liknar mänskligt tänkande, desto svårare är det att konstruera en dator som vinner över människan alltså. Drar vi ut den tanken landar vi snart i insikten att skulle det gå att skapa en dator som tänker och fungerar som en människa skulle människan tvingas se sig besegrad, så att säga på sin hemmaplan. Varför skulle människan vilja det? Vad är poängen, och vari ligger fascinationen att spela det spelet? Vad, vilka mekanismer är det som driver den utvecklingen? Och vilka blir konsekvenserna?

Alphago måste alltså välja drag med något som påminner om mänsklig intuition. För att uppnå det har programmet fått lära sig att spela Go själv, på ett sätt som liknar hur människor lär sig nya saker. Det är ytterligare en enorm skillnad mot schackdatorn Deep Blue, som inte kan något annat än att spela just schack, inte ens mycket enklare spel. Systemen bakom Alphago kan lära sig att spela nästan vilket spel som helst.

Demis Hassabis kallar företaget Google Deepmind för ett Apolloprogram för artificiell intelligens. Jämförelsen med Apolloprogrammet, som tog människan till månen, syntes också i hans meddelande på Twitter efter den första matchen i onsdags: "Alphago vann!!!! Vi landade på månen. Så stolt över hela teamet!! Respekt också till den fantastiska Lee Sedol."

Men det egentliga målet är mycket större än att skapa en dator som är bättre än vi på att spela Go.

– Vi har en mission, i två steg. Först ska vi lösa intelligensen. När vi väl gjort det ska vi lösa världens alla andra problem. Steg två kommer att följa automatiskt på steg ett, säger Demis Hassabis.

Få saker skrämmer mig så som den här typen av uttalanden. Google lovar alltså att lösa världens alla problem, till vilket pris då, undrar man? Och vad finns det för garantier att kunskapen och förmågan, som ytterst kommer från djupet av mänsklighetens samlade kunskaper och kompetenser, används till det Google utlovar? Makten som som finns i den visionen är enorm, och därför oerhört skrämmande. Så länge ingen är i besittning av makten tvingas man lova att vara snäll och agera vänligt, men vad säger att man fortsätter göra det i samma stund man har makten i sin hand? 

En verkligt intelligent maskin tar in information om omgivningen och lär sig att förstå och hantera den, och kan avgöra vilka beslut den ska fatta och vad den ska göra för att nå sina mål. Det kan också hantera oväntade situationer utan att sluta fungera.

En sådan anordning, eller maskin finns redan; människan. Vad är då poängen med att skapa ytterligare en, som är skapad för att mäta sig med och helst ska bli bättre än människan? Vad ska vi mer artificiell intelligens till, när vi redan har verklig intelligens? Och varför ska maskiner ersätta människor när samhället är skapat av människor, för människor? Frågan är åtminstone berättigad så länge som det inte finns en plan för arbetet, som bygger på fördelning av tids- och energivinsten, samt den ekonomiska vinsten och inte minst makten.

Nästa utmaning för AI-entusiasterna är att skapa en maskin som kan besegra människan i poker. Där finns ytterligare en djupt mänsklig egenskap som påverkar utgången och definierar spelet: det går att bluffa. Poker bygger delvis på att lura sina motståndare. När/om det skapats en maskin som på ett trovärdigt sätt kan lura människan är jag inte säker på att jag vill vara med längre, för vad är det mänskliga värdet med det, och vilka är riskerna?