Människor, maskiner, tro och vetande

Hittar en intressant krönika i DN, av Linus Larsson, på temat religion/ateism och positivism/hermeneutik. Eller det är i alla fall i de tankebanorna jag hamnar när jag läser Larssons text. Trivs där, just vid gränsen för det vetbara, på kunskapens rand. Där, i mellanrummet mellan det vetbara och det ovetbara, det synliga och dolda, kommer kompetenserna jag odlar och värnar till sin rätt. Allt går inte att veta. Därför behövs kompetens att hantera det okända, också. Och där blir debatten om kunskap och vetenskap så snedvriden, för det handlar inte om antingen eller, utan om både och.

Vi människor vill så förtvivlat gärna veta, säkert. Dessutom söker de allra flesta trygghet. Och vetenskapen fyller det behovet. Paradoxalt nog hamnar vi dock, just därför alldeles för ofta i situationer som gör oss otrygga. Ett slags kunskapens terrorbalans, skulle man kunna säga, för ju mer kunskap, desto större insikt om hur lite man vet och hur lite som går att veta, egentligen. Därför, menar jag, behövs både humaniora (som värnar och utvecklar förmågan att förstå och tolka) och naturvetenskap (som förfogar över verktyg som kan användas för att hantera  det vetbara), och för att båda discipliner ska komma till sin rätt och tillsammans kunna gagna mänskligheten och livet på jorden krävs ömsesidig förståelse, både för varandra och för kunskapens och vetenskapens villkor.

För att hantera livet, som alla vet kommer att ta slut en dag, behövs både kompetens att hantera det som går att veta något om och det som ingen vet och som inte går att veta, eller som det bara går att skaffa vaga kunskaper om. Livet och verkligheten består av både och. Olyckligtvis har människor fruktansvärt svårt att hantera dialektik, dynamik och komplexitet. Och det är lättare att skylla på eller misstänkliggöra budbäraren än att ta tag i problemet på allvar. Det är humanioras dilemma. Ständigt hemfaller människor åt dikotomisering, debatt och bittra konflikter om vem som har rätt, egentligen. Allt för lätt bortses från det faktum att båda kan ha rätt, eller fel för den delen. Orkar inte tänka på händelserna i Bryssel igår, men händelserna tangerar ämnet för dagens bloggpost så detta får bli mitt bidrag till analysen av vad som hände och vad vi bör göra för att förhindra att det händer igen. Larsson skriver så här.

Det var under den andra matchen, vid drag nummer 37, som alla tappade andan. Många trodde att det var ett misstag. Men draget var en strategi så komplicerad att det låg bortom det mänskliga intellektet.

En maskin hade tänkt ut det och därmed visat sig kapabel till en slags kreativitet. Människan hade skapat maskinen och maskinen skapade något större än människan.
Tro fan att man fick något religiöst i blicken. Och allt hände förra torsdagen.
Då ställdes världsmästaren i det mångtusenåriga brädspelet go mot Googles mest avancerade artificiella intelligens. Du har nog hört om hur det gick: Maskinen vann överlägset. Sydkoreanen och go-legendaren Lee Sedol lyckades bara försvara en skärva av mänsklighetens heder genom att vinna en av de fem matcherna.
Människa–maskin: 1–4.

Fast det var som sagt människan som skapade maskinen, och maskinen fylldes med algoritmer byggda på mänsklig erfarenhet och mänskligt tänkande. Att maskinen, med sin ENORMT överlägsna kapacitet vann kan knappast förvåna någon. Det var bara en tidsfråga. Jag kan fortfarande inte förstå fascinationen för maskiner eller för rymdresor. Jag är mycket mer förundrad över det som sker på jorden och mellan människor. Jag vill förstå och lära mig leva ett liv som betyder något, inte kontrollera livet. Ödmjukhet är en dygd och den är det av en orsak. Livet är ändligt och jorden är den enda plats i hela Universum där människor kan leva som människor. Tar vi inte vara på den kunskapen och lär vi oss inte hantera det problemet är det ute med oss. Ingen maskin i världen kan rädda människan från sig egen hybris. 

Men lika viktigt som segern är vad som ledde fram till den. Go är ett unikt spel. Det är så makalöst komplext att de gamla schackdatorernas enkla strategier går bet. Dessa räknade ut alla möjliga drag, förutsåg konsekvenserna och valde det bästa alternativet. I go är det omöjligt. Spelalternativen är fler än det finns atomer i det observerbara universum, långt bortom vad någon människa eller dator kan överblicka. Det sägs att virtuoserna inom go, till skillnad från schackmästare, ofta inte själva kan förklara strategier. Deras sätt att bemästra spelet ligger bortom det artikulerade.

Se där, för att bli mästare i GO, liksom i livet och för att uppnå hållbarhet, krävs förmåga att hantera både det vetbara och det ovetbara. GO spelas på gränsen mellan. Det som skiljer maskinen från människan är att människan har ett liv att hantera vid sidan av, med all den komplexitet som det innebär, medan datorn bara bryr sig om en enda sak, att vinna partiet. Det är det enda datorn kan. Det är detta den är skapad för. Därför förundras jag fortfarande mer över människan än över maskinen som är död materia. Och därför förstår jag inte lockelsen i att bygga "smarta" maskiner, för de kan inte hjälpa människan att bli en bättre människa, tvärtom är risken överhängande att förmågan att bygga maskiner bidrar till ännu mer hybris och ännu större risker. 

Därför behöver även syntetiska intellekt ha något som liknar intuition. Datorn som spöade Lee Sedol fick det genom att iaktta otaliga mänskliga drag och programmera in förståelsen för spelet i sin egen kod. Sedan har den spelat mot sig själv, givetvis i datorns frenetiska tempo och steg för steg dragit lärdomar om vad som fungerar.
Allteftersom gjorde den sig själv smartare, tills vi inte längre kände igen dess sätt att tänka. ”Det är inte ett mänskligt drag”, sa Europamästaren Fan Hui till Wired när han såg drag nummer 37. Det var som att höra en främmande livsform tala, vilket på sätt och vis är exakt vad det är.

En främmande livsform vill jag inte kalla det, för jag vill värna definitionen av liv som människan och allt annat levande på jorden är del av. Ett främmande element som skapats av människor och som nu finns mellan oss och som vi från och med nu tvingas hantera. Vi som ännu inte på långa vägar lärt oss hantera livet med varandra, vilket terrordåden i Bryssel igår bevisar. Människan står handfallen inför sig själv, och då läggs tid, kraft och resurser på att skapa en maskin som är överlägsen människan (i alla fall i spelet GO). Vad är det annat än hybris. Inget gott kan komma ur det, bara nya och än mer oöverblickbara risker. Upptäckten av Uran och kraften i klyvandet av atomen har här sin intellektuella och kulturella motsvarighet. Det gör mig trots allt mer beklämd än rädd. Och det ger mig kraft och inspiration att fortsätta kampen för humanioras framtid.

Sedan talade han länge om hur vackert draget var. Främmande, men vackert.
Löftet om artificiell intelligens handlar självfallet inte om brädspel. Go var ett experiment och en symbol, inte mer. Siktet för Deepmind, det Googleägda företaget bakom maskinen som vann, är den generella artificiella intelligensen som kan ta sig an och lära upp sig själv att lösa varje problem på egen hand, på samma sätt som den lärde sig att spela go. Forskning. Vård. Affärer. Krig.

En maskin som kan göra det människor redan kan, bara lite bättre, och som dessutom kan förbättra sig själv. Äntligen! Precis vad vi behöver. Inget gott kan komma ur detta, bara fler och ökade risker. Ödmjukhet inför det ovetbara är ett slags vaccin mot många av riskerna som ligger i farans riktning av teknikutvecklingen, som idag cyniskt nog marknadsförs enbart med löften om allt positivt tekniken kan bidra med. Riskerna avfärdas lättvindigt som primitivt tänkande, vilket inte är första gången i mänsklighetens historia. Hybris, ständigt denna hybris, som en följd av ruset och kicken som framstegen ger.

Idén om en sådan maskin kan ge vem som helst existentiell svindel. Vad händer när en intelligens överskrider vår egen tusenfaldigt? Skulle den tjäna oss eller vända sig mot oss? Frälsa oss i evigheten eller bli monster som inser att människan är överflödig och lika gärna kan förgöras?

Oavsett vad ser jag ingen som helst nytta med teknik som skapas med syfte att bli intelligent, eller till och med intelligentare (än människor). Inget gott kan komma ur det, för det löser inga av de problem som gör människan till människa. Döden är och förblir ett faktum. Att vara människa är att vara dödlig, liksom drömmen om evigt liv är döden en del av livet, liksom snålhet, glömska, avundsjuka, frosseri och så vidare. Människan är både och, hela tiden. Förmågan till intelligens är bara en av människans egenskaper och den samverkar med alla de andra egenskaperna och gör oss till dem vi är. Det är att vara människa, att vara perfekt är att vara maskin. Därför är evigt liv en omöjlig dröm som vi gör bäst i att lära oss bortse från. 

Författaren och teknikfilosofen Jaron Lanier beskrev nyligen diskussionen om artificiell intelligens som tvådelad: Dels den ingenjörsmässiga, den om verklig forskning, om kod och kretskort. Dels den om fantasier, berättelser och till och med religion om farorna och möjligheterna.

Det handlar om att inse att det finns en gräns, och om att hantera dels den insikten, dels konsekvenserna av både insikten och gränsen.Och då behövs både positivism och hermeneutik. Bara om människor agerar tillsammans, med fokus på människan och livet på jorden, kan målet om hållbarhet uppnås.

Tekniktillvända ateister väntar på sin tänkande maskin som religiösa väntar på sin messias. De välkomnar andäktigt detta högre stående intellekt.

Skeptiker får något jagat i blicken när Deepminds framsteg nämns. De talar om att människans roll urholkas och dess värde eroderas. Är de mer jordnära säger de att jobben försvinner.

Men för båda grupperna fyller artificiell intelligens samma roll för förväntan och fruktan som en gud.

Även ateister tror, för det är det som definierar människan. Vissa säger att de vet, att det går att veta allt, men det är en trosutsaga. Allt går inte att veta. Vad som händer efter döden, till exempel. Eller vad som händer när/om människan lyckats i sitt (meningslösa) uppsåt att skapa en maskin som överglänser människan i allt. Tron på AI liknar på det sättet den naiva drömmen om en god och klok diktator som tar hand om alla bekymmer. Inte för inte har man enats om att demokrati är det minst dåliga sättet att organisera ett samhälle. Samma gäller för människan och för kunskapen, det handlar om imperfekta storheter som aldrig fullt ut går att kontrollera eller förstå. Därför behövs förmågan att tolka och därför är det viktigt att värna förmågan att förundras, inte över maskiner utan över människan och livet på planeten jorden. Över det enda vi har. Förundras vi över fel saker är risken överhängande att vi snart inget har att förundras över.