onsdag 23 mars 2016

Människor, maskiner, tro och vetande

Hittar en intressant krönika i DN, av Linus Larsson, på temat religion/ateism och positivism/hermeneutik. Eller det är i alla fall i de tankebanorna jag hamnar när jag läser Larssons text. Trivs där, just vid gränsen för det vetbara, på kunskapens rand. Där, i mellanrummet mellan det vetbara och det ovetbara, det synliga och dolda, kommer kompetenserna jag odlar och värnar till sin rätt. Allt går inte att veta. Därför behövs kompetens att hantera det okända, också. Och där blir debatten om kunskap och vetenskap så snedvriden, för det handlar inte om antingen eller, utan om både och.

Vi människor vill så förtvivlat gärna veta, säkert. Dessutom söker de allra flesta trygghet. Och vetenskapen fyller det behovet. Paradoxalt nog hamnar vi dock, just därför alldeles för ofta i situationer som gör oss otrygga. Ett slags kunskapens terrorbalans, skulle man kunna säga, för ju mer kunskap, desto större insikt om hur lite man vet och hur lite som går att veta, egentligen. Därför, menar jag, behövs både humaniora (som värnar och utvecklar förmågan att förstå och tolka) och naturvetenskap (som förfogar över verktyg som kan användas för att hantera  det vetbara), och för att båda discipliner ska komma till sin rätt och tillsammans kunna gagna mänskligheten och livet på jorden krävs ömsesidig förståelse, både för varandra och för kunskapens och vetenskapens villkor.

För att hantera livet, som alla vet kommer att ta slut en dag, behövs både kompetens att hantera det som går att veta något om och det som ingen vet och som inte går att veta, eller som det bara går att skaffa vaga kunskaper om. Livet och verkligheten består av både och. Olyckligtvis har människor fruktansvärt svårt att hantera dialektik, dynamik och komplexitet. Och det är lättare att skylla på eller misstänkliggöra budbäraren än att ta tag i problemet på allvar. Det är humanioras dilemma. Ständigt hemfaller människor åt dikotomisering, debatt och bittra konflikter om vem som har rätt, egentligen. Allt för lätt bortses från det faktum att båda kan ha rätt, eller fel för den delen. Orkar inte tänka på händelserna i Bryssel igår, men händelserna tangerar ämnet för dagens bloggpost så detta får bli mitt bidrag till analysen av vad som hände och vad vi bör göra för att förhindra att det händer igen. Larsson skriver så här.
Det var under den andra matchen, vid drag nummer 37, som alla tappade andan. Många trodde att det var ett misstag. Men draget var en strategi så komplicerad att det låg bortom det mänskliga intellektet.
En maskin hade tänkt ut det och därmed visat sig kapabel till en slags kreativitet. Människan hade skapat maskinen och maskinen skapade något större än människan.
Tro fan att man fick något religiöst i blicken. Och allt hände förra torsdagen.
Då ställdes världsmästaren i det mångtusenåriga brädspelet go mot Googles mest avancerade artificiella intelligens. Du har nog hört om hur det gick: Maskinen vann överlägset. Sydkoreanen och go-legendaren Lee Sedol lyckades bara försvara en skärva av mänsklighetens heder genom att vinna en av de fem matcherna.
Människa–maskin: 1–4.
Fast det var som sagt människan som skapade maskinen, och maskinen fylldes med algoritmer byggda på mänsklig erfarenhet och mänskligt tänkande. Att maskinen, med sin ENORMT överlägsna kapacitet vann kan knappast förvåna någon. Det var bara en tidsfråga. Jag kan fortfarande inte förstå fascinationen för maskiner eller för rymdresor. Jag är mycket mer förundrad över det som sker på jorden och mellan människor. Jag vill förstå och lära mig leva ett liv som betyder något, inte kontrollera livet. Ödmjukhet är en dygd och den är det av en orsak. Livet är ändligt och jorden är den enda plats i hela Universum där människor kan leva som människor. Tar vi inte vara på den kunskapen och lär vi oss inte hantera det problemet är det ute med oss. Ingen maskin i världen kan rädda människan från sig egen hybris. 
Men lika viktigt som segern är vad som ledde fram till den. Go är ett unikt spel. Det är så makalöst komplext att de gamla schackdatorernas enkla strategier går bet. Dessa räknade ut alla möjliga drag, förutsåg konsekvenserna och valde det bästa alternativet. I go är det omöjligt. Spelalternativen är fler än det finns atomer i det observerbara universum, långt bortom vad någon människa eller dator kan överblicka. Det sägs att virtuoserna inom go, till skillnad från schackmästare, ofta inte själva kan förklara strategier. Deras sätt att bemästra spelet ligger bortom det artikulerade.
Se där, för att bli mästare i GO, liksom i livet och för att uppnå hållbarhet, krävs förmåga att hantera både det vetbara och det ovetbara. GO spelas på gränsen mellan. Det som skiljer maskinen från människan är att människan har ett liv att hantera vid sidan av, med all den komplexitet som det innebär, medan datorn bara bryr sig om en enda sak, att vinna partiet. Det är det enda datorn kan. Det är detta den är skapad för. Därför förundras jag fortfarande mer över människan än över maskinen som är död materia. Och därför förstår jag inte lockelsen i att bygga "smarta" maskiner, för de kan inte hjälpa människan att bli en bättre människa, tvärtom är risken överhängande att förmågan att bygga maskiner bidrar till ännu mer hybris och ännu större risker. 
Därför behöver även syntetiska intellekt ha något som liknar intuition. Datorn som spöade Lee Sedol fick det genom att iaktta otaliga mänskliga drag och programmera in förståelsen för spelet i sin egen kod. Sedan har den spelat mot sig själv, givetvis i datorns frenetiska tempo och steg för steg dragit lärdomar om vad som fungerar.
Allteftersom gjorde den sig själv smartare, tills vi inte längre kände igen dess sätt att tänka. ”Det är inte ett mänskligt drag”, sa Europamästaren Fan Hui till Wired när han såg drag nummer 37. Det var som att höra en främmande livsform tala, vilket på sätt och vis är exakt vad det är.
En främmande livsform vill jag inte kalla det, för jag vill värna definitionen av liv som människan och allt annat levande på jorden är del av. Ett främmande element som skapats av människor och som nu finns mellan oss och som vi från och med nu tvingas hantera. Vi som ännu inte på långa vägar lärt oss hantera livet med varandra, vilket terrordåden i Bryssel igår bevisar. Människan står handfallen inför sig själv, och då läggs tid, kraft och resurser på att skapa en maskin som är överlägsen människan (i alla fall i spelet GO). Vad är det annat än hybris. Inget gott kan komma ur det, bara nya och än mer oöverblickbara risker. Upptäckten av Uran och kraften i klyvandet av atomen har här sin intellektuella och kulturella motsvarighet. Det gör mig trots allt mer beklämd än rädd. Och det ger mig kraft och inspiration att fortsätta kampen för humanioras framtid.
Sedan talade han länge om hur vackert draget var. Främmande, men vackert.
Löftet om artificiell intelligens handlar självfallet inte om brädspel. Go var ett experiment och en symbol, inte mer. Siktet för Deepmind, det Googleägda företaget bakom maskinen som vann, är den generella artificiella intelligensen som kan ta sig an och lära upp sig själv att lösa varje problem på egen hand, på samma sätt som den lärde sig att spela go. Forskning. Vård. Affärer. Krig.
En maskin som kan göra det människor redan kan, bara lite bättre, och som dessutom kan förbättra sig själv. Äntligen! Precis vad vi behöver. Inget gott kan komma ur detta, bara fler och ökade risker. Ödmjukhet inför det ovetbara är ett slags vaccin mot många av riskerna som ligger i farans riktning av teknikutvecklingen, som idag cyniskt nog marknadsförs enbart med löften om allt positivt tekniken kan bidra med. Riskerna avfärdas lättvindigt som primitivt tänkande, vilket inte är första gången i mänsklighetens historia. Hybris, ständigt denna hybris, som en följd av ruset och kicken som framstegen ger.
Idén om en sådan maskin kan ge vem som helst existentiell svindel. Vad händer när en intelligens överskrider vår egen tusenfaldigt? Skulle den tjäna oss eller vända sig mot oss? Frälsa oss i evigheten eller bli monster som inser att människan är överflödig och lika gärna kan förgöras?
Oavsett vad ser jag ingen som helst nytta med teknik som skapas med syfte att bli intelligent, eller till och med intelligentare (än människor). Inget gott kan komma ur det, för det löser inga av de problem som gör människan till människa. Döden är och förblir ett faktum. Att vara människa är att vara dödlig, liksom drömmen om evigt liv är döden en del av livet, liksom snålhet, glömska, avundsjuka, frosseri och så vidare. Människan är både och, hela tiden. Förmågan till intelligens är bara en av människans egenskaper och den samverkar med alla de andra egenskaperna och gör oss till dem vi är. Det är att vara människa, att vara perfekt är att vara maskin. Därför är evigt liv en omöjlig dröm som vi gör bäst i att lära oss bortse från. 
Författaren och teknikfilosofen Jaron Lanier beskrev nyligen diskussionen om artificiell intelligens som tvådelad: Dels den ingenjörsmässiga, den om verklig forskning, om kod och kretskort. Dels den om fantasier, berättelser och till och med religion om farorna och möjligheterna.
Det handlar om att inse att det finns en gräns, och om att hantera dels den insikten, dels konsekvenserna av både insikten och gränsen.Och då behövs både positivism och hermeneutik. Bara om människor agerar tillsammans, med fokus på människan och livet på jorden, kan målet om hållbarhet uppnås.
Tekniktillvända ateister väntar på sin tänkande maskin som religiösa väntar på sin messias. De välkomnar andäktigt detta högre stående intellekt.
Skeptiker får något jagat i blicken när Deepminds framsteg nämns. De talar om att människans roll urholkas och dess värde eroderas. Är de mer jordnära säger de att jobben försvinner.
Men för båda grupperna fyller artificiell intelligens samma roll för förväntan och fruktan som en gud.
Även ateister tror, för det är det som definierar människan. Vissa säger att de vet, att det går att veta allt, men det är en trosutsaga. Allt går inte att veta. Vad som händer efter döden, till exempel. Eller vad som händer när/om människan lyckats i sitt (meningslösa) uppsåt att skapa en maskin som överglänser människan i allt. Tron på AI liknar på det sättet den naiva drömmen om en god och klok diktator som tar hand om alla bekymmer. Inte för inte har man enats om att demokrati är det minst dåliga sättet att organisera ett samhälle. Samma gäller för människan och för kunskapen, det handlar om imperfekta storheter som aldrig fullt ut går att kontrollera eller förstå. Därför behövs förmågan att tolka och därför är det viktigt att värna förmågan att förundras, inte över maskiner utan över människan och livet på planeten jorden. Över det enda vi har. Förundras vi över fel saker är risken överhängande att vi snart inget har att förundras över.

8 kommentarer:

Camilla sa...

Den artikeln läste jag också igår, måste fundera mer på det, jag får inget grepp på det. Än.

Men en sak jag tänkte på är det här med orsaken till varför man gör maskiner av det här slaget ... jag tror att en stor del av förklaringen är: för att man kan, för att se hur långt det går att komma. Ungefär som när man byggde jättestora legogrejer eller höga torn när man var liten. Man ville bara se hur stort det gick att få det. En drift att bara vilja veta mer. Den genuina nyfikenheten. Den oändliga vetgirigheten.

Sen behövs det förstås hela överbyggnaden med att tänka vad man egentligen ska ha det till, och vad det innebär.

Anonym sa...

Camilla: Angående driften att vilja veta mer...är DET den genuina nyfikenheten? Den oändliga vetgirigheten skulle alltså vara den äkta kunskapstörsten?

Kommer att tänka på att det finns andra sätt att se (vågar man uttrycka sig så...) på människans grundläggande drift. Tänker mig att den snarare är driften till förbundenhet med andra människor, dvs till relation för att överhuvudtaget "bli till".

Det låter möjligen som flummigt humanisttrams. Tänker mig (och min favorit Martin Buber också) att driften att skapa (vilket leder till bl a upptäckter, kunskap) snarare kommer ur en utvecklad relationsförmåga. Att utgå från att driften att veta mer och således bygga upp en "kunskapsvärld", att det är grunden alltså, kan vara ett tecken på bristande relationsförmåga, att man gjort sig, andra och sin värld till sina objekt att kontrollera.

Eva

Eddy sa...

Jag tror också att man gör det för att man kan, men det är verkligen naivt för det är mycket vi människor kan, men låter bli att göra av olika anledningar. Det är en del av det mänskliga i oss, att vi kan välja vart vi ska göra och vilka mål vi sätter upp. Människan är ingen maskin, och det vore förödande om vi glömmer det.

Curiosoity killed the cat, brukar man säga … Viktigt att påminna sig om.

Jag förstår hur du menar Eva, och håller med. Människa är en relation, ett relationellt begrepp. Människa är man inte, det blir man tillsammans med andra. Och det är en humanvetenskaplig insikt som behöver värnas, för allas och en hållbar framtids skull.

Camilla sa...

Jag är inte säker på att jag är med här, jag menar, möjligen har jag inte tänkt så mycket i det perspektivet (eller troligen), men det är väl klart att människor är i relation till varandra, beroende av, påverkar, fungerar med, tänker med, gör med, tillsammans med. Men hur menar du/ni med att driften att upptäcka, skapa, kommer sig av relationsförmåga? Hur då, på vilket sätt, vad betyder det?

Såhär, antag att jag försöker förstå ett samband ... jag försöker förstå ett visst beteende, jag vill förstå exakt hur ånga bildas i en kokningsprocess, så jag gör några experiment. Sen tänker jag ... hm ... jag undrar hur det blir om man ändrar lite i geometrin?, och så testar jag det. Sen när jag har hållit på ett tag, fattar jag hur det hänger ihop. Drivkraften i hela den processen är en vilja att förstå hur det funkar, hur det hänger ihop. Jag kan göra experimenten, så jag gör dem, för jag vill förstå.

Kanske har jag kollegor som är lika ivriga att förstå, så vi bollar idéer som gör att det är lättare att hitta vägar. Kanske har jag inte kollegor, så det går lite trögt. Jag är inte säker på hur den nyfikenheten, den driften, skulle vara kopplad till relationsförmåga? Snarare än viljan att förstå sammanhanget? Och jag kan nog inte riktigt förstå att den driften att vilja veta, säger att relationsförmågan är outvecklad?

Sen kan man ju vara nyfiken på andra saker, på tankar och idéer, hur de utvecklats, hur de existerar. Och den nyfikenheten är ju isåfall mer kopplad till att relatera till andra människor.

Tänker jag ...

Anonym sa...

Haha,skrattade när jag läste Camilla. Åt dig? Nej, faktiskt åt mig själv. Borde ju ha fattat att jag skulle få de frågor du ställde. Har visserligen läst massor av Martin Buber (som har de tankar jag nämner) i många år men aldrig någonsin har jag verbaliserat något för en endaste människa vad jag läst. Det försvårar mycket om jag ska förklara. Men gör ett försök:

Nå, kraftigt förenklat uttryckt menar jag att den nyfikenhet som handlar om att forska i och efter ting, förhållanden, orsaker osv i den yttre världen förutsätter att man lämnar relationssfären och gör världen med dess ting och ofta även människor till objekt för sin analys. Man bygger upp en DET-värld av kunskap. Det är ju inte fel. Det är nödvändigt för överlevnad. Men detta levnadssätt kan inte utgöra grunden - åtminstone inte den enda - för mänskligt liv. Istället kan det gå så illa att DET-världen växer sig så stor att den helt skymmer relationssfären och därmed gör människor oförmögna att överhuvudtaget "bli till" och blir istället individer som ser sig, andra och världen enbart som objekt att kontrollera och socialt frottera sig med. Det mellanmänskliga görs omöjligt i samma mån DET-världen breder ut sig.

Det krävs också, och kanske i första hand, en relationssfär, en JAG-DU-värld där en människa överhuvudtaget kan "bli till". Utifrån sitt ständiga blivande och levnad i relationer till andra jag (inte individer utan personer!), blir människan skapande. Detta skapande är tänkt lite som förutsättning för att kunskap av en annan sort än DET-världskunskap kommer till. Denna typ av kunskap är inte egentligen en kunskap som vi kan fånga och sätta in i kategorier. Denna "kunskap" är snarare frukten av ett möte som plötsligt finns där men som inte kan finnas annat än i relationssfären och som alltid är temporär och varken kan manas fram eller hållas kvar genom kontroll eller vilja. Den är snarare ett slags "nåd" som alltså kommer till skänks.

För Martin Buber är människans tillvaro som människa tudelad och relationssfären, alltså JAG-DU-relationen av närmast andlig natur. Själva målet/syftet/meningen för mänskligt liv och därmed även för skapande och kunskapssökande, ser han som uppfyllandet av den ultimata relationen mellan människa (JAG) och Gud (det eviga DU:et) som ses som förebilden för JAG-DU-relationer mellan människor. Den kunskapen ger ingen kunskap om något speciellt, dvs ingen del, men ändå vet man "allt", dvs helheten och har inte behov av att plocka isär, analysera, skapa ordning och få förståelse. Man "förstår" redan "allt".

Det där med att törstandet efter ständigt ökad DET-kunskap kan vara tecken på bristande relationsförmåga gäller när den är överdriven, blir sitt eget mål utan att fylla direkta mänskliga behov och på bekostnad av relationssfären. Visst kan man invända att vissa då har mer (mänskliga) behov av att förstå än andra. Inte konstigt alls. Vi är ju lika men ändå olika funtade. Förmågan att t ex tänka analytiskt varierar. Bara bra.

Ja, det var kortfattat lite hur jag uppfattat att Bubers tankar går kring detta. Och jag är inte känslig för kraftig kritik och ifrågasättanden. Menar inte att detta är sant eller rätt. Däremot är jag mycket fascinerad av hans sätt att skriva och tänka och har inspirerat mig något enormt.

Eva

Camilla sa...

Tack, Eva. För den utförliga förklaringen! Så intressant, det tål att tänkas på. Särskilt vad det skulle innebära. Somdu beskriver låter det som en enorm rädsla för DET, det som är objektivt och frikopplat från mänskliga relationer. En stor rädsla för "alltför stor" objektivitet.

Det tycks mig inte direkt självklart varför det ena utesluter det andra dock. Varför man inte kan vara i relationssfären samtidigt som man studerar DET. Ja, hm, jag ska inte skriva en uppsats,j ag ska tänka lite istället, jag tycker det du uttrycker ger en ledtråd till att förstå icke-ingenjörers, icke-naturvetares rädsla för framförallt teknik. T ex.

Hm, jag gissar att Buber inte är t ex fysiker? Dvs han har aldrig stått inför en obegriplighet och känt i djupet av sitt hjärta "varför är det på detta viset?", han har bara gillat läget och accepterat fysikaliska fenomen, om han överhuvudtaget sett dem. Vilket betyder att hans uppdelning i DET och DU-JAG kommer av den oförståelsen. Han har aldrig förstått den andliga lycka det är att förstå en del av världen, en yttepytteliten del kanske, men ändå. Att vara en del av självaste världsalltets energiprincip, bringa ordning i kaos. Han förstår inte hur det känns!

Nåja, jag ska tänka mer, det är spännande. :-)

Anonym sa...

Camilla: Jag är inte rädd för tekniken, upplever sällan att andra är det heller. Den är ju en bra och nyttig tjänare. Det är ju människan och hennes bristande bedömningsförmåga, hennes pengahunger, makthunger, kontrollbehov och ja allt som är mörkt i henne som är skrämmande! Människan är farlig för sin nästa. Ändå är vi beroende av varandra. Vilket öde!

Eva

Eddy sa...

Tack till er båda för att ni bidrar med kloka tankar till bloggen, som jag vill er som och har skapat för att vara en plats för samtal och lärande!