Kan intelligens vara artificiell?

Ulf Danielsson skrev klokt om Artificiell Intelligens i DN här i veckan, och jag hakar på och tänker vidare med hjälp av hans ord. Kunskap och förmågan att använda insikterna är viktiga, samhällsbyggande kvaliteter och egenskaper. Det spelar roll hur ni ser på dessa saker. Vad händer med människan, samhället och hållbarheten om kunskapen och intelligensen delegeras till maskiner? Detta är saker vi behöver samtala om!

I Salman Rushdies ”Two years, eight months and twenty-eight nights” berättas det om hur människor i en avlägsen och lycklig framtid vägleds av sitt förnuft och fridfullt gläds åt vardagliga ting. Det är bara en sak som fattas dem: ingen drömmer längre drömmar om natten.

Finns det en risk att vår egen värld är på väg i en liknande riktning? Det finns skäl att diskutera den risken i samband med en framtida utveckling av artificiell intelligens. Meningarna är i och för sig delade kring vilka faror den tekniska utvecklingen kan föra med sig. Ofta går spekulationerna om den okända framtiden ut på att robotar gör sig oberoende av sina mänskliga skapare och tar över världen. Kända vetenskapsmän som Stephen Hawking varnar för konsekvenserna och författar braskande upprop. Matematikern Olle Häggström argumenterar i sin intressanta ”Here be dragons” på ett liknande sätt.

Ja, vad är det för risker vi har att göra med egentligen? Det måste inte handla om en apokalyps, ett samhälle utan drömmar om en bättre framtid är ett lika dött samhälle som ett samhälle där människan reducerats till slav under maskinerna. Dock, ingen vet något om framtiden för den existerar inte. Framtiden skapas av oss som lever här och nu, i tanke och handling. Därför är det så viktigt att samtala om dessa saker, för framtiden är öppen och den förändras hela tiden. Även om det inte går att skapa en bestämd framtid går det att påverka tillblivelsens riktning, i alla fall på marginalen, genom att tänka och agera annorlunda.

Om historien lärt oss något är det väl att dumhet – ofta hos de som borde veta bättre – snarare än överskott av intelligens är det som leder till katastroferna. Det finns nog större anledning att frukta mänsklig övertro på ganska tråkiga tekniska system utan tillräckliga säkerhetsmarginaler införda med ekonomisk vinning som motiv, än grandiosa och apokalyptiska katastrofer där kvicktänkta superdatorer framgångsrikt tar kommandot. Men det senare lämpar sig förstås bättre för eggande fantasier.

Det tror jag med. Dumheten eller ointresset och bristen på engagemang för frågor som rör samhället och framtiden är ett mycket större hot än maskinerna. Tänk bara på vad en sådan som Donald Trump skulle kunna åstadkomma i fråga om förödelse av samhällsbärande institutioner, med början redan nu i januari. Hoten mot det vi människor vant oss vid att ta för givet ligger alltid mycket närmare och ter sig mycket mer trivialt än man vanligtvis tror. Det är den avgörande insikten. Utan förståelse för vilken typ av hot vi har att göra med, och utan insikt om samtalets betydelse, är människan förlorad, eller riskerar i alla fall att bli det. 

Intressant nog finns det också de som ser en möjlighet att sprida ett lite rosigare skimmer över det som för de flesta utgör dystopiska domedagsscenarier. Linda Johansson har i DN (2/3) argumenterat för att de framtida robotarna kan vara väl så moraliska i sitt agerande som människor. Torbjörn Tännsjö går (DN, 8/5) steget längre och argumenterar för att vi istället borde glädja oss åt möjligheten att framtida varelser utan mänskliga fel och brister kommer i vårt ställe. Varför nostalgiskt hålla fast vid något hopplöst ålderdomligt om allt istället kan bli så mycket bättre?

Jag ställer mig tveksam till denna sorglöshet och ser i detta istället den riktigt stora faran. Skälet har att göra med den skenbart esoteriska frågan om vad ett medvetande egentligen är för någonting. Det finns förvisso de som avfärdar medvetandets existens som en underhållande illusion som i grunden är oförenlig med den naturvetenskapliga världsbeskrivningen och därför inget man behöver befatta sig med. Något inre subjektivt perspektiv är inte nödvändigt. Andra erkänner medvetandets existens men hävdar att det är något sekundärt som uppkommer som en biprodukt vid varje tillräckligt komplicerad informationsbehandling och inte något förbehållet människor och andra levande varelser. Tvärtom menar man att varje tillräckligt komplicerad dator per automatik är medveten. Sedan finns det ju förstås de som intar en på många sätt rakt motsatt ståndpunkt och trosvisst ser medvetandet som en övernaturlig själs avtryck i materien.

Sorglöshet och inställningen om att det ordnar sig är ett hot, det är viktigt att påminna sig om. Att inte göra något är också ett val som får konsekvenser. Framtiden är alltid öppen, den är aldrig given. Allt vi människor gör, tänker och väljer, påverkar processen av tillblivelse. Allt och allas handlingar och tankar räknas. Tanken att jag är obetydlig i det stora hela bär också på agens, för när många tänker så blir dess kraft stor och betydelsefull. Ju fler som är passiva, desto mindre krävs av den som verkligen vill något. Det är förklaringen till att SD nådde sina första framgångar i kyrkovalet, som engagerar få och där det är lättare att mobilisera en tillräckligt stor massa.

Vad är medvetandet? Det är en fråga som behöver samtalas om, inte en fråga att debattera. Förståelse behövs och för att uppnå den krävs ödmjukhet och respekt för andra människors tankar och önskningar. Tillsammans bygger vi upp kunskapen vi behöver för att skapa ett hållbart samhälle. Gemensamt når vi ny och bättre kunskap genom att lyssna på varandra och på den som vet. Det spelar roll hur man ser på frågan om medvetande, och Danielsson visar här på några olika förslag. Jag tror han täcker in de flesta möjligheterna till fungerande svar. Vilket man väljer och det svar som flest anser bäst kommer att få konsekvenser, för den tanken påverkar hur man tänker om annat och hur man agerar. Framtiden skapas av det som tas för givet, i vardagen, mellan människor. Kulturen är den plats där nuet möter och formar det som blir. Kunskap om kultur handlar dock inte om framtiden, men om förutsättningarna för förändring. Det viktigaste argumentet för den tanken, och även motivet för humaniora, är att framtiden är en öppen fråga.

För egen del har jag ingen aning om hur det egentligen förhåller sig, men vill gärna pröva vad jag menar vara en någorlunda fördomsfri och vetenskaplig ståndpunkt. Den går ut på att vi skall ta vår egen subjektiva upplevelse på fullaste allvar och betrakta den som ett unikt fenomen som vi ännu inte fullt ut kan förstå. Min gissning är att det mycket väl kan handla om ett faktiskt existerande fysiskt fenomen – inte övernaturligt på något vis – men jag kan heller inte utesluta att det ligger bortom vad vi rent principiellt kan utforska. Samtidigt kan det ju mycket väl vara så att vi småningom faktiskt kommer att förstå oss på vad det är.

Men detta är inte allt. Till denna lite trevande ståndpunkt vill jag foga ett viktigt men, får jag erkänna, ounderbyggt påstående: det finns något särskilt värdefullt med en värld där detta fenomen uppträder.

Det jag uppskattar med Ulf Danielsson är att han är en naturvetare med djupa insikter i och förståelse för humaniora. Och även om jag inte tror att vi kommer att kunna komma fram till ett säkert svar på frågan om vad medvetandet är så instämmer jag i att människan subjektiva upplevelse av att ha ett medvetande är en fråga värd att ta på fullaste allvar. För mig är det viktigt att frågan får vara öppen, och jag tror aldrig det går att fullt ut förstå medvetandet. Jag tror att det är en förutsättning för mänsklighetens överlevnad att medvetandet är höljt i dunkel. Fullkomlig visshet om allt kanske går att drömma om, men i samma stund som en sådan dröm förverkligas förändras allt i ett slag. Jag håller också med om att det finns något synnerligen värdefullt med vår värld, av det enkla skälet att vore den inte värdefull hade den lika gärna inte behövs existera, vilket också får konsekvenser för hur man ser på framtiden. 

Att det levande livet via evolutionen, och kanske beroende på tursamma tillfälligheter, utvecklat en medveten förmåga beror rimligen på att det är till fördel och ger en möjlighet för levande organismer att överleva. Det är knappast något som är förbehållet enbart oss människor utan finns rimligen i små skärvor också hos våra mer obetydliga släktingar på planeten. Men på samma sätt som andra egenskaper och förmågor kommit och gått under naturhistorien finns det väl inget som garanterar att just medvetandet måste bestå.

Just detta att det inte finns några garantier gör det viktigt och värdefullt att värna och vårda medvetandet. Det som inte tas för givet uppskattas mer, och det är viktigt att inse det. Livet på jorden är ömtåligt och om det inte uppskattas kommer det inte att överleva eftersom ingen bryr sig. Som sagt, det man bryr sig om och värnar kommer att påverka tillblivelsen riktning mer än det man inte bryr sig om. Samtal om vad som är viktigt är samtal som bär på kunskap om framtiden, och eftersom det inte finns några givna svar är det viktigt att utbytet av tankar sker just i form av ett samtal och inte som en debatt. Jag fick en fråga här för några veckor sedan om hur jag ser på samtalskompetens, och jag svarade då: Samtalskompetens tänker jag som en utvecklad förmåga att vara nyfiken, vilja lyssna och kunna ändra ståndpunkt. Det handlar vidare om att förstå tystnadens och tidens betydelse samt eftertankens nödvändighet. Samtalskompetens handlar om att vilja ta sig framåt tillsammans, inte mot ett på förhand bestämt mål utan dit det verkar bäst att ta sig, givet förutsättningarna. Kompetens att samtala och förståelse för samtalets värde är en förutsättning för samhällets långsiktiga hållbarhet.

Jag misstänker dessutom att intelligens och intelligent beteende kan uppkomma också på annat sätt där medvetande i sig inte spelar någon avgörande roll. Det är fullt möjligt, och till och med troligt, att de framtida artificiella intelligenser som vi nu är på väg att skapa kommer att vara av just detta slag. Utåt uppträder de på precis rätt sätt för att anpassa sig och överleva i en föränderlig omvärld. Kanske de till och med begåvats med någon form av inprogrammerad mänsklig moral som binder dem att agera på sätt som vi betraktar som föredömligt. Men innanför den vackra ytan är det tomt. Allt är bara ett simulerat skådespel utan någon som egentligen upplever något alls.

Vill man ha absolut visshet blir det tomt. Livet är levande just för att det inte är predestinerat eller programmerat. Det är ovissheten och öppenheten som gör livet och människan, kulturen och samhället till vad det är. Sökandet efter svaret, efter teorin som förklarar allt, är med andra ord ett slags dödsdrift. För att leva lyckliga i ett samhälle som fungerar krävs kollektiv förståelse för öppenheten och ovissheten, samt insikt om att det är som det ska och inte ett problem, samt kompetens att hantera komplexitet. Det är i mötet mellan naturvetenskap och humaniora som samhället och människan blir levande och hålls vid liv.

Det råd till jag (DN 8/3) gav till Dave i hans kamp med superdatorn HAL 9000 i rymdeposet ”2001” var att helt enkelt dra ur sladden. Linda Johansson ifrågasätter (DN, 15/4) om det verkligen vore så lätt för mig släcka ner en gråtande och vädjande robot. Jag tror hon har rätt. Instinktivt vill vi besjäla vår omgivning. Vi förutsätter att andra människor har ett inre liv precis som vi och friar hellre än fäller också den döda materien. Men det är just detta som är så förrädiskt farligt och som så småningom kan göra att det unikt värdefulla som vi som medvetna varelser bär med oss riskerar att ersättas och försvinna. Om det är något råd jag i förebyggande syfte skulle vilja ge till dem som utvecklar system med artificiell intelligens vore det att inte falla för frestelsen att göra dem alltför mänskliga i våra ögon. Detta för att vi inte i onödan skall luras till att besjäla dem.

Oerhört viktiga tankar detta. Liksom tolerans och förståelse saknar skydd mot krafterna som verkar för intolerans och avsaknad av förståelse är AI något man bör närma sig med respekt för riskerna och förståelse för konsekvenserna. Demokratin är det bästa sättet, bland alla dåliga sätt som finns, att hantera ett samhälle. Det finns aldrig några garantier för demokratins överlevnad. Därför måste man dels inse det, dels lära sig kollektivt hantera bräckligheten. Och samma uppfattning och kompetens behövs i relation till AI för att minimera riskerna. Det handlar aldrig om antingen eller, utan alltid om både och. Komplexitet, öppenhet och icke-linjär tillblivelse är människans och kulturens kännetecken och även förutsättningarna för livet och kunskapen.

Den långsiktiga konsekvensen kan annars bli att den framtidsvision som Torbjörn Tännsjö målar upp blir verklighet. Successivt låter vi oss ersättas av den nya formen av omedveten intelligens som på så många sätt överträffar den på gammalmodigt vis evolverade. Kanske vi själva rent av låter oss uppgå i den nya tekniken på ett sådant sätt att det i praktiken blir omöjligt att avgöra vilka som är vi och vilka som är de andra? På så sätt blir ju förlusten bara ännu lättare att bära. Alla de farhågor om att ondsinta robotar skulle ta över världen kommer på skam och vi går en gyllene framtid till mötes där vi framgångsrikt sprider oss över galaxen.

Men utan att någon egentligen bryr sig eller har förutsättningar att märka något alls har under den vackra ytan något storartat gått förlorat. Ingen drömmer längre några drömmar om natten.

Ingen kan på förhand veta vad som utgör ett hot eller om det man gör är fullkomligt riskfritt. Därför är en bred och kollektiv vaksamhet viktigare än garantier och skydd, för hotet går inte att definiera förrän det är för sent. Det sägs att en groda som ligger i vatten som sakta värms upp kommer att ligga kvar i grytan till den kokats, för den känner bara av kontraster. Mycket talar för att människor och samhället fungerar på samma sätt. Den insikten är därför oerhört viktig att ha med sig in i samtalen om framtiden. I relation till klimathotet är och reagerar vi människor som grodor. Just för att vi litar på experter och beprövad vetenskap, mer än vår intuition och förmåga till kritiskt tänkande. Bara för att experterna inte är överens om allt, betyder inte att vi kan fortsätta som vi gjort. Förr eller senare kommer vi att ha vandrat så pass långt ut på det sluttande plan vi befinner oss på att det inte finns någon väg tillbaka. Vetenskapen har den effekten på oss och därför är det skrämmande att läsa om utvecklingen av AI och hur naivt många forskare ser på riskerna. Det är lätt att avfärda oro för den som är tvärsäker. Makt är kunskap och experter passiviserar. När ansvar delegeras är vi illa ute. Alla, utan undantag. Även experterna. Om hotet gäller klimatet eller maskinernas övertagande spelar vi med högsta möjliga insats. Betänk att jorden är den enda plats i hela universum som människan kan bo på, eller rättare, som vi som lever här och nu kan leva som människor på.

Intelligens är ett mänskligt begrepp. Därför låter artificiell intelligens som en motsägelse. Det är något vi borde samtala om, också.