Drömmen om att slippa tänka själv 2

Håkan Lindgren skriver klokt om intelligens i SvD, och jag försöker dra mitt strå till stacken. Artikeln handlar om utvecklandet av artificiell intelligens, och mina reflektioner handlar om vad denna mänskliga strävan kan tänkas få för kulturella konsekvenser. Min utgångspunkt är att intelligens är en mänsklig egenskap, inte en objektiv definition av något slags kvalitet. Jakten på ekonomisk effektivitet, som jag ser som en av drivkrafterna i utvecklingen som just nu håller på att omforma skolan och hela samhället, är djupt problematisk utifrån ett kunskapsperspektiv, och utvecklandet av artificiell intelligens ser jag som ett uttryck för denna strävan.

Längtan efter triumf och längtan efter underkastelse förenas till en mycket stark lockelse. Människor som har ett så starkt – om än omedvetet – behov av att underkasta sig en mäktigare, överlägsen maskin är inte mogna att utveckla framtida teknologi.

Vad är det för längtan som driver ingenjörer och entreprenörer att utveckla ARTIFICIELL intelligens? Intelligens är en förkroppsligad, MÄNSKLIG egenskap och den är som är som den är. Människor kan och bör sträva efter att utvecklas och bli bättre, men att utveckla maskiner som tänker snabbare och "bättre" än människor kan aldrig någonsin vara målet. Jag håller med Lindgren om att den strävan är djupt problematiska. Bara för att man kan och vissa lockas att försöka betyder inte att det är kokt att försöka.

Vad handlar strävan om? Är det ett utslag av människans märkliga tendens att mäta sig själv och den egna förmågan med bilden av perfektion? Är det ett utryck för ett kollektivt dåligt självförtroende? En genväg till något som bara kan nås via omvägar? Talet om den mänskliga faktorn och försöken att eliminera behovet av mänskliga beslut skrämmer mig. Varför inte värna och utveckla människans intellekt, istället för att skapa ett tekniskt intellekt som antas vara bättre, snabbare, billigare? Det är något djupt obehagligt i denna strävan, i hela den tankemodell som föreställningen om AI bygger på. Förr var det Gud som människan idealiserade, tillbad och underkastade sig. Idag är det tekniken, eller är det teknikerna som leker Gud och tänker sig att utvecklandet av AI ska ge dem samma makt som prästerna under medeltiden? I båda fallen handlar det om människor som jämför sig själva med en orimlig idealbild av sig själv och den egna förmågan. Ett slags masochistisk inställning till sig själv, kanske man skulle kunna säga, vilket är lika problematisk som den grandiosa självbild som är den andra ytterligheten.

En bra översikt över den här sortens idéer finns i Ray Kurzweils bok ”The singularity is near” (2005). ”The singularity” är den big bang av artificiell intelligens som Kurzweil och många med honom tror kommer att inträffa när datorernas kapacitet accelererar långt bortom människans. Kurzweil vill ladda upp sitt medvetande till en dator så att han kan leva i evighet, och hoppas dessutom återskapa sin döde far genom att mata in foton och anteckningar i ett maskinmedvetande. 

Singulariteten, tänker jag, handlar inte så mycket om utvecklingen av maskiner och artificiell "intelligens". I mycket högre grad handlar den utvecklingen om människor vördnad inför teknik och accepterande av en ekonomisk logik som bygger på att människor är en kostnad, ett problem som måste elimineras för att inte hindra utveckligen. Det är inte den tekniska utvecklingen eller tekniken i sig som skrämmer mig, utan människors syn på och inställning till tekniken som ett slags deitet som människligheten ska underordna sig. Jag är humanist och tror på och försvarar det mänskliga, och intelligens ser jag som sagt som en mänsklig egenskap. Det maskiner kan och gör är något annat och bör inte blandas samman med intelligens.  

Hans visioner om oändligt mäktig teknologi påminner mest av allt om en pojkes fantasier om supersnabba bilar: en bil med en miljard hästkrafter är bättre än en med 500 hästar. Allt handlar om kvantitet. Faktum är att man skulle kunna byta ut ordet ”intelligens” mot ”muskler” eller ”hästkrafter” i ”The singularity is near” utan att någonting förändrades – boken skulle inte bli ett dugg dummare än den redan är. 

Exakt. Dags att avslöja det faktum att kejsaren är naken och att livet handlar om vad vi gör här och nu. Vi har och får den kunskap vi förtjänar, inte den vi drömmer och och kan föreställa oss. Självklart varken kan eller bör vi stoppa utvecklingen eller förbjuda tankar (om AI och annat), men det finns inget som säger att vi måste satsa en massa pengar på det eller underlätta utvecklingen som leder i den riktningen. Och det finns absolut ingenting som säger att den enda väg som Kurzweil och andra pekar ut är den enda vägen. Det finns andra vägar, och vägen till kunskap och intelligens är en omväg.

Nick Bostrom oroar sig för att arbetet med att utveckla överlägset intelligenta maskiner är nära ett genombrott. I boken ”Superintelligence” (2014) skriver han att vi är ”som små barn som leker med en bomb. Så stor är diskrepansen mellan den kraft vår leksak besitter och omogenheten i vårt uppförande.” Vi borde utveckla vårt omdöme och vår emotionella mognad, så att de håller jämna steg med den teknologiska makt vi skaffar oss. 

Håller med. Vi borde utveckla humaniora och människans förmåga att tänka, reflektera och ta kloka (det vill säga långsiktigt hållbara) beslut. Drömmen om AI är en naiv pojkrumsdröm. Det finns kanske fakta som går att anföra som stöd för en argumentation, men det gör inte resonemanget klokare. Bildningen och visheten håller på att säljas ut i en rasande fart eftersom vi fått för oss att skola och utbildning är en kostnad som till varje pris måste sänkas. Varifrån kommer den tanken? Den kommer inte från akademin, den kommer från den anonyma, ansiktslösa marknaden som dikterar villkoren och påverkar allt fler människor och mänskliga områden och aspekter av livet och samhället. I den logiken passar AI som hand i handske, men inte i en humanistisk logik som sätter livet på jorden och människan i centrum.

Bostrom varnar för riskerna med artificiell intelligens och undersöker om det finns någon strategi med vars hjälp vi skulle kunna kontrollera överlägset intelligenta maskiner (spoiler: nej, annars vore de inte överlägsna). 

Denna insikt kan alla skaffa sig. Ändå fortsätter vi likt heroinister på den destruktiva, inslagna vägen. Och nu har vi ju satsat så mycket på projektet att det vore galet att lägga ner det?! Det är dumheten som styr, drömmen om det ouppnåbara. Jakten på prestige och ära för den som kommer först fram; till vadå? Varför inte tänka efter FÖRE!

Om vi någonsin får kontakt med intelligenta medvetanden av ett helt annat slag tror jag att det kommer att hända något som Bostrom inte tar upp. Vi kommer att upptäcka oss själva. Fram till det ögonblicket kommer vi att vara ungefär lika omedvetna om vad som är karaktäristiskt för mänskligt tänkande som en fisk är omedveten om det vatten den simmar i. Huruvida detta andra medvetande är överlägset oss kommer inte att vara det viktigaste: allt som gör det olikt oss kommer att göra det största intrycket. 

Att vårt tänkande i hög grad formas av kroppen kommer vi att upptäcka den dag vi möter ett medvetande som aldrig har gjort de erfarenheter som en människokropp gör. Som aldrig har gått till fots, inte gripit saker med händerna, som inte har upplevt kroppens cykler av arbete, trötthet och vila, som inte bär med sig erfarenheten att ha varit ett barn, mindre och svagare än de omgivande vuxna. 

Människan är i sina delaspekter underlägsen många andra djurarter, men SAMMANTAGET har mänskligheten herraväldet över livet på jorden. Det är KOMBINATIONEN av (mänskliga) egenskaper som gör människan överlägsen, här på jorden som är den enda plats i universum där människan kan leva som människa (med allt vad det innebär). Artificiell intelligens är något annat än mänsklig intelligens, och den må vara intelligentaste, men att vara människa är mer än att vara intelligent. Att vara människa är att ha känslor, att kunna drömma och önska sig sådant som inte finns eller går att få. Människan är en sammansatt helhet av en hel massa olika egenskaper och aspekter och det är HELHETEN som räknas, inte delarna tagna var för sig. Det är detta jag forskar om, helheten och sammansättningen. Människan som kulturvarelse, och kulturen som en icke-linjär process av ömsesidig tillblivelse.

Varje barn som växer upp samlar ett bibliotek av sinnesintryck: hur saker känns att ta på, om de böjs eller knäcks, hur de rör sig, hur man kan förvänta sig att de uppför sig i nästa ögonblick. Allt detta bildar ett underlag för vårt tänkande, även för abstrakta tankar, som vi sällan är medvetna om. Det ger oss ett tänkande som är fundamentalt olikt en maskins. Matade man en dator med samma information som får ett barn att forma en någorlunda välfungerande mental modell av verkligheten är jag beredd att slå vad om att den skulle kvida fram ett felmeddelande och kollapsa. 

Karaktäristiskt för människans intelligens är vår förmåga att ofta dra hyfsat rimliga slutsatser ur otillräckliga eller osäkra data. Ibland drar vi rent av rätt slutsats ur felaktiga data. Med stor precision kan vi urskilja relevanta mönster ur ett brus av luddiga och ofullständiga uppgifter. Det gör vi lika självklart som när en haj simmar: osäkra data är det hav vi hör hemma i. 

Livet och evolutionen är inte logiskt, stringent och linjärt. Det handlar om stokastiska processer, om dynamisk, ömsesidig påverkan och gemensam tillblivelse. AI är en mänsklig (eller manlig, tekniks och ekonomisk) dröm som extrapolerats. Det finns andra drömmar också. Kanske inte lika sexiga eller fantastiska, men mer hållbarhetsfrämjande och mer i linje med livet så som det faktiskt levs och fungerar. Den enda vägen leder alltid fel, och det finns aldrig någonsin en enda väg. Det finns alltid flera alternativa vägar, och människan står alltid vid vägskäl där olika vägar öppnar upp sig och andra stängs bakom oss. AI kan mycket väl stänga fler dörrar än den drömmen öppnar, och därför är det så oerhört viktigt att vi reflekterar innan vi bestämmer oss för vilken väg vi ska gå. Det arbetet kan aldrig överlåtas till maskinerna, för då har dörren redan stängts, singulariteten är här och mänskligheten har förpassats till historieböckerna.

I sin senaste bok ”Homo deus”, där han diskuterar hyperteknologins löften om evigt liv och utökad intelligens, ger Yuval Noah Harari ett helt ofrivilligt exempel på detta (se även Fredrik Sjöbergs recension, SvD 30/4). På myrnivå är boken sammansatt av generaliseringar som är så lättvindiga att de riskerar att övergå i felaktigheter, men Harari svävar högt ovanför alltihop och fäller intuitiva omdömen som är mycket klokare än hans enskilda påståenden. 

Intuition är del av människans uppsättning MÄNSKLIGA egenskaper. Intuitionen samverkar med logiken och emotionerna. Och det är HELHETEN och dess varierande sammansättningar på såväl individ- som gruppnivå som räknas och som gör människan till människa. Helheten måste värnas. Förmågan att förstå och hantera komplexiteten är en oerhört viktig egenskap som är förfärande lätt att tappa bort och undervärdera. Vill vi inte tappa bort oss själva måste vi förstå, lära oss mer om och värna det mänskliga. Studier av människan och det mänskliga och forskning inom humaniora är LIKA viktigt som teknik, ekonomi, medicin och annan kunskap. Lika viktigt!

För egen del önskar jag oss alla en framtid som är mycket större och rikare än fantasierna om artificiell intelligens. Ett århundrade där människan utnyttjar den intelligens hon redan har skulle, till att börja med, vara ett litet framsteg.

Jag instämmer och har vigt mitt liv åt utvecklingen av och förståelsen för människan och det mänskliga! Först när vi lärt oss hantera människan och förstår det mänskliga, först när vi vet vad som utmärker mänsklig intelligens och var gränsen för människans intellekt går kan vi börja fundera på om det är klokt att försöka utveckla artificiell intelligens. Att göra det innan vi har denna kunskap och förståelse är direkt korkat.