Drömmen om att slippa tänka själv 1

Håkan Lindgren skriver klokt om intelligens i SvD, och jag försöker dra mitt strå till stacken. Intelligens är inget man har, det när något man blir, en dynamisk utvecklingsprocess som behöver underhållas för att inte tillbakabildas. Allt för mycket tas allt för ofta föregivet i dag, och människans intellektuella förmåga är en sådan sak. Och dessutom är det ofta så att det som görs av människor i namn av intelligens inte alls är särskilt intelligent. Som arbetet med att skapa artificiell intelligens, till exempel.

Inget kunde vara mindre intelligent än den samtida diskussionen om artificiell intelligens. Om det finns ett ord som sammanfattar vad som pågår just nu är det ”passivitet”. Vi intalas att framtiden redan är avgjord, att robotar och artificiell intelligens på något vis är ödesbestämda. Vi kommer att få leva med dem vare sig vi vill eller inte, så det är lika bra att vi visar oss duktiga och anpassar oss till dem på en gång, innan de har blivit verklighet.

 Glöm att vi är fria att gå i en mängd andra riktningar, att det finns en hel stjärnhimmel av alternativa framtider som vi inte har börjat utforska.

Framtiden är ALDRIG avgjord. Ingen vet vad som kommer att hända, eftersom framtiden aldrig är, den blir till genom kollektiv handling. Framtiden skapas av oss människor här och nu och att förhålla sig passiv till utvecklingen på olika områden och aktiv på andra är del av skapandet. Digitaliseringen och datoriseringen av samhället är inte given. Vi kan välja andra vägar; välja att ta det försiktigt och utveckla andra områden. Inte istället för, utan också. Den enda vägen leder alltid fel. Nyckeln till hållbarhet är mångfald, på livets alla områden. Mångfald både kräver och främjar utvecklingen av intelligens, och att låta datorer ta över och likt självkörande bilar tänka åt oss människor vore förödande för utvecklingen av tänkandet. Drömmen om att slippa tänka själv är en destruktiv dödslängtan. Intelligens är en mänsklig egenskap, och är den artificiell handlar det om något annat.

En hög 1900-talsfantasier om tänkande maskiner och teknologiskt förbättrade människokroppar, som ett par generationers science fictionförfattare redan har tröskat igenom (och i många fall förhållit sig minst sagt skeptiska till), framställs som den enda vägens politik, som om it-miljardärerna i Kalifornien inte kunde drömma större än så.
Vi ska uppfostras till lydiga små konsumenter som passivt accepterar den framtid av algoritmer och artificiell intelligens som våra självutnämnda herrar planerar åt oss. 

Arbetet med att utveckla överlägset tänkande maskiner kräver rationellt tänkande, men det är inte rationellt i sig; det är starkt emotionellt färgat. I sin bok ”Flesh and machines” (2002) skriver Rodney Brooks, tidigare chef för MIT:s laboratorium för artificiell intelligens, att porträttet av datorn HAL 9000, som för honom är huvudpersonen i Kubricks film ”År 2001 – ett rymdäventyr”, fick honom att ägna sitt liv åt att försöka bygga intelligenta maskiner. Han kan fortfarande inte se filmen ”utan att hjärtat bultar och tårar väller ofta upp i ögonen”. Han frågar sig inte vad tårarna vill meddela honom.

Alla som sett filmen vet att samspelet mellan HAL 9000 och människorna havererar eftersom datorns strikt rationella tänkande inte klarar av astronauternas mänskligt intellektuella sätt att tala och agera. Om den filmen inspirerat Brooks säger det en hel del om den artificiella intelligensen och vad som lockar människor att försöka utveckla den.

Om han lyckas konstruera den maskin han önskar sig kommer den sannolikt inte att förlösa det som fick tårarna att bryta fram. Istället kommer den att göra honom sorgsen på nytt: för att den var vackrast som fantasi.

Artificiell intelligens är (och, menar jag, bör förbli) en dröm. Vissa fantasier ska inte förverkligas och artificiell intelligens är en av dem. Det sägs att människor är lata eller i alla fall bekväma av naturen, och att den egenskapen driver utvecklingen framåt. Men intelligens är som kondition en egenskap något som kräver ansträngning för att hållas levande och vital. Man kan tycka vad man vill om den saken, men det är ett faktum att slutar man tänka själv hamnar man snart i händerna på någon annan; människa eller maskin. Individuellt, självständigt, kritiskt tänkande är en av demokratins grundpelare och om allt mer av tänkandet överlåts på maskiner kommer det att påverka samhället menligt. Därför bör man tänka sig för noga innan man önskar sig något, för risken är stor att fantasin blir verklighet.

Geoffrey Hinton, som arbetar med att utveckla artificiell intelligens åt Google, tror att den sortens teknologi kommer att användas av regeringar ”för att terrorisera människor”. Den svenske filosofen Nick Bostrom, som leder Future of Humanity Institute i Oxford, frågade honom varför han i så fall jobbar med att förverkliga den (samtalet återges av Raffi Khatchadourian i ”The doomsday invention”, The New Yorker, 23/11 2015). ”Jag skulle kunna ge dig de vanliga skälen”, svarade Hinton. ”Men sanningen är att tanken på ett genombrott är alldeles för lockande.” Med andra ord: för att det ger en kick.

Människor söker kickar, tillfredsställelsen i att lyckas lösa ett svårt problem. Det spelar inte så stor roll vad det är för typ av problem man jobbar med. Lösningen av det leder till tillfredställelse. Fast vad tjänar samhället, mänskligheten och livet på jorden, på sikt av att ge några kicksökande ingenjörer carte blance att jobba med vad de vill för att försöka tillfredsställa sina personliga behov av bekräftelse? Klimatfrågan är ett annat problem. Är det kicken att nå ett genombrott man söker, finns det många olika saker man kan arbeta med som faktiskt skulle kunna leda till reella förbättringar utan att vara förenligt med riskerna som utvecklandet av artificiell intelligens är förknippat med. Jag tänker och talar inte om några förbud, för det är förenat med ännu fler risker. Jag tänker på och vill mana till eftertanke och reflektion kring vad som är kloka vägar fram och vad som inte är det. Samhällsutvecklingen drivs framåt av människors tankar, drömmar och handlingar, på gott och på ont. Jag efterlyser fler eftertänksamma och mer initierade samtal om dessa saker.

På det sättet går den tekniska utvecklingen till: den snubblar framåt från kick till kick. När den kortvariga triumfen är över och teknologin väl är ett faktum är det upp till resten av världen att anpassa sig till den, vare sig den blev som upphovsmannen avsåg eller visade sig få helt andra konsekvenser i praktiken.

Påminner om atombomben, som när den väl uppfunnits inte kunde göras ouppfunnen. Tidens pil är enkelriktad och det finns ingen väg tillbaka. Jag har många gånger skrattats åt och någon gång närmast hånats av teknikoptimister som talat om digitaliseringens möjligheter. När jag ställer frågan: Finns det INGA risker med utvecklingen, viftas den bort. Aningslösheten och naiviteten bland många tekniker och systemutvecklare oroar mig mer än något annat. Utan eftertänksamhet och kritiskt tänkande finns INGEN utveckling överhuvudtaget, särskilt inte någon intellektuell utveckling. Det går så klart att skratta åt och göra sig lustig över humanister och kulturvetare som värnar människan och det mänskliga i hela sin komplexa vidd, men samhället består av och är skapat för MÄNNISKOR.

Att passivt flyta med strömmen och låta någras oanalyserade, djupt emotionella drivkrafter avgöra vilket slags värld vi råkar få kan man kalla mycket, men man kan knappast kalla det intelligent.

Håller med och tycker det är viktigt att lyfta frågan. Innan vi vet vad samhället är och för vem det finns, och den frågan har inget givet svar, det krävs samtal och kollektiv reflektion för att kunna skapa svar som fungerar, är det direkt korkat att rusa framåt i en jakt på kickar och personlig tillfredställelse.

När jag läser böcker och artiklar om artificiell intelligens framträder en kluven inställning hos många forskare och visionärer. Intelligensen är den mänskliga egenskap de värderar högst, och den egenskap hos sig själva som de sätter störst värde på, men den är samtidigt något de hoppas att vi snart kan kopiera och återskapa i en maskin, och när maskinerna kan kopiera intelligent tänkande kommer deras beräkningskapacitet att göra dem så överlägsna att vår egen tankeförmåga blir meningslös.

Att inte tänka efter före är korkat! Och jag väljer att avsluta denna den första bloggposten på temat AI med en referens till en Håkan Hellströmlåt (jag var nämligen på spelningen på Ullevi igår och är fortfarande uppfylld av den mellanmänskliga värmen som samspelet mellan artisen, bandet och publiken visade prov på): Bara dårar rusar in ...