måndag 10 juni 2019

Artificiell intelligens är en fattig dröm

Människans fascination och idealisering av Artificiell Intelligens (AI) är en mänsklig dröm, det är lätt att glömma det. Maskinerna kommer aldrig någonsin att kunna ta över utan att människor ser till att det blir så. Ingen enskild människa kommer att se till att det blir så, och om maskinerna tar över kommer alla människor att tvingas underordna sig tekniken. Teknikutveckling som inte sätter människan och den mänskliga främst, som inte anpassar tekniken efter människan, är en farlig lek med elden. Om och när tekniken väl utvecklats finns ingen möjlighet att outveckla den igen. Liksom i relation till atombomben skulle mänskligheten ta ett steg in i en helt nya era om AI utvecklas till sin fulla potential. Manhattanprojektets ursäkt var att världen stod i brand och demokratin, friheten och öppenheten var hotad. AI-forskningen drivs framåt av teknikoptimister som enbart fokuserar på teknologins möjligheter och forskningen sker av ekonomiska skäl (om man hårdrar, vilket jag brukar göra här för att peka på tendenser och för att belysa potentiella problem). Alternativt betraktas utvecklingen av tekniken som oundviklig. Men det finns ingen teleologi, bara en öppen process av blivande som ger upphov till konsekvenser. INGEN vet vad AI kan leda till, och just därför bör mänskligheten iaktta försiktighet.

Det jag har problem med när det gäller AI är att den skapats och utvecklats för att ersätta människan och det mänskliga, för att visa att det går. Det sägs av vissa att tekniken hjälper till och gör människan bättre, men det är nonsens. Bara människan kan förbättra sig själv, och det blir inte fallet om man väljer att avstå från saker. På samma sätt som det inte går att vila sig i form är det omöjligt att förbättra mänskliga förmågor genom att använda maskiner. AI utvecklas dock för att ta över mänskliga förmågor eller för att överbrygga mänskliga tillkortakommanden, men det är människorna som viker ner sig i vördnad för (drömmen om) maskinernas överlägsenhet. Teknik har i alla tider används för att förverkliga människans dröm om kontroll över naturen. Paradoxalt nog gör AI-utvecklingen framsteg just när klimatförändringarna håller på att växa oss över huvudet. Mer av samma som försatt oss i problemen kommer inte att lösa dem och det är huvudlöst att försöka. Naturen, både den vi lever med (våra egna kroppar) och den vi lever i och som är förutsättningen för liv, är mycket större och långt mer komplex än mänsklighetens samlade kunskaper och förmågor någonsin kommer att kunna greppa och än mindre kontrollera, åtminstone så länge vi envisas med att sätta vårt hopp till och rikta våra resurser mot tekniska lösningar.

Det framstår allt mer som att utvecklingen av AI antagit formen av ett slags stor berättelse som allt fler kapitulerar inför och ser som något oundvikligt. AI är liksom de stora världsreligionerna en berättelse som handlar om en bestämd framtids oundviklighet och den lockar med löften om en hel massa olika saker som människor alltid drömt om. Evigt liv, superintelligens samt makt och inflytande över naturen och (för några lyckligt utvalda som inte anges med namn utan är en fråga öppen för tolkning) andra människor. AI är en variant av drömmen om evighetsmaskinen vars lockelse är svår att värja sig från. Tänk om det skulle fungera ändå, tänk om det gick att skapa energi ur ingenting. Fast nu går det inte. Låt oss därför sluta drömma! Och låt oss för guds skull ge upp alla drömmar om att överge det mänskliga. Låt oss sluta fokusera på problemen, hindren och våra egna tillkortakommanden. Planeten Jorden, naturen och människan är FÖRUTSÄTTNINGARNA för tillvaron och det måste vi dels acceptera, dels försöka lära oss hantera. Teknik är viktigt, det handlar inte om att ge upp alla ambitioner om utveckling; men MÄNNISKAN och KUNSKAPEN måste placeras i centrum!

Att vara människa är att INTE vara maskin, och det är något man måste värna och vårda. Att drömma om att vara någon/något annan/annat eller någon annanstans, att önska sig saker som ingen annan har eller som inte går att få, är också djupt mänskligt. Därför är det svåra frågor detta, frågor utan givna svar. Frågor som kräver kunskap om, förståelse för och förmåga att hantera unikt mänskliga egenskaper och värden. Humanioras ställning är hotad inom universitetsvärlden, vilket är djupt olyckligt, av ovan angivna skäl. Insikten om och förmågan att förstå och hantera komplexa problem, vilket begreppet människa är ett exempel på, finns inom humaniora. Och det är viktigt, oerhört viktigt. Kultur är något som uppstår mellan människor. Kulturens viktigaste kännetecken är förändring. Kultur är vidare, per definition komplext och ofta motsägelsefullt. För att förstå att detta inte är ett problem utan en förutsättning för mänskligt liv krävs djupa kunskaper, år av träning och inte så lite mod och styrka. Humaniora behövs för att förvalta den insikten och för att förstå vilka konsekvenser som detta för med sig, för individer, grupper, samhällen och världen.

Ett centralt arbete inom humaniora är att utveckla verktyg att tänka med hjälp av. Och dessa verktyg får inte förväxlas med verkligheten. Kultur är verklig, och ger upphov till konsekvenser. Men, och det är detta som gör frågan komplex, kultur kan alltid se annorlunda ut. Kultur är per definition kontingent. Därför behövs inte bara verktygen utan även förmågan att hantera komplexitet utan att förenkla. Förmågan att förstå att det rådande måste man förhålla sig till, men samtidigt kan och bör man arbeta för förändring för att minimera problemen som finns överallt och alltid inom alla system. Det måste anses vara nyttigt, för utan dessa insikter och verktygen att hantera kulturen vi alla lever i är människorna utelämnade åt dolda maktordningar. Och analyser av makt är ett annat centralt inslag inom humaniora. Makt är liksom begreppet människa högst komplext och samtidigt något som genomsyrar alla aspekter av mänskligt liv. Makten är det som får, det istället för detta, att uppfattas som självklart och normalt, fast det i själva verket är kontingent. När vi förstå det kan vi arbeta för förändring, ökad mångfald och jämställdhet. Det är i allra högsta grad nyttigt, även med ekonomiska mått mätt. Det handlar om effektiv och hållbar resurshantering.

Humanioras uppgift är vidare att förvalta språk. Latin till exempel är ett språk som många av de historiska (ett annat område som behövs för att förstå vad det innebär att vara och leva som människa) källorna, vilka i sin tur behövs för att förstå hur vi hamnade där vi är idag, är författade på. Och eftersom kultur ständigt förändras måste man kunna återgå till källorna. Så med ett lite större perspektiv inser man omgående att även studier av ett utdött språk är viktiga och därmed nyttiga för samhället. Språk är dessutom det verktyg människor använder för att kommunicera, och det behöver självklart undersökas för att man skall kunna förstå vad det är och hur det fungerar. Talat och skrivet språk är en förutsättning för mänskligt liv, för kultur.

Innan drömmen om AI analyserats grundligt av humanister borde inga programmerare eller ingenjörer tilldelas resurser för vidare utveckling av teknik vars syfte är att ersätta människor och unikt mänskliga egenskaper!

Inga kommentarer: