Luddit är ett skällsord. Att slå sönder maskinerna som tar ifrån en sitt arbete är inte särskilt klokt. Men att okritiskt bejaka utvecklingen av Artificiell Intelligens, hur smart är det egentligen? Kan vi verkligen lita på att den tekniken bara kommer att leda till fördelar? Genom hela historien har människor skapat verktyg som förenklar livet på olika sätt, bland annat genom att slippa utföra fysiska arbetsuppgifter som är smutsiga, tar tid eller sliter på kroppen. Utvecklingen av AI handlar istället om att ersätta människors intellektuella förmågor, alltså det som gör oss människor till människor. AI blir till exempel allt bättre på skapande verksamheter som målning, musik, fotografi och skrivande. Hela idén med utvecklingen är ju att skapa en maskin som ser ut och fungerar som teknikutvecklarnas idealbild av människan. Som alltid när ekonomin boomar rusar alla åt samma håll, yra av framgångarna och optimismen, men också blida för alla eventuella baksidor. Innan vi ger upp och kapitulerar finns det en rad viktiga saker vi borde diskutera. Det faktum att AI är en teknik som ersätter kognitiva förmågor som människor använt sig av under hela vår historia här på jorden för att få utlopp för vår kreativitet eller för att sätta ord på känslor, bearbeta problem och fylla livet med mening, samt inte minst för att skapa förståelse för det obegripliga. På vilket sätt blir livet bättre av att det finns algoritmer som kan göra liknande saker snabbare och billigare? Är det verkligen ställt bortom varje rimligt tvivel att det går och är klokt att utveckla teknik som ersätter den unikt mänskliga förmågan att tänka bara för att den förmågan inte lever upp till vår idealiserade, och kulturellt skapade (och därför föränderliga) bild av det perfekta? Ludditerna arbetade i yrken där anställda fick slita ont, men yrkena och uppgifterna som AI nu i snabb takt ersätter har många människor i alla tider drömt om att få arbeta i, det är en avgörande skillnad.
Författare, skådespelare, journalister, fotografer och bildkonstnärer blir idag arbetslösa, dels på grund av att det finns algoritmer som kan imitera deras förmågor, dels för att efterfrågan på pengar hela tiden växer. Vad händer med mänskligheten om den reduceras till passiva konsumenter av produkter och upplevelser skapade av maskiner? Historien har i alla tider förändras i hög grad av det människor drömmer om, så bara det faktum att den dominerande drömmen idag är att tjäna snabba cash, slippa ta ansvar, slippa läsa, skriva och vara kreativ, borde mana till eftertanke. Samhället är ytligt och fattigt redan som det är, och den utvecklingen kommer knappast att avstanna när allt fler sitter ännu mer upptagna vid sina skärmar för att underhållas eller hålla koll på börsens rörelser. Kalla mig gärna luddit, men jag ser inga tecken på att AI skulle vara lösningen på några av mänsklighetens verkliga problem, av den enkla anledningen att det är arbetet med att försöka förstå dessa problem som gör oss till människor. Att så många idag är mer fascinerade över vad en maskin kan göra än det människor skapar, är ett djupt oroande tecken på samma aningslöshet som får människor att frivilligt ge upp sina demokratiska fri- och rättigheter till auktoritära ledare som lovar att sänka skatten. Jakten på enkla lösningar och önskan att slippa anstränga sig är en stark men också potentiellt destruktiv kraft. Konsekvenserna av att allt fler läser allt mindre, (och med läsa menar jag: avkoda texter med hjälp av ögonen) är förödande för kvaliteten i den högre utbildningen, till exempel.
Som det ofta blir här på bloggen blev det en omväg till det jag tänkt skriva om, men det finns en koppling. Ska vi ha en chans att ta kontrollen över våra liv och våra tankar behöver vi både kunskap och förståelse för vårt sätt att tänka, samt inte minst insikt om hur lättmanipulerade vi är, liksom respekt för detta faktum. I inledningen till boken The Skeptics’ Guide to the Universe. How to Know What’s Really Real in a World Increasingly Full of Fake, som jag läst med stort intresse för att distrahera mig från all skit som pågår på jobbet, pekar Steven Novella på fyra centrala aspekter att beakta för alla som vill förstå dels sitt eget tänkande, dels hur vetenskapligt sökande efter kunskap fungerar. När det talas om vetenskap, som här i Nobeltider, fokuseras det ofta ensidigt på alla fantastiska resultat och de förmodade genierna som får priser för sina fantastiska upptäckter. Det sättet att tala om vetenskap är dock ovetenskapligt, för forskning är ett kollektivt projekt där tid att tänka fritt och vara kreativ i kombination med många människors ansträngningar är en central framgångsfaktor för vetenskapen (alltså inte för enskilda forskare). Det finns nämligen aldrig några garantier för att nå framgång. För att förstå detta krävs just de unikt mänskliga förmågor som vi nu håller på att försöka ersätta med algoritmer, men det är ännu viktigare att förstå problemen som samma kognitiva egenskaper är behäftade med. Det mänskliga tänkandet är nämligen ett mynt med två sidor och det går inte att få det ena utan det andra.
Detta är inte den enda boken om vetenskapligt tänkande som inleds med en utläggning om hur hjärnan fungerar och där man ägnar en stor del av innehållet åt att reflektera över mångfalden av bias som hela tiden riskerar att leda tankarna fel, det verkar vara en trend. Och det, tänker jag, säger något om allvaret i den situation som mänskligheten försatt sig i. Det binära tänkande som får oss att ensidigt fokusera på de sidor av saken som tilltalar oss är bara en av alla de kognitiva egenskaper som riskerar att leda tänkandet fel, och som vi måste vara vaksamma på och ha respekt för om allt inte ska gå åt helvete. Att många människor är fascinerade över vad AI kan åstadkomma och att efterfrågan på algoritmer som tar över intellektuellt stimulerande arbetsuppgifter är inte ett argument för att den utvecklingen endast är positiv och önskvärd, tvärtom är det ett tecken att ta på största allvar. När katastrofen väl är ett faktum är det nämligen försent att göra något åt saken. Jag ska inte gå igenom hela boken, bara de fyra punkter som den inleds med. Och den första punkten går ut på följande.
Novella talar om behovet av neuropsykologisk ödmjukhet och pekar på behovet av förståelse för den mänskliga hjärnan, och han visar att och hur vi behöver fördjupad kunskap om hur den fungerar och förståelse för vad det innebär att tänka, samt inte minst vad som krävs för att hjärnan ska kunna arbeta optimalt.
Just denna punkt talar särskilt till mig som lärare, inte bara i min roll som ansvarig för olika kurser om vetenskapligt tänkande och vetenskaplig metod. Idag kommer nämligen förfärande många studenter till högskolan för att få utbildning utan rimliga förväntningar och i avsaknad av förståelse för vilka krav som ställs på den som vill lära sig något, och trots att högre utbildning bara kan bli högre om man bedriver självständiga och kritiska studier förväntas lärarna idag ge studenterna så pass tydliga instruktioner och så mycket hjälp att lösa uppgifterna att de inte behöver ta eget ansvar för sitt eget lärande. Den unikt mänskliga förmågan att tänka tas dels för given, dels anses det inte finnas tid för den. Genomströmningen som högskolans ekonomi är beroende anses viktigare, vilket i sig är både ett tecken på och en konsekvens av bristande förståelse för hur hjärnan fungerar. Och den här djupt tragiska utvecklingen förstärks av bristen på det som nämns i den andra punkten som tas upp i boken, nämligen behovet av:
Metakognition, alltså förmåga att tänka om tänkande, och förståelse för alla de sätt som vårt tänkande leder oss fel via bias och andra problem som saknar lösningar.
Detta finns det ännu mindre tid för i dagens svarsorienterande och produktionsfokuserade högskoleutbildningar, vilket är en utveckling som gör det svårare och svårare att värja sig från AI som allt fler studenter för att slippa skriva och tänka själva, och som lärare också använder för att utföra allt fler av de allt mer standardiserade arbetsuppgifterna. Och i en sådan miljö blir det så klart allt svårare att vara och agera som lärare med omsorg om kunskapen och den akademiska kvaliteten, vilket jag själv fått erfara i och med att mina kunskaper och kompetenser inte längre efterfrågas av min arbetsgivare. Det kräver mod, uthållighet, kunskap, kompetens och erfarenhet för att våga och orka stå emot trycket från både en ledning och en växande grupp studenter som kräver av en att man ska underlätta vägen fram till examen, av ekonomiska och kundnöjdhetsrelaterade skäl. Trots att vi vet att det det krävs både tid och möda för att utveckla de kognitiva förmågor som behövs för att kunna förstå, dels vad kunskap är, dels vad som måste till för att resultatet av högre, akademiska studier ska leda till lärande och intellektuell utveckling, fokuseras idag på nyckeltal, vilket leder till produktion av tomhet. Denna oförmåga att tänka om tänkande och bristen på förståelse för kunskap och lärande som den leder till, och som allt fler dessutom blir allt mer omedvetna om, leder över till nästa punkt som handlar om behovet av:
Förståelse för vad vetenskap är och hur vetenskapligt sökande efter kunskap faktiskt fungerar. Samt förmåga att identifiera pseudovetenskap och bygga upp förståelse för olika former av kunskapsresistens.
Jag återkommer ofta till insikten om att vi försatt oss i ett slags moment 22, som går ut på att det krävs tid och tankemöda för att ta till sig ovanstående insikter. Tid som vi tragiskt nog inte anser oss ha råd med, eller som vi inte förstår poängen med. När allt fler allt oftare talar om studier som en kostnad och tid i termer av pengar blir kunskapen om det som fångas i bokens sista punkt oundvikligen allt viktigare. Tyvärr sjunker dock både förståelsen för och efterfrågan på:
Kunskap om historiska misstag där kunskapen och tänkandet satts ur spel.
När det talas om universitetet lyfts ofta bildningen fram, men det är bara ord för i praktiken saknas förutsättningarna för att bedriva undervisning med några som helst bildningsambitioner idag. Historieämnet och humaniora i allmänhet betraktas till exempel, delvis på grund av bristande förståelse för det som boken handlar om, som överflödiga kunskaper och därför överför regeringen nu pengar från ämnen som handlar om det unikt mänskliga, till naturvetenskap och teknik. Fler ingenjörer och mer digitalisering ses som lösningen på våra problem, men jag menar med stöd i bland annat det jag läser om i den här boken, att det är ett fundamentalt och fatalt feltänk. Vad som behövs är som så ofta att vi tänker tvärtom. För att kunna förstå såväl tekniken som problemen som den idag ses som lösningen på, krävs fördjupad kunskap om människan och den kultur som vi både formar och formas av, liksom förståelse för historien och alla de misstag som mänskligheten begått på sin resa in i den evigt öppna och fundamentalt osäkra framtiden. Vi må vara fascinerade av maskiner och teknik, men det unikt mänskliga är något väsensskilt (även om just fascinationen för teknik är just mänsklig). Och förstår vi inte det kommer vi inte att kunna inse vad som krävs för att vi inte ska ersättas av tekniken. Först när (och om) det är försent tvingas vi inse misstaget, om vi inte stannar upp, tänker efter och gör om och gör rätt.
Jag skriver inte den här typen av inlägg av nostalgiska skäl, för att jag drömmer mig tillbaka till en tid när allt var bättre. Jag vet nämligen att så inte är fallet, och jag inser att det är meningslöst att tänka så. Men jag vet att vi alla lever här och nu och att framtiden skapas av både våra tankar och handlingar, vilka påverkas av kunskaperna vi har och kulturen vi lever i, som i sin tur påverkas av tiden vi lägger på att försöka förstå och utveckla vårt vetande. Och detta vet jag, att AI kan och kommer aldrig att kunna ge oss människor bildning. Artificiell intelligens är nämligen en motsägelse, eftersom intelligens liksom kunskap och bildning är unikt mänskliga egenskap.
Inga kommentarer:
Skicka en kommentar