Är det klokt att låta maskinerna ta över?

Maskiner tar aldrig över, det är människorna som låter maskinerna tar över, som underkastar sig maskinernas makt liksom tidigare guds och marknadens makt. Ett av mänsklighetens minst smickrande drag är den hybris som växer ur känslan av att ha kontakt med och kontroll över makter som är större än människan själv. Behovet av övermänniskan som Nietzsche pekade på är större än någonsin. Människan måste lära sig förstå och hantera sig själv och krafterna som finns i det mänskliga. Förmågan att konstruera maskiner, till exempel. Men utan förmågan att kunna hantera känslan av underlägsenhet gentemot de högre makter som för tillfälligheten är i ropet är människan förlorad och utelämnad till sina sämsta och svagaste sidor. Det är Nicklas Lundblad och hans artikel på Under Strecket som får mig att tänka i dessa banor.

I samband med den tekniska utvecklingen försvinner en hel del jobb, samtidigt som det dyker upp nya yrken som ingen hade kunnat föreställa sig. I den pågående debatten om arbetets framtid varvas prognoser om hur många procent av jobben som kommer att försvinna när robotar kan göra dem med exempel på helt nya jobb som kommer till. Långsamt växer också insikten att artificiell intelligens inte automatiskt behöver innebära ett substitut för mänsklig kompetens, utan att den fungerar bäst som komplement till människans förmågor, som den på olika sätt kan förstärka. En läkare som har tillgång till mjukvara som hjälper till att analysera röntgenbilder kan till exempel fatta ­bättre beslut. Kort sagt: datorerna kommer inte att ta ditt jobb, så länge det inte är farligt, tråkigt eller meningslöst.

Om datorerna tar mitt jobb eller ej vet vi inte, men även om jag förstår hur Lundblad tänker är jag inte säker på att jag håller med. Jag tror inte det går att uttala sig säker om den frågan, för allt handlar om hur vi ser på och tänker om vad som är viktigt i livet och samhället. Är det pengarna som prioriteras är inget arbete säkert, det enda som skulle kunna rädda samhällets långsiktiga överlevnad är om avsaknaden av arbete innebär avsaknad av möjlighet att tjäna pengar. Ekonomi handlar till syvende og sidst om hushållning, om balans mellan pengar som går in och pengar som går ut och sätts i rörelse. Pengar är möjliggörare och har bara ett relativt värde. Påminner om kung Midas, sagornas kung som fick sin önskan uppfylld om att allt han rörde vid skulle bli till guld. Det blev inte riktigt den vinstlott som han tänkte sig, om man säger. Och om det där ymnighetshornet verkligen existerade, om det gick att skapa obegränsat välstånd åt alla ur inget, skulle pengar bli meningslösa och förlora sitt värde. Datorer och maskiner kommer att ta över, om människorna offrar sig själva, om tillräckligt många slutar tro på och bry sig om människan och det mänskligas värde. Jag tror på samspel, samtal och samverkan, men inte på maskinernas villkor, utan på människornas. Artificiell intelligens behöver inte automatiskt innebära att att människan förlorar sitt värde, men det är tyvärr på den vägen vi slagit in och det är i den riktningen vi rör oss. Det oroar och är något vi behöver samtala om, utan att gå i försvar för något.

Men vad innebär den tekniska strukturomvandlingen för alla de yrken som alltså inte på samma sätt hotas av robotarna, de som kräver särskild expertis och traderad kompetens, som läkar-, arkitekt-, advokat-, journalist- ­eller prästyrket? Den frågan ställs i en ny bok skriven av juristen Richard Susskind och hans son nationalekonomen Daniel Susskind: ”Professionernas framtid. Hur teknologin kommer att förändra experters arbete” (övers: Joel Nordqvist; Daidalos). Det är en grundlig och rik undersökning av både vad dessa uråldriga professioner är och hur de förändrats med tekniken – med särskilt fokus på hur de nu kan komma att förändras de kommande ­årtiondena.

Det är lockande att skåda in i framtiden, kanske för att det man säger inte kan kontrolleras. Blir det inte som man sa kan man alltid hitta på en plausibel förklaring till varför, och slår profetian in kan man säga: Vad var det jag sa. Sanningen är ingen vet. Framtiden skapas idag och växer fram procentuellt ur det som sägs, tänks och görs idag. Framtiden finns inte, den blir till och den är därför alltid öppen. Visst går det att reflektera över vad som skulle kunna hända, om. Men att uttala sig säkert eller lyssna andäktigt och med respekt för den som säger sig veta är olyckligt och ännu ett exempel på ett slags bugg i den programvara som styr människan. Bara för att någon är säker, har makt, pengar eller akademiska titlar betyder inte att hen har rätt. Särskilt inte om det är framtiden man uttalar sig om. Kunskap om historien och dagens förhållanden är oundgänglig, men det betyder inte att det är ur den kunskapen som framtiden växer. Framtiden växer mellan och det är olyckligt att bortse får els försöka kontrollera slumpens roll. Det oväntat oväntade är regler, inte undantaget. Fast med den reservationen går det utmärkt att läsa den här typen av böcker, om man bara gör det kritiskt.

Professionerna baseras, menar författarna, på ett stort underförstått avtal, där vi ger vissa människor en sorts fullmakt att döma, läka eller predika för oss i utbyte mot att de gör sig till experter, förvaltar en viss given kunskap och institutionaliserar den. Detta avtal svarar mot behov i varje mänskligt samhälle – oavsett teknisk bas. Professionerna åtnjuter särskild status och frihet, de erbjuder sin egen mening och identitet i gruppen. Den som tillhör en profession blir en del av dennas sociala struktur, och kan i vissa fall till och med hemlighålla information och kunskap i syfte att bevara sin ställning.

Detta ser jag som en annan av människans svaghet. Svårigheten att hantera öppenhet och transparens. Kanske för att det paradoxalt nog strider mot andra önskningar som människor har. Viljan till makt, till exempel. Den som kontrollerar information och kunskap får makt och kan tillskansa sig inflytande på andras bekostnad. Google säger sig vara tvingad att vara god, men den makt som det privatägda företaget förfogar över, genom att så många (även jag) använder sig av deras tjänster och öppnar upp sina liv för deras algoritmer och släpper ifrån sig enorma mängder information om sådant som är privat, skrämmer mig. Professioner som förfogar över essentiell kunskap blir mäktiga professioner. Den makten utmanas idag av digitaliseringen, vilket både är bra och förenat med risker. Jag är för öppenhet och försvarar transparensen, för den främjar utvecklingen av demokratin. Fast öppenheten kan också hota kunskapen. Varför ska man läsa till läkare och ta på sig ansvaret för liv och hälsa, om man inte kan åtnjuta fördelarna som kunskapsövertaget innebär? Varför ska man bli lärare om vem som helst kan surfa sig fram till svaren som behövs för att lösa uppgiften eller bygga sig ett liv som fungerar på ett ögonblick? Det finns fördelar med professioner. Om det krävs något av en för att nå en eftertraktad position tvingas man anstränga sig. Knäckfrågan är hur man gör för att omställningen som samhället nu är mitt uppe i ska bli så smidig och leda till så få problem som möjligt.

Professionerna förutsätter alltså en överenskommelse mellan de som innehar en professionell roll och den som anlitar dem. Klienten och advokaten, patienten och läkaren, församlingsmedlemmen och prästen, eleven och läraren – det är i relationen mellan dessa som professionen existerar, och den kan inte existera utan en viss grund­läggande respekt och ett omfattande förtroende.

Relationerna mellan är det jag vill uppmärksamma och värna. Faktasamhället och evidensbaseringsvurmen som okritiskt sprids som ett slags anbefalld best practice över hela linjen och i alla verksamheter enligt principen one size fits all, för att effektivisera och spara pengar, utgör ett allvarligt hot mot kulturen som också finns mellan men som är svår att få fatt i med de strikta metoder som idag används och som samhället sätter sin tillit till. Det som inte kan bevisas finns liksom inte, i alla fall inte i ett faktasamhälle. Mellanrum kan inte mätas eller jämföras och kulturen gäckar den som inte vill se eller inte förstår. Fast ingen klarar sig utan dem. Relationer är lika viktiga för samhällets hållbarhet som tystnad och tid att tänka är för intellektuell utveckling. 

Fundera nu över vad som händer i informationssamhället. Plötsligt kan patienterna själva lära sig mängder exempelvis om sina egna hälsofrågor (och fördjupa sig i dem i större utsträckning än en allmänläkare anser sig ha tid – eller skäl – att göra), och en juridisk klient kan läsa på om sin rättssituation för att skaffa sig en egen uppfattning. I den mån förtroendet baserat sig på att det är den professionella som sitter på kunskapen, löses detta nu långsamt upp. Läkare vittnar också om hur tröstlöst det är med patienter som kommer förberedda med förslag på diagnos och misslynt argumenterar emot läkarens bedömning om den är en annan. Och samma fenomen sprids över alla professioner. Lägg därtill utvecklingen av mjukvara som allt oftare kan genomföra proffsens uppgifter bättre än proffsen själva, så växer en bild av framtiden fram där detta stora avtal blivit obsolet.

Det ställer oss, menar Richard och Daniel Suskind, inför två stora moraliska frågor. Den första är hur vi ska förhålla oss till fördelningen av kunskap i samhället. Visst: det ser ut som om vi nu skulle kunna se till att alla hade tillgång till all kunskap och själva kunde fatta beslut i en mängd frågor – från religiösa till medicinska – där vi tidigare var tvungna att förlita oss på professionerna. Men betyder det att vi ska göra det? Här urskiljer författarna två olika läger – de som vill inhägna kunskapen och de som anser att den bör släppas helt fri.

Det är förstås ett förenklat synsätt och ­bygger på en syn på kunskap som något fristående från relationer, förtroende och människor. Kunskap är inte det samma som information eller data, och att likställa fri tillgänglighet till medicinsk information med öppen tillgång till medicinsk kunskap är ett kategoriskt misstag. Författarna lånar ett grepp från filosofen John Rawls och menar att det bästa sättet att ­avgöra hur vi fördelar kunskap och gör den tillgänglig i samhället är att försöka tänka oss in i att vi inte själva vet var i samhället vi kommer att hamna, och hur vi då skulle föredra att kunskapen fördelades.

Kloka och viktiga tankar som jag skriver under på och menar att vi behöver ta på allvar och reflektera mycket mer över än vi gör idag. Det är väldigt lätt att kasta ut barnet med badvattnet, men först när det är borta inser man misstaget. Låt oss tänka efter före, det är det enda jag säger. Tekniken är här för att stanna, men det är människorna också och det handlar inte om antingen eller, utan om både och. Det är vi som väljer och avgör hur relationen mellan ser ut och vilket värde människan har i samhället. 

Det är ett intressant tankeexperiment, men förutsätter att kunskap kan fördelas helt utan begränsningar. Här återkommer ett synsätt på tekniken och framtidens samhälle som vi ser om och om igen: en värld där teknikens möjligheter förskjuter framtidens gränser, utan någon hänsyn till den individuella människan och hennes inneboende natur. Mycket av diskussionen om informationssamhället, tekniken och framtiden präglas av detta perspektiv, och diskussionen förs utifrån en position som antar att det inte finns några naturliga, biologiska gränser för vad vi kan göra med tekniken.

Vi har tappat bort ett viktigt perspektiv i forskningen och den politiska debatten om tekniken – ett perspektiv som exempelvis Nobelpristagaren Herbert Simon och flera av de tidiga informationsteoretikerna ansåg vara både naturligt och självklart: frågan om teknikens ­framtid handlar inte om vad tekniken förmår, utan vad männi­skan mäktar med. Ett enkelt exempel står att finna i Simons analys av vår tids informationsrikedom: han ­noterar att när vi blir rika på information blir vi fattiga på uppmärksamhet – och därför uppstår ett behov av att fördela uppmärksamheten på ett bra sätt. Mellan teknikens produktion av information och vår biologiskt ­begränsade förmåga att tillgodogöra oss den måste vi söka olika sorters lösningar. Vår totala uppmärksamhet – den tid vi kan ägna saker – är en starkt begränsande naturlig faktor.

Vad mäktar vi med? Hur många nya tekniska system som införs för att underlätta vardagen orkar, hinner och kan man lära sig, och avlära sig under ett arbetsliv? Det är den verkligt viktiga frågan, vid sidan av anledningen till att systemen införs från. Tekniska lösningar må vara hur bra svar som helst, men om det inte finns en legitim fråga eller ett behov i botten som styr utvecklingen bör man iaktta försiktighet. Digitaliseringen är varken ond eller god per se, den blir vad människorna gör den till. Jag är som sagt ingen motståndare till tekniken, jag försvarar bara människan och det mänskligas betydelse och värnar relationerna mellan. Likt tystnaden krävs det ömsesidig respekt för att den ömtåliga relationen ska fungera och tekniken tjäna människan istället för tvärtom.

Översatt till frågan om fördelning av kunskap i ett samhälle kan vi då säga att det kanske handlar om mer än en abstrakt rättvisefråga – det kanske handlar om hur uppmärksamheten som krävs för att förmedla och förvalta kunskapen kan fördelas effektivast i ett samhälle? Kanske inhägnas kunskap inte av kommersiella skäl (som författarna antyder) utan snarare på basis av en rollfördelning som bygger på våra biologiska begränsningar?

Utan kunskap om det mänskliga och förståelse för människans unika egenskaper och behov, kan inget hållbart samhälle växa fram. Marknadskrafterna är starka och människan svag, och ska man dessutom kämpa mot maskinerna för att försvara sitt värde gäller det att förståelsen och respekten finns där. Humaniora har svårt att hävda sig i en ekonomisk konkurrens när pay-off-tiden är kort. Humanioras värde varar dock och växer med tiden. Det förstår alla som tar sig tid att tänka efter, och därför är det så viktigt att marginaler byggs in i systemet och att relationen mellan maskinerna och människorna värnas och vårdas. Människan är ingen maskin, människan är MÄNNISKA på gott och ont och med allt vad det innebär. Ingen annan kommer att värna det mänskliga, det måste vi göra själva. Jag är inte rädd för tekniken, det är mäktiga människors hybris som skrämmer. Den som har makten kan säga: You are fired, och sedan ersätta människor med maskiner och tjäna mer pengar. Därför är det människorna vi måste förstå och skapa system både för att hjälpa och reglera. Människan måste ibland skyddas från sig själv.

Författarna har ändå en viktig poäng. Kunskapsfördelningen i samhället förändras av den nya tekniken, och vi ser det kanske främst i vetenskapen. Där är förskjutningen från enskilda genier till högpresterande grupper tydlig. Vad tekniken gör är att den tillåter uppkomsten av kollaborativa ekosystem av kunskap – med både människor och maskiner – som framgångsrikt kan utforska nya ­frågor och erbjuda olika tjänster. Kanske betyder det att den enskilde professionsutövaren snart kommer att bli historia, och att vi i stället kommer att interagera med sammansatta nätverk av mänskliga och artificiella ­aktörer som tillsammans kan förvalta och erbjuda professionell kunskap på ett mycket bättre sätt? Om det stämmer betyder det att de advokatfirmor, läkarkliniker och skolor som först inser detta och bygger nya typer av institutioner kring dessa grupper kommer att klara sig bäst i professionernas evolution.

Samverkan, nätverk och fler än en men färre än många (olika typer av) aktörer som tillsammans skapar och upprätthåller kunskap, tror jag är oundvikligt. Samhället är skapat av människor, för människor. Och bara så kan samhället fortsätta vara ett samhälle, med allt det vi vant oss vid att ta för givet. Vi ska naturligtvis ta hjälp av maskiner, men människor och det mänskliga kan och får aldrig ERSÄTTAS av maskiner. Idag finns inga spärrar inbyggda i systemen och den som vill kan avskeda och effektivisera hur mycket hen vill, för sin egen personliga vinnings skull. Den som har mest makt kan göra sig av med flest, men det är alla och samhället som helhet som får betala priset. Människor kan avskedas, men försvinner inte, de försvinner bara ut ett system och flyttas till ett annat.

Den andra moraliska frågan som upptar författarna är mer inriktad på värdet av mänskligt beslutsfattande och vilken roll det bör ha i samhället, oavsett vem som fattar beslutet. Skiljelinjen här går mellan de beslut som en maskin kan fatta och de som en människa bör fatta. Det här är intressant, eftersom det också bygger på en distinktion som kanske inte är alldeles lätt att upprätthålla när man tittar på hur röriga beslut egentligen är. Ett exempel är livsuppehållande vård. Anta att vi ställs inför beslutet att avsluta en livs­uppehållande behandling eller ej – hur bör vi då fatta detta beslut? Skulle vi kunna överlåta det till en maskin? Författarna är klart tveksamma. Samtidigt tycks det ­uppenbart att den läkare eller anhöriga som fattar detta beslut kommer att ta det på basis av medierad kunskap: människan litar på maskinernas analyser och mätvärden, bedömer dem och kommer sedan fram till ett beslut. Är det ett mänskligt beslut? Är det för att det är en mänsklig hand som sträcker sig mot avstängningsknappen på ­respiratorn som beslutet blir moraliskt förankrat?

Ta exemplet med domare: det finns ett flertal studier som visar att utfallet vid olika sorters rättsprocesser skiljer sig beroende på när på dagen bedömningarna görs: beroende på den enskilde domarens humör och blodsocker kan du få längre eller kortare straff i straffmätningen. Om dessa studier stämmer, skulle det då inte vara moraliskt mer rätt att överlåta straffmätningen till en mjukvara som kan göra en bedömning utifrån en modell formulerad av ett antal domare över en längre tid?

Även här ställs vi inför en frågeställning som är allt ­vanligare i litteraturen om framtid, teknik och politik: är det människan eller maskinen som ska fatta beslutet? Sanningen är att beslut växer fram i ett mönster och att det i det mönstret sedan länge finns både mjukvara och människa sammanvävda och oupplösligt förenade. Det ter sig knappast sannolikt att dessa beslut inom överskådlig framtid helt och hållet kommer att tas över av ­maskiner.

Väldigt många pregnanta frågor här som måste besvaras för att samhället ska kunna bli hållbart. Maskinerna kommer inte att ta över, det är människorna som avskaffar sig själva ifall det skulle bli så. Behovet av kritisk, analytisk kompetens är större än någonsin. Omställningen som digitaliseringen av samhället och allt fler aspekter av livet och vardagen innebär ställer oss alla inför en rad moraliska och andra dilemman som måste lösas på ett eller annat sätt. Kan vi inte hantera dessa problem på kloka och hållbara sätt kommer vi att få problem. Hur klokt är det att skära ner på humaniora egentligen? Borde det inte istället vara obligatoriskt att läsa filosofi, kulturvetenskap och borde vi inte samtala mer? Retoriska frågor, men svaren är givna. Utan eftertanke, ödmjukhet och respekt för kunskapen och det genuint mänskliga är risken överhängande att några få människor med mycket makt lockas att i övermod sälja ut alla andra i tron att de ska kunna klara sig själva. Det vore i så fall inte första gången i världshistorien som utslag av hybis straffar sig. Ingen människa är en ö, och utan varandra klarar vi oss inte, oavsett hur mäktiga vissa än är så är den makten alltid relationell.

Richard och Daniel Susskind menar dock att professionerna förmodligen i stor utsträckning kommer att försvinna. Men det finns ett alternativ, nämligen att kunskapen kommer att organiseras utifrån hur vi som människor naturligt grupperar oss och att beslut kommer att baseras på en allt rikare samverkan mellan människa och maskin. Då kommer professionerna att finnas kvar, men bli än mer kollaborativa än individuella.

Oavsett vilket har de alldeles rätt att denna förändring kommer att ha omfattande konsekvenser och förtjänar mer debatt.

Mer samtal och tid att tänka är nödvändigt. Håller med. Samverkanskompetens handlar om det, och det är inte bara människan som behöver lyssna och lära, det behöver tekniken också. Allt och alla är beroende av varandra. Livet och samhället växer fram mellan. Men nu är det fredag, ledigt och hög tid att flytta ut i solen på balkongen med en bok och kanske en liten öl innan maten.