Hur ser vi på varandra i praktiken? Ovanstående handlar om teorin, men livet levs i praktiken. Hur agerar vi gentemot varandra, i flyktingfrågan till exempel? Är det människan och det mänskliga som står i centrum där? Knappast! Även om det är smärtsamt för självkänslan att erkänna det skulle jag säga att det är svårt att hävda att något annat än pengar står i centrum när politiker och andra debatterar flyktingar. Vår välfärd, talas det om. Höjda kostnader. Det mänskliga undanträngs genom att man omgående hoppar över det ledet i resonemanget, som om det inte betyder något, eller för att det ger upphov till problem och för att riskerar att hota vår egen tillvaro. Till det mänskliga hör även självcentreringen. Och det är en egenskap som paradoxalt nog riskerar att leda till mänsklighetens undergång.
Igår skrev jag om lärarapati, om hur vi ser på människan i arbetslivet. Humankapital talas det om. Fast i offentligt finansierad verksamhet förvandlas allt och alla till kostnader, även människorna. För sänkt skatt och mer pengar i plånboken är viktigare för mig. Ännu ett exempel på en av människans och det mänskligas paradoxer. Tänka snabbt och långsamt, är titeln på en bok, av Daniel Kahneman, men det är också ett sätt att se på det människan. Vi måste inte bara tänka snabbt och långsamt, vi måste även veta när sätten att tänka och agera passar bäst, både för stunden och på sikt.
Det är nedslående att tänka, skriva och forska om kultur och människan. För den kunskap som arbetet resulterar i har svårt att nå ut. Kulturvetarens resultat välkomnas inte, för det är inte sällan av detta slag, oroande och problemorienterat. Fast det är naturligtvis som det är med den saken. Kunskap går inte att beställa fram, hur mycket man än vill att det skulle gå. Livet och människan är som de är, inte som någon önskar att det skulle vara.
Läser en klok artikel, av fysikern (och människokännaren) Ulf Danielsson. Den handlar om människan och det mänskliga, och den är skriven som ett svar på en annan artikel där tanken om att maskiner skulle kunna vara etiska, kanske till och med mer och bättre etiska än människor. Detta menar Ulf Danielsson är en befängd tanke, och jag håller så klart med. Människan är inte som en maskin, och därför ska inte heller maskiner jämföras med människor. Det är en farlig tanke, eftersom människan redan idag har svårt att värna det mänskliga i konkurrensen om andra (ekonomiska) värden. Danielsson skriver,
Läser en klok artikel, av fysikern (och människokännaren) Ulf Danielsson. Den handlar om människan och det mänskliga, och den är skriven som ett svar på en annan artikel där tanken om att maskiner skulle kunna vara etiska, kanske till och med mer och bättre etiska än människor. Detta menar Ulf Danielsson är en befängd tanke, och jag håller så klart med. Människan är inte som en maskin, och därför ska inte heller maskiner jämföras med människor. Det är en farlig tanke, eftersom människan redan idag har svårt att värna det mänskliga i konkurrensen om andra (ekonomiska) värden. Danielsson skriver,
Linda Johansson, filosof vid KTH, skriver intressant (DN 2/3) om en skrämmande militärteknisk utveckling där dödandet automatiseras och utförs av beslutsautonoma robotar. Hon tror inte på att, som Human rights watch förordar, med lagstiftning stävja en dystopisk utveckling mot en framtida ”Terminator”. Detta kan man förstås ha olika uppfattningar om, men mer problematiskt är att hon i stället med viss tillförsikt väljer att avsluta med: ”En inte orimlig tanke är faktiskt att de potentiellt självmedvetna robotarna skulle vara betydligt mer etiska och mindre mordiska än människan.”Instämmer, för jag ser en tydlig glidning i samhället och kulturen. Människan betraktas allt mer som ett problem, och allt oftare jämförs människor med maskiner. En sådan som Stefan Fölster, till exempel, ser det som naturligt att robotar tar över allt mer arbetsuppgifter. Och frågan om vad som händer med människorna som på det sättet blir överflödiga, bryr han sig inte om. Är det bra för ekonomin är det bra, punkt. Det är så han resonerar, och därför anser han det vara helt i sin ordning också att lägga ner den högre utbildningen i Sverige och ersätta den med MOOC-kurser på nätet där svenska lärare fungerar som handledare, eller som lågbetalda assistenter till datorerna som antas rymma allt som är värt att veta. Det finns gott om exempel på mänsklig aningslöshet, och det är inte bara BOMBEN som utgör hotet. Ett större hot är samhällets och mänsklighetens glidning, bort från det mänskliga.
I själva verket är det nog tvärtom en ganska orimlig tanke och givet att ämnet för artikeln är så allvarligt och angeläget kan man inte avfärda det som bara underhållande filosoferande, utan det måste i stället bemötas.
Var och hur medvetande uppkommer har vi ingen aning om. En del hävdar att det uppkommer per automatik vid komplex informationsbehandling av vilket slag det vara må, andra att det är rotat i hårdvaran och bygger på mycket specifika fysiska förutsättningar. Personligen lutar jag åt det senare utan att kunna vara alldeles säker. Att robotarna på något sätt skulle kunna bli medvetna, och i så fall på vilket sätt, är med andra ord en ren spekulation utan vetenskaplig grund.Det oroväckande är att människan saknar en naturlig förmåga att tänka kritiskt kring saker som tilltalar individen. Och finns det pengar att tjäna, eller om frågan kittlar intellektet (tänk om ...) är det hopplöst svårt att säga stop! Vänta lite! Låt oss tänka efter en liten stund. När politikerna utlovar skattesänkningar, eller som Donald Trump, lovar guld och gråna skogar utan någon som helst rim och reson, lockas förfärande många av det enkla och tydliga, tilltalande budskapet. Vad har vi att förlora på att rösta på den som lovar mest? Vad kan gå fel, tänker många när lockelsen blir för stor. Det är inget undantag, det är regeln och kommer inte som en överraskning för någon med intresse för det unikt mänskliga. Medvetandet är en sådan sak, det MÄNSKLIGA medvetandet. Det är unikt, oavsett hur "intelligenta" maskiner människa kan skapa. Mänskligt medvetande kan bara finnas i en mänsklig kropp!
Nästa steg i argumentationen handlar om att dessa tekniska konstruktioner skulle vara mer högt stående än vi vanliga sköra och ofullkomliga biologiska varelser. Eftersom deras artificiella intelligens i flera avseenden överstiger människans, på samma sätt som en miniräknare slår oss i huvudräkning, skulle det alltså också följa etisk överlägsenhet.Etik är inget man kan räkna på, det visar de tragiska händelserna på Karolinska. Där togs andra hänsyn än det genuint mänskliga, i jakten på andra värden som ansågs viktigare än människan. Åtta människor dog innan det tankespåret släpptes. Macciarini hade utsatts för intern kritik sedan 2011, men först efter att en journalist visat för hela befolkningen att han var en con man drog ledningen för Karolinska i nödbromsen och erkände det alla redan visste. Även det är djupt mänskligt, att inte erkänna sina fel. Fast om vi jämför oss med maskiner och ersätter den mänskliga etiken med en maskinetik kommer människan att bli ännu mindre värd. Därför är det viktigt att göra som Danielsson, med en dåres envishet påpeka det uppenbara, och värna det mänskliga mot alla mörkerkrafter som är så oerhört svåra att värja sig mot.
Detta är en mycket fåfäng, orimlig och direkt farlig förhoppning. Alldeles oavsett utgången av en diskussion om varifrån den mänskliga etiken kommer är det svårt att se hur en konstruerad robot kan ha någon etik utöver den som en programmerare lägger in. Det är nog knappast en god idé att sätta sin tilltro till att det skulle finnas något slag av fysisk naturlag som garanterar att en tillräckligt komplicerad apparat av kisel också agerar etiskt utifrån ett mänskligt perspektiv. Å andra sidan kan man heller inte associera någon form av elak avsikt till det elände som förorsakas av en militär robot som löpt amok.Ingenting är ont eller gott per se. Det är först i ljuset av konsekvenserna som den saken går att bedöma, subjektivt. Något annat sätt finns inte. Etik är lika lite som kvalitet ett objektivt värde. Det krävs kännedom om det genuint mänskliga för att agera etiskt. Trots att vi vet detta, rör vi oss hela tiden och med förfärande hög hastighet ut på ett sluttande plan där ingen vet var the point of no return finns, eller om vi kanske redan passerat den. Vetenskaplig bedömning ersätts på högskolan med det objektiva måttet forskningsperformace, och det leks uppenbarligen med tanken om en mekanisk etik. Aningslösheten känner inga gränser, och det mänskliga säljs gång på gång ut på olika sätt. Humaniora som är vetenskapen om människan betraktas som en kostnad, liksom människorna som undervisar i skolan. Drömmen om att kunna koppla upp den mänskliga hjärnan mot internet där all mänsklig kunskap, felaktigt, antas finnas lätt tillgänglig är bokstavligen livsfarlig.
Frågan om i vilken mån framtida mördarrobotar är medvetna eller ej är ett stickspår. Det intressanta är vad de gör. Vi gör säkrast i att betrakta dem som maskiner och inte låta oss luras till att tro att det finns vare sig godhet eller ondska bakom det elektroniska ögat. När Dave tampas med datorn HAL 9000 i rymdeposet ”2001” är mitt råd entydigt: dra ur sladden, det är bara en maskin!Den filmen bär på ett budskap till mänskligheten, och jag håller med Danielsson: Dra ur sladden! Stanna upp, tänk efter, gör om och gör rätt! Det mänskliga är OVÄRDERLIGT och kan och ska inte mätas i pengar. Människan kommer aldrig att kunna mäta sig med maskiner ifråga om det maskiner är bra på, och försöker vi göra det är vi dömda till undergång. Det finns i alla fall inget inbyggt skydd i det mänskliga mot det hotet, tvärtom verkar Freud ha rätt i att människan balanserar på en tunn tråd mellan dödslängtan och kärleken till livet.
Ulf Danielsson skriver ofta klokt.
SvaraRaderaEtiken som "man räknar på". Man måste nog skilja på den etiska diskussionen i sig som eventuellt förekommit på Karolinska, oavsett metod, och tillämpning av den. Om beslutsfattare struntar i den etiska diskussionen, eller resultaten, är det inte etikens fel, oavsett om det handlar om räknande eller flum (för att använda de motsatsord som dykt upp). Det tycks som om beslutsfattarna skulle behöva tänka mindre på sina egna positioner och status, men jag är rädd att etik inte har någon inverkan på dem personligen. Det är ledarsorten som behöver bytas ut, oavsett etikmetod.
Sen en annan sak, som jag brukar fundera mig blå över ... eftersom det är människor som beter sig på allehanda "omänskliga" sätt, bygger "omänskliga" system, så hör ju det till människan. Det hör till mänskligheten att göra så. Att vara omänsklig är en del av att vara människa. Det är människan som gör även det "omänskliga", ingen annan. Så att försvara människan och mänskligheten måste vara att försvara även det omänskliga. Det blir genast ganska otäckt om det handlar om att försvara "det goda mänskliga", för det är en värdering, och som Camus säger i Pesten, godhet kan i själva verket vara ondska. Att bestämma "det goda", vem ska göra det?
Viktigt att poängtera Camilla, håller med om det! Det är skillnad på etik i praktiken och i teorin!
SvaraRaderaSedan det här med människans omänsklighet. Jag tänker att vägen fram är att lära sig förstå människan, i sin fulla komplexitet. Fast det betyder inte att man måste försvara det omänskliga, det otäcka. Jag vill locka till samtal om innehållet i begreppet människa, för det är inget som någon enskild kan bestämma över, det bestäms kollektivt, i vardagen när vi människor utbyter tankar och erfarenheter. Det är av alla saker som kulturen är och gör. Inget är ont eller gott i sig, det är viktigt att påpeka. Håller med om det! Det är en värdering, och just därför är det så viktigt att hålla samtalet om dessa frågor igång. Och kompetens att samtala på ett klokt och analyserande sätt vill jag hävda är humanioras paradgren och det är också där ämnets värde finns.
Den här diskussionen om AI och superintelligence som dykt upp är bra på det sättet, för att pröva tanken på vad en människa egentligen är.
SvaraRaderaAntag, tankeexperiment, att det fanns robotar som man inte på något sätt kunde skilja från människor, när man träffade dem. Att man inte skulle kunna upptäcka det på något sätt, i någon handling eller i något beteende. Skulle roboten vara människa då?
Håller med! Har du sett filmen Ex Machina? (http://www.imdb.com/title/tt0470752/) Bra och tankeväckande!
SvaraRadera