fredag 13 januari 2017

Artificiell intelligens

Det är något med ordet artificiell intelligens som skaver. ARTIFICIELL intelligens, vad är det? Hur förhåller den sig till andra former av intelligens, och är den bättre eller sämre? Är det ens möjligt att använda ordet artificiell som beskrivning på ett så pass komplext begrepp som intelligens? Intelligens är ju ett mänskligt fenomen, med allt vad det innebär. Ämnet väcker väldigt många frågor. Jag fokuserar på frågorna här, inte på svaren, det är viktigt att poängtera. Jag vet inte hur det är, men som sagt, AI väcker en massa frågor och jag tror det är viktigt att reflektera över detta ämne. Att debattera det fungerar inte, det behövs samtal.

Jag tänker på Gud, som man brukar säga skapats till människans avbild. Gud är en representation av föreställningen om en perfekt människa. En fantasifigur som skapats som ett slags bild av perfektion. Alltså ett uttryck för människans tvekan inför sig egen förmåga, eller som en önskan om något bättre. Tänker vidare på uttrycket den mänskliga faktorn som jag menar borde vara något positivt men som istället beskriver människan som ett problem, i relation till en perfekt maskin eller ett felfritt tekniskt system. Att den tanken sprids, tas emot och okritiskt integreras i vardagen, går något med oss och påverkar kulturen. Normer är aldrig eviga eller givna, de skapas mellan människor. Därför är det så viktigt att reflektera över dem och granska dem kritiskt. Normer handlar inte bara om hudfärg, sexualitet, klass eller genus, även tankar normeras. AI behöver föras in i den diskussionen eftersom så många människor, eller ja, i princip, alla, påverkas.

Artificiella smakämnen förknippas inte med något positivt, men ifråga om intelligens är det som om all kritisk medvetenhet gladeligen slängs över bord. Oklart varför? Bara människan kan vara intelligent, menar jag. Intelligens handlar om förmågan att agera självständigt i nya och okända situationer, med utgångspunkt i befintliga kunskaper och en utvecklad förmåga till fantasi. Men,och det är viktigt, för allt det där kan nog maskiner göra bättre, att vara människa handlar också om att ha känslor och att ibland agera irrationellt. Människan är bara perfekt i sina drömmar, men aldrig i praktiken. Det är detta som gör oss till MÄNNISKOR. Vad är poängen med att utveckla maskiner som tävlar med människan om förmågan att tänka och agera autonomt? Jag vill se mycket mer forskning om det mänskliga innan jag kan uppbåda något intresse för "intelligenta" maskiner. Samhället är byggt av människor, för människor. Jag har inget emot att man utvecklar och tar hjälp av maskiner, men börjar man jämföra människor med maskinerna och en idealiserad bild av en perfekt, intelligens, är man ute på tunn is. Innan vi vet vad mänsklig intelligens är kan och bör vi inte försöka skapa intelligenta maskiner.

Det finns ett begär efter kontroll och styrning, ett kollektivt obehag inför tillvarons fundamentala öppenhet. Kanske kan man förstå önskan att kontrollera organisations- och samhällsprocesser så? New Public Management skulle kunna förstås på det sättet, som en önskan att kontrollera det som inte går att kontrollera. Att det handlar om rädsla för det okända och ett begär efter kunskap om framtiden. Om man skapar en maskin som dels tänker bättre än människan, dels har kraften att driva igenom planen, skulle drömmen om kontroll kunna nås. Ett perfekt, kvalitets- och målsäkrat system är möjligt i teorin och det blir realiserbart med hjälp av intelligenta maskiner. Det är drömmen och jag kan som sagt förstå önskan, men det betyder inte att det är bra eller ens lämpligt att försöka realisera den. Fast jag tror inte det handlar om medvetna tankar, jag tror det ligger djupare än så, att drömmen om AI är ett uttryck för ett slags inbyggd kulturell och psykologisk logik. Den vill jag veta mer om innan jag kan känna mig trygg med att det forskas om AI. För ytterst handlar det om ifall människan ska anpassa sig efter maskinerna eller om maskinerna ska anpassa sig efter människan.

Frågan om vem som ska efterlikna vem är enormt viktig? Ska människan bli som en maskin, eller ska maskinerna bli som människan? Blir människan bättre på att vara människa om man lär sig interagera med maskiner? Jag har svårt att se hur det skulle kunna vara så. Jag har inga problem att förstå drivkraften att utveckla artificiell intelligens. För den som bedriver forskningen finns en massa som lockar. Sådan forskning möts till exempel med häpnad och fascination och det finns pengar att hämta. Systemutvecklarna och AI-forskarna bemöts som hjältar. Dagens moderna samhälle är närmast besatt av effektivitet och lönsamhet, så det är kanske inte så konstigt. Frågan är dock om det är bra och om det finns några risker. Det borde man forska mycket mer om för att inte undvika att hamna i samma situation som Manhattanprojektet försatte mänskligheten i. Bomben som skulle utplåna efterfrågan på nya bomber fick i praktiken motsatt verkan och ledde till en enorm riskökning som påverkar hela världen. Jag vidhåller också att en människa bara kan bli en bättre MÄNNISKA genom att lära sig mer om det unikt mänskliga. Och till människans mänskliga egenskaper hör känslor och irrationellt agerande. Människa är något annat än en maskin. Upprätthålls inte den gränsen finns en uppenbar risk att människan börjar nedvärdera det mänskliga och idealisera det artificiella, vilket det redan finns tydliga tecken på.

Digitaliseringen av samhället går snabbt. Risken är att det går för snabbt, att barnet (och här tänker jag på kunskaperna och kompetenserna som gör oss till MÄNNISKOR) kastas ut med badvattnet. Människan kan alltid bli bättre, men insikten om detta och drivkraften bakom måste komma inifrån människorna och kulturen. Allt kan rimligen inte bli bättre i skolan om lärare och lärande ersätts med datorer. Det finns tydliga paralleller här till diagnostisering och medicinering av olika neuropsykiatriska tillstånd. Normen smalnar av när det finns verktyg att likrikta, och införs datorer okritiskt kan den utvecklingen mycket väl sträckas ut till människan och förvandla det mänskliga till något avvikande som måste anpassa sig efter den idealiserade bilden av det perfekta. Den mänskliga faktorn betraktas som sagt redan idag som ett problem. Vad händer med den tanken om maskinerna tillåts hantera ännu mer av det som människor idag ansvarar för? Vet vi med absolut säkerhet att det inte finns några som helt risker? Maskinen är eller håller på att bli norm på allt fler områden. Tänk på hur man ser på och hanterar utslagning och sjukskrivningar för utmattningssymptom. Ändras systemen, eller är det människorna som tvingas anpassa sig? Det medicineras, talas om behovet av mindfulness och letas efter individer som klarar av pressen som det nya normala innebär. Steget därifrån till att helt ersätta människorna med maskiner är inte långt. Vad händer med samhället då?

Barnen som växer upp idag vet inget annat. Och deras barn barn kommer inte ha kontakt med någon levande som minns hur det var innan maskinerna kom att dominera samhället. Både individer och kulturer vänjer sig snabbt vid det nya, som då blir det normala. Mänskligheten närmar sig på detta sätt, steg för steg och över tid, den där singulariteten, det vill säga punkten då maskinerna blir tillräckligt kapabla (jag vägrar benämna dem intelligenta) att skapa och utveckla nya maskiner, vilket riskerar att göra människan överflödig. Man brukar säga att vägen till helvetet är kantad med goda intentioner, och AI har kapacitet att vara just något sådant. Om vi inte stannar upp och reflekterar, tar oss tid att tänka och bestämmer oss för att placera människan i centrum. Det är fortfarande möjligt att göra det, om bara tillräckligt många människor ser värdet i tankegångarna och förstår behovet av kritisk analys (som inte får förväxlas med kritik). Jag är inte motståndare till teknisk utveckling, jag värnar bara det mänskliga och försvarar humaniora.

Självkörande bilar är ett bra exempel på AI. Det kan komma att minska riskerna. Så är det uppenbarligen, men vad händer om alla litar blint på tekniken i trafiken som är ett ENORMT komplext system där människor utgör en central del. Idag vet alla att det sitter en människa bakom ratten, med allt var det innebär. Man söker ögonkontakt vid övergångsställen och alla inblandade i ett möte tvingas förvissa sig om att det råder samförstånd för att undvika att det uppstår olyckor. Hur perfekta maskinerna än är vet vi att det kan uppstå problem. Påminner om kollektivtrafiken där man förlitar sig på många olika intelligenta system och funktioner, med högst mediokert resultat. Det manar till eftertanke och kan inte avfärdas som irrationell oro för ny teknik, för det är en realitet som dagligen drabbar tusentals människor.

Maskiner är och ska vara verktyg, det är en viktig princip. Och bara människor kan vara intelligenta! Rubbar man på dessa utgångspunkter för samhället och livet förändras det i grunden och blir något annat. Inget vet i så fall vad. Jag ser en massa oroande tecken på att människan på område efter område håller på att avskaffa sig själv? Inte nödvändigtvis för att det blir bättre för människorna, utan oftare av ekonomiska skäl. Jakten på pengar och effektivitet är ett slags sjukdom som förföljt mänskligheten sedan urminnes tider. På 1800-talet rusade många människor åstad för att gräva guld och i jakten på storvinsten ruinerar sig många eller går ner sig i spelmissbruk. AI kan vara en variant på samma gamla sjukdom. Risken för det finns i alla fall och den måste tas på allvar.

Om man åtminstone satsade på humanvetenskaplig forskning och ifall den mänskliga faktorn betraktades som något positivt vore jag mindre rädd, men tyvärr monteras humaniora sakta ner istället och den som uttrycker oro för AI avfärdas med ett skratt som okunnig och närmast efterbliven. Bara det är ett tecken på allvaret i situationen. Hur intelligent är det egentligen att utveckla artificiell intelligens? Jag vet inte, jag ställer bara några berättigade frågor.

2 kommentarer:

Camilla sa...

Funderade på om jag skulle kommentera eller inte, det blir ju ett ältande. Men, jag gör väl det då.

Som jag med en dåres envishet hävdar, utvecklingen, eller snarare försöken att utveckla, artificiell intelligens handlar ju ytterst om att förstå människan. Genom det kan vi förstå oss själva. Sen finns det naturligtvis mindre bra tillämpningar av det. Men om vi vet vad människa är, som vi lär oss genom att försöka skapa AI, har vi chans att klara det med. Dumhet är mänskligt, så det spelar ingen roll om vi utvecklar AI eller inte, dumheten får vi alltid dras med. Det enda som är godhet är en god vilja, påstod Kant, och det skulle nog gälla AI eller ej. Han hade ju också den omskakande idén att anpassa erfarenheten till förnuftet, snarare än tvärtom. Vi kanske skulle anpassa oss till maskinerna istället för maskiner till oss?

Fö kan man se hela samhällssystemet som en artificiell intelligens, ett system där vi redan anpassar oss, som styr oss, istället för tvärtom.

Nej, jag tycker inte att man helt okritiskt ska ägna sig åt AI-utveckling, men det gäller å andra sidan det mesta, man måste tänka också. Men, det finns väl inget som säger att mänskligheten måste finnas kvar i alla evighet, heller.

(Kul att kryssa i den lilla rutan nedan "Jag är inte en robot". :-D)

Eddy sa...

Kanske handlar det om från vilket perspektiv man närmar sig frågan? Men jag ser ytterst få tecken på att utvecklingen av intelligenta maskiner och AI handlar om något annat än effektivisering av en verksamhet, en strävan efter lönsamhet. Och där får människan stryka på foten, och när maskinerna tagit över kommer människan inte tillbaka i den organisationen. Om det fanns en plan för hur man använder effektivitets- och lönsamhetsvinsterna hade oron varit mindre. Jag skriver om detta för att värna människan och det mänskliga.

Kul med knappen. Håller med. Jag får också konfirmera min mänskliga identitet. Den finns där, antar jag, för att hindra maskiner att sända spam ...