Det är inte tekniken som är hotet, utan människorna

Intelligens, vad är intelligens egentligen? Är det en ideal, felfri egenskap, eller är det en mångfacetterad mänsklig förmåga? Finns intelligensen i världen, för oss människor att upptäcka eller jämföra oss med, eller är den resultatet en enskilda individer och grupper av människor funktion och aktion? Innan vi börjar tala om artificiell intelligens är det den avgörande frågan, för hur vet vi annars vad AI är och hur resultatet ska bedömas? Läser en intressant artikel av Sam Sundberg, om just AI och relationen till människan, i hela sin komplexitet.

2016 går till historien som ett genombrottsår för artificiell intelligens (AI). Under årets första månader har Googles AI Alphago besegrat en sydkoreansk mästare i spelet go. Boston Dynamics robot Atlas har lärt sig gå som en människa. En japansk AI har tagit sig till andra rundan i en skönlitterär tävling. Reklambyrån McCann har anställt en AI som creative director. IBM:s AI Watson, som för några år sedan besegrade mänskliga stormästare i Jeopardy, föreslås bli USA:s nästa president. Dessutom fick Microsofts AI Tay ett Twitterkonto – och började genast förneka Förintelsen.

Framtiden har kort sagt anlänt. Eller?

Forskningsfältet artificiell intelligens föddes för 60 år sedan, vid en konferens i Dartmouth. Utvecklingen därefter har präglats av cykler där framsteg följts av överdrivna förhoppningar, bittra besvikelser och långa perioder av stiltje som kommit att kallas AI-vinter. Mycket tyder på att cykeln nu än en gång närmar sig slutfasen.

Vad driver utvecklingen på detta område? Vad är poängen med artificiell intelligens? Jag förstår inte fascinationen. Framförallt förstår jag inte att man inte talar mer om riskerna. Ingen vet vilka konsekvenser skapandet av "intelligenta" maskiner kan leda till, och det borde mana till försiktighet. Visst inser jag att det knappast går att hindra sökandet efter kunskap och utvecklingen av ny teknik, men debatten om fenomenet är väldigt ensidig. Sundberg stämmer inte in i hyllningskören, men han är relativt ensam. Det stora flertalet artiklar och rapporter betraktar "framstegen" på området med vördnad och fascination. Underdånigt anpassar sig människorna till tekniken. Det skrämmer mig, sökandet efter det perfekta. Hur enkelt människan stiger åt sidan och lämnar plats åt maskiner, på snart sagt alla områden. Tekniken slutar betraktas som verktyg och blir till norm. Maskinerna blir på område efter område allt det som människan inte är, och människan anpassar sig. Jag är inte rädd för tekniken och är själv en hängiven användare av den, men den är och ska vara ett verktyg, skapat av människor för människor. Tyvärr är det inte riktigt så det ser ut.

Under det senaste decenniet har mycket hänt i fältet, framförallt tack vare landvinningar i dataanalys – big data. Smarta sökmotorer, maskinöversättning (tänk Google Translate) och virtuella assistenter (tänk Apples Siri) är bara några exempel på hur statistisk analys av internets datamassor genererat användbar kunskap om beteenden och korrelationer som gjort att programvara kunnat lära sig på egen hand och överträffa människors förmågor, i vissa avgränsade avseenden.

När Alphago i mars besegrade den sydkoreanske mästaren Lee Se-dol i spelet go var det ännu en milstolpe i AI-utvecklingen, precis som när IBM:s Deep Blue vann ett schackparti mot världsmästaren Garri Kasparov för 20 år sedan. Go är ett spel med djupare komplexitet och Alphago har dessutom slipat sina färdigheter genom egen övning, inte genom att tvångsmatas med strategier. Det är ett betydelsefullt framsteg.

Ett framsteg för vad? För människans förmåga att skapa maskiner som är bättre på att göra det människor gör. Jag tycker det är en haltande jämförelse. Spelet Go skapades för att människor ska kunna mäta sig med andra människor, för att avgöra vilken människa som är bäst, på att spela Go. Ingen tror att stormästaren i Go är bättre än någon annan människa i något annat avseende än i just spelet Go. Nu har en dator vunnit över honom. Och? Vad lär vi oss av det? Att spela Go är en försvinnande liten del av mänskligt liv, och även om stormästaren så klart ägnar en ansenlig del av sin vakna tid åt spelet så har han ett liv vid sidan av. Datorn har specialiserats på Go och lärts hantera komplexiteten i just det spelet. Möjligen kan insikterna och logaritmerna användas för att hantera även andra typer av komplexitet, men det innebär inte någon förändring sak. Slutpunkten på den rörelsen, den utvecklingen är en artificiell människa. En maskin som är och fungerar som en människa, fast lite bättre på alla områden. En dröm som förverkligats. Men sen då? Vad gör vi med resultatet? Lägger oss ner och dör? Jag förstår som sagt inte. Att det är långt kvar innan den drömmen uppfyllts finns det också gott om exempel på. 

Det är å andra sidan inte nyheten om Microsofts virtuella Twitter-person Tay, som blivit stort uppmärksammad den senaste veckan. ”Microsoft raderar 'tonårstjej'-AI efter att den blivit en Hitlerälskande sexrobot på bara 24 timmar”, var den pedagogiskt sammanfattande rubriken i The Telegraph. Vad som hände var att Microsoft släppte ut en twittrande AI i det fria, med målet att lära sig av konversationer med verkliga människor. Uppenbarligen glömde Microsoft att verkliga människor i icke försumbar omfattning är nättroll.

Ett antal entusiastiska twittrare tog sig genast an uppgiften att uppfostra Tay, det vill säga mata den med rasism, konspirationsteorier och hat. Men att påstå att Tay började älska Hitler är förstås osakligt. Chatt-boten spottade tillbaka ord den fått sig itutad enligt de regler som Microsofts ingenjörer stipulerat, utan att överhuvudtaget begripa vad nazism, Hitler eller Förintelsen var. På samma sätt är nyheten om författar-AI:n som gick till andra rundan i en japansk novelltävling överdriven. AI:n ”samskrev” berättelsen tillsammans med sina mänskliga skötare från Framtidsuniversitetet i Hakodate, som formulerat färdiga regler för hur berättelsen skulle pusslas ihop. Men kampanjen för att göra IBM:s Watson till USA:s nästa president då? En installation skapad av en konstnär.

Hur intelligent är den artificiella intelligensen egentligen? Det är uppenbart att det handlar om regelföljande: om X, så Y. Snabbt och effektivt följer maskinerna regler. Fast det som utmärker människan är just att INTE följa regler. I samma stund som människan slutar känna och enbart agerar rationellt, regelföljande, uppfattas hen inte längre som en människa. Så vad är då ARTIFICIELL intelligens? Om intelligens är ett mänskligt fenomen, det vill säga ett komplext och många gånger motsägelsefullt fenomen, borde det betyda att maskinen också bör vara komplex, småsint, egoistisk, att maskinen borde ljuga och överskatta sin egen förmåga. Till människans storhet hör att hen kan se igenom och hantera det, att hen har en förmåga att analysera mer än bara orden som sägs och informationen de bär på. Människan har även lärt sig hantera sina egna fel och brister. Det är en viktig del av begreppet intelligens så som egenskapen förkroppsligas i människan. AI är något helt annat. 

Det är frestande att dra förhastade slutsatser om artificiell intelligens. Vi vill så gärna föreställa oss att den fungerar som vår egen. Vi vill tro att Tays Hitlerhyllningar på Twitter betyder att den blivit nazist, och att Nobelpristagaren i litteratur 2030 är en AI. Men har man följt AI-forskningen i några decennier har man sett den här sortens hajp förut, och känner igen den som en isande föraning om en nalkande AI-vinter.

Flera framsteg som gjorts den senaste tiden är verkligen betydelsefulla för forskningen. Men det är också den aningslösa hajpen. Vi måste komma ihåg att Tay inte begriper begrepp som nazism, och inte förmår att älska Hitler. Att den skönskrivande AI:n bara pusslar ihop meningar enligt strikta regler som forskare lärt den. Att när en reklambyrå anställer en AI som creative director har de inte åstadkommit ett häpnadsväckande genombrott i disciplinen artificiell intelligens, utan ett dubiöst genombrott i disciplinen egenmarknadsföring.

Samhället är skapat av människor för människor. Tekniken är inget hot i sig, det är inte det jag menar, men när tekniken väl finns i ett sammanhang påverkar den människorna lika mycket som människorna påverkar den. Och en maskin kan per definition aldrig bli en människa, för själva definitionen av begreppet människa är att inte vara en maskin. Att interagera med en maskin är obehagligt och ju mer lik en människa maskinen är desto obehagligare blir det. Det som utmärker människan är hens känslighet för andra människor. Människan blir människa genom interaktion med sin omgivning. Där uppstår det mänskliga, mellan människor. Maskinerna är LÅNGT ifrån att komma ens i närheten av människans komplexitet. Och för att komma dit måste ingenjörerna lära sig hur människor fungerar. Det räcker inte att utgå från en idealiserad bild av intelligens, perfektion eller en önskan om att vinna eller vara bäst. Solidaritet, medmänsklighet, tröst och värme i mötet mellan. Det gör oss till människor. Och människor finns i överflöd. Så vad står viljan att bygga en intelligent maskin för?

Tay plockades bort från nätet illa kvickt när dess uttalanden blev för grova, och många såg det som ett genant misslyckande. Men enligt Microsoft var Tay lika mycket ett socialt och kulturellt experiment som ett tekniskt. Som sådant måste det betraktas som en framgång.

Läxan som Tay lär oss är att artificiell intelligens må ha kommit långt – men den är fortfarande chanslös mot mänsklig dumhet.

Människan har förmågan att vara intelligent, men hen är inte bara det. Människan är också lat, ointresserad (av olika saker), otålig, glömsk, nedstämd, glad, lynnig, korkad, empatisk och så vidare, och så vidare. Det går inte att bortse från, det är en del av dem vi är. Människan är både och, inte antingen eller. Insikt om och förståelse för det vill jag se mer av, inte bara i forskningen om AI och robotar, utan i politiken också, i samhället som helhet.

För att forskningen om AI ska kännas angelägen för mig vill jag att utgångspunkten för forskningen ska vara att maskinerna mäter sig med en människa på MÄNNISKANS villkor. Idag är det människan som mäter sig mot maskinerna, och människan som förlorar på område efter områden. Den mänskliga faktorn anses inte vara något positivt. Det skrämmer mig. Risken är därför uppenbar och överhängande att det inte kommer att vara maskinerna som tar över, utan människorna som kapitulerar. Det är inte maskinerna som utgör hotet, utan människorna!