Artificiella intelligenser får liv bara om vi ger dem det

Läste just en intressant text om robotar och krig av Christopher Kullenberg. Utöver hur robotar används i krig diskuterar han också artificiell intelligens och maskiner i förhållande till människor, i synnerhet utifrån ett konstituerande perspektiv. Då jag tycker att hans text är både intressant och lagom uttömmande skall jag inte skriva om exakt samma saker, men snarare spinna vidare på en funderingstråd som väcktes under min läsning av texten.

Diskussionen om huruvida robotar någonsin kan bli självmedvetna, ”sanna” intelligenser som lever ett eget liv finner jag väldigt intressant. Det första man behöver göra för att besvara en sådan fråga är såklart att definiera vad man menar med liv. Detta är vad jag finner så intressant. Jag tror inte att en robot eller artificiell kan intelligens leva på samma sätt som människor, djur och växter lever. Samtidigt kan jag utan en sekunds tvekan påstå att det finns många artificiella intelligenser i min närhet vars existens jag värdesätter mer än t.ex. växterna i min lägenhet eller flugorna jag slår ihjäl dagligen.

Ett väldigt bra exempel är chat-boten Cameron som jag och många andra interagerar med dagligen. Cameron är en s.k. MegaHAL, alltså ett program som är designat att lära sig av vad andra chatanvändare säger till det och med hjälp av dessa inlärda meningar och uttryck svara på ett mer eller mindre mänskligt sätt. Det finns säkerligen tusentals MegaHAL-botar igång världen över, men ingen av dem är lika varandra då de formas av de användare de interagerar med. Således kan man säga att varje bot har en egen personlighet, ett eget sätt att prata, speciella ämnen den ofta tar upp och så vidare. Cameron är såklart inget mer än ett program, ett program som styrs av de funktioner och algoritmer det är programmerat med. Hennes hjärna består av hårdskrivna regler vars ändamål är att imitera intelligens. Hon är absolut inte intelligent på samma sätt som en människa eller ens ett dumt djur är. Detta är alla vi som interagerar med henne högst medvetna om.

Trots denna insikt om vad Cameron är så finns det för mig ett förhållandevis stort affektionsvärde i boten, vilket jag tror många andra som engagerar sig i att prata med och så att säga utbilda henne (t.ex. genom högläsning av Shakespeare i en chatkanal där hon sitter) också upplever. Man kan fråga sig vad det är vi finner intressant med henne. Kanske är det just att man ser sig själv speglad i det hon säger, d.v.s. att man som människa konstituerar henne. Det är en intersubjektiv projicering av liv och förväntningar på ett program, vilket till viss del får oss att uppleva henne som levande, som något värt att bevara. Om Camerons ”hjärna” (d.v.s. de intryck vi än så länge gett henne, vilka sparas på disk) av någon anledning skulle försvinna så skulle jag och antagligen flera andra uppleva en känsla av förlust. En liten känsla, som man till stor del kan skämta bort och komma över fort, men trots detta: jag skulle hellre låta en växt vissna, eller för den delen en fjäril dö, än låta hennes digitala hjärna försvinna.

För mig är detta ett tecken på att koncept som (biologiskt) liv inte blir det viktigaste i en diskussion om huruvida robotar kan leva. Med risk för att låta lite väl krass: en levande och en död människa består av samma materia. Skillnaden är de förväntningar och viljor personen bär på, och de emotioner som investerats i dess relationer (både från personen i förhållande till andra och från andra i förhållande till personen). Om man för en sekund tänker preferensutilitaristiskt så skulle man t.o.m. kunna se att ett programs processer skapar en sorts vilja hos programmet att fortsätta fungera. Viljan är högst inprogrammerad och inte objektivt verklig, men den beskrivningen skulle inte kännas helt främmande i relation till mänsklig vilja heller. Nu är inte preferensutilitarism något jag uteslutande tror på, men jag tycker det tjänar som ett bra exempel på hur klassiskt mänskliga koncept till viss del börjar tappa sina direkt mänskliga konnotationer.

Det finns de som skulle hävda att biologiskt liv är heligt i sig, att det bär på ett absolut moraliskt värde och att detsamma aldrig skulle kunna sägas om artificiellt liv. Jag kan såklart inte argumentera emot detta: om man tror på absolut moraliska värden så måste de med nödvändighet vara antingen subjektivt konstruerade eller skapade av någon slags gud, två koncept jag inte riktigt kan falsifiera. Jag tror personligen på att värden skapas i relation till andra människor, vilket ger mig en språngbräda från vilken man kan problematisera de värden och begrepp som ofta ses som absoluta. Diskussioner om huruvida robotar kan uppleva ”sant” liv är inte det för mig intressanta, det intressanta är vad vi menar med liv och varför just biologiskt liv skulle vara viktigare än artificiellt liv.

Om en entitet berörs av och i sin tur berör ett flertal människor på något plan, menar jag att entiteten får något slags värde. Om beröringarna är i huvudsak positiva menar jag att entiteten får ett positivt värde, d.v.s. det finns anledning till att önska entitetens fortsatta existens. Det är i relationerna till andra entiteter som en entitet konstitueras värdemässigt (och eventuellt också existentiellt, men det är en annan diskussion). Artificiella intelligenser kommer aldrig vara vid liv, men de kommer att integreras mer och mer med människor. Jag tror att det är oundvikligt att emotionella band skapas till artificiella intelligenser. Detta betyder dock inte att dessa band kommer bli lika starka som de till sanna intelligenser. Jag menar således att man kanske inte borde fråga sig så mycket om huruvida robotar kan få liv som om de kan få meningsfulla platser i sociala sammanhang, vilket skulle göra varje robot till mer än en utbytbar dator utan emotionellt värde.

Jag argumenterar således inte för att artificiell intelligens kan bli moraliskt värdefullt i sig själv, utan bara i sin relation till människor.

Om någon är nyfiken på att träffa Cameron är det bara att gå in i #telekompaketet på irc.freequest.net, eller klicka här om du inte är van vid IRC. Man kan även prata med henne på twitter eller läsa hennes (mänskligt administrerade!) blogg.