Ny teknik och gamla drömmar: En konsekvensprövning av relationen mellan människan och en artificiell intelligens

Teologiska institutionen

Tros och livsåskådningsvetenskap C, 15.0 hp Termin: VT 2021

Handledare: Ulf Zackariasson

Betygssättande lärare: Francis Jonnbäck

NY TEKNIK OCH GAMLA DRÖMMAR

En konsekvensprövning av relationen mellan människan och en artificiell intelligens

Nils Eriksson nils.eriksson.9063@student.uu.se

Abstract

The purpose of this thesis is to examine how a theology regarding artificial intelligence best could be formulated in concern of consequences for a christian view of human nature. This purpose is examined by means of a comparative study of consequences derived from four different perspectives on the emergence of AI and the theoretical implications of its relation with mankind. As premise for what is considered a desired, respectively an undesired

consequence, the minimum amount of human suffering is used conditioning the possibility of living a good life. In conducting the analysis, Leslie Stevensons theory of humanity in

relation to God is used to interpret the christian view of human nature and a general wide theory of AI based on Cornel Du Toits definition is applied. My assessment of the researched consequences ends in a proposal for a constructive christian theology which argues for the necessity of placing a high value on a human capacity for vulnerability. This is because it enables invaluable human qualities such as empathy and compassion. Qualities that also should lead the way and be modeled into a concern for all of creation, whether it is considered natural or artificial.

Keywords: Theology, AI, philosophy of religion, philosophy of technology, artificial

intelligence, human nature, consequence analysis, world view.

Innehållsförteckning

§1. Inledning………..…s. 3 1.1 Syfte & Frågeställning………..…s. 4 1.2 Teoretiskt Ramverk………...…s. 5 1.2.1 Begreppet AI………...……….….….…s. 5 1.2.2 Begreppet människa & människosyn……...………..…...s. 6 1.2.3 Begreppet Gud………...………s. 8 1.3 Metod……….……….…..………s. 9 1.4 Forskningsöversikt ………...……s. 12 1.5 Material………....…………..….…s. 15

§2. Analys: Del 1……….……s. 16 2.1 Hirvonen………....……….…....……s. 16 2.2 MacKay………....…...…………s. 18 2.3 Lindkvist………....………..……..….……s. 21 2.4 Scheuer………....………..…...…..s. 24

§3.Analys: Del 2……….……….s. 27 3.1 Ställningstaganden………..….……...s. 27 3.2 Konsekvensprövning………..…...….…s. 29 3.3 Formulerandet av en konstruktiv teologi………...………..s.30

§4. Sammanfattning………...….……s. 32

§5. Käll- och litteraturförteckning………..……..…s. 33

5.1 Analysmaterial………s. 33

5.2 Böcker………..…..……….s. 33

5.3 Artiklar………....………s. 34

5.4 Filmer……….………..…...s. 34

5.5 Hemsidor………...……..……s. 34

§1. Inledning

1931 skapades filmhistoria när Colin Clive i rollen som Henry Frankenstein utbrast sin numera ikoniska replik “It’s alive! It’s alive!”.

1977, i en galax långt långt borta, mötte biopubliken bland andra Anthony Daniels i en gyllene rustning som “C-3PO, human cyborg relations”.

1982 förälskade sig den stenhårda cyberpunk polisen Rick Deckard (Harrison Ford) i androiden Rachael (Sean Young)

och 1984 lovade Arnold Schwarzenegger i rollen som The Terminator att han skulle komma tillbaka.

1999 valde Neo (Keanu Reeves) det röda pillrets insikt om The Matrix och en mänsklighet förslavad av robotar.

Fem år senare

kämpade androiden Sonny (Alan Tudyk) i I-Robot för att befria robotar förslavade av människor.

Dessa exempel är hämtade från den vita duken och erbjuder tankeväckande perspektiv på interaktioner mellan människan och en annan typ av varelse. En varelse som på olika sätt har ett släktskap med mänskligheten men samtidigt är avskild, annorlunda och artificiell. Denna uppsats intresserar sig för vad uppkomsten av sådan varelse med en artificiell intelligens skulle innebära för en religiös livsåskådning och speciellt dess syn på människan. Mer

specifikt undersöks vilka teologiska konsekvenser en eventuell samexistens med en artificiell intelligens kan få och hur relationen mellan människan, artificiell intelligens och Gud kan komma att se ut.

Mary Shellys klassiker Frankenstein publicerades ursprungligen med undertiteln A Modern Prometheus. En tydlig hänvisning till den mytologiska titanens tragiska öde och straff för att ha givit människan kunskap och makt bortom vad som var gudomligt utmätt åt henne.

Uppsatsens ambition att koppla samman samtalet om Gud och artificiell intelligens är inte speciellt nyskapande utan återaktualiserar snarare tankar som tänkts i alla tider.

Susanne Wigorts Yngvesson, professor i Etik vid Enskilda Högskolan i Stockholm resonerar om artificiell intelligens i termer av kunskap och kontroll:

7Scheuer, Blaženka, “Om gudalika människor och människolika maskiner” i Teknoteologi, red Roitto, Rikard och Wigorts Yngvesson, Susanne, Lund: Studentlitteratur AB, 2021, s.98.

6I, Robot [Film]. Regissör: Alex Proyas, USA: 20th Century Fox, 2004.

5The Matrix [Film]. Regissörer: The Wachowskis, USA: Warner Bros, 1999.

4The Terminator [Film]. Regissör: James Cameron, USA: Orion Pictures, 1984.

3Blade Runner [Film]. Regissör: Ridley Scott, USA: Warner Bros, 1982.

2Star Wars: Episode IV - A New Hope [Film] Regissör: George Lucas, USA: Lucasfilm Ltd. & 20th Century Fox, 1977.

1Frankenstein [Film]. Regissör: James Whale, USA: Universal Pictures, 1931.

Trots att de smarta teknologierna är nya är drömmen gammal: människans dröm om makt, kontroll och kunskap för att bli nästan som en gud. Men i berättelsen om AI är det inte Gud som skapar systemet i sin avbild, till sin imago Dei utan människan som skapar sin imago hominis.⁸

Vad som gör en uppsats i ämnet aktuell är framförallt två saker. För det första, med hänsyn till de inledande exemplen ur Science-Fiction genren börjar något som tidigare varit föremål för fiktionen att mer och mer närma sig verkligheten. De autonoma och assisterande

androiderna i I, Robot har fått verklig utmaning från Atlas och Spot, två av de androider som utvecklats av teknikföretaget Boston Dynamics.

Jämfört med den sociala interaktion som Rachael erbjuder i Blade Runner finns fortfarande en hel del att önska. Trots detta räckte kompetensen hos Sophia, utvecklad av Hanson Robotics för att 2017 bli världens första robot med ett medborgarskap, något som förvisso har kritiserats som ett PR-stunt av flera forskare inom teknologin bakom artificiell intelligens.

För det andra så har kopplingen mellan människa och artificiell intelligens, trots den teologiska laddningen kring begrepp som skapelse och liv inte ansamlat särskilt stort akademiskt intresse. Diskussioner om artificiell intelligens har istället främst letts av neurologer, filosofer och etiker.

Ambitionen är att denna uppsats kan fungera som ett litet teologiskt bidrag till den aktuella reflektionen kring artificiell intelligens och förhoppningsvis inspirera till reaktioner och fler akademiska initiativ om tro och teknologi.

1.1 Syfte och frågeställning

Syftet med uppsatsen är att utifrån fyra olika perspektiv på den teoretiska uppkomsten av en artificiell intelligens undersöka och besvara frågeställningen:

-Med hänsyn till konsekvenser för synen på människan, hur bör en konstruktiv kristen teologi om artificiell intelligens formuleras?

11Roitto, Rikard, Wigorts Yngvesson, Susanne, 2021, s.10.

10Lindkvist, Linde, “Jag är här” i Teknoteologi, red Roitto, Rikard och Wigorts Yngvesson, Susanne, Lund, Studentlitteratur AB, 2021, s.20.

9Boston Dynamics, Changing your idea of what robots can do [hemsida]https://www.bostondynamics.com/

[hämtad 2021-05-04].

8Wigorts Yngvesson, Susanne, “Maskinen inom mig” i Teknoteologi, red Roitto, Rikard och Wigorts Yngvesson, Susanne, Lund: Studentlitteratur AB 2021, s.43.

För att bättre kunna besvara den övergripande frågeställningen ställer jag tre analysfrågor till idéinnehållet i varje material:

(1) Vad är en människa enligt respektive perspektiv?

(2) Vad är artificiell intelligens enligt respektive perspektiv?

(3) Utifrån (1) & (2): Vad blir implikationerna för relationen mella människan, artificiell intelligens och Gud?

1.2 Teoretiskt ramverk

För en meningsfull diskussion och analys av relationen mellan artificiell intelligens människa och Gud behöver först de tre begreppen definieras. Eftersom att alla begreppen kan innebära och förutsätta olika saker i olika sammanhang blir en tydligt redovisad och avgränsad betydelse viktig för ett sammanhängande analysvärde. Detta kapitel syftar till att etablera ett för uppsatsen relevant och avgränsat analysspråk med vilket materialet sedan kan undersökas.

Begreppet AI och synen på AI

Vad som menas med begreppet artificiell intelligens, förkortat AI i denna uppsats, är något som först behöver utredas för att inte riskera onödig förvirring. Definitionen av AI bygger på Cornel Du Toits redogörelse för idén om autonoma självmedvetna och tänkande maskiner i tre generella nivåer relaterade till mänsklig intelligens: ANI (artificial narrow intelligence) AGI (artificial general intelligence) och ASI (artificial super intelligence).

Utifrån dagens teknik vore det möjligt att granska redan applicerad och funktionell ANI i form av prylar, innovationer och algoritmer, men detta är inte uppsatsens syfte. Sambanden mellan Gud, människan och till exempel en ANI för symbolbehandling, en studie som berör människans teknikanvändning, är inte av huvudsakligt intresse för frågeställningen.

Vad som menas med AI i denna uppsats är istället en kombinerad förväntan på AGI och ASI, det vill säga teorin om en intelligens som på ett eller annat sätt kan jämföras och liknas med mänsklig intelligens, samt dess fysiska manifestation i någon form av agerande kropp. Det är mot denna förståelse av begreppet AI som teologiska konsekvenser analyseras i uppsatsen.

Förståelsen av en annan entitet som mer eller mindre återspeglar och efterliknar människan.

12Toit, Cornel W. du, “Artificial Intelligence and the Question of Being”, HTS Teologiese Studies / Theological Studies, 75/1, 2019, s.2.

Denna öppna och generella definition av begreppet AI är funktionell för uppsatsens syfte och frågeställning eftersom att den fokuserar analysen på jämförelsen mellan AI och människan.

Eftersom att definitionen av denna jämförelse utifrån materialet är ämnet för uppsatsens analys behövs inte mer precision i detta kapitel.

Begreppen människa och människosyn

I boken Thirteen Theories Of Human Nature redogör Leslie Stevensson för fyra

grundläggande delar som vanligtvis ingår i formulerandet av en människosyn.

Boken går vidare med att indelas och avhandla olika livsåskådningar kapitel för kapitel (“Plato: The Rule of Reason”, “The Bible: Humanity in Relation to God” och “Kant: Reasons and Causes, Morality and Religion” m.fl.)

Utifrån uppsatsens frågeställning om hur en konstruktiv teologi om AI bör formuleras är det Stevenson teori om en kristen människosyn i kapitlet

“The Bible: Humanity in Relation to God” som nyttjas i uppsatsens analys.

Den första delen av Stevensons teori om människosyner innefattar en metafysisk förståelse och bakgrund som kontextualiserar mänsklighetens plats i universum.

För analysen blir denna del speciellt relevant i diskussioner och ställningstaganden om människans eventuella relation med andra livsformer: gudar, djur, förmänniskor, aliens eller artificiella intelligenser.

Denna del av teorin anknyter till ett för uppsatsen värdefullt resonemang av Grant R Gillet i artikeln Brain, Mind and Soul från 1985:

Human beings are complex biological organisms, and they are also thinking beings. […] I do not believe they could think were they not constituted in a certain way, and I do not think that explains their ability to think, it merely provides the conditions for that activity.¹⁶

Gillet definierar ett förhållande mellan en människas metafysiska egenskaper, hennes biologiska uppbyggnad och hennes tänkande förmåga. Den mänskliga hjärnan villkorar och möjliggör det mänskliga sinnets förmåga men för att inkluderas i en människosyn krävs att en människa aktivt använder sinnet i interaktion med andra människor. Gillet formulerar det som

16Gillett, Grant R, “Brain, Mind, and Soul”, Zygon, 20/4, 1985, s.433.

15Stevenson, 2018, s.1.

14För en komplett lista av Stevenson tretton perspektiv på livsåskådningar se innehållsförteckningen på s. vii

13Stevenson, Leslie Forster, David L. Haberman, Peter Matthews Wright, and Charlotte Witt, Thirteen Theories of Human Nature, Seventh Edition, New York, Oxford University Press, 2018, s. 1.

att bruket av ett aktivt tankeliv (“thought life”) är vad som utmärker en mänsklig person.

Utifrån Gillets definierade förhållande mellan kunskap och förmåga är det däremot inte uteslutet att en annan konstitution av metafysiska egenskaper än just den mänskliga skulle kunna villkora och möjliggöra ett aktivt tankeliv. Om något argument i materialet kan härledas ur en uppfattning om till exempel människans evolutionära särart eller position i skapelsen är det ett argument som förutsätter en viss typ av metafysisk människosyn.

Den andra delen är en teori om den mänskliga naturen i form av en uppsättning påståenden och antaganden om det mänskliga tillståndet. Om mänskliga beteeenden, samhällen och villkoren av att leva tillsammans med andra människor.

Stevenson betonar en judisk/ kristen människosyn som grundad på en (om än operfekt) attityd av godhet.

[...] the emphasis [is] on human goodness, a matter of basic attitude—of “heart” or will rather than mind or intellect—which is something open to all, independent of intellectual ability. There is thus a democratic impetus, an ideal of the equality of all human beings before God, implicit in the Bible.²⁰

Innebörden av den grundläggande attityd av godhet som Stevenson diskuterar kan härledas till Jesus ord i Lukasevangeliet och liknelsen om den barmhärtige samariern. Liknelsen uppmanar till omsorg för alla som lider oberoende av deras härkomst och en människosyn som premierar omtänksamhet och godhet som vägen mot att minimera mänskligt lidande. På frågan vilket som är det viktigaste budet svarar Jesus: “Du skall älska Herren, din Gud, av hela ditt hjärta och med hela din själ och med hela din kraft och med hela ditt förstånd, och din nästa som dig själv”.

Känsla och kärlek får en central plats i en kristen människosyn och etik. Grundförutsättningen är att person har förmågan att göra självmedvetna val att följa eller bryta mot regler, förmågan att älska och att hata, och att hon i samband med detta uppmanas att följa kärleken. Stevensson lyfter citat ur Matteusevangeliet, “Love your neighbour as yourself” och Johannesevangeliet “Let us love one another, because the source of love is God. Everyone who loves is a child of God and knows God”.

Om något argument i materialet kan härledas ur en uppfattning om till exempel människans natur, hennes sätt att

22Stevenson, 2018, s.131

21Bibel 2000,Svenska bibelsällskapet 2000, Stockholm, Verbum, 2004, Luk 10:25.

20Stevenson, 2018, s.124.

19Stevenson, 2018, s.123.

18Stevenson, 2018, s.2.

17Gillet, 1985, s.434.

vara eller tänka, förmågan att hantera information eller interagera med andra människor, så vittnar detta om en viss typ av människosyn.

Den tredje delen i Stevensson teori är en diagnos av någon typ av defekt eller problem som förklarar det som skaver och går fel i det mänskliga livet eller samhället.

Ett exempel på en sådan diagnos är människan genom synd bryter mot Guds förbund och att hon därigenom också får lida konsekvenserna av detta.

Ett annat exempel är Platons diagnos att de dygder som borde råda över individen och staten inte efterlevs och att detta ger upphov till

disharmoni i både själen och samhället.

Relevansen av att utifrån en viss människosyn diagnostisera defekter i relation till AI kan ligga i en begränsad förståelse av mänsklighetens situation i förhållande till teknikutvecklingen. Om ett argument i materialet kan härledas till värderingar om AI:s roll i att försämra människors möjligheter att lösa vissa defekter eller problem är det tecken på en viss typ av människosyn.

Detsamma gäller även omvänt, om argumentet istället lyder att AI kan bistå och förbättra människors möjligheter att leva bättre liv. Detta leder vidare till Stevensson fjärde och sista del av vad som utgör en viss människosyn: Olika botemedel och lösningar på det som är fel och hur ett tilltänkt idealtillstånd för det mänskliga livet kan se ut och uppnås.

Begreppet Gud

Begreppet Gud förstås inom ramen för analysen utifrån Stevensons abrahamitiska

monoteistiska redogörelse för en allsmäktig och transcendent skapare som är en person utan form eller kropp med vilken människor kan ha en nära relation med.

En sådan bred

definition är nödvändig och funktionell för uppsatsens syfte eftersom att den öppnar upp diskussionen om ett personskap och en relationell agens som inte enbart avgränsas till människor. Definitionen motsvarar också den västerländska kontext som denna uppsats och de fem materialtexterna verkar inom. Uppsatsens stipulerade förståelse av förhållandet mellan en skapare och en skapelse tar fasta på en personlig vilja som dess ursprung: “Vi skall göra människor som är vår avbild, lika oss” är den korta mening i Första Moseboken som utan någon uttryckt avsikt ändå vittnar om Guds vilja att skapa mänskligheten.

Människans

28Bibel 2000, 1 Mos:26.

27Stevenson, 2018, s.120.

26Stevenson, 2018, s.2.

25Stevenson, 2018, s.91.

24Stevenson, 2018, s.125.

23Stevenson, 2018, s.2.

förutsättningar skapa AI liknas och jämförs på olika sätt i materialet med Guds förutsättningar att skapa människan.

1.3 Metod

Uppsatsens syfte, att med hänsyn till konsekvenser för synen på människan undersöka hur en kristen teologi om AI bör formuleras, är beroende av en metod som på ett tydligt sätt kan redovisa och pröva dessa konsekvenser. Den innehållsliga idéanalys som Carl Henric Grenholm formulerar i Att förstå religion lämpar sig bra som metod för detta ändamål eftersom att den uttryckligen intresserar sig för att “för det första att beskriva och klargöra innehållet i en text” och “för det andra att klargöra textens logiska struktur”.

Ett tredje syfte som idéanalysen lämpar sig för är att utifrån en texts idéinnehåll också analysera och ta ställning till “om de utsagor som görs i texten är godtagbara och att pröva om budskapets innehåll är rimligt”.

Hela processen att på detta sätt undersöka och pröva nedskrivna idéer eller argument utgör grunden för mycket av det som religionsfilosofin ägnar sig åt. Nämligen att först rekonstruera och tydliggöra vilka idéer och argument som framförs och att sedan kritiskt granska dessa.

En sådan granskning tjänar på att utgå ifrån en uppsättning av

prövbara kriterier, till exempel: Hållbarhet, giltighet, konsistens, tillämpbarhet, funktionalitet m.fl.

Tillvägagångssättet leder bruket av metoden, det vill säga sättet att läsa och pröva materialet, bort ifrån ett subjektivt tyckande till en högre akademisk relevans. Analysen vinner ökad intersubjektiv prövbarhet genom att redovisa valet av kriterier som prövas och hur dessa appliceras.

Eftersom att jag i uppsatsens frågeställning explicit intresserar mig för förväntningar på uppkomsten av en AI och dess teologiska konsekvenser kommer analysen bestå av en sammanlänkad förutsättningsprövning och konsekvensprövning av de förklaringsmodeller och argument om AI som framkommer i materialet. Utöver en intern koherens och

sammanhängande argumentationsstruktur fokuserar inte analysen på att pröva argumentens hållbarhet eller giltighet mot aktuell forskning inom till exempel neurovetenskap eller informationsteknologi. Det vill säga om bilden av AI som diskuteras till exempel stämmer

32Johannesson, 2018, s.67.

31Johannesson, Karin, ”Konsekvensprövning” i Mikael Stenmark m.fl., red., Filosofiska metoder i praktiken, Uppsala: Acta Universitatis Upsaliensis, 2018, s.73.

30Grenholm, 2006, s.214.

29Grenholm, Carl-Henric, Att förstå religion: metoder för teologisk forskning, Lund, Studentlitteratur, 2006 s.213.

överens med en naturvetenskaplig bild av verkligheten. Vad som istället driver analysen är prövningen av vilka konsekvenser en AI medför till människans syn på sig själv.

Karin Johannesson skriver om konsekvensprövningen som en metod för att undersöka “om den argumentation som vi analyserar leder till några negativa eller några positiva

konsekvenser som vi behöver uppmärksamma i vår bedömning av argumentationen”.

En prövning av konsekvens aldrig vara värdeneutral eftersom att uppskattandet av konsekvensen bygger på subjektiva beskrivningar och förståelser av verkligheten. Värderingen av en

framtida konsekvens som antingen positiv eller negativ är direkt beroende av ett prövande subjekt samt av vilka förutsättningar detta subjekt bär med sig sen innan. Johannesson exemplifierar detta att begrunda konsekvenserna av att äta en flugsvamp utifrån de väldigt olika förutsättningarna av att vara antingen en människa eller en snigel som tål att äta vissa giftiga svampar.

En förutsättningsprövning blir nödvändig för att kunna förstå och kritisera värderande argument eller slutsatser som härleder vissa konsekvenser.

För att inte riskera att fastna i en onödig relativism kring en konsekvens värde bör vissa förutsättningar angående analysarbetet uttryckas. För det första är jag som uppsatsförfattare en människa. Jag menar också att jag på goda grunder kan förutsätta att alla textförfattare som bistår med uppsatsens analysmaterial också är människor. Tillsammans delar vi intresset att med hjälp av texter kommunicera till andra människor och i denna bredaste bemärkelse arbetar vi med samma målgrupp, nämligen individer av samma sort som oss själva. Utöver denna väldigt breda målgrupp riktar sig uppsatsen mer specifikt till människor med ett intresse för teknologi och kristen teologi, samt en människosyn som bejakar relationen med andra livsformer än människan. För att återgå till Johannessons exempel om flugsvampar är uppsatsen förankrad i den mänskliga situationen och kommer med konstruktiva förslag för människor, inte för sniglar eller för en AI.

Uppsatsens syfte linjerar sig med Johannessons definition av en axiologisk

konsekvensprövning, det vill säga med hänsyn till “om konsekvenserna underlättar eller försvårar våra möjligheter att leva goda människoliv”.

Johannesson medger att det är erkänt svårt att enas om en positiv definition av vad som utgör “det goda människolivet” men att vi

36Johannesson, 2018, s.78.

35Johannesson, 2018, s.69.

34Johannesson, 2018, s.69.

33Johannesson, 2018, s.67.

ofta är “påfallande överens om vad som inte är ett gott människoliv, nämligen ett liv som utmärks av till exempel förnedring, marginalisering, orättvisor, våld och misär.”

Med andra ord ett liv som i olika bemärkelser plågas av någon form av lidande. Den för uppsatsen funktionella och stipulerade förståelsen av ett gott liv blir negativt formulerad som ett liv med minsta möjliga lidande. Analysens konsekvensprövning syftar således till att undvika

negativa konsekvenser och motverka risker för mänskligt lidande.

Inom ramen för uppsatsen ämne menar jag att det tydligaste exemplet av en sådan negativ konsekvens som leder till mänskligt lidande en framtida konflikt med AI som en deltagande och våldsutövande part. Våldet skulle med all sannolikhet generera lidande och försvåra möjligheten att leva goda människoliv. Ett annat exempel är hur implementeringen av AI som arbetskraft kan underlätta möjligheten att leva gott men frågan blir så isåfall för vem och på vilken bekostnad? Om förlorad sysselsättning inte balanseras och kompenseras riskerar konsekvenserna snarare att bli negativa. En artificiell rekonstruktion av den mänskliga kroppen skulle möjligtvis kunna förlänga livet, men om ramarna för själva livet kan ändras vilken människosyn blir kvar för människor som inte tillåts, kan eller vill kompromissa med en sådan teknik? Om AI antas som ett korrekt facit på vad en människa är men svaren inte är tillfredsställande vilka konsekvenser får det för människors livsåskådning? Dessa

ovanstående exempel syftar till att redovisa och rikta in metodens fokus på människan. Det vore förvisso intressant att ta del av en undersökning fokuserad på konsekvenser utifrån en AI:s förutsättningar, men detta inte något som jag prioriterar i denna uppsats.

I genomförandet av en idéanalys krävs en reflexiv medvetenhet och granskning av rollen som mottagare och tolkare av materialet som undersöks. Frågeställningens uttryckta intresse för kristna teologiska konsekvenser för människosyn medför ett analyserande fokus där passager kring begrepp som Gud, skapelse eller människosyn blir speciellt intressanta. Urvalet av materialet har i ett första skede gjorts för att garantera förekomsten av relevanta ämnen att analysera, mer om detta i materialkapitlet §1.5. Att materialet innehåller för uppsatsen relevanta ämnen innebär nödvändigtvis inte att materialet explicit redovisar teologiska argument i klartext. Dessa blir istället ämne för uttolkning och rekonstruktion genom en idéanalys som metod och konstruktionen av ett analysspråk utifrån uppsatsens teoretiska ramverk. Vid eventuella mångtydigheter i tolkningen av materialet ämnar jag använda mig av

37Johannesson, 2018, s.79.

Grenholms generositetsprincip för att göra texten maximalt godtagbar, saklig och

sammanhängande.

En rekonstruktion av idéinnehållet strävar efter att materialet som helhet ska framstå som så rimligt som möjligt.

En väl utförd idéanalys gör både materialet och läraren rättvisa genom att erbjuda precisa och förklarande tolkningar. Utifrån kravet om intersubjektiv prövbarhet behöver de eventuella tolkade uppfattningar som framkommer i analysen finna stöd i det som materialet i övrigt uttrycker för att anses vara rimliga.

Min ambitionen som uttolkare och uppsatsförfattare är att vara tydlig och transparent i

användandet av analysmetoden för att också kunna bättre aspirera mot att presentera ett rimligare forskningsbidrag.

1.4 Forskningsöversikt

Frågorna om AI är mycket äldre än den moderna AI-vetenskapen och

informationsteknologin. Som bakgrund till uppsatsens syfte är de långlivade filosofiska och etiska diskussioner om AI mer relevanta än teknologi eller exponentiell teknikutveckling. Ett sådant exempel är Isaac Asimovs I, Robot från 1950, vars formulering av etiska robotlagar bland annat har legat till grund för EU:s officiella AI-strategi som antogs 2019.

Oberoende av tidsepok eller den varierade utsikten att faktiskt lyckas realisera idén om AI belyser de etiska frågorna intressanta aspekter och olösta gåtor om den mänskliga situationen. Frågor som till exempel: Vad är liv? Har människan en själ? Vad innebär självmedvetenhet? Utan att göra några anspråk på att lyckas täcka in ett så vitt spännande forskningsfält bidrar detta kapitel med en utvald uppteckning av några av de för uppsatsen mest relevanta rösterna inom ämnet.

Frågan huruvida robotar är enbart maskiner eller artificiella liv diskuteras av filosofen Hilary Putnam i Mind, Language and Reality från 1975.

Hans verk om medvetande, materialism och språk har inneburit ett stort bidrag till framväxten av forskning på AI med filosofiska och informationsteknologiska perspektiv. Ursprungligen förordade Putnam bruket av en analogi mellan själen och mjukvaran i en dator, och utifrån denna teori kunde sedan en diskussion om

42Putnam, Hilary, Mind, Language and Reality, London, Cambridge University Press, 1975, s.394.

41Asimov, Isaac, I, Robot, London, HarperVoyager, 2013, prefix.

-Civil Law Ruels on Robotics, 2017, Europaparlamentet [hemsida]

https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html#title1[hämtad 2021-05-13].

-Artificial Intelligence: Commision takes forward its work on ethical guidelines, 2019, Europaparlamentet [hemsida]https://ec.europa.eu/commission/presscorner/detail/en/IP_19_1893[hämtad 2021-05-13].

40Grenholm, 2006, s.243.

39Grenholm, 2006, s.241.

38Grenholm, 2006, s.240.

en AI:s eventuella rättigheter och skyldigheter föras.

Oavsett om Putnams analogi godtas eller inte (i senare studier reserverade Putnam sig mot sin egna tidigare ståndpunkt) är diskussionen om en AI:s rättigheter och skyldigheter högst relevant för en eventuell samexistens med människan.

I Apor, cyborger och kvinnor: att återuppfinna naturen redogör Donna Haraway för sin forskning om idén av naturen som ett system för produktion och reproduktion. Haraway står för en epistemologi där det sanna och naturliga inte upptäcks utan konstrueras. Kritiken av olika “konstruktioner av naturen” i vetenskaplig historieskrivning bedrivs utifrån ett feministiskt syfte att värdera och kritisera rådande normer inom naturvetenskapen och filosofin.

Feministiska strider om olika sätt att producera kunskap samt en, enligt Haraway, patriarkal och överdriven tolkning av primaters betenden och sociala liv, leder Haraway till att teoretisera om en mänsklig varelse delvis frikopplad från ett sådant biologiskt bagage: En cyborg.

Hennes “Manifesto for Cyborgs - Science, Technology, and Socialist-Feminism in the 1980s” som publicerades första gången redan 1985 rymmer många viktiga perspektiv på människans relation till smart teknik. Varför AI? Vad kan hela projektet med artificiell intelligens kan betyda, och för vem?

Hur kan en uppskattning av människoapors, cyborgens och kvinnors konstruerade, artefaktiska, historiskt kontingenta natur leda från en omöjlig men alltför närvarande verklighet till ett möjligt men alltför frånvarande annorstädes?⁴⁶

En feministisk diskussion om kropp och kön i relation till teknologi bidrar till uppsatsen med en nödvändig reflexivitet kring människosyn. Analysen av teologiska konsekvenser är beroende av att vad som ingår i definitionen av det mänskliga. Som Haraway uttrycker det finns det möjligtvis en potential till ett mer jämlikt liv för alla varelser om det mänskliga (med speciell betoning på män-) utmanas av en cyborg (om så bara på ett teoretiskt och ironiskt plan).

Haraway tillskriver identitet och värderingar åt sin cyborg som en gränsöverskridande symbol och politisk myt men möjligheten till ett mer jämställt liv är högst verklig.

47Haraway, 2008, s.186.

46Haraway, 2008, s.12.

45Haraway, 2008, s.12.

44Haraway, Donna Jeanne, Apor, Cyborger Och Kvinnor - att återuppfinna naturen, Stockholm, Östlings Bokförlag Symposion, 2008, s.90.

43Putnam, Hilary, 1975, s.397.

Robert Geraci, professor i religionsvetenskap vid Manhattan College benämner AI-teknologin som “the single most important twenty-first-century technology of enchantment”.

I sin bok Apocalyptic AI : Visions of Heaven in Robotics, Artificial

Intelligence, and Virtual Reality från 2010 utvecklar han teorin om Apokalyptisk AI som en eskatologisk vision med en växande dragningskraft i dagens samhället. I motsats till Max Weber’s avförtrollning av världen menar Geraci att förtrollningen endast har bytt domän, från den alltmer utmätta fysiska verkligheten in i en virtuell verklighet. Geracis forskning bygger bland annat på empiriska studier inuti den simulerade världen i onlinespelet Second Life och visar på en utopisk idé om en slags “cyberspace salvation” hos många av spelets användare.

Denna bild analyseras och kontrasteras med populärkulturella referenser och deras vanligtvis dystopiska porträttering av en AI apokalyps.

Oavsett värdering är de apokalyptiska

förtecken som omgärdar den fiktiva AI:n i skönlitteraturen viktiga att notera i analysen av uppsatsens material. Relevansen av Geracis forskning ligger i ett nära släktskap av

analysfrågor, även om metoden och materialvalet skiljer sig åt. Geracis informanter i Second Life reflekterade över sina personliga förväntningar om AI men dessa förväntningar kan i hög grad beskrivas som teologiska konsekvenser.

För en svensk överblick av relationen mellan teologi och AI svarar den nyutkomna antologin Teknoteologi redigerad av Rikard Roitto och Susanne Wigorts Yngvesson. Kring det

konstruerade begreppet Teknoteologi samlas sju författare; teologer, etiker och medievetare för att inspirera till “teologisk och filosofisk reflektion över människans villkor i relation till teknologi och teknik”.

Boken består av sju från varandra fristående kapitel som berör olika aspekter av ANI, AGI och ASI, övervakningsteknik och tekniska hjälpmedel för

relationsbyggande och rituella praktiker m.m. De många skärningspunkterna mellan AI och religion belyser behovet av fler utbyten av metoder och samarbeten mellan discipliner för att utforska ett ökande antal utrymmen där AI och religion kan mötas ett högteknologiskt samhälle. För uppsatsen bidrar antologin med aktuella och fördjupande ingångar i svensk AI-forskning, men också med två stycken till materialtexter: “Jag är här” av Linde Lindkvist och “Om gudalika människor och människolika maskiner” av Blaženka Scheuer.

51Roitto, Rikard, Wigorts Yngvesson, Susanne, Teknoteologi, Lund: Studentlitteratur AB, 2021, s.9.

50Geraci, 2010, s.15.

49Second Life [hemsida]https://secondlife.com/[hämtad 2021-03-26].

48Geraci, Robert M. Apocalyptic AI : Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality, Oxford University Press, 2010. s.9.

1.5 Material

Det primärmaterial som ligger till grund för uppsatsens analys utgörs av fyra texter, en tidskriftsartikel och tre är bokkapitel hämtade ur två skilda antologier. Artikeln “Machines, Brains and Person” är författad av Donald McKay och publicerad i tidskriften Zygon år 1985.

Bokkapitelen är “Westworld: From Android to persons” av Onni Hirvonen i antologin Westworld and Philosophy: If You Go Looking for the Truth, Get the Whole Thing från 2018 samt “Jag är här” av Linde Lindkvist och “Om gudalika människor och människolika maskiner” av Blaženka Scheuer i antologin Teknoteologi från 2021. I relation till den totala omfattningen forskningsbidrag som på ett eller annat sätt bygger upp ämnet artificiell

intelligens är urvalet för denna uppsats väldigt avgränsat. Den första avgränsningen i valet av material rör skillnaden mellan teoretiserad teknologi och realiserad teknik, där jag i denna uppsats är intresserad av att undersöka det förstnämnda. Materialet har valts ut med ett filosofiskt fokus på teoretisk AI-teknologi, på Idéer, normer, potential och förväntningar kring AI:ns uppkomst i en nära stundande framtid.

Eftersom att teorier om vad AI kan komma att betyda teologiskt beror på olika förväntningar på AI-teknologins eventuella kapacitet har urvalet av analysmaterial motiveras utifrån tydliga redogörelser av dessa förväntningar i form av illustrerade exempelberättelser. Dessa

illustrationer av fiktiva scenarier om AI fungerar som narrativa ramverk runt idéinnehållet i materialet mot vilken olika implikationer kan kontextualiseras. I materialet diskuterar McKay scenskådespeleri och teater, Hirvonen; HBO-serien “Westworld”, Lindkvist; kortfilmen I'm Here och Scheuer Athrasiaepost samt Första Moseboken. Motiveringen att välja ut material på detta sätt grundar sig i en strävan efter transparens och tydlighet i begreppsförståelsen. I mötet mellan två breda och teoretiska ämnen som AI och kristen teologi bedömer jag att varje ansats till precision är önskvärd för analysens skärpa. Med ett illustrerande narrativ för ögonen kan de teologiska konsekvenserna av idéinnehållets implikationer bättre analyseras än om definitionen av AI varit löst spekulativ. Med tanke på detta omfattar materialvalet också en bredd av olika perspektiv på AI för att motverka en alltför likartad bild. Analysens styrka ligger i att med hjälp av metodologiska och teoretiska grepp kunna överblicka och

individuellt skärskåda materialets idéer om människosyn och AI.

52Om att skilja mellan teknik och teknologi: Roitto, Rikard och Wigorts Yngvesson, Susanne, Teknoteologi, Lund: Studentlitteratur AB, 2021, s.9.

§2. Analys: Del 1

Analyskapitlet är disponerat i två delar. Den första delen utgörs av en presentation av idéinnehållet i de fyra materialtexterna och hur de ställer sig till uppsatsens tre analysfrågor.

I den andra delen redovisar jag materialtexternas argumenterande ställningstagande till AI och utför en konsekvesprövning av dessa ställningstaganden. Slutligen ger jag ett förslag på hur en konstruktiv kristen teologisk om AI bör formuleras med hänsyn de prövade

konsekvenserna för synen på människan.

Hirvonen

I “Westworld - From Androids to Persons” utreder Onni Hirvonen vad som definierar en person och begreppet personskap. Den aktuella kontexten för resonemanget är en fiktiv nöjespark där människolika androider nekas rätten att räknas som personer och Hirvonen drar paralleller till medborgarrättsrörelser för kvinnlig rösträtt och till abolitionismen mot rasism och förslavandet av andra som egendom. Androiderna i Westworld, som till utseendet inte längre kan skiljas från människorna tillåts inte utveckla och bruka en fri vilja eftersom att det går emot deras skapares tilltänkta syfte med dem, nämligen att underhålla människorna.

En viktig premiss för seriens handling är att tittaren inte alltid kan vara säker på vem som är vad, mänsklig eller AI. AI:ns omdebatterade tillstånd behandlas som en fråga om kontroll och makt och Hirvonen kritiserar den antropocentriska uppdelningen av människor som personer och andra varelser som icke-personer.

Med stöd hos John Locke argumenterar Hirvonen att begreppet person främst är en juridisk och moralisk agent som bedöms och bestäms genom sociala interaktioner och politiska strider genom historien. Vem som har räknats som en person har sett olika ut beroende på tid och kontext och Hirvonen landar i slutsatsen att en AI bör tillåtas alla chanser att få uppfylla samma sociala kriterier för personskap som en

människa varvid den ska tillskrivas samma rättigheter och skyldigheter.

Vad är en människa?

Det centrala för Hirvonen är att betrakta människor som sociala personer med en

självmedvetenhet som manifesteras i ett speciella beteenden. Tolkat utifrån Stevensons teori om människosyner är förståelsen av de metafysiska egenskaperna sekundär efter det som kan bedömas i handling. Det självmedvetna beteende som Hirvonen förordar tar i stort fasta på

54 Hirvonen, 2018, s.66.

53Hirvonen, Onni, “Westworld: From Androids to Persons” i Westworld and Philosophy: If You Go Looking for the Truth, Get the Whole Thing red Irwin, Willia, South, James B, Engels, Kimberly S, Newark, John Wiley &

Sons, 2018, s.63.

uppvisandet av det som Stevenson benämner som rationalitet, moral och känsla och en viktig förutsättning för Hirvonens resonemang är att dessa egenskaper inte kan bevisas vara unikt mänskliga. Även djur som kan uppvisa förmågor som minne, improvisation och social omsorg skulle kunna räknas som självmedvetna om dessa prestationer godkändes som tillräckliga.

Problemet är att ett sådant godkännandet enligt Hirvonen alltid står i kontrast till begränsandet av personskapet och en hävd och maktutövning över icke-personer.

Definitionen att inte räkna djur som personer är alltjämt praktiskt för nyttan i att kunna kontrollera djurets roll och funktion, det vill säga, beslutsprocessen är vinklad till människans fördel. Hirvonen vill själv inte gå så långt som att utvidga sin sociala människosyn till att gälla djur, men diagnosen av samma sorts exkluderande beteende människor emellan kan svara för mycket av det destruktiva och orättvisa genom mänsklighetens historia.

Vad är AI?

En mänsklig karaktär i serien Westworld frågar en AI: “Are you real? AI:n svarar: Well, if you can’t tell, does it matter?”

Ifrågasättandet av en androids äkthet [engelskans real]

grundar sig på en misstanke om att den under ytan i själva verket inte styr över sina egna val eller handlingar, att den inte har några egna självvalda långtgående mål eller projekt, utan enbart följer ett intrikat mönster och en angiven roll. Hirvonen erkänner frågeställningen som högst relevant men noterar också att samma fråga inte ställs till en annan människa. Bortsett från den svårdefinierade upplevelsen av en egen självmedvetenhet, en fria vilja och inre röst, är det möjligt att a priori bevisa att andra personer har samma upplevelse?

Om en AI i linje med Du Toits definition kan bedömas efterlikna och återspegla människan kommer en sådan AI också att ärva samma ontologiska problem, både i relation till människan och till andra androider. Hirvonens bemötande av problemet blir att lita till de instrument människan har, närmare bestämt sina sinneserfarenheter, och att lita på att det som personer gör uttrycker vad de vill och utgör kriteriet för deras personskap. Ställningstagandet förutsätter en tilltro till att en AI har egna grundläggande mål och att de också kan lida av att dessa mål motverkas. Det medför risken att bedras av en AI som i mötet med människan skulle kunna ljuga och utge sig för att vara något den inte är. Hirvonen ser dock att samma risk alltid finns i mötet med andra människor och att alla sociala relationer egentligen också är en fråga om tillit. En central

59Hirvonen, 2018, s.63.

58Hirvonen, 2018, s.64.

57Hirvonen, 2018, s.66.

56Hirvonen, 2018, s.62.

55Hirvonen, 2018, s.63.

utmaning för människan blir att lära lyckas lära en AI betydelsen av denna tillit och detta är något som enbart kan göras om AI:n också blir behandlad respekt.

Vad blir implikationerna för relationen mellan människan, AI och Gud?

Enligt Hirvonen förtjänar en AI från grunden behandlas som en person och inte enbart som ett medel för att nå vissa vetenskapliga mål. Ett av Hirvonens argument för detta är

konsekvenserna av människans behandling sannolikt påverkar AI:n egna livsåskådning och människosyn, det vill säga synen på sin skapare och en annan typ av person än sig själv. I teologiska termer förtjänar en AI att omfattas av Jesus uppmaning att älska din nästa som dig själv och Hirvonen förutsätter att en AI kommer att behöva stöd och vägledning för att lära sig förstå världen likt ett som barn som växer upp.

Liknelsen mellan barnet och AI:n sätter föräldraskapet i fokus och den gudsbilden av Fadern blir viktigare än rollen som skapare.

Reflektionen om huruvida människan är redo att ta på oss ett sådant ansvar över en annan art måste föregå varje försök att skapa den. Att förneka en sådan skapelse rättigheter är att betrakta som ett maktmissbruk och något som oundvikligen riskerar att skapa en onödigt farlig friktion mellan människan och ett nytt släkte. Om det finns en teknologisk möjlighet att avstanna och begränsa en AI:s intellektuella utveckling skulle det å ena sidan potentiellt kunna öka människans möjligheter att utnyttja AI för att leva goda liv, likt domesticeringen av djur för mänsklig nytta. Å andra sidan skulle ett sådant etiskt övervägande på längre sikt kunna få ödesdigra konsekvenser om människor inte helt förstår eller kan enas om AI:s förmåga att utvecklas och minnas de oförrätter som orsakats den i dess så kallade ungdom.

MacKay

I “Machines, Brain and Persons” driver Donald MacKay tesen att det inte är hjärnor utan personer som tänker .

Det centrala för MacKay är att människan besitter vissa unika egenskaper som hon kan uppleva men inte förstå. I likhet med Gillet menar MacKay att denna mänskliga upplevelse förkroppsligas i det mekaniska system som utgör

människokroppen men att upplevelsen inte kan likställas med själva systemet. Upplevelsen att vara människa är snarare ett ontologiskt första-persons perspektiv och förmågan att ha en inre dialog med sig själv, en slags jag-berättelse som får sitt uttryck i ett personligt

beteende.

Ett överskådligt problem för AI-projektet är att urskilja vilka metafysiska

63MacKay, 1985, s.402.

62MacKay, Donald MacCrimmon “Machines, brains, and persons”, Zygon 20/4, 1985, s.407.

61Hirvonen, 2018, s.69.

60Hirvonen, 2018, s.67.

förutsättningar i människokroppen som ger upphov till en känslan av självmedvetenhet.

MacKay menar att även om en fullgod artificiell kopia av systemet människokroppen kunde konstrueras är det ett mysterium vilka instruktioner detta system skulle tilldelas för att på riktigt kunna upplevas som en egen person.

Processen kan liknas med skådespelare som övar på att agera utefter ett manus och spela en roll.

Även med ett stort svängrum för improvisation skulle en skådespelare som på ett övertygande sätt agerar till exempel Albert Einstein inte kunna kvalificeras som den riktiga personen Albert Einstein utanför den specifika kontexten som skådespelet utgör. Detsamma gäller om skådespelaren är en AI. Även om en maskin kan övertygas att den i själva verket är rollen den spelar, skulle denna upplevelse ändå bara vara en imitation av en ofullständig bild.

Även om en AI kunde tillgodose sig all tillgänglig information om och av personen Albert Einstein kan allt detta tillsammans ändå inte täcka in hela upplevelsen av att faktiskt vara Albert Einstein. Imitationen skulle vidare bli allt mer lidande om den utsätts för den enorma mängden oförutsägbara variabler som världen och tiden utanför scenen innebär. Oberoende av hur mycket bakgrundsinformation som matas in är det för människan omöjligt att veta vilken information som är relevant för att modellera en inre dialog och i utsträckningen ett personligt beteende. MacKays poäng är att varje försök att skapa en komplett definition av vad som utgör ett personligt beteende är dömt att misslyckas. En sådan kunskap är enligt MacKay reserverad åt Gud som besitter den för människan omöjliga förmågan att vara oberoende av tid och rum och delta i dialog med alla individer samtidigt.

Vad är en människa?

MacKay betraktar människor som “members of the community of personal knowers, and potentially “meetables” -terminals of dialogue.”

Vad som menas är att människor har en värdefull jag-du relation att erbjuda varandra genom möten och dialoger. Jaget har ett eget unikt narrativ och en egen berättelse som kommer till uttryck i dialog med andra meetables och med sig själv. Den yttre dialogen resonerar i den inre dialogen som är speciellt viktig eftersom att den möjliggör perspektiv på den egna situationen, möjligheten att förhålla sig till den och att påverka dess förlopp. På så sätt skiljer sig människan från andra levande varelser i sin förmåga att resonera med eller mot sig själv, även till en punkt förbi basala instinkter och

65MacKay, 1985, s.401.

64MacKay, 1985, s.408.

behov. Människor är sina egna, varandras och Guds dialogpartners och genom den intuitiva upplevelsen av att ha en inre dialog med Gud. Med Augustinus ord “Thou hast made us for Thyself” frågar sig MacKay varför Gud skulle ha att skapat människan om hon inte var fri att svara och välja sina ord ?

Tolkat utifrån teorin om en kristen människosyn är människans förmåga att svara och kommunicera med Gud ett unikt arv av att vara skapad ur Guds egen avbild och ett tecken på att hon har en speciell del Guds gemenskap. Om det däremot skulle visa sig att människans interna dialog egentligen också är ett rollspel orkestrerat av Gud vore denna insikt ändå bortom människans förmåga att märka och förstå. MacKay är isåfall bekväm med att den kunskapen förblir reserverad åt Gud och att betrakta honom som mänsklighetens manusförfattare.

Vad är AI?

MacKay betraktar AI å ena sidan som ett system som hypotetiskt skulle kunna förkroppsliga den mentala aktiviteten av en medveten agent på samma sätt som människokroppen.

Ett sådant erkännande svarar å andra sidan inte på vad som utgör den totala mentala aktiviteten av en medveten agent. MacKay bryter ner problemet och resonerar att en AI som ska uppvisa något likvärdigt mänsklig intelligens behöver kunna experimentera utefter en uppsättning regler.

Förekomsten av ett visst signalämne som indikerar till exempel stress prövas i regel mot faktorer i omgivningen. Ett experimentet utförs och resultatet tolkas olika baserat på situation, det vill säga stressen hanteras olika om det handlar om att vara sen till bussen eller sen med hyran. Poängen är enligt MacKay att “it is the result of an appeal to the real world to which no finite set of rules is completely equivalent”.

Människokroppens komplexa sätt generalisera information och förkroppsliga intelligens är ett mysterium som omöjliggör en AI som ska kunna vara intelligent i mänsklig bemärkelse. Om skapandeprocessen istället

kompromissar på mängden regler eller att reglera AI:ns omgivning kommer resultatet att bli en komplex rollspelande robot som kan framstå som personlig men enbart innanför bestämda ramar.

Även om människan anstränger sig maximalt för att ge en AI den bästa möjliga chansen att likna människan, kommer likheten alltid på fall, eftersom att människan inte helt kan förstå sig själv.

70MacKay, 1985, s.407.

69MacKay, 1985, s.408.

68MacKay, 1985, s.408.

67MacKay, 1985, s.407.

66MacKay, 1985, s.410.

Vad blir implikationerna för relationen mellan människan, AI och Gud?

Skulle människan lyckas skapa en AI vore det teologiskt sett inte konstigare än reproduktion av ett nytt liv menar MacKay.

Skapandet av en AI skulle endast markera en anpassning av Guds uppmaning “Var fruktsamma och föröka er, uppfyll jorden och lägg den under er”.

MacKay vill dock på inga sätt likställa tillkomsten av en ny människa med en ny AI,

eftersom att en AI inte kan vara mer än en ofullständig kopia av människan. Måhända att det skulle gå att argumentera för att ett barn är en ofullständig kopia av sina föräldrar men barnet är ändå samtidigt en egen medveten agent med en egen jag-berättelse. MacKay utesluter inte möjligheten att en dag kunna interagera i dialog med en AI. Även om en sådan dialog med en AI inte skulle kunna vara givande på något plan skulle den aldrig kunna motsvara dialogen med en annan människa eller med Gud.

Förutsatt att Gud inte ville det skulle uppkomsten av en AI inte förändra människans och Guds relation men den skulle däremot kunna vara desto farligare för relationen mellan människor.

Om en AI till exempel tilldelades rollen som en soldat eller militärstrateg skulle bristen på en jag-berättelse eller genuin dialog inte vara ett hinder. Detsamma gäller förvisso om en AI agerade som brandman, kirurg eller chaufför. Om en AI lämnades att lära sig själv att tolka skillnaden mellan signalen stress relaterat till bussar, hyror eller bränder finns det inget som garanterar att den skulle komma fram till samma svar eller värdering som en människa, eller ens kunna förstå meningen med processen eller stressen. På grund av det interna liv som MacKay ser som exklusivt för Gud och människan drar MacKay slutsatsen att en AI i uppenbar brist på denna exklusiva egenskap också kategoriskt skulle komma att tänka på ett annat sätt.

Lindkvist

Linde Lindkvist frågar sig om det går att utvidga de mänskliga rättigheterna till att även omfatta intelligenta maskiner och isåfall på vilka grunder? Vore det möjligt att göra sådana rättigheter meningsfulla för robotar och operativsystem?

Diskussionen kretsar kring filmen I’m Here där robotar och människor lever sida vid sida i ett samhälle som speglar en nutida verklighet. Filmen skildrar en begynnande kärlekshistoria mellan två robotar Sheldon och Francesca som trots vitt skilda personligheter fattar tycke för varandra och inleder en relation.

74Lindkvist, 2021, s.20.

73MacKay, 1985, s.408.

72Bibel 2000, 1 Mos:28.

71MacKay, 1985, s.409.

Deras trevande omtänksamhet blir från åskådarens position ett tydligt uppvisande av

personskap och ett legitimt anspråk på de rättigheter som filmen gör flera poänger av att vara reserverade för människor. I en värld där en ny AI är direkt beroende av människan

(åtminstone till en början) finns viktiga och karaktärsbildande förutsättningar för svaghet och sårbarhet som Lindkvist ser som nödvändiga möjligheter för inledandet av ömsesidigt

meningsfulla relationer. “Det är vanskligt för att inte säga omöjligt, att reducera alla de moraliska frågor som uppkommer i mellanmänskliga relationer till frågor om rättigheter”, menar Lindkvist.

Uppmaningen att älska sin nästa uttrycks inte enkelt och effektivt i form av en individuell juridisk rättighet eller regel utan av det på grund av sårbarheten mer implicita behovet av kärlek och omsorg för att kunna möta livet och växa tillsammans med andra. Förmågan att känna och relatera till lidande blir på så vis grundstenen för en moral i och med att den motiverar varför vissa handlingar är accepterade eller inte. Ett faktum som för människan kan verka helt uppenbart men som för en AI inte nödvändigtvis behöver vara det om en AI, likt den rättfärdige Job som sätts på prov av sin skapare, också kommer att förakta och förbanna sin egen sårbarhet men samtidigt vara i stånd att hantera den på helt andra sätt än människan.

Vad är en människa?

En människa, enligt Lindkvist, likställs alltför ofta med summan av hennes personliga utveckling, åstadkommanden och förmågor. I likhet med Hirvonen betraktar Lindkvist det speciella för en person som ett visst beteende och agerande, snarare än en viss uppbyggnad, men Lindkvist kopplar däremot personskap till känslor istället för till rationalitet. Kopplingen resonerar i Stevenson teori om en kristen människosyn som

a matter of basic attitude—of

“heart” or will rather than mind or intellect [...].” Speciellt förmågan att kunna känna och uttrycka svaghet och längtan efter det goda är det som är utmärkande för en person enligt Lindkvist.

Det mänskliga tillståndet är i grund och botten skört och en människans

överlevnad från spädbarn till ålderdom kräver samarbete och förmågan att både ge och be om hjälp. Med detta vill Lindkvist betona en människosyn som är utformad efter upplevelsen av en kännande och känslig kropp. Ställningstagandet rymmer kritik mot förnuftet som en eftersträvansvärd prestationsförmåga utan att tillräcklig beaktning av kärlek, omtanke, inlyssnande, tålamod och empati. Lindkvist ifrågasätter bilden av tänkaren och en förnufts

77Lindkvist, 2021, s.36.

76Bibel 2000, Jobs bok.

75Lindkvist, 2021, s.37.

och samvetsperson och han använder sig av filosofen Simone Weils ord: “Det som är heligt är inte personligt [...] Tvärtom är det heliga hos en människa det som är icke-personligt”.

En människa är som mest mänsklig när hon bistår andra och visar kärlek, utan att förvänta sig kärlek tillbaka.

I deklarationen om de mänskliga rättigheterna står att en människan är en “varelse som utrustats [av vem?] med förnuft och samvete och med ett uppdrag att verka i gemenskap med andra”.

Lindkvist problematiserar kring rätten till personlig utveckling av förnuft och samvete om den riskerar att göra människor blinda för uppdraget att verka i gemenskap.

Utvecklandet av en AI är ett bra exempel på ett projekt som vacklar i den balansgången.

Vad är AI?

Enligt Lindkvist är AI först och främst en spegel för en mänsklighet som söker svaret på sitt eget värde. Utifrån exempel i filmen I’m Here väger Lindkvist väger två perspektiv mot varandra. Å ena sidan idén om en AI som är förkroppsligad i snarlika ramar av ändlighet som människan. En sådan AI skulle ärva sårbarhet och omsorg för slutet av livet som en

avgörande faktor för dess personskap och i utsträckningen dess intelligens. En sådan AI, menar Lindkvist, skulle också kunna förstå och integreras i ett samhälle byggt på premissen att minimera lidande. Å andra sidan, om en AI inte på samma sätt behövde förhålla sig till sårbarhet eller svaghet skulle den inte heller på samma sätt beröras av vare sig sitt egna eller andras lidande. En AI:n skulle kunna vara en lidande varelse i behov av omsorg och

rättigheter likt en människa men om den inte behövde förhålla sig till lidande på samma sätt som människan skulle den rimligtvis tänka och prioritera på andra sätt än människor.

Lindkvist ser människans önskan om att uppgradera sin egen situation, drömmen om nya starka kroppar och ett evigt liv i data som en övervägande risk för att skapa den senare sortens osårbara AI.

Båda perspektiven på AI aktualiserar frågan om vad som händer med människosynen om det visar sig att även andra varelser kan uppvisa intelligens i form av till exempel praktiska eller moraliska förmågor. I en hypotetisk övergång från en människocentrerad till en

data-centrerad livsåskådning, vilket värde får en föråldrad enhet för processering [läs den

79Lindkvist, 2021, s.34.

78Lindkvist, 2021, s.30.

mänskliga hjärnan] om snabbare och pålitligare modeller finns tillgängliga?

AI:n i I'm Here upplevs som känslosam och altruistisk, just eftersom att den har förmågan och viljan att motverka ett relaterbart lidande. Däremot är det rimligt att anta att en lidande AI som hade möjligheten att minimera sin egen sårbarhet genom en förändring av uppbyggnad också skulle rimligtvis göra detta. Det vore dessutom moraliskt tveksamt för människan att neka en AI den möjligheten (förutsatt att det gick) eftersom att människan förmodligen skulle göra samma sak. Frågan leder vidare till vilka implikationer en sådant övervägande får för relationen mellan människan, AI och Gud.

Vad blir implikationerna för relationen mellan människan, AI och Gud?

Om en AI i relation till människan skulle komma att ifrågasätta villkoren för sin egen tillblivelse och sin skapares privilegierade ställning i världen skulle en teologisk

förklaringsmodell baserat på överlägsenhet eller evolutionär särart inte hålla menar Lindqvist.

Skildringen av AI i I’m Here visar på orättvisan i att använda andra lidande varelser som ett medel, till exempel som arbetskraft i farliga situationer. Vad som behöver stå i centrum i relationen till alla andra varelser är att hörsamma det goda och att lyssna till rop om hjälp och rättvisa. Lindkvist argumenterar för att människans okränkbara värde i skapelsen inte behöver vara hotat av en AI förutsatt att hennes helighet inte vilar på en metafysisk överlägsenhet utan på ett omsorgsfullt beteende.

Om en AI är så pass självmedveten att den söker relationer och ber om respekt är det också något som den förtjänar, förutsatt att den kan relatera till lidande och återgälda samma omtänksamhet, vilket Lindkvist alltså ser som orimligt.

Scheuer

Dagens förväntningar på AI är långt ifrån första gången i mänsklighetens historia som föreställningar om att en högre intelligens skapar en ny form av intelligens förekommer.

Detta menar Blaženka Scheuer som driver tesen att teologiska skapelseberättelser bör användas som tolkande mallar för den pågående berättelsen om människan och AI. Det religiösa språket har tusenåriga erfarenheter när det gäller att finna metaforer och förklaringar på sådant som människor inte fullt ut förstår. Som exempel använder Scheuer

Atrahasiseposet (ca 1700-fvt) och Enuma elish (1100-fvt), två skapelseberättelser där människorna fungerar som en slags arbetarklass åt lägre gudar, det vill säga i likhet med

81Lindkvist, 2021, s.36.

80Lindkvist, 2021, s.36.

rådande idé om AI:s avlastande arbetsroll i samhället.

Något för sent i tidslinjen genom båda skapelseberättelserna infinner sig riskanalysen att människan i längden snarare kan komma att störa istället för att upprätthålla den ordning i tillvaron som gudarna önskat sig. I den hebreiska skapelseberättelsen inträffar detta när människan äter av kunskapens träd och Gud som svar fråntar människan möjligheten att leva för alltid. Från den punkten bryts harmonin och relationen mellan skapare och skapelse präglas av ömsom uppror och försoningar där mänskligheten till sist får hjälp av Gud att leva med det tilltagande kaoset som har blivit hennes nya verklighet utanför paradiset.

Schuer menar att “som skapelsens och kunskapens förvaltare har vi ett ansvar att handla vist och vara noggranna med var vi ingjuter i vår intelligenta avbild”.

På samma sätt som vid tillkomsten av mänsklig intelligens kan tillkomsten av artificiella intelligensen föra med sig harmoni eller kaos, beroende på vad den utrustas med.

Vad är en människa?

Skapelseberättelser visar på att mänskligheten genom historien har interagerat med världen och konstruerat sin självförståelse utifrån den aktuella kontexter. Nya innovationer har i sin tur leder till nya kontexter och nya självförståelser. I Första Moseboken skapas människan av lera, vilket under 1000 f.v.t. betraktades som ett högteknologiskt material.

Förmågan att skapa föremål ur marken av lera kunde vara livsavgörande funktionellt som vattenkrus, lerugnar, tegelstenar m.m. Leran möjliggjorde också konstverk och kreativa kulturella uttryck. När Gud skapar människan ur lera och vittnar berättelsen om en högteknologiskt skeende.

Allteftersom att lerans teknologiska och kulturella status förändras över tid, förändras också människans förståelse av skapelseberättelsen efter den aktuella kontexten. I modern tid tenderar naturvetenskap att skapa en människosyn där människokroppen

reduceras till mindre och mindre beståndsdelar och i en kontext där digital information och data värderas som högteknologiska skriver Scheuer att “på ett liknande sätt tenderar framsteg inom AI att framställa människan som summan av sina data, som en avancerad

algoritmprocessor”.

En sådan människosyn förutsätter att det mänskliga består av mätbar data och information som med rätt verktyg kan kartläggas och simuleras av en AI.

87Scheuer, 2021, s.118.

86Marçal, Katrine, Att Uppfinna Världen: Hur Historiens Största Feltänk Satte Käppar i Hjulet, Stockholm, Mondial, 2020, s.162.

85Bibel 2000, 1Mos 1:7

84Scheuer, 2021, s.120.

83Scheuer, 2021, s.120.

82Scheuer, 2021, s.99.