Maskiner och människor Om datorers betydelse för tänkandet

Examensarbete

Maskiner och människor

Om datorers betydelse för tänkandet

Författare: Anders Sandblad Handledare: Anders Ingwald Examinator: Bo Göranzon Termin: VT 2015

Ämne: Yrkeskunnande och

Abstrakt

Jag börjar allt mer inse vattnets betydelse för sjöfarten.

Så lär kung Gustav V ha sagt en gång i samband med dop av ett fartyg. Uttalandet har senare kommit att bli ett sätt uttrycka att något är så uppenbart att det knappast ens behöver sägas.

Vilken betydelse har datorer för tänkandet? Frågan är relevant att ställa i en tid när datorer gör intrång på allt fler områden och har blivit en så naturligt integrerad del av våra liv att användningen av dem sällan ifrågasätts. Svaret på frågan är dock inte lika uppenbart som den om vattnets betydelse för sjöfarten.

Denna masteruppsats i yrkeskunnande och professionsutveckling rör sig i gränslandet mellan maskiner och människor och handlar om hur datorer och datoranvändning påverkar det mänskliga tänkandet och den mänskliga kunskapen. Utgångspunkten är den brittiske matematikern Alan Turings arbete och hans berömda artikel från 1950, med titeln Computing machinery and intelligens¹, där han definierar ett test

(Turingtestet) avsett att kunna avgöra maskiners tankeförmåga. Den traditionella tolkningen av artikeln är att Turing menade att det en dag kommer att vara möjligt att bygga en maskin som kan imitera allt mänskligt beteende perfekt (Turingmaskinen), vilket har gett upphov till forskningsområdet artificiell intelligens.

I praktiken har dock maskiner inte kunnat ersätta människor på det sätt som man trott och som många fortfarande tror. Närmandet mellan människor och maskiner tar sig andra uttryck. Utvecklingen går snarare i en riktning som gjort att människor genom att använda maskiner anpassar sig till och allt mer börjar likna dem. Vi förvandlas till Turingmänniskor med succesivt minskande utrymme att utöva vårt omdöme och ta ansvar, när maskinerna ställer sig i vägen för det mänskliga sinnet och känslan.

Nyckelord

Yrkeskunnande, Omdöme, Sinne, Känsla, Tänkande, Alan Turing, Turingtestet, Turingmaskinen, Turingmänniskan, Artificiell intelligens, Datoranvändning, Bildning

Tack

Jag vill tacka alla handledare och studentkollegor vid masterprogrammet i

yrkeskunnande och professionsutveckling på Linnéuniversitetet 2013-2015 för stöd och gott samarbete. Att skriva en uppsats är till stor del ett ensamarbete, men många av de tankar som denna uppsats bygger på hade inte tillkommit utan en omgivning av kloka människor som öppet bjuder på sina personliga erfarenheter, tankar och reflektioner.

Tack alla som bidragit!

Växjö, en regnig söndag i maj 2015

1 Turing, 1950

Innehåll

1 Inledning ____________________________________________________________ 1 1.1 Yrkeskunnande och teknologi _______________________________________ 1 1.2 Fråga ___________________________________________________________ 2 1.3 Metod __________________________________________________________ 2 1.4 Disposition ______________________________________________________ 4 2 Fascinationen för en maskin ____________________________________________ 5 2.1 En ingenjör blir till ________________________________________________ 5 2.2 De två kulturerna _________________________________________________ 5 2.3 Uppvaknande ____________________________________________________ 6 2.4 Modell och verklighet ______________________________________________ 8 3 Mänskliga maskiner _________________________________________________ 10 3.1 Kan maskiner tänka? _____________________________________________ 10 3.2 Den svarta lådan _________________________________________________ 10 3.3 Turingmänniskan ________________________________________________ 11 3.4 Språk, regler och regelföljande ______________________________________ 13 3.5 En fälla för tanken _______________________________________________ 15 3.6 Vad menade Turing egentligen? _____________________________________ 17 3.7 Artificiell intelligens och teknisk utveckling ___________________________ 20 3.8 Vad kan maskiner göra? ___________________________________________ 23 4 Maskinella människor ________________________________________________ 25 4.1 Matematikmaskiner ______________________________________________ 25 4.2 Verktyg och datoranvändning ______________________________________ 25 4.3 Distansering och ytlighet __________________________________________ 29 4.4 Det förlorade samarbetet __________________________________________ 30 4.5 Den programmerade människan _____________________________________ 31 4.6 Det förlorade ansvaret ____________________________________________ 35 4.7 Informationssamhället och funktionell autism __________________________ 35 4.8 Informationsteknologi och rytm _____________________________________ 38 4.9 Datorn som metafor för hjärnan _____________________________________ 40 4.10 Spindeln i nätet _________________________________________________ 42 4.11 Att utveckla erfarenheter _________________________________________ 45 5 Slutord ____________________________________________________________ 47 5.1 Turingfällan ____________________________________________________ 47 5.2 Pendelrörelser ___________________________________________________ 48 5.3 Bildning och den tredje kulturen ____________________________________ 49 5.4 Vägar framåt ____________________________________________________ 50 Referenser ___________________________________________________________ 51 Bilagor _______________________________________________________________ I

1 Inledning

1.1 Yrkeskunnande och teknologi

Kärnan inom forskningsområdet yrkeskunnande och teknologi är användning av

verktyg. Frågeställningarna kretsar kring hur verktyg av olika slag påverkar människors förutsättningar och förmåga att utveckla och utöva sitt professionella och praktiska yrkeskunnande med omdöme och ansvar. Det har inte med vare sig design eller

konstruktion av verktyg att göra. Detta är områden som kräver ett yrkeskunnande i sig, vilka naturligvis kan vara intressanta att utforska lika väl som andra områden.

Forskningsområdet handlar snarare om konsekvenserna av att använda eller införa verktyg av olika slag, dvs hur yrkeskunnandet och synen på kunskap påverkas av den moderna teknologins utveckling.

Med verktyg avses inte nödvändigvis sådant som hammare och skruvmejslar och heller inte nödvändigtvis datorer eller andra digitala former av hjälpmedel. Det är verktyg i en vidare bemärkelse än så som avses. Det kan exempelvis handla om hur arbetsuppgifter och verksamheter instrumenteras med formaliserade regler, processer, rutiner,

checklistor, mätetal och styrmedel av olika slag. Det kan också handla om i vilken mån det finns utrymme för reflektion, dialog och analogiskt tänkande, eller om hur

ledarskapet i ett företag eller en organisation förhåller sig till arbete och utveckling av kunskap och erfarenhet.

Denna uppsats utgår från maskinen datorn som verktyg. I jämförelse med exempelvis hammaren kan det kanske te sig underligt att betrakta datorn som ett verktyg. Är datorn verkligen ett verktyg? 1979 hölls en internationell konferens i Sigtuna med den frågan som tema². Konstsnickaren Thomas Tempte kunde för sin del inte se några påfallande likheter mellan datorn och de verktyg han är van att använda i sitt yrke.

Vid tiden för konferensen var datorn inte lika utbredd och använd som den är idag, men konsekvenserna av dess användning var ändå synliga. Numera är datorer och internet en integrerad och helt naturlig del av många människors vardag. I mitt eget yrke är det få arbetsuppgifter jag gör utan att använda datorn och det fåtal dagar på ett år som tekniken inte fungerar så blir jag handikappad i arbetet, på samma sätt som snickaren antagligen blir handikappad utan sin hammare, sin såg eller sin hyvel. Jag har därför personligen svårt att se det på något annat sätt än att datorn faktiskt är ett verktyg för väldigt många människor.

Vid konferensen i Sigtuna frågade sig den norske filosofen Tore Nordenstam vad det innebär att säga att något bara är ett verktyg. Han svarade själv på frågan och

konstaterade då att

[…] normalsituationen är att själva arbetet påverkas till sin karaktär av det förhållandet att nya verktyg införs. Det mekaniserade jordbruket är inte bara en effektivare variant av äldre formers jordbruk; verktygen förändrar hela verksamhetsen inriktning. Man kan säga att den praxis som verktygen ingår i förändrar karaktären alltefter vilka verktyg som används i praxisen.

2 Konferensen är dokumenterad i boken Is the computer a tool?, Sundin (red), 1980

Jordbrukarens praxis är liksom snickarens praxis det den är bland annat därför att verksamheten bygger på att vissa verktyg är tillgängliga.³

Den sista meningen torde kunna gälla för många yrken, inte bara mitt eget. Verktyg kan ofta vara en förutsättning för ett yrkes utförande eller rent av i grunden definiera det. Jag kan exempelvis inte utöva mitt yrke fullt ut utan tillgång till datorn – den är det verktyg som mitt arbete kretsar kring. Införande av nya verktyg kan också revolutionera ett yrke eller ibland rent av helt omdefiniera det, som i fallet med jordbrukets mekanisering.

1.2 Fråga

Denna uppsats rör sig i gränslandet mellan maskiner och människor. Den handlar om hur människor förhåller sig till och påverkas av maskiner i allmänhet och datorer i synnerhet.

Vi lever i en tid när datatekniken förser oss med allt fler lösningar och möjligheter. Det kan ibland nästan verka som om mer teknik är lösningen på allt i takt med att maskiner och ett maskinellt förhållningssätt tränger in på allt fler områden. Ibland förutspås datorer till och med kunna ersätta människor i framtiden. Men var går egentligen gränsen för vad som är möjligt att åstadkomma med datorer och hur påverkas

människor och synen på människors kunskap och förmågor i en omgivning av maskiner och modern informationsteknologi?

Avsikten med denna uppsats är att belysa bakgrund, konsekvenser och andra aspekter av dessa frågor ur ett yrkeskunnandeperspektiv.

1.3 Metod

Uppsatsens innehåll är baserat på de dialogseminarier som genomförts i delkurserna i masterprogrammet för yrkeskunnande och professionsutveckling vid Linnéuniversitetet under hösten 2013 och våren 2014. I uppsatsen utvecklar jag tankar och idéer som uppstått i samband med dessa. Dels tankar från mina egna texter och de kommentarer jag fått på dem från studentkollegor och handledare, dels från andras texter, samt givetvis från litteratur och idéprotokoll.

Dialogseminariemetoden är ett sätt att synliggöra och reflektera över egna och andras personliga och unika praktiska erfarenheter. Det handlar om att frigöra sig från de abstrakta och allmänna resonemangen och istället fånga och fördjupa det konkreta och specifika i mångfalden av praktiska situationer och personliga upplevelser.

Metoden utvecklades ursprungligen under ett samarbete mellan KTH och

teknikkonsultföretaget Combitech⁴ (tidigare Combitech System) mellan åren 1996 och 1999, där syftet var att hitta former för snabbare överföring av erfarenheter mellan individer och kollektiv. Den har senare också använts för forskningsändamål inom området yrkeskunnande och teknologi i syfte att komma åt och utveckla den praktiska kunskapens tysta aspekter.

3 Göranzon, 1996, s99-100

4 Combitech är det företag där jag själv varit verksam sedan hösten år 2000.

Ett dialogseminarium genomförs i flera moment: först enskilt läsande av utvald litteratur följt av enskilt skrivande med utgångspunkt i impulser från litteraturen och avslutningsvis ett seminarium i dialogform där deltagarnas texter högläses och

kommenteras kollektivt. Litteraturens uppgift är att locka fram och belysa deltagarnas personliga erfarenheter – att sätta den tysta kunskapen i rörelse. Den kollektiva delen fungerar som ett slags smältdegel för tankar där olika perspektiv och aspekter luftas och ger energi till varandra. Dialogen sammanfattas i ett idéprotokoll som syftar till att hålla fast gruppens gemensamma tankar och reflektioner. ⁵

Personligen upplever jag att det finns en speciell kraft i den kollektiva delen på det sättet att de tankar och insikter som uppkommer ofta inte skulle vara möjliga att nå på egen hand. De yttre impulser som dialogen, liksom litteraturen, tillför är på det sättet ovärderliga.

Denna uppsats har formen av en essä, vilket innebär att den prövar tankar snarare än redovisar fakta och slutsatser. Att göra så ligger i forskningsområdets natur, eftersom det rör sig inom områden där kunskapen är ungefärlig och ogripbar. Essän fungerar i det här sammanhanget inte bara som form utan även som metod. Skrivandet för tankarna framåt i ett sökande efter insikter. Tankar klarna när de formuleras och en nedskriven tanke kan föda nya tankar, vilket driver skrivandet framåt. Impulserna är med andra ord inte bara yttre utan även inre, dvs essän är i viss mån sin egen impuls. Uppsatsen blir därmed personligt hållen på det sättet att resonemangen sker mot en fond av mina egna erfarenheter.

Mitt förhållningssätt till de yttre impulserna är i vid mening dialogiskt. Det innebär att texten kretsar kring citat och exempel hämtade från främst litteraturen. Dessa belyses, bemöts, speglas, bekräftas och kritiseras om vartannat, liksom de belyser, bemöter, speglar, bekräftar och kritiserar mina egna tankar.

Min utgångpunkt är den brittiske matematikern Alan Turings arbete. Turing är mannen som lagt grunden för mitt eget specialområde som konsult och ingenjör – datorer och systemutveckling.⁶ Det är främst honom, och det som uppstått i spåren av hans arbete, i form av teknisk, mänsklig och samhällelig utveckling, som jag går i dialog med.

Uppsatsen är ett slags replik på Turings berömda artikel från 1950 med titeln

Computing machinery and intelligens⁷. Det jag gör är ett tolkande och sökande arbete med utgångspunkt i artikeln och min egen erfarenhet. Ambitionen är att försöka se bortom det som vid första anblicken tycks uppenbart.

En essä kan till formen ta sig många olika uttryck och skepnader och denna uppsats har min personliga. I boken Essä – urval och introduktion ger Arne Melberg en mer

uttömmande beskrivning och diskussion om essän som litterär genre och företeelse.⁸

5 Bo Göranzon och Maria Hammarén beskriver dialogseminariemetoden mer ingående i skriften Dialogseminariemetodik – bakgrund och manual. Denna finns att ladda ner på

http://dialoger.se/index.php/forskning.html

6 Alan Turing är kanske mest känd som mannen som knäckte tyskarnas krypto (Enigma) under andra världskriget, men har betraktas också som den moderna datorteknikens fader. Turing har nyligen uppmärksammats genom den flerfaldigt Oscarsnominerade filmen The Imitation Game.

7 Turing, 1950

8 Melberg, 2013

1.4 Disposition

Uppsatsen behandlar relationen mellan maskiner och människor ur ett

yrkeskunnandeperspektiv sett ur två huvudsakliga synvinklar och i var sitt kapitel:

mänskliga maskiner respektive maskinella människor. Men först ska jag ge området och min frågeställning en bakgrund genom att återberätta delar av min personliga

yrkesmässiga historia. Den handlar om min utbildning och mitt yrke som ingenjör, konsult och systemutvecklare, och om fascinationen för en maskin – datorn.

2 Fascinationen för en maskin

2.1 En ingenjör blir till

Jag visste tidigt, redan som barn, att jag skulle bli ingenjör, det bara var så. Jag kan faktiskt inte minnas att jag velat bli något annat, men vet inte riktigt varför. Någon har berättat att majoriteten av alla äldsta söner går i sin pappas fotspår. Jag vet inte om det stämmer eller vad det är grundat på, men sannolikt har jag påverkats av min pappa, som också är ingenjör. Antagligen var det vanligare förr att yrken gick i arv, åtminstone hantverksyrken; snickarens son blev snickare, skomakarens son blev skomakare, osv.

Söner lärde yrket av sina fäder genom att gå som lärling. Numera lärs yrken sällan på annat sätt än genom formell utbildning, gärna på högskole- eller universitetsnivå.

Sannolikt har mitt yrkesval också att göra med att jag tidigt kom i kontakt med datorer.

Först genom att min pappa lånade hem en ABC80⁹ från jobbet som jag fick prova.

Senare genom att jag och min yngre bror fick en egen dator (en VIC64 från

Commodore). Vi spelade spel med kompisar och lärde oss ganska snabbt att skriva egna små program, vilka med tiden blev allt mer avancerade.

Det var något magiskt med de där maskinerna och vad man kunde göra med dem. Det tycktes inte finnas några begränsningar. Datorer framstod i mina ögon nästan som ett slags levande väsen. Jag ville förstå och lära mig hur de fungerade och utforskade på egen hand. Jag konstruerade egna program där jag kunde spela bland annat luffarschack och Othello mot datorn. Inte för att visa upp eller låta andra använda, utan för att stilla min egen nyfikenhet. Att jag senare valde en civilingenjörsutbildning med inriktning mot datateknik är en naturlig följd av denna nyfikenhet och fascination över maskinen datorn och hur den fungerar.

2.2 De två kulturerna

Min fem år yngre bror valde en annan väg. Vi gick visserligen båda två teknisk linje på gymnasiet, men där upphör de utbildnings- och yrkesmässiga likheterna. Min bror valde en humanistisk utbildning, kanske med inspiration av vår mamma som har ett litterärt och kulturellt intresse. Han läste bland annat språk och litteratur på universitetet och jobbar numera som konstintendent. Jag för min del valde en naturvetenskaplig och teknisk bana. Jag läste datateknik med telematik som inriktning på tekniska högskolan och jobbar numera som konsult med systemutveckling som specialitet.

Min bror och jag representerar med andra ord utbildnings- och yrkesmässigt de två kulturerna: humaniora respektive naturvetenskap. I många år betraktade jag våra yrkesval som väsensskilda. Jag måste till och med erkänna att jag betraktade mitt eget som mer på riktigt, mer på allvar. På de utbildningar jag gick och i de sällskap jag umgicks på den tiden, var det en vanlig och accepterad uppfattning att matematik, naturvetenskap och teknik handlar om riktiga och konkreta saker. Att naturvetenskapen och matematiken har de logiska svaren på hur saker och ting ligger till egentligen. Att allt annat bara är konstruerat, ofta ologiskt och många gånger bara flummiga påhitt.

9 ABC80 var något så ovanligt som en svensktillverkad hemdator. Den lanserades 1978 av Luxor fanns på marknaden fram till mitten av 1980-talet. Sannolikt var det konkurrensen från IBM och Microsoft som omintetgjorde detta tidiga svenska IT-initiativ.

En episod några år efter att jag slutat gymnasiet illustrerar detta. En av mina tidigare klasskamrater hävdade lite ilsket att ”man kan väl för f-n inte forska om plus och minus!” Det var under en diskussion om matematik och forskning som min kamrat menade att matematik, tätt följt av fysik, är det bästa av alla skolämnen eftersom det är helt igenom logiskt. Han menade att allt vi lärt oss i skolan kan var och en egentligen komma fram till på egen hand. Att vem som helst kan dra samma slutsatser oberoende av andra eftersom allt hänger ihop, det behövs bara tid att tänka. De smartaste i klassen gör det bara lite fortare än oss andra medelmåttor (om vi ens någonsin förstår). Min kamrat menade dessutom att allt som finns att veta om matematik redan är upptäckt, dvs det finns inget kvar att forska om eftersom allt redan är känt och klarlagt. Var han hade fått det ifrån vet jag inte.

I pjäsen Bortom all visshet slår den fiktive Wittgenstein huvudet på spiken när han gör följande konstaterade om förhållandet mellan de två kulturerna:

Denna dyrkan av vetenskapen är en fara för hela vår kultur. Estetik och religion är två områden i livet där den vetenskapliga metoden inte bara är olämplig. Den är direkt skadlig och leder bara till förvirring och

missförstånd. Tänka sig att folk idag tror att vetenskapsmännen finns till för att undervisa dem, författare och musiker och så vidare för att underhålla dem. Att dessa senare skulle ha något att lära ut faller dem inte in.¹⁰

Jag har tidigare varit en av dem som Wittgenstein syftar på. Att jag kunde ha något att lära av humanistiska ämnesområden som konst, litteratur och musik föll mig inte in. Det är först i vuxen ålder som jag har omvärderat detta. Jag har insett att naturvetenskapen inte alltid har svaren; att allt inte går att räkna eller tänka fram. Det finns dimensioner i livet som inte går att komma åt via matematik och naturvetenskap, lika väl som det finns dimensioner dit humanistiska ämnen inte når. Min bror insåg antagligen detta mycket tidigare än jag och det är här som våra banor möts. Bland annat genom min bror har jag i vuxen ålder nyanserat mitt förhållningssätt och även upptäckt nya sidor av mig själv.

2.3 Uppvaknande

1995 avslutade jag min civilingenjörsutbildning på Linköpings Tekniska Högskola. På mitt första arbete efter skolan utförde jag i huvudsak programmeringsuppgifter i utvecklingsprojekt av olika slag. Uppmuntrad av mina dåvarande chefer var jag till en början entusiastisk och full av självförtroende, men förstod relativt snabbt att något saknades. När jag blev satt att felsöka och ändra i en central komponent i en

programvara blev jag tvungen att be om hjälp ofta. Jag uppfattade då systemet som stort och komplext, men inser idag att det egentligen var ganska litet och inte heller särskilt komplext. Mitt problem var att jag saknade erfarenhet. Jag hade lärt mig programmera, men inte att utveckla hela system. Jag hade svårt ta mig framåt på egen hand när det uppstod problem av olika slag. Jag hade inte känslan för vad som var fel och vad som skulle kunna göras åt det.

10 Göranzon och Karlqvist, 2001, s108. Pjäsen Bortom all visshet bygger på autentiska uttalanden, litteratur av främst Ludwig Wittgenstein, Alan Turing och Winston Churchill.

När jag fick följa med på kundmöten upptäckte jag snart att tekniska frågor sällan var det centrala. Det som avhandlades var frågor exempelvis om kundens verksamhet, om progressen i det aktuella projektet eller om hur arbetet skulle bedrivas framöver. Jag kunde med en smula besvikelse konstatera att det ofta handlade om helt andra saker än teknik. Alldeles för tidigt, redan efter något år, blev jag utsedd till projektledare, och då blev detta ännu mera påtagligt för mig.

Ända sedan mitt första jobb har jag varit konsult, men det dröjde bortåt 10 år innan jag började betrakta mig som sådan och ännu längre innan jag riktigt började förstå vad det innebär. Längs vägen har jag insett att det finns väsentliga aspekter av såväl konsultens som ingenjörens yrke som har mer med människor att göra än med teknik. I Filosofiska undersökningar påminner den österrikiske filosofen och matematikern

Ludwig Wittgenstein mig om detta:

Kan man lära sig människokännedom? Ja; några kan det. Men inte genom en undervisningskurs utan genom ’erfarenhet’. – Kan en annan därvid vara en persons lärare? Javisst. Han ger honom då den riktiga vinken. – Så ser här ’inlärandet’ och ’utlärandet’ ut. – Vad man då lär sig, är ingen teknik;

man lär sig riktiga omdömen. Det finns också regler, men de bildar inget system, och bara den erfarne kan använda dem riktigt. Till skillnad från räkneregler.¹¹

Ingenjörer är väl utbildade i teknik och naturvetenskap, dvs räkneregler, men de omdömen och den människokännedom, som Wittgenstein skriver om, saknas. Det blir speciellt tydligt i vissa av de roller jag provat i olika doser genom åren. Jag tänker på roller där ingenjörer samtidigt är exempelvis konsulter, projektledare, kursledare eller chefer. Alla dessa roller innehåller moment av samarbete och ledarskap och annat som är av helt annan karaktär än tekniken och naturvetenskapen. Inte heller programmerare, vilken är den roll jag haft under större delen av mitt yrkesliv hittills, går fri från sådana moment.

Den logiska och positivistiska hållning jag som student hade till kunskap fick sig därför en törn när jag började mitt första arbete. Internet hade just börjat spridas till bredare skaror. Det var en spännande tid och min nyfikenhet var riktad mot förståelsen av hur tekniken fungerade – den hade något magiskt över sig. Datorn stod i centrum för min uppmärksamhet. Fascinationen för teknik i allmänhet och för datorer, programmering och datakommunikation i synnerhet gjorde att jag bortsåg från många mänskliga aspekter. De intresserade mig inte och därför bortsåg jag från dem. Jag hade i någon mening skaffat mig en maskinell syn på världen. Den maskinellt kalkylerande sidan av min förmåga var väl stimulerad och utvecklad och hade tagit överhanden.

Med åren har jag blivit mer vidsynt och min ungdomliga fascination för datorns mysterier har gått över. De är inte fullt så mystiska har jag insett. Därmed inte sagt att konsten att bygga eller programmera en dator ska förringas. Dessa arbeten kräver ett yrkeskunnande i sig.

11 Wittgenstein, 2012, s261-262

2.4 Modell och verklighet

Mitt inträde i arbetslivet blev ett uppvakande, men egentligen började det redan under studietiden när naturvetenskapens begränsningar började gå upp för mig. Matematiken och naturvetenskapen sätter sin prägel på hur många teknologer (ingenjörsstuderande) och säkert även yrkesverksamma ingenjörer betraktar världen. De första åren på de flesta civilingenjörsutbildningar domineras av grundläggande kurser i främst matematik.

En konsekvens av det kan bli att gränsen mellan modell och verklighet för många är svår att urskilja.

Jag tänker bland annat på en av mina klasskamrater på tekniska högskolan i Linköping.

Under en kurs i reglerteknik gick han flera gånger till ilsket angrepp mot en assistent under en lektion när denne inte lyckades förklara för honom vad en Lapalcetransform¹² är för något. Min klasskamrat verkade tro att det är något slags fysikaliskt fenomen som kan observeras i naturen. Det assistenten inte lyckades förklara för honom var att en transform snarare är ett slags matematiskt konstruktion¹³, vilken gör det enklare att beskriva och räkna på exempelvis reglersystem. Det är ingen företeelse som finns i den verkliga verkligheten, utan ett verktyg för att skapa modeller av densamma.

Ett annat exempel kommer från en lärare jag hade under det första året. Han sa vid ett tillfälle föga ödmjukt ungefär att ”i industrin kan civilingenjörer förklara vad saker och ting är egentligen” och syftade på den matematik och de grundläggande teorier vi skulle få lära oss under utbildningen. Just då verkade det han sa rimligt och sant. Jag hade varken anledning eller förmåga att ifrågasätta påståendet.

Det var först under den senare delen av utbildningen som jag började tvivla på allvar.

Det var vid en föreläsning i kodningsteori som professorn¹⁴ inledde med att slita av sig sin tjocka tröja för att visa t-shirten han hade under. Över magen hade den ett tryck av Rene Magrittes målning av en pipa med texten Detta är inte en pipa under (på franska Cesi n’est pas une pipe).

12 En Laplacetransform är ett slags matematisk avbildning som kan användas för exempelvis analys av linjära system eller för att omvandla differentialekvationer till algebraiska ekvationer, vilka ofta är enklare att lösa.

13 Lars Mouwitz förklarar hur differentialkalkylen gjorde det möjligt att beskriva rörelse och förändring i naturen, vilket är ett annat exempel på hur en matematisk konstruktion/uppfinning påverkar vad som är möjligt att beskriva och beräkna matematiskt. Mouwitz, 2006, s108.

14 Professor Ingemar Ingemarsson vid Linköpings Tekniska Högskola

Texten irriterar. Vadå inte en pipa? Vad menar han med det? Vad skulle det annars vara? Det syns ju lång väg att målningen föreställer en pipa.

Professorns poäng var just att målningen föreställer en pipa, det är inte en pipa. Det förlängda budskapet var att det vi får lära oss inte är verkligheten utan modeller av verkligheten och att matematiken är ett redskap vi använder för att beskriva dessa modeller. Det fick mig att på allvar inse att naturvetenskapen är långt ifrån så exakt som den ibland kan ge sken av. De modeller vi använder är förenklingar, som kan vara mer eller mindre grova och som ofta bara gäller under vissa givna förutsättningar. Men de beskriver ändå verkligheten tillräckligt bra för att vi ska kunna utveckla exempelvis bilar, flygplan, mobiltelefoner och datorer. Ja, till och med kunna flyga till månen och tillbaka med livet i behåll.

Kanske är det just detta som skapar den dyrkan av vetenskapen som Wittgenstein talar om i pjäsen jag citerat ovan. Fantastiska saker kan åstadkommas med tekniken och naturvetenskapen och då är det lätt att glömma att den varken är exakt eller perfekt. I mitt fall har detta främst tagit sig uttryck i min ungdoms fascination för datorer och programmering. En fascination som sedan länge gått över, men som jag genom denna uppsats nu vill kasta nytt ljus på. En fascination som jag delar med många andra och som har sitt ursprung i Alan Turings arbete.

3 Mänskliga maskiner

3.1 Kan maskiner tänka?

I en berömd artikel med titeln Computing Machinery and Intelligens¹⁵, publicerad i tidskriften Mind 1950, ställer Alan Turing frågan om maskiner kan tänka. Med maskiner avser han datorer (digital computers) och vad som avses med att tänka definierar han genom att beskriva ett spel som i artikeln kallas imitationsspelet (the imitation game). Det spelas av tre personer: en man (A), en kvinna (B) och en förhörsledare (C). Den senare befinner sig i ett eget rum, avskild från de båda första, och har som uppgift att försöka lista ut vem av dem som är man respektive kvinna, genom att ställa frågor som de får besvara. A har till uppgift att försöka lura C och B har till uppgift att hjälpa C. Alla frågor och svar levereras i skriftlig form. C får ställa vilka frågor som helst.

Vad händer om A byts ut mot en dator, undrar Turing? Kommer C att bli lurad lika ofta som när spelet spelas i sitt originalutförande? Spelet tillsammans med dessa frågor låter han ersätta ursprungsfrågan. Imitationsspelet brukar i detta modifierade utförande kallas för Turingtestet. Den maskin som deltar i testet brukar kallas för Turingmaskinen.

3.2 Den svarta lådan

Turingtestet fungerar som en svart låda med okänt innehåll. Input i form av skriftliga frågor ger output i form av skriftliga svar. Vad som händer där emellan, på insidan av lådan, är okänt och ointressant.

Uppfattningen att testet visar att maskiner kan tänka reducerar därmed tankeförmåga till en fråga om beteende. Det är gränsytan, dvs svaren som maskinen levererar på frågorna, som blir det väsentliga. Hur den fungerar och är konstruerad är ointressant. Varje

maskin som tillräckligt övertygande kan härma en människas svar vinner testet, oavsett hur den kommit fram till svaren.

Barn kan ha en tendens att uppfatta allt som rör sig som levande. Hos vuxna finns kanske den tendensen i viss mån kvar. När en maskin kan ge tillsynes intelligenta svar på frågor vi ställer till den, så kan det ligga nära tillhands att uppfatta att den tänker.

Om förhörsledaren inte kan avgöra skillnaden mellan människan och maskinen så blir denne tvungen att förhålla sig till dem lika. Antingen till maskinen som om den vore en människa, eller till människan som om den vore en maskin. Att tro på Turingtestet innebär därmed att frågan om maskiner kan tänka blir ointressant, liksom frågor om maskiners medvetande, känslosamhet och andra mänskliga egenskaper och förmågor.

Om maskinen kan lura förhörsledaren att tro den är en människa så spelar det inte längre någon roll.

Maskinen som deltar i Turingtestet är inte medveten om att det är det den gör. Den utför bara mekaniskt det den är konstruerad att göra. Kontexten spelar ingen roll. Den känner inte till att dess uppgift är att lura förhörsledaren att tro att den är en människa.

Människan som deltar i testet har till uppgift att hjälpa förhörsledaren och arbetar inte

15 Turing, 1950

mekaniskt. Denne måste vara medveten om sin uppgift för att kunna lösa den.

Människan är, till skillnad från maskinen, medveten om att denne tänker. Uppfattningen att maskinen tänker är helt beroende av förhörsledarens tolkning av svaren. Maskinen kan inte uppleva sin egen eventuella tankeförmåga, vilket människan däremot kan.

Medvetandet är en avgörande skillnad mellan maskinen och människan.

John Searle beskriver i artikeln What Your Computer Can’t Know denna skillnad i termer av fenomen som är beroende av observatör (observer dependant) respektive oberoende av observatör (observer independant).¹⁶ Den eventuella tankeförmåga som Turingtestet kan påvisa är helt beroende av observatör. Det är förhörsledarens tolkning av maskinens mekaniskt producerade svar som avgör. Maskinen kan i sig aldrig uppleva att den tänker. Egentligen kan inte heller förhörsledaren med säkerhet avgöra om

maskinen tänker eller inte. Det denne kan avgöra är bara om maskinens beteende tyder på att den tänker, dvs att den svarar på frågorna som om den kunde tänka.

Turing avfärdar kritik som gör gällande att maskiner inte kan ha ett medvetande och därmed heller inte kan tänka. Bland annat menar han att det är omöjligt att med säkerhet veta detta även om andra människor. För att kunna avgöra om en annan människa kan tänka eller har ett medvetande måste man i praktiken vara den andre, dvs för att med säkerhet veta om en maskin kan tänka eller inte så måste man vara den maskinen och kunna reflektera över sig själv.

3.3 Turingmänniskan

Författaren och fysikern Helena Granström fångar en annan intressant tanke kring Turingmaskinen och Turingtestet i essän Turingmänniskan:

”’Vad är två gånger två?’ – ’Är du en maskin?’”

Till vem riktas dessa båda yttranden? Formuleras de av samma talare?

Är detta, människans två frågor till maskinen, uppfordrande, för att kunna erhålla de lydiga svaren ”Fyra” och ”Ja”?

Kanske inte – kanske skall den andra frågan förstås som en reaktion på den första, som en undran över den matematiska kalkylens och det kalkylerande sinnets begränsning som talaren riktar till sig själv: Om varje fråga som jag kan komma på att ställa om världen kan besvaras av en maskin, vad skiljer mig då från denna maskin? Om vi blir människor i samspel med en levande omgivning, till vad formar oss då den maskinella?¹⁷

Granström sätter fingret på vad som riskerar att hända med människor i en omgivning av maskiner. Den gängse tolkningen av Turing innebär att maskiner med tiden kommer att bli allt mer lika människor i sitt beteende. Granström pekar på omvändningen – att människor genom maskinerna med tiden riskerar att allt mer likna dessa i sitt beteende och att människor riskerar att i allt högre grad betrakta sig själva och varandra som om de vore maskiner. Människorna går maskinerna tillmötes på maskinernas villkor.

16 Searle, 2014, s52

17 Granström och Göranzon, 2011, s71

Den amerikanske filosofen och primitivisten John Zerzan pekar i essän Against Technology i samma riktning när han resonerar om det succesivt minskande gapet mellan datorer och människor:

In terms of what they [computers] are capable of, it seems to me, when you have the distance narrowing between humans and machines in the sense that if we are becoming more machine-like, it’s easier to see the machine as more human-like. I don’t want to be overly dramatic about it, but I think people more and more wonder, is this living or are we just going through the motions? What’s happening? Is everything being leached out of life? Is the whole texture and values and everything kind of draining away? Well, that would take many other lectures, but it’s not so much about the actual advance of the technology. If machines can be human, humans can be machines. The truly scary part is the narrowing of the distance between the two.¹⁸

Zerzan menar att i takt med att maskiners kapacitet ökar så har vi en tendens att uppfatta dem som allt mer lika människor. I själva verket finns också en omvänd rörelse, dvs att människor allt mer liknar maskiner. Poängen i Zerzans resonemang är att det är den teknologiska utvecklingen som framkallar människans succesiva närmande till

maskinerna. I en omgivning av allt mer avancerad teknologi reduceras människan och det mänskliga succesivt till något maskinellt. Det är detta som är det verkligt

skrämmande; människan är på väg att avhumaniseras. En övertro på teknikutvecklingen tycks driva fram ett slags förflackande urbanisering av det mänskliga tänkandet och synen på människan. Vi vänder oss till tekniken och naturvetenskapen för att lösa snart sagt alla problem och driver då oss själva mot ett allt mer maskinellt tänkande och en maskinell syn på vår omgivning.

När skillnaden mellan maskiner och människor succesivt minskar kan det dock vara enklare och inte fullt lika skrämmande att betrakta maskinerna som allt mer lika

människorna. Att se sin egen utveckling kan vara svårt och att se sig själv förvandlas till något maskinellt är heller inte särskilt tilltalande. Vi riskerar därför att låta oss luras. Att tillskriva maskiner mänskliga egenskaper är inte lika skrämmande. I alla fall inte så länge som människan har övertaget. Vi tycks föredra Turingmaskiner med mänskliga likheter framför Turingmänniskor med maskinella likheter och blir blinda för vår egen utveckling. Ur ett kunskapsperspektiv innebär begreppet Turingmänniskan att kontakten med det mänskliga yrkeskunnandet riskerar att gå förlorad och det är här som

forskningsområdet yrkeskunnande och teknologi har sin kärna.

Maskiner med mänskliga egenskaper associeras ibland med en slags domedagstanke som gestaltas i böcker och på film inom genren science fiction. Ta som exempel filmerna om Terminator. I dessa skildras hur intelligenta maskiner tar över världen.

Maskinerna överglänser människornas intelligens och förmågor. Maskinerna har dessutom försetts inte bara med ett medvetande utan också med en egen vilja och en egen inre strävan – viljan och strävan att dominera och utradera mänskligheten.

Domedagstanken kan dock inte avgränsas till något som enbart fiktionen ägnar sig åt.

Även i seriös litteratur förkommer det tankar om att maskiner förutspås ta över världen.

18 Zerzan, 2002, s45

Ett exempel är Nick Bostroms bok Superintelligence. Bostrom menar till och med att superintelligenta maskiner kan vara den viktigaste och mest skrämmande utmaningen mänskligheten någonsin har mött.¹⁹

I realiteten tar sig närmandet mellan mäniskor och maskiner helt andra uttryck. Ett exempel är att människor idag i allt högre grad samspelar med varandra genom maskiner. Sociala medier som Facebook, LinkedIn, Instagram och Twitter är exempel på eller kanske rent av bidragande orsaker till detta. I vår del av världen lever vi i ett materiellt och teknologiskt överflöd, men teknologin riskerar samtidigt att utarma samspelet mellan människor när de i allt högre grad kommunicerar med varandra genom maskiner, menar John Zerzan. Det blir ytligt och distanserat.²⁰

3.4 Språk, regler och regelföljande

Datorn som modell eller metafor för den mänskliga hjärnan ligger nära tillhands när maskiner börjar betraktas som allt mer lika människor och vice versa. Synen på tankeförmåga och kunskap riskerar också att reduceras till rationellt kalkylerande och strikt regelföljande på maskiners villkor, dvs att algoritmiskt följa en logisk följd av instruktioner och beräkningar.

I linje med detta menar Turing i sin artikel att uppgiften att bygga en maskin som kan vinna Turingtestet enbart är ett programmeringsproblem. Han ger få ledtrådar utöver detta till den som bättre vill förstå hur en potentiellt tänkande maskin kan konstrueras.

Att programmera handlar om att förse maskinen, dvs datorn, med en programvara anpassad för uppgiften. Han liknar programvaran vid en instruktionsbok och datorn vid en människa som slaviskt följer dessa instruktioner – den mänskliga datorn (the human computer).

If one wants to make a machine mimic the behaiviour of the human

computer in some complex operation one has to ask him how it is done, and then translate the answer into the form of an instruction table. Constructing instruction tables is usually described as ‘programming’.²¹

Att programmera en dator innebär att förse den med instruktioner som en människa format. Datorn gör det den blir instruerad att göra, varken mer eller mindre. Människan förser den med regler att följa. Det innebär att en maskin omöjligt kan ta egna initiativ eller vara kreativ, osv. Den kan inte lära sig eller utveckla något nytt på egen hand utan måste förses med kunskap från människan som programmerar den.

Turing menar dock att om det visar sig möjligt att skriva ett program för en lärande maskin, till exempel genom att programmera den så att den kan ändra sina egna instruktioner, så är denna kritik felaktig. Han konstaterar också att även om det förmodligen är väldigt svårt eller kanske omöjligt att skapa en komplett uppsättning regler för människans agerande i olika situationer så är det å andra sidan lika omöjligt att på strikt logisk grund, övertyga sig själv om att en sådan uppsättning regler inte

19 Bostrom, 2014. John Searle recenserar boken i The New York Review of Books i oktober 2014.

Searle, 2014

20 Zerzan, 2002, s42

21 Turing, 1950, s438

finns. Han skiljer här på uppföranderegler (rules of conduct) och beteenderegler (laws of behaviour). Med det förra menar han regler eller föreskrifter som exempelvis ”stanna när du får rött ljus”. Med det senare menar han regler för människans natur som

exempelvis ”om du nyper honom så skriker han”.

Här finns en viktig distinktion att göra mellan regulativa regler, vilka är avsedda att styra, respektive regler som avsedda att förklara logiska samband. När det kommer till mänskligt beteende så är sambandsreglerna intransitiva²² till sin karaktär, dvs det är inte säkert att de gäller som förklaring. Om du exempelvis nyper en annan människa så kanske denne skriker, men det är inte säkert.

För att kunna utforma reglerna för att utföra en komplex operation måste man först fråga människan hur operationen utförs och sedan överföra det till en instruktion som datorn kan förstå, menar Turing. Detta kräver i sin tur att det finns ett språk att

formulera sig i. Ett språk för människan och ett språk för datorn. Kanske är det ett och samma? Om det ska fungera får det dock inte finnas några tveksamheter eller

tvetydigheter. Språket måste vara exakt i sina definitioner och det måste vara möjligt att formulera all kunskap i det.

Drömmen om det exakta språket är något som har rötter långt tillbaka i tiden. Professor Bo Göranzon redogör för detta i avhandlingen Det praktiska intellektet.²³ Enkelt uttryckt handlar det just om idén att skapa ett språk som med matematisk precision kan formulera all typ av kunskap och om att fixera begrepps betydelse för all framtid med hjälp av regler.

Ludwig Wittgenstein menar dock att det inte räcker med regler för att definiera ett begrepps betydelse. Ett begrepps innebörd är inget på förhand färdigt eller givet, det är snarare något som skapas och utvecklas mellan människor. Wittgenstein menar att det är begreppets användning som avgör dess innehåll; att det är i handlingar, eller praxis, som kunskapen tar sig sitt fulla uttryck. I Filosofiska undersökningar skriver han:

Om man skall göra sig förstådd genom språket, krävs inte bara en

överensstämmelse i definitionerna, utan också (hur sällsamt det än kan låta) en överensstämmelse i omdömena. ²⁴

Wittgenstein gör skillnad på regler och regelföljande. Det senare kräver erfarenhet och omdöme. Omdöme är en typiskt mänskliga förmåga som maskiner inte kan ha.

Maskiner kan bara utföra det de är konstruerade eller programmerade att göra utan hänsyn till aspekter och situationer som ligger bortom de givna reglerna och algoritmerna.

Maskiner saknar möjlighet till avvikelse och variation, de bara upprepar sig. Människor däremot kan ha förstånd att avvika från eller variera tillämningen av reglerna med

22 Inom matematiken skiljer man på transitiva och intransitiva relationer. Ett exempel på en transitiv relation är att om a < b och b < c så gäller också att a < c. Ett annat exempel är relationen mellan syskon.

Om a är syskon till b och b är syskon till c så är också a syskon till c. En intransitiv motsvarighet är den mellan halvsyskon. Om a och halvsyskon till b och b är halvsyskon till c så är det inte säkert att a är halvsyskon till c. Det går inte att dra någon slutsats.

23 Göranzon, 1996, s60-83

24 Wittgenstein, 2012, s104

hänsyn till det unika i varje situation. Den mänskliga förståelsen av reglerna bygger snarare på intersubjektivitet än på objektivitet, dvs den uppstår i mötet med situationer och människor. Människor skapar och utvecklar sig själva och varandra i ömsesidig och ständigt pågående interaktion med omgivningen. Det är i denna interaktion som

begreppen och förståelsen av omgivningens olika fenomen uppstår och förändras.

Svårigheten i att skapa entydiga regler för begrepps betydelse kan illustreras genom att fundera kring hur dessa regler ska utformas. Om de ska formuleras i ett språk så är reglerna i sig uppbyggda av andra begrepp. Även dessa begrepp måste beskrivas i regler och även dessa regler är uppbyggda av begrepp, osv. Kedjan blir oändlig, eller cirkulär om det begrepp som ska definieras används för att definiera något som ingår i kedjan för dess egen definition.

Överensstämmelse i de mänskliga omdömena är det som avgör att dessa oändliga kedjor av definitioner i praktiken inte behövs, menar Wittgenstein. Människor lär sig förstå varandra ändå genom att umgås och iteragera.

För den som alltjämt menar att det går att konstruera och formulera en uppsättning regler som kan användas för att programmera en maskin som kan härma allt mänskligt beteende perfekt, så ligger det också nära till hands att mena att det är möjligt att instruera människor att utföra arbete på samma sätt.

3.5 En fälla för tanken

I sin artikel bemöter Alan Turing på egen hand potentiell kritik av olika slag, både mot ursprungsfrågan och mot testet. Jag har redogjort för några av dessa ovan. Hans

argumentation går i samtliga fall ut på att kritiken egentligen inte visar att datorer inte skulle kunna tänka respektive att testet inte skulle kunna ersätta den ursprungliga frågan. Han till och med erkänner utan omsvep att han egentligen inte har några bevis för det han påstår, bara indikationer:

The reader will have anticipated that I have no very convincing arguments of a positive nature to support my views. If I had I should not have taken such pains to point out the fallacies in contrary views.²⁵

Turing tycks mena att även om han själv inte kan leverera några bevis för sin

ståndpunkt, så kommer han att stå fast vid den tills dess att han blir motbevisad. Varje misslyckat försök att bevisa ståndpunkten visar egentligen inget annat än att han ännu inte lyckats och att lyckas är därmed bara en fråga om fortsatt arbete och tid.

Tidsfrågan öppnar upp för en alternativ definition av begreppet tyst kunskap. Inom forskningsområdet yrkeskunnande och teknologi avses med tyst kunskap sådant som inte är möjligt att formulera explicit, dvs det oartikulerbara och ogripbara. Alternativt skulle tyst kunskap istället kunna definieras som sådant som ännu inte kan formuleras explicit och att all kunskap på sikt kommer att kunna artikuleras entydigt. Det är bara en tidsfråga innan människan lyckats.

25 Turing, 1950, s454

Resonemanget förvandlas lätt till en fälla för tanken, eftersom det inte kan korrigeras av verkligheten. Varje misslyckat försök visar inget annat än att tiden ännu inte är inne.

Tankarna riskerar att fastna i en labyrint som är svår att ta sig ur, på samma sätt som getingar fastnar i en fälla, en sådan där med saft eller någon annan söt vätska i botten, som är lätt för dem att flyga in i, men nästa omöjlig att hitta ut ur. Det är enkelt att bygga en själv av en itu klippt PET-flaska. Getingarna irrar runt i fällan tills de dör och på samma sätt riskerar tankarna att irrar runt tills de dör med de som tänker dem. Jag och mina kamrater från gymnasiet, som jag berättat om tidigare, irrade runt i en fälla som denna.²⁶

Den franske upplysningsfilosofen Jean le Rond D’Alembert är i Inledning till encyklopedien inne på en linje som leder rakt in i samma tankefälla:

Alla våra kunskaper går ju i själva verket tillbaka på förnimmelser och dessa förnimmelser är i stort sett samma för alla människor. Konsten att kombinera och föra ihop direkta idéer lägger egentligen ingenting till dessa idéer annat än en mer eller mindre exakt ordning och ett sätt att rada upp dem som kan göras mer eller mindre förnimbart för andra. En människa som med lätthet kombinerar idéer skiljer sig inte alls från en som

kombinerar dem med svårighet – de är inte mer olika än en människa som genast fäller ett omdöme om en tavla när han ser den och en människa som måste studera tavlans alla olika delar i tur och ordning för att kunna värdera den: när dessa två människor kastar en blick på tavlan mottar de samma förnimmelser, men på den andre så har de så att säga bara halkat;

de enda som behövs är att man låter honom hejda och fixera varje

sinnesintryck en längre tid för att han ska nå samma punkt som den förste hamnade vid med en gång. På så sätt skulle den förstes reflekterade idéer bli lika tillgängliga för den andre som direkta idéer. Därför är det kanske riktigt att säga att det strängt taget inte nästan inte finns någon vetenskap eller någon konst som man – med hjälp av god logik – inte kan lära den mest inskränkte; ty det är få vetenskaper och få konster vilkas satser inte kan reduceras till enkla begrepp och ordnas inbördes i en så omedelbar ordning att kedjan hänger ihop hela vägen.²⁷

D’Alembert menar att det bara handlar om med vilken hastighet som sinnet arbetar. Att alla insikter och all kunskap kan nås som en helt igenom logisk följd av de sinnesintryck varje människa får; det tar bara olika lång tid för olika personer. Innebörden är att all kunskap går att formulera explicit i logiska regler. Detta sätt att se på kunskap är också en förutsättning för att kunna programmera en maskin, en dator, som kan vinna

Turingtestet.

D’Alembert vacklar dock när han senare menar att vältaligheten är ett undantag. Den är enligt honom en sällsynt talang som inte låter sig beskrivas i regler. Det blir

motsägelsefullt. Om vältaligheten inte kan beskrivas i regler så gäller det såklart även många andra mänskliga förmågor. Och vad är det egentligen som skiljer den förste från den andre? Det handlar inte bara om den logiska tankens hastighet. Det handlar om andra saker så som känsla, blick, intuition, erfarenhet, osv.

26 Jag berättar historien om detta i avsnitt 2.2 ovan

27 D’Alembert, 1981, s59-60

I boken Spelregler – om gränsöverskrivande urskiljer Bo Göranzon fyra schematiska nivåer inom begreppet kunskap:²⁸

1. Systematisk kunskap – kunskap som är uppbackad av en vetenskap.

2. Underförstådd kunskap – kunskap som etnologer och socialantropologer arbetar med. Den är möjlig att artikulera förutsatt att man behärskar fältmetoden och är tålmodig. Kategorin präglas av regelbundenhet och är även åtkomlig genom självreflektion.

3. Tyst kunskap – Det handlar inte om saker som vi vet men sällan utsäger, utan saker som vi vet i och genom vårt handlande.

4. Förmedvetande – det som påverkar handlingar och beteende, det irrationella, upplevelser – helt enkelt psykoanalytikerns område. Att relatera denna

kunskapstyp till ett traditionellt kunskapsbegrepp är naturligtvis mycket svårt.

De två första nivåerna handlar om kunskap som antingen är artikulerad explicit eller som är möjlig, men kanske svår, att artikulera explicit. Den två sista nivåerna handlar om kunskap som inte är möjlig att artikulera explicit. Att mena att all kunskap förr eller senare kommer att kunna formuleras i regler innebär att förneka att de två sista nivåerna existerar.

3.6 Vad menade Turing egentligen?

Det ligger nära tillhands att uppfatta att Alan Turing faktiskt menade att det är fullt möjligt att bygga en maskin som kan tänka och att testet som bär hans namn kan

leverera bevis på maskiners intelligens. Detta är förmodligen den vanligaste tolkningen.

Av resonemangen ovan står det dock klart att det finns utrymme för andra tolkningar och olika potentiella avsikter, vilket också framgår av följande kritiska avsnitt i hans artikel:

It will simplify matters for the reader if I explain first my own beliefs in the matter. Consider first the more accurate form of the question. I believe that in fifty years’ time it will be possible to programme computers, with the storage capacity of about 10⁹, to make them play the imitation game so well that an average interrogator will not have more than 70 percent chance of making the right identification after five minutes of questioning. The original question, ‘Can machines think?’ I believe to be too meaningless to deserve discussion. Nevertheless I believe that at the end of the century the use of words and general educated opinion will have altered so much that one will be able to speak of machines thinking without expecting to be contradicted. I believe further that no useful purpose is served by concealing these beliefs. The popular view that scientists proceed

inexorably from well-established fact to well-established fact, never beeing influenced by any unproven conjecture²⁹ is quite mistaken. Provided it is

28 Göranzon, 2001, s50

29 Conjecture betyder ungefär gissning eller antagande

made clear which are proven facts and which are conjectures, no harm can result. Conjectures are of great importance since they suggest useful lines of research.³⁰

Turing ger uttryck för en tro, en övertygelse, att det kommer att vara möjligt att

programmera en dator som kan vinna Turingtestet, men skriver samtidigt att det snarare handlar om en gissning eller ett antagande snarare än om logisk vetenskaplig

slutledning. Men gissningar och antaganden, menar han, ger viktiga ledtrådar för inriktningen av framtida forskning. Är det kanske så att det var en sådan ledtråd han ville ge? Ville han helt enkelt driva på forskning och utveckling i denna riktning?

Det mest intressanta är dock, enligt min uppfattning, att Turing faktiskt menar att frågan om maskiner kan tänka är ointressant att diskutera. Han menar inte att maskiner

kommer att kunna tänka. Det han menar är att den allmänna opinionen kommer att ha förskjutits så mycket vid slutet av århundradet (dvs före år 2000) att man kommer att kunna tala om tänkande maskiner utan att förvänta sig att bli motsagd. Både

Helena Granström och John Zerzan hänvisar till detta stycke i tidigare nämnda essäer.

Granströms tolkning går rakt på sak:

Turing säger inte: mot seklets slut kommer teknologin att ha utvecklats så långt att maskiner faktiskt kommer att kunna tänka.

Han säger: vår förståelse av mänskligt tänkande kommer att ha förskjutits i riktning mot informationsbearbetning, till den grad att det inte längre är möjligt att särskilja från en maskinell process.³¹

Det handlar med andra ord snarare om en förändring i synen på datorer och på

mänskligt tänkande än om tekniska framsteg. Det handlar snarare om en utveckling av samhället och kulturen än om teknisk utveckling. Det handlar om ett succesivt och ömsesidigt närmande mellan maskiner och människor som får gränsen dem emellan att sakta med säkert tona bort.

Kanske är artikeln avsedd att vara en ironi? Ett slags provokation ungefär på samma sätt som Joseph Weizenbaum en gång i tiden skapade datorprogrammet Eliza i syfte att öka medvetenheten om datorns begränsningar. Genom att låta Eliza simulera en

psykoterapeuts frågor ville han visa på orimligheten i att använda en maskin som ett terapeutiskt verktyg. Reaktionen blev dock inte vad Weizenbaum förväntat sig.

Psykoanalytikerna blev snarast entusiastiska och såg en möjlighet att reducera patienternas väntetider.³²

Kanske ville Turing på samma sätt påvisa orimligheten i att försöka bygga en maskin som påstås kunna tänka? Har vi låtit artikeln lura oss på samma sätt som Wiezenbaum oavsiktligt lurade in psykoanalytikerna på ett villospår? Har vi fört oss själva in i en tankefälla och därigenom skapat oss en ohämmad tilltro till tekniken och dess framsteg?

30 Turing, 1950, s442

31 Granström och Göranzon, 2011, s74

32 Göranzon, 1996, s92

Det paradoxala med Turing är att han 14 år tidigare, i en vetenskaplig artikel med titeln On computable numbers, with an application to the entscheidungsproblem, där han lägger den matematiska grunden för datorn, intar en motsatt hållning till maskiners förmåga. I artikeln behandlas avgörbarhetsproblemet (the entscheidungsproblem), som ursprungligen formulerades av David Hilbert. Avgörbarhetsproblemet ställer frågan om det finns någon entydig metod eller algoritm för att avgöra om logiska och matematiska utsagor är sanna eller falska, vilken fungerar för alla varianter av utsagor. Turing visar att någon sådan metod inte existerar och att det därmed inte går att konstruera ett logiskt system som är helt komplett, dvs ett system som innehåller entydiga regler för allt.

Detta slår undan benen för tanken att all kunskap och allt beteende kan beskrivas i regler, dvs grundvalen för Turingmaskinen. Om det inte går att formulera allt mänskligt beteende i regler, så går det heller inte att konstruera men maskin som kan härma allt mänskligt beteende perfekt.

Artikeln från 1950 kan i skenet av detta ses som en helt oväntad kovändning, vilket i sin tur kan vara ett tecken på att den egentligen är avsedd som en ironi eller provokation.

Alternativt har Turing genom sitt tidigare arbete kommit att intressera sig för vad som är möjligt att åstadkomma med maskiner, men då glömt bort att undersöka vad som inte är möjligt och därigenom blivit gränslös. Han har förskjutit sin uppfattning om maskiner förbi gränsen för det möjliga och rimliga.

Att vara bildad är att se gränserna för de metoder och verktyg man använder.³³

Det lär den franske matematikern och filosofen Rene Descartes ha formulerat redan på 1600-talet i Avhandling om metoden. Detta kan vara bra att påminna sig om då och då.

För att se var en gräns går behöver den betraktas från olika håll. Det ensidiga

perspektivet riskerar att bli alltför onyanserat. Det skapar en falsk tydlighet i den osäkra gråzonen.

Descartes är också känd för sin sats; jag tänker alltså finns jag. Detta kopplar samman tankeförmåga med medvetande. Descartes menade också att det inte går att tvivla utan att tänka. Förmågan att tvivla är en typiskt mänsklig egenskap som ligger bortom det maskinellt kalkylerande.

Kanske är Turings kovändning mellan 1936 och 1950 skenbar. Den är kanske inte ett uttryck för att han ändrat uppfattning utan snarare ett uttryck för ett sunt tvivel på vetenskapen; på sin egen matematiska bevisföring från 1936. Ett tvivel som han vill undersöka, och som blir paradoxalt i sig i och med att Turingmaskinen bygger på en övertygelse om vetenskapens exakthet och att mänskligt beteende går att beskriva med strikta logiska regelsystem.

Att Alan Turing tvivlar och vacklar i sin uppfattning finns det flera tecken på.

Exempelvis återger hans mamma Sara i sin biografi över sonen ett utdrag ur en artikel i den brittiska tidningen The Times. I artikeln, som handlar om vad som är möjligt att åstadkomma med maskiner, citeras han och säger då bland annat så här:

33 Göranzon, 2011, s9

[…] I do not see why it [the machine] should not enter anyone of the fields normally covered by the human intellect, and eventually compete on equal terms. I do not think you can even draw the line about sonnets, though the comparison is perhaps a little bit unfair because a sonnet written by a machine will be better appreciated by another machine.³⁴

Å ena sidan menar Turing att maskinen kan tränga in på vilket mänskligt intellektuellt område som helst; den skulle till och med kunna skriva en sonett. Å andra sidan menar han att den sonetten i så fall förmodligen skulle uppskattas bäst av en annan maskin, vilket innebär att han har identifierat en gräns för maskinens förmåga relativt

människans.

3.7 Artificiell intelligens och teknisk utveckling

Det råder dock inga tvivel om att Alan Turings idéer har gett upphov till forskningsområdet artificiell intelligens (AI) och att detta har i sin tur drivit på

teknikutvecklingen. Utan Turings arbete hade exempelvis mitt eget yrke inte existerat, i vart fall inte i den skepnad det gör idag. I min bransch har han ikonstatus, även om det inte längre pratas om honom speciellt ofta ingenjörer emellan.

Forskningen inom AI inriktades tidigt på språkförståelse. Dagens moderna

programspråk³⁵ är en frukt av försöken att få datorer att förstå det mänskliga språket.

De är ett slags primitivt förverkligande av drömmen om det exakta språket.

Ett programspråk är ett så kallat formellt språk, med väldefinierad syntax och semantik.

Det vilar på en matematisk grund och kan förstås av både datorer och av människor, men saknar utrymme för de tvetydigheter och tolkningar som finns i ett så kallat naturligt språk, det vill säga den typ av språk som människan normalt använder.

Ett programspråk fungerar utmärkt för kommunikationen mellan människa och dator;

människan (programmeraren) ger datorn instruktioner. För kommunikation mellan människor fungerar det sämre med sin algoritmiska torftighet. Programspråk saknar många av det mänskliga språkets uttrycksfullheter. Ironi, humor och metaforer är exempel på sådant som ett programspråk inte kan förmedla. I ett programspråk finns inte heller utrymme för de förskjutningar av begrepps betydelse som förekommer i det mänskliga språket, både över tid och mellan sammanhang.

Även om de formella språken kan förstås av både människan och datorn så är det förståelse olika karaktär eller på olika nivåer – semantiken är olika. Människan (programmeraren) kan exempelvis förstå vad funktionerna och algoritmerna i den aktuella programvaran utför. Om det är ett program för ordbehandling, kalkylering, hållfasthetsberäkning, flygledning, osv. Datorn förstår i grund och botten inget annat än symboler i form av ettor och nollor representerade av elektriska signaler. Programvaran, uttryckt i ett formellt språk, beskriver för datorn hur den ska manipulera dessa

symboler. Det är återigen en fråga om medvetande och om att förstå sammanhanget.

34 Turing, 2012, s 89

35 Språk som används för att programmera datorer brukar gemensamt benämnas programspråk

Att få datorer att förstå mänskligt språk har visat sig vara svårare än man från början trodde. Däremot har forskningen gjort framsteg på andra områden, vilka visat sig vara enklare för maskiner att bemästra än naturligt språk. Exempelvis lyckades IBMs schackdator Deep Blue slå den då regerande världsmästaren Garri Kasparov i ett parti 1996. Det var första gången en dator lyckades med detta. Året efter följde Deep Blue upp segern genom att slå Kasparov i en hel match om 6 partier.

IBM har fortsatt sitt forskningsarbete och 2011 lyckades deras nya dator, kallad Watson, slå en stormästare i Jeopardy. ”Watson är första steget mot en ny typ av dator som förstår mänskligt språk”, menar Eric Brown som är forskningsledare på IBM i en artikel i tidningen Ny Teknik 2014³⁶. Han ser möjliga tillämpningar på områden där stora mängder text behöver analyseras, exempelvis ”i ett företags kundtjänst, som expert inom vården, som rådgivare i styrelserum – ja till och med som kock”.

Jag undrar i vilken mån IBM har tagit lärdom av datorprogrammet Eliza? Jag funderar också över trovärdigheten i förutsägelser om hur ny teknik kan användas. Vad vet exempelvis Eric Brown om hur det är att arbeta i en kundtjänst, inom vården, i en styrelse eller som kock? Vad vet han om lämpligheten i att införa datorstöd i den typen av verksamheter? Inte sällan har tekniska innovationer kommit att användas på helt andra sätt än det från början var avsett. Telefonen var exempelvis tänkt att användas för att lyssna på konserter på distans och SMS var avsett att användas av börsmäklare för att kommunicera aktiekurser.

Det är inte enkelt att förutsäga konsekvenserna av att införa ny teknik. Teknisk

utveckling kan vara både på gott och på ont. Datorn och annan teknologi betraktas ofta som neutrala verktyg. Så länge som de inte används kan de också betraktas som neutrala, men så fort de börjar användas påverkar de människorna, arbetet, samhället och kulturen på olika sätt. Däri ligger en etisk aspekt av den tekniska utvecklingen.

Borde kanske ingenjörer ha en etisk kod på samma sätt som exempelvis läkare och jurister?

I spåren av idén om tänkande maskiner, eller maskiner som kan härma mänskligt beteende perfekt, så har det även uppstått arbete kring samarbetande maskiner. Vid Harvard University pågår forskning som går ut på att ta fram algoritmer för svärmar av små och billiga robotar som kan samarbeta för att lösa en uppgift³⁷. Robotarna kallas för Kilobots och kan programmeras att exempelvis följa efter varandra, eller att tillsammans bilda ett givet mönster. Upplevelsen av att observera robotarna på film med uppskruvad hastighet påminner om en myrstack. De blir förföriskt djurlika.

Ett steg i liknande riktning är en av de trender som det just nu pratas mycket om: the internet of things. Innebörden i begreppet är att i framtiden kommer inte bara människor att kommunicera via internet utan även maskiner. En vanlig vision är exempelvis det intelligenta hemmet som vet när du behöver köpa mjölk och kanske beställer själv från butiken eller vet när du är på väg hem från jobbet och slår på kaffet i lagom god tid så att det står färdigt när du kommer hem, osv.

36 Alpman, 2014

37 Projektet beskrivs på webplatsen för Harvard University:

http://www.eecs.harvard.edu/ssr/projects/progSA/kilobot.html.

Där finns också videoinspelningar som visar robotarna när de arbetar.