Searles kinesiska rum

Det mest kända argumentet mot att AI kan motsvara ett verkligt tänkande är Searles kinesiska rum. Searle formulerade argumentet i en omtalad artikel som heter Minds, Brains and Programs (Searle,1980). Han framställer sitt problem på följande sätt: Kan medvetandet motsvaras av ett datorprogram? Eller mer specifikt:

Om ett datorprogram simulerar eller imiterar mänskliga aktiviteter som kräver förståelseförmåga, kan vi då säga att också datorprogrammet har förmåga att förstå?

Det är alltså en diskussion som ganska klart ansluter till Turingtestet och frågeställningarna kring den klassiska AI-forskningen.

Searle argumenterar också emot något som kallas systemsvaret vilket förefaller vara det som han uppfattar som det starkaste argumentet för stark AI. Detta systemsvar innehåller mycket av det som den konnektionistiska varianten bygger på. Det går ut på att förståelse inte bara är något som kräver en mänsklig hjärna.

Systemsvaret menar också att förståelse är något som människan uppnår i interaktionen med den omgivning hon befinner sig i. Vi skall dock börja med Searles argument mot klassisk AI.

För att testa sin fråga om datorprogrammets förmåga att förstå gör Searle en simulering. Den handlar om att han är innestängd i ett rum och ges en massa meningar nedskrivna på kinesiska. Ett språk som han inte har någon som helst kunskap i. Inte ens så mycket att han med säkerhet kan skilja nedskriven kinesiska från japanska eller från några andra meningslösa krumelurer.

Searle ber oss även anta att han får en andra uppsättning av kinesisk text tillsammans med en regeluppsättning som talar om hur han skall kombinera den första uppsättningen texter med den andra. Dessa regler är på hans modersmål engelska. Efter detta får han ännu en uppsättning texter på kinesiska tillsammans med instruktioner som är på engelska. Genom dessa instruktioner skall han kunna korrelera delar i den tredje uppsättningen med de två första, samtidigt som dessa regler instruerar honom hur han skall svara på de kinesiska symboler som har en speciell form. Honom ovetande kallas den första uppsättningen ett skript. Den andra kallas en berättelse och den tredje frågor. Den uppsättning regler han får kallas ett program.

Searle menar att efter hand blir han mycket bra på att manipulera de kinesiska symbolerna, samtidigt som programmerarna blir bra på att skriva de program de ger honom. Därför kan någon som iakttar hans beteenden från en position utanför rummet, inte skilja hans svar från de svar en infödd kines skulle ge. Alltså skulle Turingtestet ange att hans beteende är ett intelligent beteende.

Poängen i exemplet, menar Searle, är att han när han manipulerar de kinesiska orden, bara producerar svar genom att manipulera otolkade formella symboler. På så sätt uppträder han bara som en dator och är bara ett uttryck för ett datorprogram. Searle menar att den processen inte kan jämföras med den där han svarar på engelska eftersom han då förstår innebörden i symbolerna (Searle,1980:417-418).

Searle understryker att oberoende av vilka formella principer datorn programmeras med, räcker de inte för att uppnå förståelse eftersom en människa kan följa formella principer utan att förstå något.

Notice that the force of the argument is not simply that different machines can have the same input and output while operating on different formal principles - that is not the point at all. Rather, whatever purely formal principles you put into the computer, they will not be sufficient for understanding, since a human will be able to follow the formal principles without understanding anything. No reason whatever has been offered to suppose that such principles are necessary or even contributory, since no reason has been given to suppose that when I understand English I am operating with any formal program at all (Searle,1980:418).

Han framhåller att det aldrig har framlagts några bevis för att den som förstår sitt modersmål alls har lärt sig några formella program. Searles tycks mena att frågan om intelligensens förhållande till formalisering inte är avgörande, samtidigt som han menar att det avgörande är att endast människan har den maskin, i.e. hjärnan, som kan tänka. Det är då endast hjärnan som har den komplexitet som behövs för att hantera det informella. Detta går då emot det Carley m.fl. hävdar som går ut på att social intelligens har att göra med att människornas hjärnor inte är de redskap som de kan använda för att greppa det informella. Enligt den synen är det sociala processer som exponerar människor för sådant som de inte kan uppfatta med sitt medvetande.

Så här långt bör vi uppmärksamma att det är en avgörande skillnad om intelligens kan vara distribuerad i en social struktur eller om intelligens bara finns inom människor. Om intelligens finns i en kontext som inte behöver vara omedelbart skapad av människor kan man ifrågasätta Searles argument som helt bygger på att hjärnan är överlägsen datorn. Då ifrågasätter man att frågan om komplexitet handlar om något som skall jämföras med människans hjärnkapacitet.

Vi ser åter att de argument som berör diskussionen om stark AI oftast är krångliga. Argumenten blir inte mindre krångliga av att människor när de interagerar med andra människor naturligtvis skapar kontexter för varandra. Och att detta kan ske utan att de behöver förstå varandra under interaktionen.

Luhmann använder begreppet dubbel kontingens bl.a. för att visa på att människor i en interaktion sällan helt förstår den andre. Frågan kommer då att handla om huruvida situationer bara kan skapas av människor eller om också artefakter har en sådan funktionalitet. Det är ett rimligt antagande att frågan ställd på det viset är mindre kontroversiell än en fråga som handlar om huruvida maskiner kan ersätta mänskligt tänkande.

Vi bör uppmärksamma att Searle inte i första hand bygger sina argument på att människan är en social varelse. Han grundar istället sitt ställningstagande mot att maskiner kan tänka, på att de inte är lika effektiva maskiner som människornas hjärnor. Han betonar att han faktiskt menar att maskiner kan tänka. Men människornas hjärnor är de enda maskinerna som kan tänka:

"Could a machine think?" My own view is that only a machine could think, and indeed only very special kinds of machines, namely brains and machines that had the same causal powers as brains. And that is the main reason strong AI has had little to tell us about thinking, since it has nothing to tell us about machines. By its own definition, it is about programs, and programs are not machines. Whatever else intentionality is, it is a biological phenomenon, and it is as likely to be as causally dependent on the specific biochemistry of its origins as lactation, photosynthesis, or any other biological phenomena. No one would suppose that we could produce milk and sugar by running a computer simulation of the formal sequences in lactation and photosynthesis, but where the mind is concerned many people are willing to believe in such a miracle because of a deep and abiding dualism: the mind they suppose is a matter of formal processes and is independent of quite specific material causes in the way that milk and sugar are not (Searle,1980:424).

Vi bör också lyfta fram att trots att Searle argumenterar emot den klassiska AIn, bör han ändå omfatta de antaganden om rationell bearbetning av intryck från omvärlden som den klassiska AIn bygger på. Både Searle och klassisk AI hävdar att det komplexa skapas av en processande maskin. Det är då kapaciteten i den processande noden som är avgörande. Searle menar snarast att den klassiska AIn inte fungerar på grund av att det inte går att bygga en dator som har hjärnans komplexa funktionalitet. Searles kritik är därför annorlunda än den sociologiska kritik som går ut på att det inte går att programmera den komplexitet som skapas i de sociala interaktionerna. Den är dock relevant för den sociologiska diskussionen

eftersom den sociologiska kritiken ändå till slut landar i en uppfattning som anger att vi aldrig kan komma förbi den mänskliga hjärnans kapacitet.