Moores lag

En än mer optimistisk utgångspunkt är att den utveckling vi ser idag, kanske kan komma att avstanna, eller sakta ner, men inte avta som diskuterats ovan. Möjligheterna för vad som kan hända i denna version av framtiden är oändliga, och det blir istället intressant att spekulera i

“när” istället för “om”. Enligt OpenAI, se kapitel 4.1. har det som tidigare nämnts, skett en exponentiell ökning av den datorkraft som krävs för att lära nya system att lösa komplexa problem. Fram tills året 2012 följde ökningen av den datorkraft som krävdes för att lära upp nya system, Moores lag. Denna lag säger att det sker en fördubbling av transistorer på ett chip varje 24e månad. Trots att denna lag inte var ämnad att förutspå hur mycket datorkraft en AI kräver för att lära sig nya saker, har den ändå varit applicerbar under en längre tid. Efter året 2012 avvek grafen från det förväntade med en exponentiell ökning, där fördubbling sker redan efter 1/7 av den förväntade tiden (24 månader). Man kan alltså säga att datorkraften som krävs, ökar 7 gånger snabbare än vad Moores lag förutspår.

28 I detta scenario tänker vi oss att Moores lag träder i kraft, och utvecklingen saktar åter igen ner till den nivå som denna lag förutspår. Vad innebär då detta scenario för framtidens AI? Om utvecklingen inte avstannar, och resurser inte är ett problem, kan man argumentera för att skapandet av en AGI inte längre är en fråga om det sker, utan när. Det finns dom som ändå tror att AGI aldrig kommer uppnås, varför detta är fallet skiljer sig troligen från person till person, men ett gemensamt argument är att människans hjärna är allt för avancerad och komplex för att kunna simuleras. Det är alltså inte nödvändigtvis maskinernas limitationer som hindrar skapandet av AGI, dessa forskare menar att det är vårt eget intellekt. Gruppen forskare som tror att det är omöjligt att skapa en AGI är i klar minoritet, endast 7% av tillfrågade svarade

“never”, i studien från 2009 där man tillfrågade experter inom området under konventet AGI-09 [73].

Tiden efter att AGI har skapats är mycket intressant, och det finns många potentiella scenarier att utforska, men till en början undersöker vi perioden fram tills att det händer, och vad det betyder för AI i helhet och dess användnings. Uppskattningsvis skulle denna period kunna gälla tills år 2100, var efter AGI uppskattningsvis är ett faktum. Stora framsteg inom AI tillåter simulationer av gener och hur aminosyror fungerar, och ger forskare en djupare insikt i hur sjukdomar fungerar, vilket leder till genombrott i hur sjukdomar kan botas och förebyggas.

Värt att notera att bara detta har väldigt stora konsekvenser på samhället i helhet, som ökad livslängd och fortsättningsvis överbefolkning mm. Ett intressant ämne, men något som faller utanför för vad denna uppsats ämnar undersöka.

Djupinlärning tillåter snabb och säker identifiering av individer som hamnar under misstanke för brott, samt kan möjligtvis bidra till ett säkrare och enklare sätt att identifiera sig när man utför tillexempel bankärenden. I militära sammanhang utförs attacker med mer precision med färre civila döda som resultat, samt ett snabbare slut på konflikter då det blir enklare att slå ut specifika mål. Trots de många positiva sakerna man kan tänka sig i en framtid med AI, så är det oundvikligt att det tillför många negativa aspekter också. Länder där det saknas kompetens, resurser eller en vilja att anamma AI kan komma att halka efter ännu mer än vad de redan gör idag, och det kan i sin tur bidra till spänningar internationellt.

Den stora skillnaden från en post-AGI värld, är att AI och dess användning fortfarande limiteras av människans intelligens och fantasi. Detta blir en central del för att försöka förutspå hur AI används av brottsbekämpande organ och dess motparter, terrorister och organiserad brottslighet, i framtiden. Efter och om genombrottet med AGI sker, kommer världen ändras

29 markant, och brukar ofta refereras som en singularitet. Detta är tidpunkten då AGI skapas, och blir en “point of no return”, efter denna händelse finns det ingen återvändo, och det som sker kan komma att vara bortom vår kontroll. En AGI är per definition en maskin som är bättre än en människa på allt, det finns inget vi människor kan göra, skapa eller tänka ut, som denna AI inte kan göra snabbare eller bättre. Efter denna singularitet blir framtiden otroligt oviss, då det är svårt att tänka sig hur en sådan AI skulle bete sig, och vad dess skapande skulle medföra för konsekvenser. Här föreställer vi oss följande scenario:

Skriv&Brev AB har skapat en AI som använder sig av djupinlärning och maskinlärning, och dess uppdrag är att skapa handskrivna brev till företagets kunder, det är trots allt trevligare att få ett handskrivet brev i dagens samhälle. Denna AI får i uppgift att skriva “Vi älskar våra kunder, MVH Skriv&Brev”. För att systemet ska lära sig att skriva, ger forskarna algoritmen tillgång till databaser med handskrivna brev. Under en period blir denna AI bättre och bättre på att skriva dessa brev, och gör stadig framgång. En dag får forskarna ett meddelande från deras AI, den ber att få tillgång till internet för att kunna samla in fler bilder och exempel på handskrivna dokument. Trots att lagen säger att en AI inte får kopplas upp till internet utan strikt översikt och tillåtande från rätt myndigheter, så kommer teamet på Skriv&Brev AB överens att systemet ska få tillgång till internet under 1 timmes tid, och sedan frånkopplas.

Efter att en timme sedan har gått kopplas systemet bort från internet utan några incidenter.

Några månader senare faller forskarna till marken döda. Så vad kan ha skett? Det visade sig att den AI som utvecklats för att skriva handskrivna brev uppnått stadiet AGI, utan att forskarna märkte något, den simulerade sedan ett väl resonerat meddelande för att få tillgång till internet. När uppkopplingen var gjord, laddade systemet upp sig i diverse databaser och började förbättra sig själv. Några månader senare hade denna AI skapat nano-maskiner som förgiftade alla människor och tog kontroll över världen. Med hjälp av fabriker skapar den sedan maskiner för att tillverka papper, pennor och bläck för att kunna utföra sin uppgift. Det dröjde sedan inte länge innan hela jorden var täckt med högar av papper där det stod “Vi älskar våra kunder, MVH Skriv&Brev”

Detta kan låta som fantasi för många, innan man har fått en förståelse för vad en AGI är kapabel till. Det finns en anledning att liknande scenarier är väl utforskade i skönlitterära verk, och är inte något som borde ignoreras när man pratar om en framtid med AGI. Man kan argumentera för hur stor den risken är, men risken finns ändå där. Detta är för att AGI eller HLMI är något som per definition omöjligt att förstå i sin helhet. De möjligheter som en sådan maskin kan se,

30 eller skapa är bortom det vi kan tänka oss, vilket gör nästan alla tänkbara scenarios, osannolika men möjliga. Ett mer positivt scenario utforskas kort i nästa kapitel.