Juridiska institutionen
Vårterminen 2020
Examensarbete i
Processrätt
30 högskolepoäng
Roboten som domare
-
faror, utmaningar och möjligheter.
The robot as a judge
-
dangers, challenges and opportunitiesFörfattare: Felix Wideroth
“We are not spectators of the future, we are actors of the future.
So, we cannot just cross our arms and say AI are so bad. Why is AI
bad? You are the one that can make AI good. So, you are actor of
the future.”
- Manuela M. Veloso
Förord
Denna uppsats är skriven som det avslutande arbetet på juristprogrammet vid Uppsala universitet. Min förhoppning är att den kan komma att utgöra en första ordentlig analys av artificiell intelligens i domstolsväsendet och de utmaningar, möjligheter och faror som finns i det.
Artificiell intelligens är ett område som väckte mitt intresse för ungefär 2 år sedan. Detta intresse har gjort att jag börjat fördjupa mig i datorvetenskapen och speciellt användningen av artificiell intelligens i juridiken. Bristen på forskning och konkreta utredningar har gjort att jag tvingats söka kunskap på andra sätt än vad som är vanligt vid en mastersuppsats, men på ett sätt som är otroligt fruktbart inom ett så ungt område, nämligen genom samtal och diskussioner. Som i alla stora förändringar börjar dessa diskussioner på ”golvet” mellan kollegor och vänner som utbyter tankar och idéer som i sin tur leder till nya tankar och idéer. Detta har gett mig möjlighet till flera hundra timmars diskussioner med andra studenter, forskare och yrkesverksamma personer inom både artificiell intelligens och juridik från bland annat Sverige, Singapore och USA. Mycket i den analys som jag redogör för kommer från sådana diskussioner samt från min analys när jag efteråt sammanfattat diskussionerna. Det är under dessa efterföljande reflektioner jag givits möjlighet att sätta saker i perspektiv och på sätt börjat problematisera det ur en juridisk utgångspunkt.
Trevlig läsning!
Felix Wideroth
Innehållsförteckning
FÖRORD ... I INNEHÅLLSFÖRTECKNING ... II FÖRKORTNINGAR ... IV 1 INLEDNING ... 1 ALLMÄNT ... 1SYFTE OCH FRÅGESTÄLLNING ... 3
AVGRÄNSNING ... 4
METOD ... 5
FORSKNINGSLÄGE, MATERIAL OCH MATERIALVAL ... 6
DISPOSITION ... 8 TERMINOLOGI ... 8 2 ARTIFICIELL INTELLIGENS ... 10 ALLMÄNT ... 10 VAD ÄR ARTIFICIELL INTELLIGENS? ... 10 MASKININLÄRNING ... 15
DATA OCH DESS BETYDELSE FÖR MASKININLÄRNING ... 19
HÅRDVARANS BETYDELSE ... 20
SAMMANFATTANDE KOMMENTARER ... 21
3 PROCESSFÖRING I DOMSTOL ... 22
ALLMÄNT ... 22
DOMSTOLENS UPPBYGGNAD OCH FUNKTION ... 22
DOMSTOLSPROCESSENS DELAR ... 23
BEVIS OCH BEVISVÄRDERING – VAD DOMSTOLEN FÅR TA STÄLLNING TILL ... 24
DOMSLUT OCH DOMSKÄL ... 25
NÅGOT OM RÄTTSSÄKERHET ... 26
4 ARTIFICIELL INTELLIGENS I DOMSTOLSVÄSENDET ... 27
ALLMÄNT ... 27
JURIDISK METOD I EN BERÄKNINGSBASERAD VÄRLD ... 30
MANIPULATION AV ARTIFICIELL INTELLIGENS ... 32
TRANSPARENS VID AUTOMATISERAT BESLUTSFATTANDE ... 34
BEVIS OCH BEVISVÄRDERING ... 35
4.5.1 Bevisvärdering av AI-domaren ... 35
4.5.2 Manipulering och fabricering av bevis med hjälp av Artificiell intelligens ... 36
BIAS I DOMSTOLARNA OCH VID MASKININLÄRNING ... 37
5 AI-DOMAREN ... 41
ALLMÄNT ... 41
DOMSTOLARNAS TRE INSTANSER ... 41
DOMARE, NÄMNDEMÄN OCH FLERDOMARSITS ... 42
IMPLEMENTERING OCH ACCEPTANS ... 44
BÖR DET FINNAS EN AI-DOMARE? ... 45
6 AVSLUT ... 46
KÄLL- OCH LITTERATURFÖRTECKNING ... 49
OFFENTLIGT TRYCK ... 49
LITTERATUR ... 49
Förkortningar
HD Högsta domstolenAI Artificiell intelligens såsom ett datorprogram/programkod/mjukvara
ML Maskininlärning (eng. Machine Learning)
RB Rättegångsbalken
NLP Natural language processing
NLU Natural Language Understanding
1 Inledning
AllmäntIneffektivitet, utdragna förfaranden, höga kostnader och till och med orättvisor är några saker som vi ibland kan associerar rättsväsendet i allmänhet och kanske domstolar i synnerhet med. Men tänk om så inte alls var fallet, att en process i domstol alltid var effektiv, billig och helt fri från felaktiga slutsatser och orättvisor. Detta är långt ifrån en omöjlighet med en robot som domare. Juridiken ska vara objektiv, där vi utifrån i förväg givna parametrar kan göra objektiva bedömningar utan inflytande av förutfattande meningar och känslor m.m. Detta gör det möjligt att applicera juridiken i matematiska modeller som kan ta beslut och göra bedömningar åt oss. Med en robot som domare kan vi bli av med följderna av trötthet, medvetna och omedvetna bias samt säkerställa att domaren alltid har med sig den senaste kunskapen om aktuellt rättsläge. Vi kan behandla ärenden parallellt istället för efter varandra och därmed även avsevärt öka effektiviteten. Arbetskapaciteten för en dator är närmast obegränsad och har i teorin inte alla de ”svagheter” som vi människor har. Möjligheten att i framtiden kunna använda en robot som domare stavas Artificiell intelligens.
AI1 är något vi kommer i kontakt med varje dag. Vi finner det i allt från självkörande bilar till spamfiltret i din mailkorg. I sjukvården blir det allt vanligare att det används inom diagnostik och patienter börjar till och med kräva det vid vissa typer av bedömningar. Det rör då framförallt analys av olika typer av röntgendata från t.ex. en magnetkamera (MR). AI modeller som tränats att upptäcka tumörer har visat sig ha mycket högre träffsäkerhet vad gäller
1 Användningen av begreppet Artificiell intelligens vs. AI beskrivs nämnare under avsnitt 1.7
diagnostisering än en läkare.2 Juristyrket är dock fortfarande relativt opåverkat av Artificiell intelligens, men det är något som håller på att förändras. I USA används t.ex. olika AI för att förutspå återfallsrisken för fångar, vidare har en annan typ av AI visat sig med förvånansvärt godtagbar säkerhet kunnat förutspå utgången i fall i USAs högsta domstol.3 Framförallt i den affärsrättsliga delen av juristbranschen börjar AI få en allt större roll och det investeras mycket pengar och tid i att utveckla program för att stödja jurister i deras arbete.4 Det handlar då framförallt om automatisering av kontrakt, analys av kontrakt och andra dokument samt juridisk efterforskning. Tittar vi närmare inom myndighetssverige så finns en ganska bred användning av automatiserade beslut, vilket är en typ av AI, om än väldigt enkel. Hos Domstolsverket pågår projekt där de tittar på hur Artificiell intelligens kan komma att förändra deras arbete. Det handlar just nu dock framförallt om automatisering av mer administrativa uppgifter så som schemaläggning, arkivering och liknande administrativa arbeten. Att en AI skulle kunna vara domare ser dock för närvarande avlägset ut.5
Möjligheterna med en robot som domare är som jag inledningsvis beskrev enorma, men det finns många stora utmaningar på vägen dit. Utmaningarna är inte bara tekniska utan även moraliska och etiska och utmanar våra nuvarande juridiska metoder.6 Att introducera AI i rättsskipningen syftar inte till att förändra systemet i sig utan syftar till att med ny teknik delvis ersätta befintliga aktörer i syfte att göra systemet bättre. Vi behöver därför dels på nytt ställa oss centrala frågor om rättsväsendet, dess funktion och syfte. Men vi behöver också titta på hur Artificiell intelligens fungerar för att ur en juridisk synvinkel adressera de utmaningar som
2 McKinney m fl s 1 ff. 3 Katz m fl 2017 s 1 ff.
4 Öster & Ekholm, AI standard på storbyråerna, 2019 samt Öster & Ekholm, Algoritmernas nya era
är här, 30/11 2019 samt Öster & Ekholm, AI nu självklar på advokatbyråerna, 30/11 2019
uppstår. I den kontexten behöver vi sedan fråga oss om vi vill implementera AI i rättsväsendet, hur de ska gå till och när vi ska göra det?
Syfte och frågeställning
Den praktiska användningen av AI i allmänhet har ökat explosionsartat de senaste åren och vi har troligen bara sett början på en hissnande utveckling. I Sverige använder idag flertalet av de stora advokatbyråerna någon form av AI-lösning för att effektivisera sin dagliga verksamhet. Svenska myndigheter börjar i allt större utsträckning använda sig av AI för att ta vissa beslut och vi är nu i ett läge där en robot som domare inte längre bara är en fantasi utan en verklig möjlighet. Att en dator kan utföra komplexa arbetsuppgifter som tidigare bara kunde göras av människor är fullständigt revolutionerande. Utveckling och den efterföljande implementeringen av AI modeller är dock en otroligt svår och komplex fråga. Inte minst handlar det om tekniska utmaningar men kanske framförallt om etiska och moraliska ställningstaganden som tvingar oss att gå tillbaka till grunden i många frågor. För juridiken betyder detta att vi dels behöver ifrågasätta den nya tekniken ur en juridisk synvinkel men även att vi behöver börja ifrågasätta och utmana sedan tidigare givna juridiska metoder och synsätt för att undersöka hur denna nya teknik på bästa sätt kan utnyttjas för att främja rättssamhället.
närmare analysera Artificiell intelligens i domstolsväsendet i allmänhet och AI som domare i synnerhet. Med arbetet vill jag reda ut vad som krävs för att använda AI i domstolsväsendet men framförallt och mest intressant vilka utmaningar vi står inför och vad vi måste tänka på i den utvecklingen. För att vi ska kunna utveckla både välgörande och rättvis AI är det avgörande att vi är delaktiga i den utvecklingen.
Inom ramen för utredningen behandlas följande frågeställningar:
1. Vilka möjligheter, faror och utmaningar finns det med en AI domaren? 2. Bör det finnas en AI domare?
Avgränsning
Trots dess övergripande karaktär är arbetet väldigt tekniskt. Det går tyvärr inte att komma ifrån i ett område så som detta. En av anledningarna till varför jag valt att hålla det brett är på grund av den begränsade förståelse för hur Artificiell intelligens fungerar som allmänt råder. En snävare avgränsning inom något av de områden som jag senare i min framställning behandlar skulle kräva en än mer teknisk analys eftersom det kräver en ännu djupare förståelse för hur Artificiell intelligens fungerar inom just det specifika området.
Även om de flesta exempel som ges i arbetet är inom ramen för de allmänna domstolarnas ansvarsområde så är arbetet inte begränsat till enbart dessa utan går att applicera på alla typer av domstolar. De allmänna domstolarna har i regel mer komplexa och detaljstyrda ärenden än förvaltningsdomstolar varför de lämpat sig bäst att ta dessa som exempel.
Metod
Arbetets fokus ligger som jag tidigare nämnt inom ett område där teknologi och juridik samverkar. För första gången sker denna samverkan inte bara på ett praktiskt plan genom att t.ex. erbjuda möjligheter till ljud- och bildupptagning eller användandet att tekniska hjälpmedel i presentation av ett ärende. Användandet av Artificiell intelligens i juridiken innebär att denna samverkan nu kan ske på ett intellektuellt plan, där AI kan ta över och ersätta det analyserade arbete som tidigare gjorts av en utbildad jurist. Att analysera detta med hjälp av vedertagna juridiska metoder som t.ex. rättsdogmatiken förefaller därför inte som bästa tillvägagångsätt. Jag har därför valt att tillämpa en interdisciplinär forskningsmetod där jag förenar juridik med teknologi.7 Metoden syftar till att analysera och kritiskt granska användandet av tekniska lösningar vid praktiserandet av juridik. Det handlar alltså inte om att analysera tekniska
lösningar i allmänhet utan särskilt tekniska lösningar som har kapacitet att ta juridiska beslut eller göra kvalificerat juridiskt arbete.
Forskningsläge, material och materialval
Det sker betydande forskning inom området Artificiell intelligens, både vad gäller den tekniska sidan men även hur vi ska utveckla etisk och hållbar AI. Däremot är forskningen inom Artificiell intelligens i rättsväsendet begränsad i dagsläget. I den privata sektorn sker forskning och utveckling för att ta fram AI lösningar för att effektivisera det dagliga arbetet. Gemensamt för den forskningen är att det primärt handlar om verktyg som kan ta över de mer repetitiva delarna av en jurists arbete. Det handlar då främst och efterforskning i databaser, analys av kontrakt och annat som är mycket tidskrävande. Det finns viss forskning från USA där AI har använts för att förutspå utgången i rättsfall samt även forskning om den juridiska metoden i en beräkningsbaserad värld. Men dessa har endast skrapat på ytan av ett område som rymmer mycket mer. Ser vi till Sverige är forskningen om Artificiell intelligens i det svenska domstolsväsendet närmast obefintlig. Den hittills kanske främsta ansträngningen att börja analysera AIs roll som domare har gjorts av Eric Bylander i artikeln ”Den datoriserade domaren” i SvJT.8 Det säger även något om forskningsläget när det ”bara” är en artikel som utgör det största bidraget till området idag, framförallt så är det ett tydligt tecken på att mer forskning behövs.
Det material jag använt mig av är dels de klassiska rättskällorna när det kommer till juridiken så som lagar, propositioner, utredningar och doktrin. En betydande del av mitt material består dock utav forskning om Artificiell intelligens och maskininlärning. Jag använder mig även utav artiklar från branschtidningar och forskningspublikationer som i olika omfattning tar upp området Artificiell
intelligens och Artificiell intelligens i rättsväsendet.9 En viktig aspekt gällande forskningsläget behöver belysas. Artificiell intelligens är idag troligen ett av de hetaste forskningsområdena i världen. Det betyder också att det läggs enorma resurser på forskning och utveckling. I kombination med att Artificiell intelligens är ett relativt nytt forskningsområde leder det till att utvecklingen går mycket fort framåt och nya genombrott sker nära inpå varandra. Som exempel så introducerade Google under skrivande av denna uppsats en ny typ av algoritm i sin sökmotor som visade sig vara mycket bättre än tidigare modeller på att förstå språk och språklig kontext. Det som läggs fram i denna uppsats är vad som var känt i december 2019. Detsamma, att det bara är det som var känt vid författandet som berörs, gäller såklart för alla typer av vetenskapliga framställningar men jag anser det särskilt viktigt att poängtera i detta fall. Anledningen till att jag vill understryka detta är att det är viktigt för dig som läsare att vara uppdaterad på området och ha med i bakhuvudet att det löpande sker stora förändringar inom detta område.
Mitt mål är att få bidra till denna så viktiga fråga och min förhoppning är att uppsatsen kan fungera som en utgångspunkt i en fortsatt diskussion kring Artificiell intelligens i det svenska rättsväsendet. Fokus är därför att på ett övergripande plan analysera Artificiell intelligens i rättsväsendet i allmänhet och domstolarna i synnerhet för att identifiera inte bara möjligheterna, utan även faror men framförallt utmaningarna vi står inför.
9 För forskning inom datorvetenskap och AI har jag använt mig av arXiv vilket är en databas för digital
Disposition
Utredningens första hälft består av två avsnitt som var för sig introducerar läsaren till ämnet genom att gå igenom grunderna. Jag inleder med att på ett övergripande plan förklara vad Artificiell intelligens är och hur det fungerar genom att använda mig utav konkreta exempel. Därefter går jag vidare till ett avsnitt om processföring i domstol, hur det svenska domstolarna är organiserade, vilka funktioner som finns och processföringens grunder. Baskunskapen i dessa två avsnitt är sedan avgörande för den kommande analysen i avsnittet om Artificiell intelligens i domstolsväsendet. I avsnitten Artificiell intelligens i domstolsväsendet gör jag en metodisk genomgång av de centrala delarna av Artificiell intelligens med fokus på de utmaningar som finns med implementering av AI i ljuset av processföringens principer.
Terminologi
Datorvetenskapen i allmänhet och Artificiell intelligens i synnerhet är för många ett vetenskapligt område vi inte ofta kommer i kontakt med även om vi dagligen kommer i kontakt med AI baserade hjälpmedel via vår telefon/smartphone/dator. För att förenkla för läsaren vill jag därför inledningsvis förtydliga och förklara viss terminologi som kommer användas i arbetets fortsatta del. Den absoluta majoriteten av all forskning inom Artificiell intelligens idag sker med det engelska språket som grund. Jag har därför valt att fortsätta använda mig av de engelska termerna och även tillhörande förkortningar av dessa termer. Anledningen till detta är att det ofta inte finns tillräckligt bra översättningar till svenska samt att jag inte vill röra till det för en läsare som redan är bekant med området eller i framtiden kommer fortsätta utforskandet på egen hand.
specifik förmåga som uppnås genom att implementera teknikerna i området Artificiell intelligens förkortas till ”AI”.10 AI är den term som vanligen används både i vardagligt språkbruk såväl som inom forskning för att övergripande benämna denna nya teknologi. AI kommer även användas tillsammans med begreppen program, modell eller applikation och beskriver de algoritmer och/eller datorkod som representerar en särskild AI med en viss uppgift.
Begreppet data är centralt i diskussioner om Artificiell intelligens. I datorsammanhang används data för att beskriva den tekniska representationen av information som finns lagrad i filer på en dator. I dessa sammanhang skiljer vi även mellan program och data, trots att de lagras på samma sätt på en dators minnesenhet. Programfilerna utgör därmed inte vad som kallas data utan data är det som programmen både producerar men framförallt använder sig utav i sin uppgift.
Bias används i två olika kontexter i arbetet. Dels i relation till personer och dels i relation till data. Bias kan beskrivas som en persons sätt att reagera och värdera omvärlden utifrån sina egna erfarenheter. Bias hos personer visar sig i personens synsätt och därmed även handlande på bekostnad av andra möjliga synsätt, vilka i sin tur skulle kunna vara lika godtagbara som dennes eget. Bias är alltså en värdering av t.ex. en person, grupp eller en sak som grundar sig i dennes förutfattade meningar, preferenser, ideologier s.k. kognitiv snedvridning. Bias i data utgör den digitala representationen och formaliseringen av den bias som finns hos oss människor.
10 Ett liknande tillvägagångsätt för uppdelning av begreppen Artificiell intelligens och AI har gjorts
2 Artificiell intelligens
AllmäntI detta avsnitt kommer jag på ett översiktligt plan introducera läsaren till området Artificiell intelligens, vad det är och de olika komponenter som är viktiga. För att ge en bredare kontext kommer jag presentera läsaren för en kortare historisk bakgrund. Vidare kommer jag översiktligt gå igenom olika modeller för maskininlärning och varför och hur information eller data som det ofta kallas spelar en viktig roll för AI och varför en dators olika komponenter och den tekniska utvecklingen i detta område påverkar AIs möjligheter idag och i framtiden. Syftet med avsnittet är att göra läsaren bekant med den funktionalitet som kan skapas med hjälp av Artificiell intelligens eftersom det är avgörande för att förstå den följande diskussionen om Artificiell intelligens i domstolsväsendet och införande av AI.
Avsnittet är tekniskt tungt vilket jag är medveten om, men det tjänar ett högre och långsiktigt syfte. Jag hade kunnat förenkla hur AI fungerar ytterligare och endast beröra det ytterst ytligt och ännu mer övergripande, men det hade varit att göra dig som läsare en björntjänst och inte tjänat uppsatsens mer tysta och underförstådda del att kunna vara läsarens första kontakt med Artificiell intelligens i juridiken. Även om de delar som tas upp till en början kan verka i periferin till uppsatsens huvudsakliga ämne så är de avgörande för hur Artificiell intelligens fungerar och där med av största vikt för den fortsatta förståelsen.
Vad är Artificiell intelligens?
tankeverksamhet.11 I denna framställningen kommer jag använda mig av den svenska innovationsmyndigheten Vinnovas definition av Artificiell intelligens:
”Förmågan hos en maskin att efterlikna intelligent mänskligt beteende. Det vill säga den förmåga hos maskiner som möjliggör för dessa att fungera på meningsfulla sätt i relation till de specifika uppgifter och situationer de avses utföra och agera inom. Artificiell intelligens är också det vetenskaps- och teknikområde som syftar till att studera, förstå och utveckla maskiner med intelligent beteende.”12
Motsatsen till Artificiell intelligens är naturlig intelligens, det vill säga den intelligens som vi människor och andra kolbaserade livsformer besitter. Artificiell intelligens kan därför kanske enklast beskrivas som intelligens skapad i en maskin i syfte att agera ändamålsenligt och med insikt om sin omgivande miljö. AI delas ofta in i specifik och generell AI. Specifik AI är t.ex. annonsverktyg, programmet AlphaGo13 som slog världens främsta Go14 spelare Le Sedol eller IBMs Watson, som deltog i Jeopardy. Bland dessa specifika AI finns även juridiska verktyg som ROSS15, ett verktyg för juridisk forskning och MODRIA16, för tvistelösning. Det långsiktiga målet vid utvecklandet av AI är att utveckla vad som kallas Artificial
General Intelligence (AGI). Med det menas ett program som inte är programmerat
av människor att utföra en specifik uppgift utan som kan lära sig och ta sig an nya och tidigare helt okända uppgifter utan mänsklig inblandning. Målet är att på
11 Vinnova 2018 s 28. 12 Vinnova 2018 s 28.
13 Skapad av företaget DeepMind.
14 Go är ett av världens mest komplexa brädspel med fler än 2x10^170 potentiella positioner på
spelbrädet. Det ansågs länge som ett allt för svårt problem för maskininlärning att lösa och att det krävde mänsklig intuition för att bli framgångsrik.
15 För mer info se: https://rossintelligence.com/
maskinell väg efterlikna och uppnå den kognitiva förmågan som finns hos människor. Det är dock fortfarande långt kvar tills AGI kan uppnås, forskarvärlden är inte ens ense om det sker om 10, 50 eller 100 år. De är inte ens eniga om det är möjligt, men de kan inte heller säga att det är omöjligt.
En viktig skillnad mellan AI och robotik är här även lämplig att klargöra. AI handlar primärt om kognitiva funktioner, medan robotik handlar om motoriska funktioner. I praktisk tillämpning är avgränsningen dock inte knivskarp eftersom robotik förutsätter förmågan att analysera omgivningen och sensorisk kapacitet som kan uppnås med hjälp av AI. Att utveckla motorisk förmåga är även svårare, dyrare och mer tidskrävande än att utveckla kognitiva funktioner.17
Även om vi från media kan tro att Artificiell intelligens är något nytt så är området i sig gammalt.18 Forskningsområdet Artificiell intelligens tillkom redan för 62 år sedan, sommaren 1956 under vad som går under namnet ”The Dartmouth Workshop”.19 Men idén eller snarare frågan, ”kan datorer tänka”, var något som forskare ställt sig långt tidigare. Kan datorer tänka, handlar inte om att en dator kan göra vissa beräkningar – vilket i sig skulle kunna tolkas som att den tänker – utan syftar till de mer komplexa och filosofiska aspekterna av det mänskliga intellektet. En av de första personerna att allvarligt ställa sig denna fråga var Alan Turing, fadern till den moderna programmeringen. År 1950 publicerade han sitt arbete, Computing machinery and intelligence, i vilket han lägger fram ett test som han kallar ”The imitation game”, idag mest känt som Turing testet.20 Turing menar att om en människa samtalar med en maskin utan att kunna avgöra om det är en maskin eller människa så är kriteriet för mänsklig intelligens uppfyllt, och att det då även besvarar frågan om datorer kan tänka. Turing testet är idag både brett
17 Vinnova s 28.
18 Press Forbes 30/12 2016.
kritiserat men även enormt tongivande som koncept i filosofin kring Artificiell intelligens.21
Hur fungerar då AI? Förenklat är det mönsterigenkänning.22 Mönsterigenkänning är generellt uttryckt även hur vi människor fungerar när vi lär oss något nytt. Via dina ögon och sedan via din optiska nerv skickas signaler till din hjärna, signaler som blir till den bild du sedan ser. På liknande sätt fungerar även din hörsel och känsel. Men hur kan du då förstå och avgöra vad som är vad? Låt oss ta en fågel som exempel. Din vän Alex har precis varit på safari i Tanzania. Alex visar stolt upp en bild som han tagit under resen. Du ser direkt att det är en bild på en fågel, och Anders berättar att det är en Afrikansk härfågel. När du tittar på bilden förstår du även att den troligen äter insekter som den fångar i träd eller andra håligheter för att överleva. Du förstår detta eftersom du ser att den har en lång näbb, vilket du vet är karaktäristiskt för den typen av användning. Allt detta förstår du trots att du aldrig sett en Afrikansk härfågel tidigare och fram tills nu inte ens visste att den existerade. Hur kommer det sig? Utan någon tidigare kunskap om Tanzanias biotop kan du från en enda bild få ut såhär mycket information bara genom dina egna tidigare erfarenheter. Mycket förenklat så handlar det om mönsterigenkänning. Du har troligtvis sett många fåglar i Sverige, fiskmåsar, hackspettar mfl. Du har även läst om fåglar i skolan och minns valda delar från det. Så du har därmed en ganska bra uppfattning om hur en fågel ser ut. Så när du ser en bild på detta djur kan du utan svårighet säga att det är ett just en fågel. Detta eftersom du känner igen de former och egenskaper som en fågel har. Du kan även säga att den med stor sannolikhet livnär sig på insekter som finns i trädstammar eller andra håligheter då du lärt dig att långa näbbar är bra för det. På liknande sätt fungerar AI.23 Artificiell intelligens är som jag tidigare nämnt ett
21Pinar Saygin m fl s 463 f. 22 Bishop s 1 ff.
samlingsnamn för ett vetenskapsområde som innehåller mycket. Det utgör en del av det mycket större huvudområdet datorvetenskap (se fig. 1). Som en del av datorvetenskapen, men som även sträcker sig utanför dessa områden finner vi ett område som kallas Data-science (det saknas lämplig översättning till svenska). Data-science är det område där Artificiell intelligens samspelar med andra områden som t.ex. juridik. Där datorvetenskapen utgör själva modellen och algoritmerna i sig så är data-science området där vi för ihop dessa med andra vetenskapsområden. Vi använder oss av matematiska modeller från datorvetenskapen tillsammans med kunskap och data från ett annat område för att där med hjälp av matematiska modeller och Artificiell intelligens skapa oss en djupare förståelse. Ett verkligt intressant område är maskininlärning som utgör en undergrupp till Artificiell intelligens. När vi i dagligt tal pratar om Artificiell
intelligens är det framförallt maskininlärning vi ofta syftar på. Det är inom just detta område som de största genombrotten skett de senaste åren. I nästa avsnitt tar jag upp maskininlärning, grundläggande principer och aktuella modeller för applicering i juridiken. D at or ve te ns ka p Ar tif ic ie ll int el li ge ns M as ki ni nl är ni ng D jupi nl är ni ng
Data-science
Maskininlärning
Maskininlärning är den vetenskapliga studien av algoritmer och statistiska modeller som datorer använder för att utföra en specifik uppgift utan att vara uttryckligen programmerade för att göra just det.24 Istället förlitar maskininlärning sig på mönster och andra slutsatser. Maskininlärningsalgoritmer använder sig av olika matematiska modeller för att göra förutsägelser eller ta beslut utan att vara uttryckligen programmerade för att utföra just den specifika uppgiften. Maskininlärning används i ett brett utbud av applikationer, till exempel e-postfiltrering och computer-vision, där det är svårt eller omöjligt att utveckla en konventionell algoritm för att effektivt utföra uppgiften.25 E-post filtrering använder sig t.ex. av så kallade Bayesian Networks för att avgöra om ett mail ska klassificeras som spam eller inte.
Figur 2 Figur för att visuellt beskriva maskininlärningens många olika metoder
En metod för maskininlärning är användandet av så kallade Artificial Neural Networks (här efter benämnt: Neural networks). Anledningen till att det kallas Neural networks är därför att modellen försöker efterlikna hur vår hjärna löser problem, dvs. hur våra neuroner och synapser fungerar. Det här sättet att ta sig an maskininlärning är inspirerat av hur vår hjärna hanterar signalerna från våra ögon. Ett Neural network är fördelat i lager där den enklaste modellen har ett lager för
24 Definitionen "utan att vara uttryckligen programmerad" tillskrivs ofta Arthur Samuel, som myntade
uttrycket "maskininlärning" 1959. 25 Bishop s 3 f. Maskininlärning Artificial Neural Network Deep Learning
indata och ett lager för utdata. Användandet av flera lager är det som kallas Deep Learning. Varje lager eller grupp av lager har till syfte att lösa en specifik uppgift, t.ex. att finna cirklar eller räta vinklar i en bild. Lager i nätverket bygger i sig på utdata från det tidigare lagret och tillsammans utgör dessa lager ett Neural network. Detta tillvägagångsätt är bara en av många olika metoder att bygga modeller för maskininlärning. Andra metoder som används är t.ex. regressionsanalys, för rekommendationer av filmer på YouTube och Netflix, och som tidigare nämnts Bayesian Netoworks i e-post filter.
Användningen av maskininlärning kan även delas in i olika områden där dessa metoder sedan används. Ett av de svåraste och mest komplexa områdena inom maskininlärning och speciellt aktuellt för juridiken är det område som kallas Natural Language Processing (NLP) och dess underområde Natural Language Understanding (NLU).26 Intresset för NLP och NLU har kraftigt ökat de senaste åren på grund av dess potential i kognitiva AI modeller.27 Kända applikationer som använder sig av NLP är t.ex. Alexa och Siri, våra AI assistenter som vi hittar i allt från telefonen till smarta högtalare i hemmet. NLU syftar till att gå utöver den strukturella förståelsen av språket till att tolka avsikt, kontext och oklarheter. För att därigenom till och med generera välformulerat mänskligt språk på egen hand. NLU-algoritmer måste ta itu med det extremt komplexa problemet med semantisk tolkning - det vill säga att förstå den avsedda betydelsen av talat eller skriftligt språk - med alla subtiliteter, sammanhang och slutsatser som vi människor kan förstå. NLP och NLU är vad vi kallar ett Artificiell intelligens-complete problem eller Artificiell intelligens-hard. Termen härstammar från den matematiska problemformuleringen P vs NP28, där NP-complete problem tillhör de problem
26 SAS Institute samt Radford m fl s 1 ff. 27 Metz The New York Times 18/11 2018.
28 P vs NP är en matematisk problemformulering och även ett av millennieproblemen. P står för
som vi inte inom polynominal-time (rimlig tid) kan lösa med en dator, men som är enkla att kolla om de stämmer om vi får svaret.
Det finns två bra exempel där det inom NLP och NLU har gjorts stora framsteg de senaste åren. Det första exemplet är en sökning via Google. När du gör en sökning på Google så används NLP. Vi använder oss ofta av Google när vi vill lära oss något nytt. Ibland kan det vara så att vi inte riktigt vet hur vi ska formulera vår fråga, vilka ord som bör användas eller ens hur de stavas.29 Google har här tagit fram en modell som kallas BERT (Bidirectional Encoder Representations from Transformers).30 BERT är förenklat ett sätt att bygga och träna deep neural networks31. Det speciella med BERT är att de lyckats bygga en modell som har
förmågan att i mycket hög grad förstå språklig kontext. De gör detta genom att titta på texten ovanifrån och inte linjärt, från start till slut. Genom att titta på texten ovanifrån kan de analysera ett ords relation till andra ord i samma mening och därigenom förstå kontexten. Modellen dras fortfarande med utmaningar och det finns stor utvecklingspotential men har tagit ett stort steg för att öka möjligheten för oss att uttrycka oss i naturlig skrift när vi söker på Google. Det andra exemplet är från ett företag som heter OpenAI. OpenAI är ett icke vinstdrivande företag i USA grundat av bland annat Elon Musk32. Deras uttalade mål är att utveckla säker AI som ska gynna människor. OpenAI är ett av de främsta forskningsföretagen när det kommer till Artificiell intelligens. I juli 2019 investerade bland annat Microsoft
problem som inte kan lösas inom polynominal-time. Ett exempel är modern kryptering. Modern kryptering bygger på multiplikation av stora primtal. Om du får svaret, dvs. de primtal en viss kryptering innehåller är det enkelt att kolla om den stämmer genom multiplikation. Men att motsattvis försöka räkna ut vilka primtal en kryptering består av kräver att stora mängder kombinationer prövas vilket kräver tid och datorkraft. Det är på denna princip modern kryptering fungerar.
29 Nayak Google 25/10 2019. 30Devlin m fl s 1 f.
31 Deep neural networks är term för neural networks med ett eller flera ”gömda” lager för djupinläring,
därav beskrivningen deep.
en miljard dollar i OpenAI och deras verksamhet. Ett av deras främsta framsteg inom Artificiell intelligens och NLP är en modell kallad GPT-2. Det är en relativt liten modell enbart bestående av 1.5 miljarder noder och tränad på endast 40GB data.33 Modellen visade sig vara så bra på att producera text utifrån enbart små textavsnitt att de valde att initialt inte släppa den tränade modellen till allmänheten, något som de kom att bli kritiserade för. Deras oro var att modellen skulle kunna användas i negativa syften för att bland annat skapa stora mängder falska nyheter och liknande med så hög kvalité så att det inte skulle gå att urskilja från riktiga nyheter.34 Liknande och egentligen än mer skrämmande är förekomsten av så kallade Deep Fakes, dvs. bilder eller video som manipulerats för att efterlikna någon annan. Sådana modeller är redan idag mycket bra och kommer bara att bli bättre.35
Kreativitet är något som vi länge ansett vara unikt för oss människor. Med AI är så inte längre fallet. I tyska Tübingen har forskare lyckats skapa en AI som med
33 Radford m fl 2019 samt Vincent The Verge 14/2 2019. 34 Radford m fl 2019 samt Vincent The Verge 14/2 2019. 35 Mer om detta i avsnitt 4.5.
inspiration från ett fotografi, kan efterlikna Vincent van Gogh.36 Kan du i bilden ovan se vilken av bilderna som är målad av Van Gogh?37 AIs förmåga att vara kreativ är inte begränsad till att efterlikna kända konstnärer. Ett företag i Luxemburg har skapat AIVA (Artificial Intelligenc Virtual Artist) som är förträfflig på att komponera musik, klassiskt, rock eller hiphop spelar ingen roll.38. Vid efterföljande tester har försökspersoner inte kunnat avgöra om ett stycke är komponerat av människa eller maskin.
Data och dess betydelse för maskininlärning
Begreppet data är vanligt förekommande i datorvetenskapen. Som jag nämnt ovan är data i all enkelhet information, det kan vara vad som helst och kan utgöras av text, bilder eller vad som helst som en dator med eller utan hjälpmedel kan konvertera till maskinspråk. Bildigenkänning använder sig t.ex. av värdet i pixlarna i bilden för att kunna avgöra vad bilden visar. Data är grunden i all AI. En modell i sig kan inte producera några resultat utan det är först när vi tränat modellen som den blir användbar. Att träna en AI modell betyder att vi använder oss utav vad som kallas träningsdata för att lära modellen det vi önskar lära den. Träningsdata innehåller därmed både frågan och det rätta svaret och vi matar in båda dessa i modellen för att lära upp den. I nästa steg använder vi oss utav testdata för att kontrollera att modellen producerar godtagbara resultat.
Som vi nu förstår är data otroligt viktigt, och framförallt den data som vi använder när vi tränar modellen. En modell är bara så bra som den data som använts för att träna den.39 För det är en sak vi måste ha klart för oss, datorer gör
36 Leon m fl s 5.
37 Bilden till vänster är av Vincent van Gogh och bilden till höger av en AI. I samma forskning kunde
AI efterlikna bland annat Edvard Munch, Wassily Kandinsky och Pablo Picasso.
38 Gå till https://youtu.be/Emidxpkyk6o för att lyssna på ett stycke komponerat av AIVA (Artificial
Intelligence Virtual Artist).
bara precis vad vi säger åt dem att göra. Vad en dator gör är att den följer instruktionerna i sin kod, reglerna kan vi även kalla dem. T.ex. om X då Y. Oftast är det dock inte så enkelt utan betydligt mer komplext där datorn behöver hålla ordning på och sortera flera tusen olika variabler. Använder vi bra data så leder det till en bra modell. Använder vi däremot dålig data så leder det till en dålig modell. Problematiken ligger i att vi ännu inte förstår fullt ut hur en modell fungerar eller hur viss data kommer att påverka modellen. Som jag tidigare beskrivit handlar det om mönster på ett eller annat sätt. Modellen letar efter mönster i den data som kommer in och jämför med vad den tidigare redan vet. Det är därför väldigt viktigt att vi har koll på vår data och att vi förstår hur vi använder oss utav data för att träna upp en AI modell.
Hårdvarans betydelse
processortillverkarna numera tillverkar speciella processorer särskilt anpassade för AI applikationer.
För att sätta hårdvarans utveckling i ett enklare sammanhang ska jag dela med mig utav ett exempel. Datorn ombord på Apollo 11 (den första bemannade månfärden) hade en processorkapacitet på 0.043 MHz. iPhoneX uppges ha en processorkapacitet på 2490 MHz, det är 100 000 gånger mer kraft än datorn som satte människan på månen för mer än 50 år sedan. Ett exempel på hårdvarans betydelse för Artificiell intelligens är Artificial Neural Networks. Idén bakom Artificial Neural Networks fanns redan på 1950-talet men övergavs ganska fort eftersom det då inte fanns något sätt att träna nätverket på. 1969 bevisade även två forskare från Princeton, matematiskt att det inte gick att träna sådana nätverk mer än för de mest simpla arbetsuppgifter. 1986 skedde emellertid ett genombrott då Hinton visade hur man genom vad som kallas backpropagation40 kunde träna ett nätverk med flera lager att utföra komplexa uppgifter. Det tog emellertid 26 år innan det genombrottet fick verkan eftersom den typen av träning krävde stora beräkningsresurser som blev tillgängliga först då.41
Sammanfattande kommentarer
Ändamålet med detta avsnitt har varit att introducera dig som läsare till Artificiell intelligens för att ge dig en förståelse för grunderna. Inledningsvis gick jag därför igenom vad Artificiell intelligens är, för att sedan gå in på den viktiga delen om maskininlärning. Särskilt intressant är de senaste årens framgångar inom Artificiall neural networks och speciellt intressant för oss jurister området Natural Language Processing. Viktigt att ha i åtanke är att Artificiell intelligens och användandet av AI är ett oerhört komplext område och min redogörelse berör enbart grunderna.
Att förstå grunderna är dock viktigt för den fortsatta diskussionen om AI i domarväsendet. Jag förstår att denna del är teknisk och att det kan vara svårt att fullt ut förstå allt. Det jag vill att du särskilt tar med dig från avsnittet är det som sagts om data och vilken roll data spelar för AI. Detta är avgörande för den kommande analysen av AI i domstolsväsendet.
3 Processföring i domstol
AllmäntArbetets ändamål att analysera Artificiell intelligens och AI i rollen som domare kräver en kort genomgång av hur de svenska domstolarna fungera, hur de är uppbyggda och dess olika delar. Typen av ärenden i domstol varierar stort, på den ena ytterkanten har vi t.ex. stora och komplexa brottmål som kan innebära att en huvudförhandling pågår i flera månader till den andra ytterkanten med mindre mål som avgörs utan att en muntlig huvudförhandling behöver ske.
Domstolens uppbyggnad och funktion
förvaltare och god man. De allmänna förvaltningsdomstolarna å sin sida handlägger mål mellan de allmänna och enskilda. I domstolarnas arbetsbeskrivning ligger att de ska avgöra mål med hög kvalité och effektivitet.42
Domstolsprocessens delar
En process i domstol inleds vanligtvis genom att den ena parten lämnar in en stämning. Domstolen tar därefter ställning till om det särskilda krav som finns för en stämning är uppfyllda, om så är fallet utfärdas sedan en stämning. Därefter följer en tid av förberedande arbete m.m. fram till huvudförhandlingen. Det är under huvudförhandlingen som parterna lägger fram sin syn på saken varefter domstolen utifrån gällande rätt fattar ett beslut. Processföring i domstol – med några skillnader mellan straff- och civilprocess – utgår från några grundläggande principer som fastställdes redan 1948 i den nuvarande rättegångsbalken. Dessa principer om objektivitetsplikt, åtals-, och förundersökningsplikt samt även muntlighets-, omedelbarhets-, och koncentrationsprincipen utgör basen för hur processföringen i domstol ska gå till.43 De tre sistnämnda principerna syftar till att garantera fri bevisvärdering och ge det bästa förutsättningarna för riktiga och rättvisa avgöranden.44 Av omedelbarhets-, och muntlighetsprincipen följer att det som huvudregel bara är det som tas upp under huvudförhandlingen som domstolen får ta hänsyn till. I och med reformen, En modernare rättegång, har dock den strikta tillämpningen av principerna kommit att mildras och mjukats upp. Detta har framförallt inneburit att det i större utsträckningen gjorts möjligt att under särskilda fall och omständigheter hänvisa till dokument och ljud- och bildupptagning som skett under förberedelserna till målet. Utredarna motiverar det med att det går hand i hand med synen på en moderniserad och efter målet anpassad rättegång.
Bevis och bevisvärdering – vad domstolen får ta ställning till
I särskilt brottmål är det oftast inte juridiken som är det svåraste att ta ställning till utan hur bevisningen i målet ska värderas. Enligt 35:1 RB har rätten efter samvetsgrann prövning av allt som förekommit att avgöra vad som är bevisat. Av detta förstår vi att det råder vad vi kallar fri bevisföring och fri bevisprövning i de svenska domstolarna. Det betyder däremot inte att domstolen efter eget godtycke kan värdera bevisningen. Högsta domstolen uttalar i NJA 2015 s 702 att det endast är rationella skäl som får inverka på bedömningen och att analysen ska vara strukturerad och objektivt grundad. Domstolens slutsatser och överväganden ska sedan redovisas i domskälen på ett sådant sätt att det för en läsare är enkelt att följa hur prövningen har genomförts.45 Att så sker ska säkerställas genom en metod för hur bevisvärderingen sker samt hur den i efterhand ska kunna kontrolleras. Kontrollen sker bland annat i domskälen där domstolen måste motivera hur de värderat bevisen samt även högre instanser som agerar överprövningsdomstol.46 Det finns ingen begränsning av vad som kan eller inte kan utgöra ett bevis i fysisk mening. Det kan vara en bild, ett dokument eller ett program (datorkod). Däremot så finns det givetvis krav på vad som i juridisk mening kan utgöra ett bevis och vad som därmed är möjligt att ta upp vid huvudförhandling, dessa regler finner vi främst i 35 kap RB. Beroende på typ av ärende och var i en rättsprocess ett beslut tas så skiljer sig även graden av beviskrav som krävs. Det lägsta graden av beviskrav som kan riktas mot en individ är kan misstänkas och det högsta kravet är ställt bortom rimligt tvivel. Vid beslut om t.ex. tvångsåtgärder under en förundersökning kan de lägre beviskraven vara tillräckliga medans det för att en fällande dom vid en mordrättegång krävs det högsta beviskravet, ställt bortom rimligt tvivel.
45 NJA 2015 s 726 f.
Vittnesmål är en vanlig typ av bevis i en rättegång men utgör en komplicerad form av bevisning. Rätten har att ta ställning till en persons berättelse men faktorer som tonläge, kroppsspråk och ordval spelar en viktig roll. Ett vittnesmål behöver därför ofta få stöd av så kallad stödbevisning som talar för ett vittnesmåls innebörd. Numera spelas vittnesmål i princip alltid in vid en rättegång. Detta medför den positiva effekten att ett vittnesmål inte nödvändigtvis behöver tas om i högre instans om det inte finns något nytt att tillägga. Det anses tillräckligt att spela upp vittnesmålet från lägre instans.
Domslut och domskäl
De krav som ställs på transparens i en särskild dom framgår av de regler och föreskrifter för hur en dom ska skrivas. Det är i domen som domstolen motiverar sitt beslut genom att redogöra för vad som är bevisat och varför. I 17:7 RB finner vi minimikraven för innehållet i en dom i tvistemål och i 30:5 RB vad som gäller i brottmål, vilket är i stort sett detsamma. Även Europadomstolen har i några fall uttalat att domstolarna i ytterligare utsträckning måste ange grunderna för sina avgöranden.47 En dom enligt ordinarie förfarande ska meddelas skriftligen. Domen ska förutom praktisk information, om tid och ställe för domens meddelande, parter och ombud m.m. innehålla domslut, parternas yrkanden och deras invändningar samt de omständigheter som dessa grundats på och i domskälen ange vad som är bevisat i målet.48 Processlagsberedningen uttalade att det var av yttersta vikt att de grunder som rätten stöder sig på vad gäller vad som kan anses vara bevisat tydligt redogörs för i domen. Kartläggningen och redogörelsen fungerar även som en slags kontroll av rättens bevisprövning och dess tydlighet är beroende av omständigheterna i målet i övrigt. Processlagsberedningen framförde även att
domstolars motiveringar av sina domar ofta var för knapphändiga och även otydliga, en invändning som även den tidigare processlagskommissionen haft.49 Väl motiverade och tydliga domar stärker förtroendet för rättsväsendet eftersom det möjliggör att man kan kontrollera hur rätten har resonerat. Väl motiverade domar underlättar även för den förlorande parten att avgöra om det finns anledning att överklaga till högre instans.50 Utöver vad som är bevisat bör domen även redogöra för vad som anses bevisat. Det är av största intresse att få upplysning om vilken bevisning eller vittnesmål, enskilt eller tillsammans, som ligger till grund för en viss slutsats eller motsatsvis varför ett visst bevis eller vittnesmål inte kan ligga till grund för en viss slutsats.51
Det är i den skrivna domen som grunderna och motiveringen för ett visst beslut ges. De resonemang och diskussioner som sker under överläggningen i domstol skyddas av det som kallas överläggningssekretess i enlighet med sekretess-lagstiftning. Det förekommer att parter kontaktar domstolen för att få ut mer information vilket i praktiken är slöseri med tid eftersom de resonemang och slutsatser som inte finns med i domen skyddas av överläggningssekretess. Vi kan därmed konstatera att det är den skrivna domen som utgör den primära källan och motivering till ett domslut. De krav som ställs på domstolens transparens uppfylls fullt ut med den skrivna domen. Detta följer ju även viss logik eftersom rättsväsendet ska vara enkelt att förstå och lättillgängligt för alla medborgare.
Något om rättssäkerhet
Inför den kommande analysen av Artificiell intelligens i domstolsväsendet och användandet av AI behöver något sägas om begreppet rättssäkerhet. Bland jurister används begreppet ofta för att beskriva ”förutsägbarhet i rättsliga
angelägenheter”52. Rättssäkerhet är centralt i en rättsstat som Sverige och våra domstolar och processrätten är konstruerad för att tillförsäkra oss detta. I doktrin har användningen av ordet rättssäkerhet generellt fått två betydelser. För det första används det för att beteckna ett rättstatsvärde, det vill säga den enskilda individens rättskydd gentemot den offentliga makten. För det andra används det för att beteckna rättsordningens förmåga att upprätthålla trygghet och rätten till liv och egendom. Ekelöf argumenterar i en uppsats för den andra betydelsen medans Frändberg i en senare analys menar att det snarare borde betecknas med ordet ”rättsfrid” och att rättssäkerhet exklusivt borde användas såsom beteckning för ett rättsstatsvärde.5354 Någon klar definition av begreppet rättssäkerhet finns inte och jag anser att båda betydelserna kan inkluderas.55 Det vi kan konstatera att det generellt betyder – och därför är i högsta grad aktuellt i diskussionen om Artificiell intelligens – att ett land har en lagstiftning och ett system som innebär att den enskilda medborgaren har ett skydd för godtyckliga ingrepp från samhället självt. Detta innebär t.ex. att det inte går att åtalas eller dömas utan tillräcklig bevisning, att det måste finnas stöd i lag, samt, att alla, oavsett ursprung eller samhällsställning bedöms på ett likartat sätt.56
4 Artificiell intelligens i domstolsväsendet
AllmäntDen 1 november 2008 trädde en omfattande reform av rättegångsbalken ikraft. I samband med den utredningen som gjordes uttalade lagstiftaren ”Att den tekniska
52 Frändberg s 284. 53 Ekelöf 1942, s 7 ff. 54Frändberg s 284. 55 Frändberg s 285.
utvecklingen inom domstolarna håller jämn takt med utvecklingen i samhället i övrigt är en nödvändighet för att domstolsväsendet skall kunna möta de krav som det moderna samhället ställer.”57 I dagens era av digitalisering och teknisk utveckling är det relevant att fråga vad det egentligen betyder? I praktiken har det framförallt inneburit att video och ljudupptagning kommit att användas i allt större grad samt möjlighet att medverka över video i särskilda fall. Det senaste steget i domstolsverkets digitaliseringssträvanden är en e-tjänst för ansökan om skilsmässa som lanserades den 15 oktober 2019.58 Jag anser att vi kan börja fråga varför det i praktiken inte betyder mer. Att videodokumentation implementerats är i min mening inte tillräckligt. En digital e-tjänst för ansökan om skilsmässa är ett steg på vägen, men inte heller det tillräckligt i min mening. I SOU 2016:89 – För digitalisering i tiden – förutspår utredarna att Artificiell intelligens är den fjärde industriella revolutionen och den andra maskinåldern. Det senare syftar till att maskiner nu utvecklas för att ta över människors intellektuella och mentala förmågor. Detta innebär otroliga möjligheter för att utveckla domstolarnas verksamhet och funktion och därmed i förlängningen öka rättssäkerheten.59
I en mycket intressant studie från USA, genomförd av tre amerikanska forskare, visar de på en generell metod för att förutspå utfallet i USAs högsta domstol med hjälp av AI. Modellen kunde med hjälp av maskininlärning förutspå utgången med 70 % korrekthet.60 En liknande studie, utförd av ett annat team av forskare, kunde med hjälp av maskininlärning förutspå utgången i Europadomstolen för mänskliga rättigheter med 79 % korrekthet.61 Även om modellerna i sig inte är applicerbara i en verklig domstol så är det ett första bevis på att en AI som domare långt ifrån är
57 Prop. 2004/05:131 s 79 f.
58 Pressmeddelande domstolsverket 2019-10-15 59 SOU 2016:89 s 133.
en omöjlighet.62 Förmågan att förutspå kräver nämligen förmågan att tolka och förstå. Så modellen i sig är en stark indikator på att utvecklingen är på väg. Estland är ett av de land som kommit längst på vägen mot en AI som domare. Estland i sig är ett av världens bäst digitalt anpassade länder där staten satsar mycket på att vara i framkant på den digitaliseringsvåg som sveper över världen. I slutet av 2019 började de beta testa en AI-domare vars syfte är att hantera mindre civilrättsliga tvister där summan inte överstiger ca 70 000 sek. I systemet kommer parterna att kunna ladda upp dokument och annan relevant information som AI-domaren sedan tar ett beslut från. Precis som i en vanlig domstol finns möjligheten att överklaga.63 Kina investerar mycket i Artificiell intelligens i domstolsväsendet. I Beijing No 1
Intermediate People's Court (Ungefär: Beijings hovrätt nr 1) finns Xiaofa. Xiaofa
är en AI-robot som har svaren på fler än 40 000 juridiska frågor och kan hjälpa dig med över 30 000 olika typer av ärenden.64
Slutet för kolbaserade livsformer i domstolsväsendet är kanske inte så långt bort som vi tror.65 Vi är alltså på god väg att kunna applicera Artificiell intelligens i domstolsväsendet, men det finns, som jag tidigare nämnt, många utmaningar på vägen. I det följande kommer jag fokusera på de faror och utmaningar som finns med AI och användningen i domstolsväsendet. Analysen tar sin början i hur den juridiska metoden kan fungera i en beräkningsbaserad värld för att sedan gå vidare till att relativt övergripande analysera viktiga delar så som krav på transparens, risken för manipulation av en AI funktion, bevis och bevisvärdering samt bias. Detta avsnitt har ett tekniskt fokus där de tekniska aspekterna av AI undersöks och konkretiseras mot juridiska principer och förfaranden. De etiska, moraliska och
62 Alteras m fl s 1 ff samt Katz m fl, 2017. 63 Niiler Wired 25/3 2019.
64 Harris, World Government Summit 11/7 2018.
65”Slutet för kolbaserade livsformer i domstolsväsendet” syftar på att vi människor är uppbyggda av
rättsfilosofiska aspekterna kommer behandlas i nästa avsnitt men vissa delar kopplade till detta kommer ändå tangeras i avsnittet eftersom det är så nära sammankopplade. Analysen sker fortlöpande i texten och har sammanvävts med den faktabaserade framställningen. Centralt för denna del är frågan om hur starka krav vi kan ställa, bör kraven på automatiserat beslutstagande vara högre än de vi ställer på mänskligt beslutstagande och i så fall hur? Det rimliga svaret är ja, annars måste vi nog ifrågasätta varför det skulle vara av intresse att använda AI för beslutsfattande om vi inte kan kräva en högre tillförlitlighet. Det intressanta och viktiga blir därmed hur högt och hur långtgående kan och bör vi ställa de kraven?
Juridisk metod i en beräkningsbaserad värld
varför juridik finns. Faktumet får även långtgående konsekvenser för hur den juridiska metoden ska utvecklas och förbättras tillsammans med AI. Men framförallt så är det denna grundförutsättning vi måste utgå ifrån i en analys av AI i rättsväsendet i allmänhet och domstolsväsendet i synnerhet.
Inledningsvis i detta arbete sa jag att den juridiska metoden är objektiv vilket kanske närmast får säga vara en sanning med modifikation. Sant är att juridiken på ett sätt är objektiv. Juridiken består av ett enormt regelverk vars syfte är att hantera olika typer av problem. Regelverket utgör emellertid bara en utgångspunkt från vilket vi sedan har utredningar, rättsfall och doktrin att använda oss utav när vi lägger grunden för ett beslut. Det finns däremot sällan ett enkelt svar på en juridisk fråga och när du ställer en fråga till en jurist får du ofta svaret ”det beror på”, följt av en begäran att få ta del av mer information om omständigheter m.m. Tittar vi ytterligare ett steg längre, på rättsfilosofin och hur moral och etik bör vara en del av juridiska beslut så blir det än mer komplext och svårt att förstå. Detta gör juridiken till ett väldigt komplext system, kanske ett av de mest komplexa system som finns just eftersom det har en moral-, och etikkomponent. Mer om det mer rättsfilosofiska delarna i avsnitt 5.
Vi har nu konstaterat att juridik är ett komplext system konstruerat för att lösa problem. Vidare är den juridiska metoden givetvis anpassad till hur vi människor fungerar och kan lösa problemen, men däremot inte till hur datorer löser problem. Framöver, när forskningen och utvecklingen av AI-domaren verkligen börjar ta fart är det viktigt att vi har med oss detta. Det är först när vi identifierat de underliggande funktionerna i både juridiken samt i de medium i vilket juridiken ska tolkas, människa eller dator, som framsteg är möjligt. Det är först då som vi på ett meningsfullt sätt kan ser hur tillämpning av juridiken kan automatiseras med hjälp av AI.66
Manipulation av Artificiell intelligens
Precis som andra IT system kan en AI manipuleras. Eftersom AI är så komplext finns även flera möjligheter och metoder för sådan manipulation än traditionella IT system.67 Två områden hos Artificiell intelligens som är sårbara är bland annat medveten manipulation av AI-algoritmer samt genom interaktion med AI. Medveten manipulation kan ske på så enkla sätt som genom att t.ex. sätta upp klisterlappar på en stoppskylt så att den förarlösa bilen inte stannar. Något som vi människor skulle göra om vi satt bakom ratten.68 Andra exempel är bildigenkänning där värdet av varje pixel i en bild ändras på så sätt att algoritmen ser något annat men bilden för oss människor är oförändrad (se fig 4). För oss är det två bilderna nedan lika. Vi ser en panda i båda bilderna och har inga svårigheter att identifiera att det är en Panda. För ett Artificiel Neural Network är de båda bilderna däremot helt olika. Den första bilden klassificerar ett Artificiel Neural Network med 57.7% säkerhet som en panda medans den andra bilden, efter att ett filter lagts över, klassificerar bilden med 99.3% säkerhet som en gibbon (en typ av apa).69
Figur 4 En motsatt inmatning, överlagd på en typisk bild, kan göra att en klassificerare felaktigt kategoriserar en panda som en gibbon (apa).
67 Schwarz s 18.
Manipulation genom interaktion handlar om att påverka en algoritms beteende på ett negativt sätt. Den typ av avancerad AI som kan utföra riktigt komplexa uppgifter bygger på att vi lär upp den med hjälp av data och att den sedan hela tiden lär sig mer vartefter för att utveckla sin kunskap. Vid manipulation genom interaktion förs ovidkommande eller felaktiga data in vilket leder till att den tar vissa beslut.70 Konkreta exempel är t.ex. när Microsoft släppte sin intelligenta Twitter-bot, Tay. Inom ett halvt dygn uppvisade Tay beteenden signifikanta för en nazist och antifeminist och Microsoft var därefter tvungen att stänga ner den. Detta skedde genom den interaktion, dvs. de människor (eller andra robotar) som Tay kommunicerade med på Twitter.71 I denna bemärkelse kan AI liknas vid ett barn under barnets viktigaste år i utvecklingen. Vi uppfostrar algoritmen via interaktionen vi har med den.72
Precis som hos IT-system generellt och även hos människor, så finns det sårbarheter hos AI. Speciellt för sårbarheter i AI är att de är beroende av detaljerad kunskap om hur modellen är konstruerad och till och med vilken träningsdata som använts vid upplärningen.73 I exemplet med bildigenkänningen av en panda är det just den kunskapen som utnyttjats för att manipulera bilden för att istället bli identifierad som en gibbon.74 Vi människor är sårbara för manipulation på olika sätt och manipulation av rättsväsendet finns i form av korruption eller annan påverkan på domstolens olika parter. Försök att manipulera domstolsväsendet kommer alltid finnas oavsett hur det är konstruerat. Införandet av AI förändras egentligen bara hur försöken till manipulationen sker och det viktiga i den förändringen är att vi skapar oss en förståelse för hur det kan ske. Det är utifrån den förståelsen vi sedan kan utveckla metoder för att motverka försöken. Vi
70 Schwarz s 18.
71 Hunt The Guardian 24/4 2016. 72 Szegedy m fl s 1 ff.
kommer aldrig fullt ut kunna kontrollera människor i rättsväsendet eftersom vi inte fullt kan ta kontroll över en person. Åtminstone i teorin har vi möjlighet att fullt ut ta kontroll och påverka metoderna för manipulation av AI eller göra det så svårt att risken att det sker blir närmast obefintlig.
Transparens vid automatiserat beslutsfattande
Användningen av Artificiell intelligens måste vara transparent och på ett sådant sätt att det är förståeligt. Inom Artificiell intelligens kallas detta ”The Black Box Problem”. Termen kommer från att AI oftast liknas vid en ”Black Box” där vi utan att veta hur det fungerar eller går till applicerar innehållet i lådan och får ett resultat. Vi kommer däremot inte alltid vilja veta eller ens bry oss hur en viss AI modell kommit fram till ett visst resultat. En god jämförelse är med en vanlig tvättmaskin.75 Att tvätta görs nästan dagligen och till vår hjälp har vi då oftast en tvättmaskin. Men vi bryr oss däremot inte om hur våra kläder blir rena, det enda viktigt är att de blir just rena. Även om du säkerligen kan lista ut hur en tvättmaskin fungerar så finns det inte någon stark motivation att göra det. Hur våra kläder blir rena är egentligen inte viktigt för oss, utan det viktiga är att det blir det. Liknande är det för vissa AI program, vi kommer inte alltid bry oss om hur de kommit fram till ett visst resultat. Däremot är det annorlunda när det handlar om juridik. Juridik handlar i grund och botten om värderingar, vad som är rätt och vad som är fel. Hur och varför ett juridiskt beslut fattas är därför väldigt viktigt för oss. Att medborgarna har förtroende för domstolsväsendet är av största vikt i ett demokratiskt samhälle. Allmänhetens möjlighet till insyn i domstolarnas
75 Jämförelsen gjordes av Manuela M. Veloso, Herbert A. Simon University Professor in the School
rättsvårdande och rättskipande verksamhet är därför vital för rättssamhällets funktion. Ovan i avsnittet om domslut och domskäl redogör jag för de krav som ställs på transparensen i en domstolsprocess och framförallt vid ett domslut. Det vi kan konstatera är att domslutet och domskälen utgör hela möjligheten att förstå ett visst utfall från domstol. Därmed ställs givetvis även otroligt höga krav på hur en dom skrivs för att dels innehålla allt väsentligt för målet men även vara enkelt att förstå även om du inte är utbildad jurist.
Utmaningen för Artificiell intelligens, och kanske framförallt för Neural networks är att det är närmast omöjligt att titta på koden i modellen i ett visst läge och förstå varför den har tagit det beslut den gjort. Varje enskild nod i ett Neural network fungerar i praktiken som en vikt i en våg som ofta beror på tusentals inputs, vidare kan ett Neural network bestå av flera miljoner eller till och med miljarder noder vilket gör det praktiskt taget omöjligt att överblicka på ett konkret sätt. Vi får därför ta ledning i de krav vi ställer på personer. Vi människor fungerar ju på ett liknande sätt som Neural networks. Vi kan inte heller ”gå in” i en annan person, titta på neuronerna och synapserna, och förstå hur personen har tänkt och varför. Det krav vi därför ställer är att personen ska motivera sin slutsats, vilket sker genom text eller tal. Rimligen bör vi därmed ställa åtminstone samma krav på AI-domaren vad gäller transparens.
Bevis och bevisvärdering
4.5.1 Bevisvärdering av AI-domaren
tolkning av vittnesmål innebär detta en utmaning. Uppgiften är långt ifrån omöjlig men kommer kräva extensiv forskning och utveckling av digitala verktyg som samverkar med t.ex. sensorer i kombination med analys av kroppsspråk och ansiktsuttryck i relation till tal. Till exempel så finns det redan idag maskiner som kan avgöra om vi ljuger eller inte. Vi känner dem under samlingsnamnet lögndetektorer. Dessa maskiner producerar data som en AI kan ta del av och utvärdera precis som vi människor gör när vi använder dem.
4.5.2 Manipulering och fabricering av bevis med hjälp av Artificiell intelligens
Låt oss ta ett steg bort från användningen av Artificiell intelligens i domstolen och istället utforska hur något som genererats med hjälp av Artificiell intelligens kan påverka en domstolsprocess. En domstolsprocess syftar ofta till att fastställa vem som har ansvar för något eller avgöra en oenighet mellan olika parter. Bevis är en central del i alla sådana processer. Bevisvärdering och bevisprövning är ett komplext och svårt område och ovan har jag behandlat grunderna för detta. Så kallade Deepfakes76 sätter nu dock dessa principer på prov och utmanar den fria bevisföringen och bevisvärderingen. Deepfakes är bilder, videor och ljud som ändrats eller till och med genererats med hjälp av teknik sprunget ur Artificiell intelligens. ”Deep” kommer från den typ av avancerad Artificiell intelligens som används ofta benämnd som deep learning. Deepfakes håller mycket hög kvalité, så god kvalité att det är mycket svårt för oss att avgöra om det vi ser är äkta eller inte.77 I processen att skapa deepfakes så används två delar, en motor som bygger innehållet och en motor för att upptäcka om det är äkta eller inte. Denna typ av deep learning kallas generative adversarial network (GAN).78 GAN-nätverk består alltså av två neurala nätverk, det ena programmerad att generera innehåll i syfte att lura det andra neurala nätverket att tro att det är en riktig bild. De två nätverken lär
76 För exempel på deepfakes https://www.youtube.com/watch?v=gsv1OsCEad0 (2019.12.28). 77 Kight, M. Meet the fake celebrities dreamed up by AI samt Karras m fl s 4 ff.
