Det jag hittills diskuterat har nästan uteslutande berört de tekniska utmaningar som finns med Artificiell intelligens och implementering av AI i ljuset av centrala processrättsliga frågor. Jag har dock i ovanstående analys ofta tangerat moral, etik och juridikens mer filosofiska delar. I detta avsnitt kommer jag närmare beröra dessa aspekter av AI-domaren. AI-domare aktualiserar även frågeställningar av mer praktisk natur så som funktionen i domstolarnas tre instanser, de tillfällen då det sitter fler än en domare i domstolen samt implementering och det är i detta som avsnittet tar sin början.
Domstolarnas tre instanser
Som vi vet finns det tre instanser för domstolarna i den svenska rättsordningen. Betyder det även att vi ska implementera AI-domaren i alla tre instanser? Om alla de fördelar som AI-domaren kan medföra är genomförbara skulle ett spontant svar kunna vara ja. Den hypotetiska AI-domaren som målats upp, supereffektiv, kunnig och fri från bias och andra tillkortakommanden som går att finna hos oss människor
låter onekligen som den ultimata domaren. Jag vill dock argumentera för ett annat synsätt. Jag anser att det vore lämpligt att implementera i framförallt lägsta instans. Tingsrätter och förvaltningsrätter har framförallt att strikt tillämpa och följa gällande rätt och bör inte göra långtgående nytolkningar.87 Svårare är det dock med t.ex. hovrätter och framförallt Högsta domstolen (HD). Vi behöver här ställa oss frågan, vilken funktion har hovrätterna och HD? Vad vi vill av HD är att dem ska tolka rätten när den är otydligt. HDs prejudicerande funktion är av stort värde. För min egen del skulle jag inte vilja lämna över denna funktion till en AI domare. I grunden är våra lagar och regler uppbyggda från våra värderingar, en formalisering av moralen i samhället. Vår moraluppfattning att det är fel att stjäla från någon annan har lett till ett berg av regler för att reglera detta vid olika situationer. En annan alternativ lösning vore att införa ytterligare en instans eller till och med se över hela instans funktionen. Utgångspunkten med AI-domaren måste vara att hjälpa det domstolsväsen vi redan har, inte ersätta det. Det ansvarfulla och långsiktigt hållbara vore därför att se hur och var det vore lämpligt att införa AI-domare. Ett första steg vore att följa i Estlands fotspår och implementera AI domaren i mindre tvistemål till ett begränsat värde.
Domare, nämndemän och flerdomarsits
De flesta fall i tingsrätten avgörs genom skriftlig handläggning av en ensam domare, men inte sällan består en domstol utav fler än bara en ensam domare.88 I till exempel brottmål och familjerättsliga tvistemål ackompanjeras domaren av nämndemän i både tingsrätten och hovrätten. Att flera än en ensam domare deltar vid huvudförhandling är inte heller ovanligt och förekommer framförallt i
87 Givetvis har alla domstolar, oavsett instans en skyldighet att tillämpa gällande rätt. De högre instanserna har däremot en större möjlighet att göra mer långtgående nytolkningar i oklara fall.
hovrätten och högsta domstolen.89 Nämndemansfunktionen i den svenska rättsordningen syftar till att folket ska få sin röst hörd samt att ge allmänheten insyn i domstolarna och därigenom skapa förtroende.90 Nämndeman är domare och innehar samma rösträtt som en lagfaren domare i den meningen att dennes röst är lika mycket värd. Nämndeman deltar i skuldfrågan men inte i fråga om påföljden, den avgörs av den lagfarne domaren. Systemet med nämndemän utgör en utmaning för användandet av en AI domare eftersom det kräver en mänsklig komponent, just den komponenten som AI-domare vill ersätta. Att enbart ersätta den lagfarne domaren med en AI skulle inte fylla något överväldigande ändamål eftersom många av de potentiella fördelarna finns i frånvaron av bias och oaverträffad effektivitet. Det AI domaren framförallt skulle kunna bidra med i den situationen är en oöverträffad kunskapsbank. En implementering av AI domare i de delar där nämndemän är en del i domstolar kräver därmed en grundläggande analys av nämndemans-funktionen tillsammans med en AI domare.
Ytterligare en viktig och intressant praktisk fråga är den där vi har flera än en ensam domare som sitter med vid en huvudförhandling. Betyder det att vi även ska ha flera AI som alla gör sin egen bedömning av fallet, precis som domare idag gör. Låt oss börja med att undersöka varför det finns ett system där flera domare sitter med. För det första får vi anta att anledningen till att det sitter flera domare med vid en huvudförhandling handlar om att försäkra oss om att processen går rätt till och att en domare intet kan krävas att veta allt. Den ena domaren kan ha en uppfattning medans den andra en annan. Denna oenighet och olika syn är något väldigt hälsosamt eftersom det leder till konstruktiva diskussioner och ett mer rättssäkert utfall.
89 Rättegångsbalken 1 kap 1-3d§§ samt Sverige domstolar, www.domstol.se, 2019-12-30.
Implementering och acceptans
Ännu en viktig del av AI-domaren är implementeringsfrågan och acceptansen från användarna, dvs. medborgarna som kommer vara föremål för robotens verksamhet. Samt hur säker, eller kanske snarare mer rättssäker en AI-domare måste vara för att implementeras. Är det motiverat att använda sig utav en AI-domare som tar 99,9% korrekta beslut fritt från bias och annat medans motsvarande siffra för en människa är 99%.91 Låt mig presentera ett exempel; Forskare inom självkörande bilar tror att självkörande bilar kommer kunna minska antalet dödsoffer i trafiken med 90%. 2017 omkom 253 personer på svenska vägar, med självkörande bilar skulle den siffran istället vara så liten som 25 personer.92 Det kommer aldrig vara möjligt att nå 100% eftersom det alltid kommer finnas oförutsedda händelser och situationer som gör det omöjligt att helt undvika dödsfall i trafiken. Trots att vi vet att självkörande bilar kommer köra på och skada andra personer så kan vi alla nog enas om att vi borde införa dem, vi kommer ju minska antalet skador med 90%. Om vi nu ställer upp motsvarande situation för en domstol. Användandet av en robot som domare kommer göra rättsprocesserna 90 % mer korrekt och rättvisare. Däremot inte 100%, det kommer fortfarande finnas fall där en oskyldig döms, en skyldig frias eller någon blir behandlad orättvis. Ska vi ändå använda oss utav en AI-domare? Hur mycket bättre måste det bli för att motivera användandet av en AI domare? Det finns inga svar på dessa frågor ännu. Men de utgör en viktig del i processen kring att kunna implementera en AI-domare och även besvara frågeställningarna kring i vilken utsträckning och var en AI domare ska implementeras.
Nästa del i detta är när vi som medborgare kommer acceptera att en AI-domare dömer mig. I grunden handlar detta om acceptans i samhället för användandet av
91 Dessa siffror är enbart hypotetiska för att exemplifiera.
Artificiell intelligens i olika delar. Idag är denna acceptans fortfarande låg, men den ökar för var dag. Självkörande bilar är ett första steg och i takt med att allt fler delar tas över av Artificiell intelligens så kommer vi troligen börja lita mer och mer på funktioner baserade på AI. T.ex. så ser vi redan idag i sjukvården att patienter i allt större utsträckning begär att en AI också gör en bedömning av bland annat röntgenbilder m.m. Den fråga som vi egentligen bör ställa oss är därför; när kommer vi börja kräva att bli dömd av en AI-domare istället för en människa? Eller åtminstone få ett kompletterande utlåtande från en AI-domare?
Bör det finnas en AI-domare?
I sin artikel ”Den datoriserade domaren” avslutar Bylander med att säga att det finns något unikt mänskligt i uppgiften som domare och att synen på AI-domaren i ljuset av det synsättet får en ny dimension. Bör det finnas en AI-domare? Det är inte en enkel fråga. Ovan har jag beskrivit de möjligheter som finns med AI-domaren, men även de utmaningar och faror som medföljer. Till en början behöver vi ställa oss frågan varför vi vill applicera Artificiell intelligens i juridiken. Vad är syftet med denna strävan? Handlar det om effektivisering för att vi ser att nuvarande system är ineffektivt? Är syftet att göra det mer rättvist för att verkligen låta principen om allas likhet in för lagen bli verklig?
Svaren på ovanstående frågor är inte ämnade att besvaras i denna framställning men är en avgörande del i den allmänna diskussionen om AI-domarens vara eller icke vara. Vi är fortfarande i stadiet där det finns fler frågor än svar och osäkerhetsfaktorerna som omger AI-domaren är många. Låt oss därför i det följande bortse från de utmaningar och faror som finns och anta att dessa går att lösa och vi kan uppnå just denna superdomare fri från bias, alltid med den senaste kunskapen och extremt effektiv. Ovan i avsnittet om domstolarnas tre instanser diskuterade jag juridikens funktion genom att exemplifiera med skillnaden mellan vad som avhandlas i tingsrätter och HD. Det finns något högst mänskligt i de mest
grundläggande delarna av juridiken. En fråga om etik, moral och värderingar på vilket vi baserar våra liv och till vilket mycket juridiken har kommit att bli en formalisering. Å ena sidan så inkräktar AI-domaren på just det där mänskliga i domarens funktion, å andra sidan så ser vi hur just detta mänskliga leder till orättvisor och att alla inte är lika inför lagen. Var ska gränsen mellan datorn och det mänskliga dras, när är människan snarare skadlig än hjälpsam i domstolen?
Ett svar på frågan om det bör det finnas en AI-domare blir föga förvånande det klassiska svaret som jurister ofta ger, att det beror på. Det svenska domstolsväsendet är stort och komplext och hanterar en mängd olika ärenden av skiftande karaktär. Att göra en generalisering med ett enkelt svar ja eller nej är därför närmast obetänksamt. Det finns områden inom domstolsväsendet där AI-domare kommer vara en självklar del, där dess enorma kapacitet kommer att gynna alla medverkande parter och vara av stort värde. Men det finns även delar i domstolsväsendet där AI-domare inte har en plats, där det där unikt mänskliga behöver komma till uttryck och få utrymme. Var den gränsen, mellan människa och maskin, ska dras är däremot en annan och mycket viktigare fråga.
6 Avslut
Mycket av det som diskuterats i detta arbete är väldigt hypotetiskt. Det finns idag ännu ingen fungerande eller ens i närheten av fungerande AI-robot som kan agera som domare i full utsträckning. Men vi kan inte heller säga att det aldrig kommer finnas någon sådan. Forskningen inom Artificiell intelligens gör allt större framsteg och vi kan inte säga när eller om vi kommer göra de genombrott som krävs. Det vi kan vara säkra på är att vi måste vara proaktiva i denna utveckling. Det finns allt för många mardrömsscenarion där AI används i skadliga syften för att vi ska kunna luta oss tillbaka och bara invänta den tekniska utvecklingen.
Bortser vi från den tekniska delen av Artificiell intelligens så är det framförallt en fråga om moral och etik.
Var kommer denna utveckling nu ta oss? AI:s del i domstolsväsendet är inget som kommer ske över en natt. Det är en gradvis transformation som kommer ske. Även om en robot som domare kanske inte passar att ersätta hela domstolen i sig så betyder inte det att det inte borde göras i en begränsad omfattning. Roboten som domare är inte en fråga om allt eller inget. Det finns mängder av alternativ däremellan som väsentligen kan förbättra domstolsväsendet. De första rollerna som AI kommer ha är troligtvis inom schemaläggning och andra administrativa aspekter.93 Det finns många delar i rättsprocessen som kan automatiseras med hjälp av AI för att öka effektiviteten. T.ex. så skulle en AI funktion kunna användas för att godkänna eller underkänna väckandet av talan, och/eller be om kompletterande uppgifter så att talan kan väckas. Själva väckandet av talan är i tekniska termer en ganska simpel process där en rad krav ska vara uppfyllda. Detta sker idag manuellt av en person som går igenom varje talan och antingen godkänner, underkänner eller begär kompletterande uppgifter. Något som definitivt skulle kunna tas över av en AI för att frigöra sådan kompetens till annat. Närmast därefter ligger då antagligen att implementera lösningar anpassade för enklare typer av mål. Ett exempel skulle vara mål som avgörs på handlingarna utan att gå till huvudförhandling.
Utöver AI potentiella roll i rättsväsen så berör det här arbetet även mycket Artificiells intelligens roll i samhället i stort och vikten av att utveckla AI på ett hållbart sätt. Det finns otroliga möjligheter i Artificiell intelligens och AI, det kan komma att hjälpa mänskligheten väldigt mycket men det finns även enorma faror om vi använder det på fel sätt. I slutändan formulerar jag i det här arbetet fler frågor än vad jag besvarar. Men det är också det stora underliggande syftet att väcka ett
intresse hos dig som läsare för att lyfta blicken och se vad som är på väg. Vi står inför ett teknologiskt skifte i samhället och inte minst inom juridiken. I den processen är framtida forskning avgörande och det är tre områden som jag anser särskilt viktiga;
• Bias - hur vi kan motverka att bias utvecklas i AI modellerna som används, • Transparens - vilka krav vi kan och bör ställa på transparens för AI-beslut
med rättsverkan och
• Manipulation av AI modeller - identifiera möjliga metoder och angreppssätt och hur vi ska skydda oss från dessa.
Det jag särskilt vill säga och förmedla med denna framställning är att AI i domstolsväsendet inte är så långt bort som vi kanske kan tro men framförallt att vi redan nu måste ta en aktiv roll i utvecklandet av AI. Det är vi som har möjligheten att skapa nyttig och gynnsam AI och motverka dess negativa sidor. Vi kan inte längre blunda för den transformation som sker. Vi kan inte längre vara åskådare utan istället måste vi vara aktörer i denna utveckling. Det är vår möjlighet, men även skyldighet att vara delaktiga så att vi kan utveckla etisk och rättvis AI skapad för att främja människors vardag, inte för att skada den!