6 En diskussion ur rättssäkerhetsperspektiv
En viktig förutsättning för att tillgodose enskilda skydd mot otillbörlig maktutövning och därtill bevara statens legitimitet, är som tidigare anförts att rättssäkerheten upprätthålls inom förvaltningen. Det innebär att såväl förutsebarhet som objektivitet, likabehandling, öppenhet och effektivitet behöver garanteras vid myndigheternas beslutfattande. I förevarande avsnitt ska en diskussion föras ur rättssäkerhetsperspektiv i fråga om vad som bör beaktas av myndigheterna och lagstiftaren vid automatiserat beslutsfattande. Varje rättssäkerhetsaspekt kommer inledningsvis att behandlas separat för att tydliggöra vilka särskilda frågor som aktualiseras. Därtill ska det diskuteras huruvida regleringen av automatiserade förvaltningsbeslut är tillräcklig för att säkerställa rättssäkerheten inom den offentliga verksamheten, genom resonemang de lege ferenda.
6.1 Vad bör beaktas vid automatiserat beslutsfattande?
6.1.1 Förutsebarhet
Att myndigheternas beslutfattande är förutsebart innebär att den enskilde förstår vilka regler som kommer att tillämpas och utifrån vilka utgångspunkter tillämpningen sker. Något som talar för att fler beslut bör automatiseras, är att ett maskinellt förfarande potentiellt främjar förutsebarheten bättre än manuellt beslutsfattande. Mänskliga handläggare har nämligen en tendens att komma till olika slutsatser utifrån samma förutsättningar, bland annat mot bakgrund av oavsiktliga fel eller kompetensskillnader. Vid automatiserat beslutsfattande används däremot en metod som har definierats i förväg av den som skapat IT-systemet, vilket kan förväntas skapa en bättre förutsebarhet.
Mot bakgrund av att maktutövande emellertid endast är förutsebart om det utgår ifrån de rättsliga reglerna, är det nödvändigt att automatiserade förfaranden leder fram till korrekta beslut. Här är det relevant att juridiska regleringar i många fall är komplicerade att automatisera.
31 Som framkommit är en skönsmässig bedömning exempelvis svår att förenkla och specificera, särskilt när ställning måste tas till fritext eller annan ostrukturerad information. Överlag ökar således risken för att automatiserade beslut blir felaktiga ju mindre standardiserat regelverket är. Samtidigt består även skönsmässiga bedömningar av många små avvägningar som potentiellt går att beskriva på ett väldefinierat sätt. Svårigheten i detta sammanhang blir att identifiera vid vilka beslut det är möjligt att skapa en algoritm som är kapabel att göra sådana bedömningar på ett korrekt sätt. För att främja förutsebarheten är det således viktigt att myndigheterna noggrant bedömer vilka beslut som är lämpliga att automatisera, med en separat granskning av varje beslutstyp. Självklart är det inte ett alternativ att bortse från delar av lagstiftningen för att möjliggöra automatisering, som vid Försäkringskassans automatisering av tandvårdsstödet.
6.1.2 Objektivitet
Avseende objektivitet i beslutsfattandet, ska rättstillämpningen endast styras av de intressen som får tas hänsyn till enligt lagstiftningen. Vid automatisering är det möjligt att till viss del minska utrymmet för att subjektiva uppfattningar ska kunna påverka enskilda beslut. En automatiserad process styrs som bekant av förprogrammerade instruktioner och systemet har inte möjlighet att självmant beakta andra faktorer. Jämförelsevis kan, enligt Magnusson Sjöberg, godtycke riskera att ges utrymme beroende på vem som handlägger ärendet vid ett manuellt förfarande, eftersom beslutsfattaren medvetet eller omedvetet kan påverkas av subjektiva värderingar.119 Automatiserade beslut kan således främja objektivitet i beslutsfattandet vid förvaltningsmyndighet.
Om manuella åtgärder delvis ingår i den automatiserade processen är det emellertid fortfarande möjligt för enskilda tjänstemän att påverka beslutsfattandet. En handläggare som känner till det automatiserade beslutssystemet kan då manipulera utfallet, genom att medvetet göra olika bedömningar då systemet ber om vägledning. Därtill kan det finnas en möjlighet att påverka beslutsprocessen genom att tillföra eller inte tillföra vissa data i systemet och därmed styra vilket material som ingår i bedömningen. Att använda sig av delvis automatiserade beslut är således ingen garanti för att beslutsfattandet kommer att vara objektivt. Det är därmed viktigt att risken för jäv uppmärksammas vid automatiserat beslutsfattande som innefattar mänskliga åtgärder.
32 Därtill kan jävssituationer uppkomma vid utvecklandet av det automatiserade systemet, eftersom enskilda tjänstemän då har möjlighet att påverka beslutsfattandet i stort. När föreskrifter omvandlas till programkod kan den enskilde utföraren exempelvis påverka frågor som beslutskriterier och ordningsföljd av beslutssteg. Av Magnusson Sjöberg kallas detta fenomen för "tekniskt jäv".120 För att motverka sådana jävssituationer är det viktigt att de personer som tar fram beslutssystemet inte har något eget intresse i att de automatiserade besluten får en viss utgång.
Vad gäller självlärande algoritmer finns det än större risker att objektiviteten inskränks. Som framgår av exemplet rörande bedömning av återfallsrisk i det amerikanska rättsväsendet kan diskriminerande föreställningar få genomslag vid användande av algoritmer som utvecklar sig själva. Att algoritmer kan vara diskriminerande är i sig inte särskilt förvånande, eftersom människor utformar och tillämpar tekniken. Haider och Sundin framhåller att faktorer såsom kulturella föreställningar och värderingar således kommer att färga av sig på systemet.121 Mot bakgrund av att algoritmerna lär sig av den information de får ta del av och genom det sätt de tränas på, kommer de föreställningar som tillgodoses utifrån prägla deras ”tankesätt”. Även algoritmer som inte är självlärande kan självklart påverkas av vilka värderingar som påverkar systembygget. Överlag blir risken för diskriminering större vid bedömningar där omständigheter såsom kön, etnicitet, funktionsnedsättning och andra personliga aspekter får tas i beaktande enligt gällande rätt. Risken är emellertid att problemet upptäcks först efter att automatiseringen har använts under en längre tid, då vissa mönster framträder i beslutsfattandet. Som jag ser det bör myndigheterna vara restriktiva med att automatisera skönsmässiga bedömningar där personliga faktorer aktualiseras, särskilt med hjälp av självlärande algoritmer, mot bakgrund av de risker som föreligger avseende objektivitetsinskränkningar.
6.1.3 Likabehandling
Vidare ska alla behandlas lika inför lagen vid myndigheternas beslutfattande. Vid användande av automatiserade beslut är det sannolikt att likabehandlingen ökar. När alla beslut fattas med ett och samma automatiserade system, sker nämligen ingen oönskad variation i rättstillämpningen. Som Wahlgren framhåller finns det alltid en risk för skillnader vid manuell
120 Ibid, s. 375.
33 handläggning, på grund av bland annat oavsiktliga fel i det enskilda ärendet och lokal praxis.122 Vid automatiserade beslut kan förändringar av gällande rätt därtill ges omedelbar genomslagskraft när utvecklingen införs i det gemensamma IT-systemet. Rättsutveckling i praxis är ett exempel, där nya riktlinjer kan implementeras direkt i samtliga ärenden som berörs. I ett manuellt förfarande behöver varje beslutsfattare däremot vara medveten om förändringar av gällande rätt, samt besitta kompetens för att förstå hur rättsläget har påverkats. Vid automatiserat beslutsfattande spelar det däremot ingen roll vem som fattar beslut i ett visst ärende eller vid vilket kontor det fattas - det kommer alltid att vara detsamma.
Att likabehandlingen främjas är framförallt av godo avseende standardiserade regleringar, där bedömningen är mer eller mindre binär (exempelvis: folkbokförd, ja eller nej?). Vid beslut som kräver mer skönsmässiga bedömningar finns det emellertid en risk att beslutsfattandet blir för standardiserat vid automatisering. Som bekant är det ibland svårt för lagstiftaren att förutse alla situationer som kan uppkomma, vilket ibland innebär att hänsyn måste tas till omständigheterna i det enskilda ärendet. Om utrymmet för skönsmässiga bedömningar minskar vid en automatiserad handläggning, kan det således eliminera önskad flexibilitet i rättstillämpningen. Försäkringskassans automatisering av tandvårdsstödet är ett tydligt exempel på detta, där delar av lagstiftningen negligerats för att möjliggöra automatisering. Vid automatiserat beslutsfattande får strävan efter likabehandling således inte inskränka möjligheten att ta nödvändiga hänsyn till omständigheterna i det enskilda fallet.
6.1.4 Öppenhet
Vidare måste öppenhet garanteras vid det automatiserade beslutsfattandet för att åstadkomma rättssäkerhet. Som framkommit finns det vissa lagstadgade regler som syftar till att främja transparensen, i form av krav på dokumentation, beslutsmotivering och partsinsyn samt rätten till förklaring av beslutsprocessen. Genom ett medvetet systembygge är det således essentiellt att dessa krav efterlevs även vid automatisering. Vad gäller beslutsmotivering behöver det exempelvis vara möjligt för systemet att redogöra för de skäl som ligger bakom ett visst beslut, vilket inkluderar de avvägningar som har utförts automatiserat.
Det som ter sig vara den svåraste aspekten är emellertid att skapa möjlighet för den enskilde att förstå den hur tekniska beslutsprocessen har gått till rent tekniskt – den s.k. rätten till förklaring.
34 Som Magnusson Sjöberg framför kan det exempelvis röra sig om att det ges möjlighet att kontrollera de beräkningsvariabler som brukar utgöra grunden till fel inom socialförsäkringsområdet.123 Därtill kan det vara än mer angeläget att få veta vad som inte inkluderats i utredningen. Att en viss informationsbas inte använts i beslutsprocessen kan till exempel få minst lika negativa konsekvenser för en enskild, som om underlaget i övrigt är oriktigt. Vidare kan juridiska regler i sig kan vara svåra nog att förstå för den enskilde. Adderas dessutom tekniska aspekter, kan det vara än mer besvärligt att skapa en öppenhet som har praktisk betydelse för den som berörs av beslutet. Enligt Magnusson Sjöberg gäller detta särskilt för personer som exempelvis har en funktionsnedsättning, problem med språket eller som inte är bekanta med grundläggande teknik.124
Problemet med att åstadkomma en förståelig förklaring av beslutsprocessen blir inte lika påtagligt vid automatisering av standardiserade bedömningar, eftersom det i dessa fall bör vara möjligt att skapa en enkel beskrivning av förfarandet. Däremot blir det mer märkbart om mer skönsmässiga bedömningar omfattas av automatiseringen, eftersom beslutsprocessen då blir mer avancerad. Vad gäller självlärande algoritmer, kan det till och med vara svårt för den som har skapat en algoritm att följa beslutsprocessen, eftersom logiken uppdateras självmant inom systemet. Det föreligger således en osäkerhet kring möjligheten att tillgodose insyn i den tekniska beslutsprocessen vid automatiserade beslut, särskilt i takt med att tekniken blir allt mer avancerad. För att säkerställa öppenheten måste myndigheterna således ta hänsyn till allmänhetens förmåga att förstå informationen om beslutsprocessen. Annars försvinner möjligheten för den som berörs av beslutet att granska förfarandet och tillvarata sina rättigheter. Att endast bygga IT-systemet utifrån den tekniska möjligheten att fatta olika beslut är inte godtagbart ur ett rättssäkerhetsperspektiv.
Det finns emellertid även vissa risker med att skapa ett alltför öppet system. Får en obehörig aktör kännedom om den centrala programkoden, kan systemet manipuleras eller saboteras genom olovligt dataintrång. Den som gör intrånget skulle exempelvis kunna ge vissa människor fördelar genom ändringar i systemet, vilket inskränker såväl förutsebarhet som objektivitet, saklighet och likabehandling i beslutsfattandet. Även det faktum att automatiseringen skapar ett snabbare händelseförlopp i masshantering av ärenden har betydelse, där Seipel konstaterar
123 Magnusson Sjöberg, 2016, s. 336.
35 att fel i systemet kan spridas till en stor mängd beslut på mycket kort tid.125 Mot bakgrund av att svenska myndigheter som bekant har problem med sin IT-säkerhet, är intrång i systemet en reell risk.126 För att minimera riskerna behöver säkerheten utformas noggrant, med hänsyn till att systemet ska kunna förvaltas och uppdateras över tid. Därtill måste myndigheterna utreda hur avvägningen mellan transparens och sårbarhet kan göras på bästa sätt för att säkerställa rättssäkerheten vid automatiserat beslutsfattande.
6.1.5 Effektivitet
Vad gäller effektivitet, är det av vikt att beslutsfattandet inte drar ut på tiden så att den enskilde får sitt beslut inom skälig tid. I detta avseende kan automatisering i mångt och mycket förbättra beslutsförfarandet. Det är ett faktum att mänskliga beslutsfattare i vissa avseenden har en begränsad kognitiv förmåga jämfört med automatiserade beslutssystem. Användande av automatiserade beslut medför exempelvis, enligt Naarttijärvi, en möjlighet att basera beslut på mycket mer omfattande material och data jämfört med vad än människa kan hantera.127 Därtill behöver ett tekniskt system aldrig ta rast eller gå hem för dagen. Den tekniska potentialen i automatiserade förfaranden kan således effektivisera beslutsförfarandet. Vidare frigörs personalresurser när beslutsfattandet automatiseras, vilket innebär att manuella handläggare kan fokusera på de beslut eller de delar av beslutsförfarandet som av olika anledningar inte går att automatisera.
Å andra sidan finns det en risk att myndigheterna överskattar hur mycket verkningsgraden ökar i och med automatisering. Transportstyrelsens körkortsreform är ett tydligt exempel, där reformen kostade mycket, utan att medföra någon effektivisering av beslutsfattandet – snarare tvärtom. Förekommer fel i det automatiserade beslutsförfarandet kan handläggningen även dra ut mer på tiden än vid en manuell handläggning enligt Magnusson Sjöberg.128 En överdriven tilltro till vinsterna med automatiserade beslut kan således riskera att inskränka effektiviteten vid myndigheten. Därtill kan strävan efter effektivitet göra att den korrekta rättstillämpningen eftersätts. Som framgår av Försäkringskassans automatisering av tandvårdsstödet finns det till och med en risk att vissa delar av den materiella lagstiftningen bortses från. Vid beslut att
125 Seipel, 2004, s. 243.
126 SVT [https://www.svt.se/nyheter/inrikes/svt-avslojar-flera-myndigheter-ovetande-om-dataintrang] 2017-11-29.
127 Naarttijärvi, 2017, s. 245.
36 använda sig av automatisering är det således centralt att effektivitetsnyttan med ett automatiserat beslutsfattande inte prioriteras till nackdel för andra rättssäkerhetsintressen.
Därtill följer vissa effektivitetsrisker av att beslutsfattandet görs beroende av digitala plattformar. Vid problem i det automatiserade systemet kan myndigheterna riskera att hamna i en situation där det saknas alternativa resurser vid problem. Överlåts beslutsfattandet till tekniska hjälpmedel kommer de tjänstemän som arbetar med den aktuella ärendetypen sannolikt att antingen rationaliseras bort eller ges nya arbetsuppgifter. Skulle systemet fallera, ställer Magnusson Sjöberg således frågan huruvida det kommer att finnas några manuella handläggare med relevant kompetens att tillgå.129 Om inte, kan det innebära stora förseningar i handläggningen. Samma problem uppkommer inte när manuellt beslutsfattande används som utgångspunkt, såtillvida inte alla tjänstemän plötsligt drabbas av sjukdom. Vid användande av automatiserade beslut är det därför viktigt att säkerhet och stabilitet i IT-systemet säkerställs på ett ändamålsenligt sätt.