Automatiserade förvaltningsbeslut ur ett rättssäkerhetsperspektiv
Louise Sahlman
Människa eller maskin som beslutsfattare?
HT 2017
Examensarbete, 30 hp Juristprogrammet, 270 hp
Handledare: Erik Persson och Therese Enarsson
2
Innehållsförteckning
Förkortningar ... 4
1 Teknik möter juridik ... 5
1.1 Syfte ... 6
1.2 Avgränsningar ... 7
1.3 Metod och material ... 7
1.4 Rättssäkerhetsperspektivet ... 9
1.5 Disposition ... 11
2 Automatiserade beslut – hur funkar det? ... 12
2.1 Allt handlar om algoritmer ... 12
2.1.1 Vad kan en algoritm göra? ... 13
2.1.2 Självlärande algoritmer och artificiell intelligens ... 13
2.2 Att översätta juridiken till programspråk ... 14
2.3 Maskiner kan fatta förvaltningsbeslut... 15
2.4 Sammanfattning ... 16
3 Nationell reglering av automatiserade förvaltningsbeslut ... 17
3.1 Tillåtlighet inom förvaltningen ... 17
3.2 Förfaranderegler vid beslutsfattande ... 18
3.2.1 Grundlagsskyddade principer ... 18
3.2.2 Förvaltningslagen ... 19
3.3 Efterlevnad av förfarandereglerna vid automatisering ... 22
3.4 Sammanfattning ... 22
4 Särskilda regler vid personuppgiftsbehandling ... 23
4.1 Den nya dataskyddsförordningen ... 23
4.1.1 Rätten att inte bli föremål för helt automatiserade beslut ... 24
4.1.2 Rätten till förklaring av beslutsprocessen ... 25
4.2 Sammanfattning ... 25
5 Automatiserat beslutsfattande i praktiken ... 26
5.1 Försäkringskassans automatisering... 26
5.2 Tandvårdsstödet ... 28
5.3 Transportstyrelsens körkortsreform ... 28
5.4 Sammanfattning ... 29
3
6 En diskussion ur rättssäkerhetsperspektiv ... 30
6.1 Vad bör beaktas vid automatiserat beslutsfattande? ... 30
6.1.1 Förutsebarhet ... 30
6.1.2 Objektivitet ... 31
6.1.3 Likabehandling ... 32
6.1.4 Öppenhet ... 33
6.1.5 Effektivitet ... 35
6.2 Är regleringen tillräcklig ur rättssäkerhetsperspektiv? ... 36
7 Avslutning ... 39
Käll- och litteraturförteckning ... 41
Offentligt tryck ... 41
Offentligt tryck från EU ... 41
Rättspraxis ... 41
Litteratur ... 42
Övriga källor ... 43
4
Förkortningar
Dir. Kommittédirektiv
EU Europeiska unionen
FL Förvaltningslagen (1986:223)
GDPR Europaparlamentets och rådets förordning 2016/679 av den 27 april 2016.
ISF Inspektionen för socialförsäkringen
IT Informationsteknik
JO Justitieombudsmannen
Prop. Proposition till Sveriges riksdag PuL Personuppgiftslagen (1998:204)
RF Regeringsformen
SOU Statens offentliga utredning
5
1 Teknik möter juridik
Informationsteknik (IT) är numera ett utbrett fenomen i samhället, i form av de tekniska möjligheter som utvecklingen avseende datorteknik och telekommunikation har skapat.1 IT används som bekant inom många områden och har i vissa fall kommit att ersätta människor, bland annat genom datorer som ställer medicinska diagnoser och självkörande bilar.2 Även inom juridisk verksamhet utnyttjas tekniska hjälpmedel i allt större utsträckning för att utföra olika uppgifter. Vad gäller de statliga förvaltningsmyndigheterna har regeringen exempelvis uttalat att "Sverige ska bli bäst i världen på att använda digitaliseringens möjligheter".3 Här uppstår emellertid frågan hur samhället och den enskilde påverkas av en allt mer omfattande teknikanvändning inom offentlig verksamhet. Inte minst avseende hur en god förvaltning i form av rättssäkerhet vid maktutövande ska upprätthållas även i modern tid.4
Vid förvaltningsmyndigheter består en stor del av verksamheten av att fatta olika beslut som rör enskilda personer. Under lång tid har förfarandet bestått av att tjänstemän sköter beslutsfattandet genom att tillämpa rättsreglerna manuellt. När dessa myndigheter nu övergår till ett allt mer teknikbaserat arbetssätt, är användande av automatiserade beslut emellertid något som också har aktualiserats.5 Att ett beslut automatiseras innebär närmare att det fattas maskinellt med hjälp av IT-stöd, utan mänskligt ingripande. Automatiseringen kan även omfatta endast delar av beslutsförfarandet, vilket innebär att en mänsklig beslutsfattare vidtar vissa åtgärder.6 Vid användande av begreppet "automatiserade beslut" avses således en helt eller delvis automatiserad beslutsprocess. I denna uppsats kommer förfaranden vid Försäkringskassan och Transportstyrelsen utgöra konkreta exempel på användande av automatiserat beslutsfattande.
Syftet med att myndigheterna använder sig av automatiserade beslut är framförallt att effektivisera och förbättra beslutsprocessen. Ett tekniskt förfarande innebär potentiellt att problem som uppstår på grund av den mänskliga faktorn kan minimeras, såsom långsam handläggning, oavsiktliga fel eller spretig tillämpning av gällande rätt.7 Användandet av
1 Seipel, 2014, s. 15 f.
2 Pei m.fl., 2017, s. 1.
3 Regeringen [http://www.regeringen.se/regeringens-politik/digitaliseringspolitik/] 2017-10-12.
4 Se Magnusson Sjöberg, 1992, s. 79.
5 Wahlgren, 2013, s. 395.
6 Magnusson Sjöberg, 2016, s. 35 f.
7 Wahlgren, 2013, s. 415.
6 automatiserade beslut inom den offentliga förvaltningen är emellertid inte utan risker. Det kan bland annat vara svårt att åstadkomma insyn i beslutsförfarandet som möjliggör att enskilde förstår hur den tekniska processen har gått till.8 Därtill har det visat sig att diskriminerande föreställningar riskerar att få fäste inom rätten med hjälp av tekniska hjälpmedel. Som exempel kan det nämnas att den teknik som används inom det amerikanska rättsväsendet för att bedöma risken för återfall i brott har uppvisat rasistiska tendenser. Enligt den automatiserade bedömningen är det nämligen mer sannolikt att mörkhyade personer återfaller i brott, jämfört med personer med en ljusare hudton. Detta får betydelse för den enskilde eftersom bedömningen bland annat används för att bestämma vilken påföljd som bör aktualiseras.9
Utan tvekan är det tvärvetenskapliga område som uppkommer när teknik möter juridik mycket aktuellt i dagens samhälle. Hur rättssäkerheten ska upprätthållas i den moderna förvaltningen är en central fråga i detta sammanhang, för att motverka godtyckligt maktutövande och skapa legitimitet gentemot allmänheten.10 Mot bakgrund av att IT är ett område som utvecklas med exponentiell hastighet,11 är det även av värde att beakta hur juridiskt beslutsfattande kan komma att se ut inom en snar framtid.
1.1 Syfte
Denna uppsats syftar till att diskutera automatiserade beslut inom förvaltningen ur ett rättssäkerhetsperspektiv. Fokus kommer att ligga på vad förvaltningsmyndigheterna och lagstiftaren bör beakta i fråga om automatiserat beslutsfattande, vilket inkluderar resonemang de lege ferenda. För att möjliggöra diskussionen ska följande frågeställningar utredas:
• Hur kan ett automatiserat förfarande användas för att fatta juridiska beslut?
• Hur regleras automatiserat beslutsfattande inom förvaltningen?
• Hur använder sig svenska statliga förvaltningsmyndigheter av automatiserade beslut i praktiken?
8 Wahlgren, 2013, s. 415 ff.
9 Burany, 2017.
10 Petersson, 2005, s. 22 och Magnusson Sjöberg, 1992, s. 79.
11 Seipel, 2004, s. 36.
7
1.2 Avgränsningar
Det finns en mängd myndigheter som tillämpar automatiserade beslut i sin verksamhet.12 För att konkretisera användningen av automatiserade beslut inom svensk statlig förvaltning kommer förfaranden vid Försäkringskassan och Transportstyrelsen att lyftas fram som särskilda exempel. Försäkringskassan är framförallt en av de myndigheter som under lång tid har arbetat för att automatisera sitt beslutsfattande,13 vilket gör verksamheten särskilt relevant att studera.
Av intresse är vidare att föreskrifterna avseende de förmåner som Försäkringskassan handlägger har olika grad av komplexitet, varför automatiserade beslut kan vara mer eller mindre lämpliga att använda vid olika ärendetyper.14 Fokus kommer således framförallt att ligga på Försäkringskassans automatisering, men ett konkret exempel avseende Transportstyrelsen kommer även att inkluderas i uppsatsen.
1.3 Metod och material
Vad gäller perspektivet i uppsatsen, har doktrin inom allmän rättslära studerats för att möjliggöra en definition av rättssäkerhet att utgå ifrån. Mot bakgrund av att hänvisningar till doktrin av Aleksander Peczenik återkom inom annan litteratur, har dennes definition utgjort grunden för en redogörelse av den allmänna synen på rättssäkerhet. För att därtill anknyta begreppet till kontexten av automatiserade beslut, har förvaltningsrättslig doktrin också studerats. Syftet har varit att klargöra vilka aspekter som särskilt aktualiseras vid myndigheternas beslutsfattande, då rättssäkerhet är ett väldigt brett begrepp. Utifrån studierna har det definierats vad som avses med rättssäkerhetsperspektivet i denna uppsats, vilket har skapat en tydlig utgångspunkt i diskussionen.
I syfte att utreda hur automatiserade förfaranden kan användas för att fatta juridiska beslut på ett tekniskt plan, har datavetenskaplig litteratur studerats, tillsammans med doktrin inom rättsinformatik. Målet har varit att inkludera så mycket teknik i uppsatsen som jag själv – i egenskap av juriststudent – behöver för att förstå automatiserade beslut. Litteraturen har således granskats i syfte att skapa en övergripande bild av förfarandet, snarare än en ingående teknisk redogörelse. Därtill har den rättsliga aspekten av automatiserade förfaranden utretts genom
12 För uppräkning, se Ekonomistyrningsverket [http://www.esv.se/effektiv-statsforvaltning/digitalisering/it- anvandning/strategiska-it-projekt/] 2017-10-13.
13 Inspektionen för socialförsäkringen, 2015, s. 6.
14 Ibid, s. 4.
8 studier av doktrin inom rättsinformatik, där fokus har legat på juridikens förhållande till de tekniska aspekterna.
Vidare har en utredning av gällande rätt genomförts för att klargöra hur automatiserade beslut regleras inom förvaltningen. Då den nuvarande lagstiftningen inte ger någon tydlig vägledning kring vilka förvaltningsbeslut som får automatiseras, har en mängd förarbeten och doktrin granskats för att reda ut vilka rättskällor som reglerar frågan. I denna process har det framkommit att E-delegationens betänkande rörande automatiserade beslut15 och propositionen till den nya förvaltningslagen16 beskriver det aktuella rättsläget avseende tillåtligheten. Detta material har således studerats närmare, i syfte att undersöka när automatiserade förfaranden får användas vid beslutsfattande inom förvaltningen. En inriktning i studierna har varit att identifiera hur lagstiftaren motiverar rättsläget och särskilt huruvida rättssäkerheten omnämns i detta avseende.
För att därtill utreda vilka förfaranderegler som myndigheterna måste uppfylla vid automatiserat beslutsfattande, har gällande lagstiftning, förarbeten och doktrin granskats, där de aspekter som anknyter till rättssäkerheten har varit av särskilt intresse. Då en ny förvaltningslag förväntas träda i kraft nästa år, har den aktuella propositionen17 även analyserats i syfte att utreda om några betydande förändringar kommer att införas. Därtill har remissyttranden tillhörande E-delegationens betänkande och tidigare förarbeten till den nya förvaltningslagen18 granskats för att synliggöra eventuella problemfrågor. Målet har i detta avseende varit att utreda om de myndigheter som berörs av tekniska förfaranden finner regleringen av automatiserade beslut tillräcklig. Särskilt fokus har legat på de yttranden där kritik mot lagstiftaren har framförts, i synnerhet vad gäller rättssäkerhetsaspekter.
Utöver den inhemska rätten, har även aktuella regler i den nya dataskyddsförordningen19 avseende tillåtlighet och förfarande vid automatiserat beslutsfattande studerats, för att ge en helhetsbild av regleringen. Mot bakgrund av att förordningen syftar till att skydda personuppgifter i stort, har bestämmelserna analyserats med avsikt att klargöra vilka regler som har betydelse vid automatisering inom förvaltningen, samt vilka konsekvenser dessa regler får.
15 SOU 2014:75.
16 Prop. 2016/17:180.
17 Prop. 2016/17:180.
18 SOU 2010:29. Remissyttranden tillhörande propositionen till den nya förvaltningslagen har ännu inte ingetts.
19 Europaparlamentets och rådets förordning 2016/679 av den 27 april 2016.
9 Här har information på Datainspektionens hemsida har varit till hjälp för att identifiera vilka dokument som kan användas för att tolka förordningens bestämmelser. Det bör emellertid understrykas att förordningens tillämpning har varit svår att utreda i detalj, mot bakgrund av att regleringen inte träder ikraft förrän 25 maj 2018.
Därutöver har Försäkringskassans verksamhet studerats särskilt för att utreda hur svenska statliga myndigheter använder sig av automatiserade beslut. Utredningen har möjliggjorts av att relevanta dokument avseende automatiserat beslutsfattande har begärts ut från Försäkringskassan. Detta material har analyserats med särskilt fokus på automatiseringens omfattning och eventuella hänvisningar till rättssäkerhetsaspekter. Vidare har praxis där olika myndighetsförfaranden varit föremål för kritik granskats, i syfte att belysa på vilket sätt användandet av automatiserade beslut kan strida mot lagstiftningen. Besluten har lokaliserats efter genomsökning av samtliga publikationer på Justitieombudsmannens och Inspektionen för socialförsäkringens hemsida, med sökord såsom "automatisering" och "automatiserade".
Urvalet är vidare baserat på att kritiken som framförts har direkt koppling till förfarandet vid automatiserade beslut och inkluderar en avvikelse från de bestämmelser som reglerar beslutsfattande.
I fråga om diskussionen, har en analys skett av såväl doktrin inom rättsinformatik som utredningen av de tre frågeställningar som beskrivs i syftet, för att dra slutsatser kring rättssäkerheten vid automatisering av förvaltningsbeslut. De kunskaper som införskaffats har sedan använts för att formulera åsikter kring vad myndigheterna och lagstiftaren bör beakta vid automatiserat beslutsfattande, samt vilka förändringar av gällande rätt som är nödvändiga.
1.4 Rättssäkerhetsperspektivet
På ett generellt plan kan rättssäkerhet beskrivas som ett minimikrav för att åstadkomma en god förvaltning, i form av motverkande av godtycklig maktutövning och främjande av statens legitimitet. Vad som närmare avses med rättssäkerhet är emellertid omstritt och begreppet är därmed svårt att definiera i exakta ordalag.20 På en övergripande nivå är det ett samlingsbegrepp för såväl straffprocessuella som förvaltningsrättsliga principer. Utgångpunkten är att vissa grundläggande värden måste regleras juridiskt. Dessa värden baseras i sin tur på etiska ideal, som utgår från att vissa saker är av godo och andra av ondo. Mot bakgrund av det finns flera
20 Petersson, 2005, s. 22.
10 principer som ska efterlevas, måste alla dessa värden beaktas och sammanvägas för att åstadkomma rättssäkerhet.21
Vid redogörelse av de aspekter som inkluderas i rättssäkerhetsbegreppet brukar en uppdelning göras i formell och materiell rättssäkerhet. Med formell rättssäkerhet avses förutsebarhet i rättstillämpningen, där medborgarna vet hur makten kommer att utövas. Det ska således vara möjligt att förutse vilka rättsliga regler och utgångspunkter som styr de beslutande myndigheterna. Formell rättssäkerhet är därmed ett skydd för individen mot att bli utsatt för godtycklig maktutövning. Därtill medför förutsebarheten att medborgarna kan planera sitt handlande och granska huruvida utfallet överensstämmer med gällande rätt. Här finns det en tydlig koppling till vad som kännetecknar en rättsstat, nämligen att den offentliga makten utövas i enlighet med rättsreglerna. Av en reglerad maktutövning följer att rättstillämpningen blir förutsebar för medborgarna. Rätten blir i detta sammanhang en faktor som begränsar statens möjligheter att utöva makt och en förutsättning för att skapa förutsebarhet gentemot medborgarna vid maktutövande.22
Vidare utgår den materiella rättssäkerheten ifrån att vissa etiska värden måste garanteras. Det krävs således en rimlig avvägning mellan förutsebarhet och andra etiska värden för att åstadkomma materiell rättssäkerhet. Ges endast förutsebarheten företräde, exempelvis genom en väldigt detaljerad lagstiftning, finns det en risk att rättsläget blir orättvist till förmån för vissa parter. Motsatsvis kan framhållande av andra etiska värden inskränka på förutsebarheten. Detta kan bland annat vara fallet vid generalklausuler, där bedömningen utgår ifrån omständigheterna i det enskilda fallet för att åstadkomma någon form av rättvisa.23 Upprätthållande av den materiella rättssäkerheten blir nödvändig i ökande grad när rätten avviker från den ideala normen. Skulle rättsordningen vara fullkomlig ur etisk synvinkel, kommer den formella rättssäkerheten att medföra materiell rättssäkerhet per definition. I ett sådant idealsamhälle behöver en avvägning således inte göras mellan förutsebarhet och andra värden.24
I kontexten av automatiserade beslut vid förvaltningsmyndighet är det relevant att identifiera vilka etiska värden som behöver garanteras för att åstadkomma ett rättssäkert förfarande.
21 Peczenik, 1995, s. 92.
22 Ibid, s. 51.
23 Ibid, s. 95.
24 Ibid, s. 98.
11 Utöver förutsebarhet, aktualiseras de värden som återspeglas i grundläggande förvaltningsrättsliga principer, i form av likabehandling, objektivitet, öppenhet och effektivitet.25 Med objektivitet avses närmare att beslutsfattandet endast får styras av de intressen som får tas hänsyn till enligt gällande rätt. Att enskilda otillbörligt gynnas eller missgynnas är således inte tillåtet.26 Vad gäller likabehandling, ska allas likhet inför lagen beaktas inom förvaltningen. Det är således inte tillåtet att tillämpa samma regel på olika sätt, bara för att det rör olika människor.27 Avseende öppenhet, ska beslutsfattandet vara transparent i förhållande till allmänheten. Det innebär att beslutsprocessen är begriplig och insynsvänlig, samt att själva besluten ska vara motiverade på ett lättillgängligt sätt.28 Avslutningsvis förutsätter effektivitetsprincipen att förvaltningsbeslut fattas inom skälig tid, vilket krävs för att enskilda ska kunna tillgodoses sina rättigheter.29
Vid användande av rättssäkerhet som perspektiv i denna uppsats ska den aktuella frågeställningen belysas utifrån rättssäkerhetsbegreppet som helhet. Utgångpunkten kommer således vara att såväl förutsebarhet, som objektivitet, likabehandling, öppenhet och effektivitet behöver garanteras i myndigheternas beslutsfattande för att åstadkomma rättssäkerhet.30
1.5 Disposition
I uppsatsens andra kapitel utreds hur ett automatiserat förfarande kan användas för att fatta juridiska beslut. Detta sker inledningsvis genom en övergripande beskrivning av hur tekniska förfaranden möjliggör automatisering av beslutsprocesser och hur översättningen av rättskällor till programkod går till. Till sist skildras vad som krävs för att automatiserade förfaranden ska klassificeras som förvaltningsbeslut i juridisk mening.
Därefter följer en utredning avseende regleringen av automatiserat beslutsfattande inom förvaltningen. I det tredje kapitlet återfinns en redogörelse av den nationella regleringen, där det klargörs vilka beslut som myndigheterna tillåts automatisera och vilka förfarandekrav som måste efterlevas vid automatiserat beslutsfattande. Relevanta bestämmelser i den nya dataskyddsförordningen behandlas separat i det fjärde kapitlet.
25 Magnusson Sjöberg, 1992, s. 75 f. Se även Inspektionen för socialförsäkringen, 2010 s. 8.
26 Strömberg och Lundell, 2011, s. 70.
27 Sterzel, 2009, s. 40 f.
28 Marcusson, 2006, s. 20.
29 Strömberg och Lundell, 2011, s. 164.
30 De aktuella värdena återspeglas i den förvaltningsrättsliga lagstiftningen, som framgår av kapitel 3 i denna uppsats. Detta är i sig ingen garanti för att gällande rätt säkerställer värdena i sin helhet.
12 Vidare beskrivs de statliga förvaltningsmyndigheternas användande av automatiserade beslut i det femte kapitlet. I denna del behandlas automatiserat beslutsfattande vid Försäkringskassan på ett övergripande plan inledningsvis. Därefter skildras två konkreta förfaranden där Försäkringskassan respektive Transportstyrelsen har varit föremål för kritik på grund av att förvaltningsrättsliga regler åsidosatts vid automatiserat beslutsfattande.
Slutligen återfinns den diskuterande delen av uppsatsen i kapitel sex, där frågan om vad som behöver beaktas vid automatiserat beslutsfattande besvaras ur ett rättssäkerhetsperspektiv. Här inkluderas en diskussion i fråga om vilka förändringar det är nödvändigt att lagstiftaren inför, med hänsyn till rättssäkerhetsaspekterna. Som det sjunde och sista kapitlet följer därefter en avslutning, där slutsatserna redogörs för.
2 Automatiserade beslut – hur funkar det?
Här kommer det att utredas hur ett automatiserat förfarande kan användas för att fatta juridiska beslut. Detta inkluderar på vilket sätt användande av IT möjliggör automatiserade beslutsprocesser och vad krävs för att ett sådant förfarande ska resultera i ett förvaltningsbeslut i juridisk mening.
2.1 Allt handlar om algoritmer
Maskiner kommer inte fram till slutsatser i form av beslut självmant, utan styrs av att vi talar om vad de ska göra. Det handlar om att skapa instruktioner på programspråk i ett IT-system, närmare bestämt i form av algoritmer. Om ett förfarande kan beskrivas som en algoritm, kan det även utföras automatiserat av en dator.31 En algoritm består närmare av en begränsad uppsättning regler som skapar en systematisk serie av förfaranden i syfte att lösa en specifik uppgift. Algoritmer kan också ges vissa utgångspunkter, så kallade indata, att förhålla sig till.
Vidare finns det vissa kriterier som måste föreligga för att det ska röra sig om en algoritm. Först och främst måste de steg som algoritmen tar vara otvetydiga och precist utformade. Därtill måste det finnas en garanti för att ett svar genereras inom en överskådlig tid.32
31 Seipel, 2004, s. 41 ff.
32 Janlert, 2015, s. 89.
13 För att skapa en vardaglig bild av hur algoritmer fungerar, kan en liknelse göras till recept. I ett recept redogörs som bekant för vilka ingredienser som ska användas, i vilken ordning de ska blandas och hur blandningen ska ske. Dessa instruktioner är utformade mot bakgrund av bland annat naturvetenskap och smakpreferens, för att åstadkomma ett önskat resultat. Receptet – eller algoritmen – beskriver vilka omständigheter som ska leda till vilka steg i processen. Är den som ska äta kakan glutenintolerant, blir instruktionen exempelvis att tillsätta majsmjöl istället för vetemjöl.33 På motsvarande sätt kan det faktum att en person inte är folkbokförd i Sverige leda till att andra steg måste tas i beslutsprocessen, jämfört med om personen skulle vara folkbokförd här.
2.1.1 Vad kan en algoritm göra?
Det kan vara svårt att föreställa sig vad som är möjligt att åstadkomma med hjälp av en algoritm.
Ett redskap som de allra flesta är bekanta med är emellertid Google translate34. Algoritmen som ligger bakom detta översättningsverktyg har inte kunskaper såsom grammatik och ordförståelse, utan använder endast statistik och sannolikhetslära för att generera ett svar.
Översättningen baseras således på en analys av stora mängder data på nätet, för att hitta vilken översättning som statistiskt sett bör vara korrekt. Problemet med språk är dock att ett litet fel kan göra översättningen helt obegriplig, vilket alla som använt sig av Google translate förmodligen har erfarit.35 Ett annat konkret exempel, som redan har nämnts i inledningen, är att rättsväsendet i vissa amerikanska stater36 använder sig av algoritmer i brottmål för att avgöra hur stor risken är att en förbrytare ska återfalla i brott. Faktorer som kriminellt förflutet, personlighet, livsstil och social exkludering beaktas bland annat. Algoritmens slutsats används sedan exempelvis för att avgöra vilken typ av straff som är lämpligt för personen i fråga. Exakt hur riskbedömningen görs är emellertid inte känt, eftersom algoritmerna är patentskyddade och under sekretess.37 I det senare exemplet används en så kallad självlärande algoritm.
2.1.2 Självlärande algoritmer och artificiell intelligens
Självlärande algoritmer kan utvecklas och uppdatera sig på egen hand. Att algoritmer kan lära sig nya saker möjliggörs framförallt av att algoritmerna genomgår träning för att utföra en specifik uppgift och att vissa indata tillförs. Fenomenet självlärande algoritmer kallas mer exakt
33 Haider och Sundin, 2016, s. 6.
34 Ett digitalt översättningsverktyg som finns tillgängligt online, se https://translate.google.se/.
35 Larsson, 2016.
36 Washington, Kalifornien, Wisconsin, Florida, Michigan m.fl.
37 Kehl, Guo och Kessler, 2017, s. 10 ff.
14 för djupinlärning i neurala nätverk och är ett område i snabb utveckling.38 Exakt hur självlärande algoritmer "tänker" är dock inte lätt att följa, då beslutslogiken kontinuerligt förändras utifrån vad algoritmen lär sig, utan hänsyn till människans förmåga att förstå processen.39
Det övergripande området av relevans för att skapa smart teknik är artificiell intelligens - en tvärvetenskaplig vetenskap med målsättning att skapa maskiner som kan fungera likt människans hjärna (eller ännu bättre). Det handlar om allt ifrån språkförståelse till inlärning och problemlösning. Vid utformningen av IT-system med artificiell intelligens sammanfogas funktioner såsom lagrade kunskaper och slutledningsförmåga för att möjliggöra utförande av specifika uppgifter.40 Att lösa logiska problem som komplicerad matematik, är generellt inget problem för IT-system. Den stora utmaningen inom artificiell intelligens är däremot att bemästra sådant som vi människor gör utan att vi knappt behöver tänka på det, exempelvis att tolka vad andra säger. För att möjliggöra sådana kognitiva förmågor, behöver maskiner lära sig av sina erfarenheter och skapa en förståelse av världen genom att väga olika koncept gentemot varandra. Begreppet djupinlärning kommer just av denna bild, där datorernas förståelse måste byggas av många lager av kunskap och värdering.41
2.2 Att översätta juridiken till programspråk
För att automatisera förvaltningsbeslut, behöver det som framgår av aktuella rättskällor omvandlas till steg i algoritmer. Det krävs således att gällande rätt specificeras och standardiseras – likt instruktionerna i ett recept – för att en beslutsprocess ska kunna automatiseras.42 Ska en person exempelvis vara folkbokförd i Sverige för att ta del av en förmån, översätts detta i programmeringen till "folkbokförd i Sverige – ja eller nej?".43 Här kan konstateras att juridiken inte alltid är utformad på ett sätt som gör det möjligt att komma till en slutsats utifrån ett väldefinierat system. Tillämpning av gällande rätt är många gånger beroende av argumentation och skälighet, samt beaktande av styrkepositioner och ombytliga förutsättningar.44 Därtill är de juridiska regleringarna i vissa fall inte koherenta och logiska, vilket kan göra en rent mekanisk förståelse svårtillgänglig. I det fall lagstiftaren har lämnat ett
38 Haider och Sundin, 2016, s. 40.
39 Se Naarttijärvi, 2017, s. 254 f.
40 Seipel, 2004, s. 185.
41 Goodfellow, Bengio och Courville, 2016, s. 1 f.
42 Magnusson Sjöberg, 1992, s. 37.
43 Inspektionen för socialförsäkringen, 2015, s. 11.
44 Seipel, 2004, s. 189.
15 visst område öppet för tolkning, kan utvecklingen i praxis exempelvis vara spretig ibland.45 Vidare kan det vara svårt att inkludera övergripande principer som inte nödvändigtvis är kodifierade i någon föreskrift.46
Därutöver kan det uppstå rent språkliga svårigheter vid transformering av gällande rätt.
Juridiska begrepp har ibland en vag eller mångtydig innebörd, som dessutom kan vara beroende av kontexten. Vad som är "skäligt" i olika sammanhang är exempelvis inte uppenbart. Åter igen rimmar juridiken illa med behovet av precision vid programmering. I vissa fall kan det dock vara möjligt att närmare konkretisera odefinierade begrepp, när samtliga rättskällor beaktas.
Skälig levnadsnivå är ett exempel, där ett otydligt begrepp har förtydligats genom uttalanden i förarbeten och praxis.47 En annan aspekt är att skrivfel kan få mycket större konsekvenser i ett IT-system jämfört med innehållet i ett pappersdokument. En människa har möjlighet att tolka det de läser med alla sina sinnen och erfarenheter, medan en algoritm bara förstår preciserad information i programspråk. Sitter ett kolon på fel ställe i en författningstext kan det leda till tolkningssvårigheter, men i ett IT-system kan det potentiellt ändra hela beslutsprocessen. 48
För att komma runt problem vid översättning av rättskällor till programkod är ett alternativ att automatiseringen kompletteras av manuell handläggning. Uppstår det exempelvis problem för systemet att tolka ett begrepp eller måste en avancerad bedömning göras, kan den automatiserade processen stoppas för att en manuell handläggare ska ta över. När delfrågan är löst, kan systemet sedan ta vid igen. Automatiseringen kan således omfatta mer eller mindre delar av beslutsfattandet.49 Vidare finns det som tidigare nämnts en strävan efter att skapa algoritmer som själva kan lära sig av sina erfarenheter och den kunskap som tillförs. I framtiden kan det således bli aktuellt att algoritmer har kompetens att göra bedömningar av mer skönsmässig karaktär med hjälp av ändamålsenlig träning och tillgång till stora mängder data.50
2.3 Maskiner kan fatta förvaltningsbeslut
En något filosofisk fråga uppkommer vid myndigheters användande av automatiserade beslut, nämligen huruvida det ligger i sakens natur att ett förvaltningsbeslut bör fattas av en människa.
45 Wahlgren, 2013, s. 405.
46 Ibid, s. 417.
47 Magnusson Sjöberg, 2016, s. 281.
48 Ibid, s. 279.
49 Ibid, s. 281.
50 Se Naarttijärvi, 2017, s. 249.
16 Här kan konstateras att beslut vid myndigheterna i stor utsträckning har fattats med en mekaniskt rutinmässig handläggning även innan automatisering kom med i bilden – som vid registrering av folkbokföringsuppgifter till exempel. Därtill förutsätter även helt automatiserade beslut någon form av mänsklig inblandning, vad gäller form, implementering och användande.51
Slutsatsen som har dragits i doktrin är att klassificeringen av automatiserade förfaranden faller tillbaka på de grundläggande förvaltningsrättsliga kriterierna för att ett beslut ska anses föreligga. Avseende dessa kriterier finns ingen vägledning att hämta i förvaltningslagen (1986:223) (FL), då varken beslut eller automatisering definieras i anslutning till denna. Det bör påpekas att FL tillkom i en tid då det endast var aktuellt med manuell pappershantering, vilket sannolikt förklarar att lagstiftaren inte hade automation i åtanke.52 Från doktrin och praxis53 kan däremot utläsas att ett förvaltningsbeslut förutsätter att en myndighet uttalar sig i syfte att påverka handlandet hos andra förvaltningsaktörer eller enskilda. Uppfyller ett automatiserat förfarande denna beskrivning, rör det sig alltså om ett beslut. Vidare krävs det inte att uttalandet måste vara utformat på ett visst sätt, varför förvaltningsbeslut kan vara elektroniska.54
2.4 Sammanfattning
För att automatisera beslut måste aktuella rättskällorna transformeras till programspråk i form av algoritmer. Det handlar om att specificera den rättsliga beslutsprocessen i standardiserade steg. Att översätta gällande rätt till programspråk kan dock vara komplicerat, bland annat mot bakgrund av att det juridiska regelverket inte alltid går att definiera på ett standardiserat sätt, särskilt vad gäller skönsmässiga bedömningar. Ett alternativ är att endast delvis automatisera beslut, genom att vissa delar av beslutsprocessen sköts maskinellt och andra manuellt. Det finns emellertid även en strävan efter att skapa självlärande algoritmer, som kan utveckla sin
”tankeprocess” med hjälp av yttre påverkan för att lösa en viss uppgift. I framtiden kan det således vara möjligt att låta algoritmer sköta väldigt avancerade juridiska bedömningar i sin helhet. Huruvida ett automatiserat förfarande vid myndighet utgör ett rättsligt beslut faller tillbaka på de grundläggande kriterierna för att ett förvaltningsbeslut ska anses föreligga.
51 Magnusson Sjöberg, 2016, s. 308.
52 Ibid, s. 307. I senare förarbeten föreskrivs dock att FL är tillämplig vad gäller digital ärendehandläggning, se prop. 1985/85:80 s. 57.
53 Se bl.a. RÅ 2008 ref. 8.
54 Magnusson Sjöberg, 2016, s. 307. Se även Strömberg och Lundell, 2011, s. 59.
17
3 Nationell reglering av automatiserade förvaltningsbeslut
I detta kapitel ska den svenska regleringen avseende användande av automatiserade beslut vid förvaltningsmyndighet redogöras för. Detta omfattar dels vilka förvaltningsbeslut som får automatiseras, dels vilka förfarandekrav som ska uppfyllas vid automatiserat beslutsfattande.
Frågan hur de allmänna reglerna för beslutsfattande ska efterlevas vid automatiserade förfaranden kommer även att belysas.
3.1 Tillåtlighet inom förvaltningen
I dagsläget finns det ingen generell regel som uttryckligen föreskriver att myndigheter får använda sig av automatiserat beslutsfattande. Däremot har lagstiftaren infört ett antal särskilda föreskrifter där det framgår att vissa utpekade beslut får fattas med automatiserad databehandling. Som exempel kan beslut om fastighetstaxering enligt 20 kap. 2 a § fastighetstaxeringslagen (1979:1152) nämnas. Avsaknaden av uttryckliga föreskrifter har emellertid inte hindrat myndigheterna från att använda sig av automatiserade beslut även i andra fall. Detta har inte oväntat väckt frågan om det verkligen behövs särskilda föreskrifter för att kunna använda automatiserade beslut eller ej.55
För att samordna och utvärdera den digitala utvecklingen inom förvaltningen tillsatte regeringen under 2009 en särskild kommitté, som senare fick namnet E-delegationen. Ett av delegationens uppdrag var att se över regleringen av tekniska förfaranden i offentlig verksamhet,56 vilket har resulterat i betänkandet SOU 2014:75 Automatiserade beslut - färre regler ger tydligare reglering. Där konstaterar delegationen att automatiserat beslutsfattande alltid är tillåtet vid myndigheterna, då det inte finns något som förbjuder ett sådant tillvägagångssätt i gällande rätt.57 Automatiserade förfaranden anses vidare utgöra en naturlig del av myndigheternas verksamhet, varför ingen specifik föreskrift ska behövas för att tillåta sådana tekniska stöd.58 Delegationen understryker dock att värden såsom rättssäkerhet självklart inte får inskränkas i förfarandet.59
55 Magnusson Sjöberg, 2016, s. 309.
56 Dir. 2009:19.
57 SOU 2014:75 s. 63 f.
58 Delegationen föreslår således att de särskilda bestämmelser som föreskriver att vissa automatiserade beslut får fattas automatiserat ska upphävas.
59 SOU 2014:75 s. 64 ff.
18 Som utgångspunkt får myndigheterna således använda sig av automatiserat beslutsfattande i alla typer av förvaltningsbeslut. I syfte att förtydliga den generella tillåtligheten vill regeringen införa ett tillägg i bestämmelsen för beslutsfattande och omröstning i den nya förvaltningslagen60, där det ska föreskrivas att beslut även kan fattas automatiserat.61 Förändringen förväntas underlätta utvecklandet av tekniska lösningar inom den offentliga förvaltningen och läggs fram mot bakgrund av att automatiserat beslutsfattande används mer och mer vid de förvaltningsmyndigheter som hanterar stora mängder ärenden.62 Att myndigheterna i allt större utsträckning använder sig av digital handläggning är i huvudsak positivt för enskilda enligt regeringen, men även för effektiviteten inom förvaltningen. Vad gäller rättssäkerhet, uttalas på ett övergripande plan i förarbetena att den moderna förvaltningen inte får inskränka på rättssäkerheten.63
3.2 Förfaranderegler vid beslutsfattande
Trots att användande av automatiserade beslut är tillåtet på ett allmängiltigt plan, är det nödvändigt att myndigheterna uppfyller relevanta förfaranderegler vid automatiserat beslutsfattande. Först och främst måste de grundläggande regler som föreskrivs i regeringsformens (RF) första kapitel alltid beaktas. Till följd av den allmänt hållna ordalydelsen i grundlagen kan det visserligen ifrågasättas i vilken utsträckning regleringen har praktisk betydelse för myndigheterna. Samtidigt är det en tydlig fingervisning att dessa regler för offentlig verksamhet omnämns i första kapitlet av vår främsta grundlag.64 FL är emellertid den föreskrift som reglerar hur det ska gå till när myndigheterna fattar beslut på ett mer specifikt plan.65 De aktuella grundlagsbestämmelserna beskrivs således på ett övergripande plan i det följande, medan FL:s regler redogörs för något mer ingående.
3.2.1 Grundlagsskyddade principer
En viktig utgångpunkt i regeringsformen är att den offentliga makten utövas under lagarna enligt 1 kap. 1 § tredje stycket RF. Denna legalitetsprincip innebär att förvaltningsmyndigheterna endast får bedriva maktutövande verksamhet om det finns stöd för det i föreskrift.66 Vidare måste förvaltningsmyndigheterna beakta likhetsprincipen enligt 1 kap.
60 Lagen förväntas träda ikraft 1 juli 2018.
61 Prop. 2016/17:180 s. 12.
62 Ibid, s. 178 ff. Det har ännu inte ingivits några remissyttranden avseende lagförslaget.
63 Ibid, s. 21.
64 Sterzel, 2009, s. 41.
65 Magnusson Sjöberg, 2016, s. 253.
66 Strömberg och Lundell, 2011, s. 68.
19 9 § RF, i form av allas likhet inför lagen. Detta ställer krav på att myndigheterna är konsekventa i den beslutande verksamheten, oavsett vem ärendet rör eller vem som fattar beslut. Självklart måste ett visst utrymme för olika behandling ibland rymmas i bedömningen, när omständigheterna skiljer sig åt. Som exempel kan tas att skillnaderna i avstånd till närmaste sjukhus i olika delar av landet kan göra det rimligt att en person i norra Sverige kan få ersättning för taxiresa vid sjukdom, men inte någon som bor i Skåne.67 I 1 kap. 9 § RF stadgas även att saklighet och opartiskhet ska iakttas i offentlig verksamhet. Detta krav på objektivitet innebär att de som är verksamma inom förvaltningen endast får styras av de intressen som får tas hänsyn till enligt gällande rätt. Att på eget bevåg gynna eller missgynna enskilda genom att beakta irrelevanta omständigheter, såsom en sökandes politiska uppfattningar, är således inte tillåtet.
Mot bakgrund av att otillbörlig särbehandling inskränker såväl objektivitet som likabehandling i beslutsfattandet, sammanfaller dessa principer till viss del.68
3.2.2 Förvaltningslagen
FL är tillämplig vid förvaltningsmyndigheternas handläggning av ärenden enligt 1 § FL, vilket omfattar samtliga åtgärder som en myndighet vidtar från början till slut - inklusive beslutsfattande.69 Av bestämmelsernas ordalydelse framgår att flera av reglerna endast är tillämpliga vid myndighetsutövning. Med myndighetsutövning avses närmare sådana åtgärder som innebär utövande av befogenhet att bestämma över förmåner, rättigheter, skyldigheter, disciplinåtgärder eller annat jämförbart förhållande.70 Motivet till denna uppdelning var vid lagens införande bland annat att det ansågs finnas ett större behov av att reglera den handläggning som påtagligt påverkar den enskilde.71 I den nya förvaltningslagen är tanken emellertid att ett större antal av bestämmelserna ska vara tillämpliga vid all handläggning, oavsett om det rör myndighetsutövning eller ej. Reglerna som återspeglar processuella rättssäkerhetsgarantier ska således gälla i samtliga ärenden, för att ytterligare säkerställa en god förvaltning och upprätthålla legitimiteten.72
67 Magnusson Sjöberg, 2016, s. 253.
68 Strömberg, Lundell, 2011, s. 70 f.
69 Hellners och Malmqvist, 2010, kommentaren till 1 § under rubriken ”Handläggning av ärenden”.
70 Strömberg och Lundell, 2013, s. 19.
71 Prop. 1971:30 s. 285.
72 Prop. 2016/17:180 s. 46 ff.
20 3.2.2.1 Enkelt, snabbt och billigt
Vad gäller reglerna i FL, återfinns bland annat ett krav på effektivitet som en del av de allmänna handläggningskraven. I 7 § FL föreskrivs nämligen att handläggningen av ärenden vid förvaltningsmyndighet ska ske så enkelt, snabbt och billigt som möjligt när enskild är part, utan att säkerheten inskränks.73 Effektivitet är visserligen av godo i myndigheternas verksamhet, men regeln syftar främst till att främja den enskildes intressen. Faktum är att andra förvaltningsprinciper får liten betydelse för den enskilde om handläggningen drar ut på tiden.74 Det är således viktigt att beslut fattas inom rimlig tid, särskilt vad gäller ärenden som har stor betydelse för den enskildes personliga eller ekonomiska intressen. Fördröjs handläggningen inom förvaltningen riskerar vidare allmänhetens förtroende för offentlig verksamhet att skadas.75
3.2.2.2 Partsinsyn
Därtill föreskrivs partsinsyn i 16 § FL, vilket innebär att parterna har rätt att ta del av handlingar som tillförts ärendet. Sådan insynsrätt medför bland annat en möjlighet för den enskilde att argumentera för sin sak och kontrollera att förfarandet är korrekt.76 Enligt 17 § FL får ett ärende vidare inte avgöras innan part har blivit underrättad om och getts tillfälle att yttra sig över uppgift som tillförts ärendet av annan vid myndighetsutövning mot enskild. I den nya förvaltningslagen är avsikten att införa en huvudregel om kommunikationsskyldighet som breddar tillämpningsområdet. Detta innebär att allt material av betydelse ska kommuniceras till part, även när det inte rör sig om myndighetsutövning.77
3.2.2.3 Beslutsmotivering
Vidare stadgas en motiveringsskyldighet i 20 § första stycket FL, som innebär att de skäl som har bestämt utgången i ett ärende ska anges i beslutet, om det avser myndighetsutövning mot enskild.78 Enligt samma bestämmelse får skälen för beslutet utelämnas helt eller delvis bland annat om beslutet inte går part emot eller om det av annan anledning är uppenbart obehövligt.
Även här kommer en förändring införas i den nya förvaltningslagen, där beslut som huvudregel
73 Art. 6.1 Europakonventionen, 2 kap. 11 § andra stycket RF och artikel 47 i EU-stadgan föreskriver även en rätt att inom skälig tid få sin sak prövad på rättvisa premisser, se vidare i prop. 2016/17:70 s. 101.
74 Strömberg och Lundell, 2011, s. 164.
75 Prop. 2016/17:180 s. 105 ff.
76 Strömberg och Lundell, 2011, s. 113.
77 Prop. 2016/17:180 s. 155 ff.
78 Även praxis från EU-domstolen kräver att skälen för ställningstaganden som berör enskildas rättigheter anges.
Detta är ett minimikrav, och det finns inget som hindrar medlemsstaterna att införa mer långtgående krav på motivering. Se prop. 2016/17:180 s. 187 f.
21 ska motiveras om det kan antas påverka någon på ett inte obetydligt sätt.79 Vad gäller motiveringens innehåll, ska de ”springande punkterna" för beslutet anges, men det finns inget krav på en detaljerad redogörelse av bedömningen.80 Att myndigheten klargör skälen till sitt ställningstagande är ofta väsentligt för att den enskilde ska förstå beslutet och därmed även ges möjlighet att formulera ett eventuellt överklagande. Måste myndigheten motivera sitt beslut, kan det även förväntas främja en ingående, objektiv och enhetlig handläggning. Samtidigt får kravet inte innebära en orimlig belastning för myndigheterna och måste vara så allmänt utformat att det är lämpligt i förhållande till den bredd av beslut som omfattas av FL.81
3.2.2.4 Dokumentation
Därutöver kommer det att införas ett krav på dokumentation i den nya förvaltningslagen, som motsvarar nuvarande lydelse i 21 § myndighetsförordningen (2017:515). Det innebär att ett dokument ska upprättas vid varje beslut, där information om beslutsdag och beslutets innehåll, samt vem eller vilka som har deltagit i handläggningen ska uppges. En sådan regel om dokumentation anses ha en logisk plats i FL, eftersom det är en naturlig del av handläggningen vid beslutsfattande. Därtill ökar en sådan regel möjligheten att skapa insyn i myndigheternas verksamhet för såväl enskilda som allmänheten, genom att oklarheter avseende kravet på dokumentation förebyggs.82 I förarbetena uttalar regeringen specifikt att en särskild undantagsregel vid automatiserade beslut inte är nödvändig. Det är underförstått att uppgifterna ska anges i den utsträckning det är möjligt. I det fall ett beslut fattas automatiskt behöver således inte uppgift om vem som varit beslutsfattare respektive föredragande anges, eftersom inga tjänstemän har varit delaktiga i beslutet.83
3.2.2.5 Jäv
Vidare anger 12 § FL att en tjänsteman inte får delta i handläggningen av ett ärende där denne är jävig. Med jäv avses att personen i fråga har ett intresse i saken som kan tänkas påverka utgången i ärendet. Det rör sig således om situationer där det finns anledning att betvivla en tjänstemans opartiskhet. Jäv föreligger bland annat då saken angår vederbörande eller någon till denne närstående enligt 11 § FL, men även om det i övrigt finns någon särskild omständighet
79 Prop. 2016/17:180 s. 186 ff.
80 Prop. 1971:30 s. 493.
81 Prop. 2016/17:180 s. 187.
82 Ibid, s. 183.
83 Ibid, s. 183 ff. JO har dock utdelat kritik mot Transportstyrelsen för användning av automatiserat förfarande i beslut där det inte i någon författning föreskrivits undantag från relevanta delar av dokumentationsskyldigheten i 21 § myndighetsförordningen (2007:515), se JO:s beslut dnr 4728-2011.
22 som rubbar förtroendet till tjänstemannens opartiskhet. Det sistnämnda är en generalklausul, som skapar en möjlighet att beakta alla omständigheter vid vilka en person kan vara opartisk, exempelvis vad gäller vänskap eller ekonomisk beroendeställning.84 I den nya förvaltningslagen kommer regleringen av jäv inom förvaltningen att förenklas och moderniseras, men jävsgrunderna kommer i stort att förbli desamma.85
3.3 Efterlevnad av förfarandereglerna vid automatisering
I förarbetena till FL föreskrivs att reglerna är applicerbara vid automatiserad databehandling hos myndighet.86 Mot bakgrund av att traditionell förvaltningsrätt bygger på att handläggningen sker manuellt, uppstår emellertid frågan hur de förvaltningsrättsliga reglerna ska uppfyllas vid automatiserat beslutsfattande.87 Att bestämmelserna utan vidare är möjliga att efterleva vid automatiserade beslut är något som flera myndigheter ställer sig tvivlande till.
Pensionsmyndigheten, Myndigheten för samhällsskydd och beredskap samt Ekonomistyrningsverket anser att förhållanden som berör automatisering och automatiserade beslut inom förvaltningen behöver utredas närmare av lagstiftaren. Pensionsmyndigheten uttalar särskilt att avsaknaden av utredning utgör en stor brist, då den egna myndighetens verksamhet bedrivs med hjälp av automatisering i allt större omfattning.88
Den av regeringen tillsatta E-delegationen ser dock inga problem med att säkerställa den förvaltningsrättsliga regleringen även vid automatiserat beslutsfattande. Tvärtom anser delegationen att dagens teknik möjliggör att aktuella principer och skyddsregler kan uppfyllas även vid automatisering. Utvecklingen av tekniska lösningar går framåt snabbt och funktionerna för att tillgodose rättssäkerhet kommer sannolikt att förbättras allt mer. Det behövs inte heller någon särreglering för automatiserade beslut enligt delegationen, då den sedan tidigare gällande förvaltningsrättsliga regleringen med tillhörande principer är tillräcklig.89
3.4 Sammanfattning
Vad gäller tillåtligheten, har det genom E-delegationens betänkande klargjorts att myndigheterna får använda sig av automatiserat beslutsfattande även om det inte finns särskilda
84 Strömberg och Lundell, 2011, s. 91 f.
85 Prop. 2016/17:180 s. 93 ff.
86 Prop. 1985/86:80 s. 57.
87 Magnusson Sjöberg, 1992, s. 307. Se även Magnusson Sjöberg, 2016, s. 253.
88 Pensionsmyndigheten, 2010, s. 1, Myndigheten för samhällsskydd och beredskap, 2015, s. 1 f. och Ekonomistyrningsverket, 2015, s. 1 f.
89 SOU 2014:75 s. 70 f.
23 föreskrifter som tillåter detta för varje enskild beslutstyp. Rättsläget kommer att förtydligas genom ett tillägg i den nya förvaltningslagen om att beslut vid myndighet kan fattas automatiseras. Vid användande automatiserade beslut är det viktigt att myndigheterna efterlever förfarandekraven vid beslutsfattande. I RF föreskrivs övergripande principer inom förvaltningen, i form av legalitet, likabehandling, saklighet och opartiskhet. Mer ingående krav på tillvägagångsättet vid beslut återfinns i FL, där effektivitet, partsinsyn, beslutsmotivering, dokumentation och jäv regleras. E-delegationen anser att de förvaltningsrättsliga reglerna utan problem kan tillämpas även vid ett automatiserat förfarande och att det inte finns någon anledning att särreglera på området. Vissa myndigheter håller dock inte med, utan anser att det behöver ske ytterligare utredning avseende möjligheten att efterleva de förvaltningsrättsliga reglerna vid automatisering.
4 Särskilda regler vid personuppgiftsbehandling
När automatiserat beslutsfattande inkluderar behandling av personuppgifter, aktualiseras även vissa särskilda regler. Här är det framförallt av betydelse att en ny dataskyddsförordning träder ikraft den 25 maj 2018, i form av Europaparlamentets och rådets förordning 2016/679 av den 27 april 2016 (GDPR). I detta kapitel kommer de bestämmelser i GDPR som kan förväntas få betydelse vid myndigheternas användande av automatiserade beslut att beskrivas närmare.
4.1 Den nya dataskyddsförordningen
GDPR är tillämplig vid automatiserade förfaranden som omfattar behandling av personuppgifter enligt artikel 1(1). Av artikel 4(1) GDPR framkommer vidare att personuppgiftsbehandling avser hantering av registrerade uppgifter som kan identifiera vilken person ett beslut rör. Då personuppgifter förekommer i majoriteten av de förvaltningsrättsliga ärenden som rör enskilda, kommer GDPR med största sannolikhet att vara tillämplig vid många av de automatiserade beslut som fattas vid myndighet. Mot bakgrund av att förordningen inte träder ikraft förrän nästa år och riktlinjerna är allmänt hållna, är det emellertid endast möjligt att spekulera kring hur stora konsekvenser GDPR kommer att få.90
90 Förordningens tillämpning kommer således endast att utredas på ett övergripande plan.
24 4.1.1 Rätten att inte bli föremål för helt automatiserade beslut
Av artikel 22(1) GDPR framgår att en enskild har rätt att inte bli föremål för helt automatiserade beslut som omfattar behandling av personuppgifter, när beslutet påverkar den enskilde i betydande grad.91 Här kan först och främst noteras att beslutsförfaranden med delvis mänsklig medverkan inte omfattas av förbudet, då det endast gäller helt automatiserade beslut. Det ska emellertid inte vara möjligt att undvika regeln genom att fabricera manuella delmoment i beslutsfattandet. För att mänskligt ingripande ska anses föreligga behöver det således röra sig om ett förfarande som har meningsfull betydelse för utgången i ärendet. Avseende vilka beslut som påverkar den enskilde i betydande grad, framgår av riktlinjerna till förordningen att det exempelvis kan röra sig om rätten till sociala förmåner eller möjligheten att vidta rättsliga åtgärder.92
I artikel 22(2) GDPR föreskrivs dock några undantag från rätten att inte bli föremål för automatiserade beslut. Om användande av automatiserade beslut är tillåtet av unionsrätten eller den nationella rätten är förfarandet exempelvis tillåtet.93 Vid myndighetsverksamhet bör det således vara av betydelse att automatiserade beslut är generellt tillåtna i svensk rätt. För att undantagsregeln ska vara tillämplig krävs det emellertid även att lagstiftningen ställer krav på lämpliga åtgärder som skyddar den enskildes fri- och rättigheter samt andra berättigade intressen vid beslutsfattandet. Med sådana åtgärder avses bland annat efterlevande av förvaltningsrättsliga principer, såsom motivering av beslut och rätten att överklaga.94 Vidare ska behandlingen av de personuppgifter som används i automatiserade förfaranden vara rättvis och transparent enligt skälen till förordningen.95 Risken för diskriminerande effekter avseende etnicitet, politiska åsikter, religion eller sexuell läggning måste bland annat förebyggas. Att fatta automatiserade beslut på grundval av särskilda kategorier av personuppgifter bör enligt skälen endast tillåtas på särskilda villkor.96
91 I 29 § personuppgiftslagen (1998:204) föreskrivs sedan tidigare en rätt att få automatiserade beslut omprövade av en mänsklig beslutsfattare.
92 Article 29 Working Party on Data Protection, 2017, s. 9 f.
93 Övriga undantag omfattar de fall då förfarandet krävs för att fullgöra ett kontrakt eller i det fall samtycke från den enskilde föreligger.
94 Ibid, s. 9 och 13.
95 Skälen har betydelse vid tolkning av en förordning, men är enligt EU-domstolen inte bindande. Se mål C- 162/97 Brottmål mot Gunnar Nilsson m.fl., s. 54.
96 Se skäl 71, där detaljerna avseende en rättvis och transparent behandling utvecklas vidare.
25 4.1.2 Rätten till förklaring av beslutsprocessen
Vidare stadgas en rätt till förklaring av beslutsprocessen i artikel 13.2 f) och 14.2 g) GDPR, då en automatiserad behandling av personuppgifter leder fram till ett beslut. Även denna bestämmelse är endast tillämplig vid helt automatiserade beslut.97 Det föreskrivs närmare att
"meningsfull information om logiken bakom samt betydelsen och de förutsedda följderna av sådan behandling" ska lämnas till den enskilde vid sådant automatiserat beslutsfattande. Enligt de riktlinjer som har utfärdats från EU ska en enkel metod användas för att förklara det tekniska förfarandet, så att det sker på ett förståeligt sätt som har praktisk betydelse för den enskilde.98 Vilka uppgifter som ska lämnas mer specifikt är dock svårt att säga innan förordningens ikraftträdande.
Sedan tidigare föreligger också enligt 29 § andra stycket personuppgiftslagen (1998:204) (PuL) en rätt att få veta vad som har styrt en automatiserad behandling av personuppgifter som leder fram till ett beslut. 99 Även här rör det sig om en rätt till information avseende den tekniska processen vid automatiserat beslutsfattande.100 En viktig avgränsning vad gäller bestämmelsen i PuL är emellertid att rätten till förklaring endast är tillämplig då behandlingen av personuppgifter syftar till att bedöma egenskaper hos personen, exempelvis avseende arbetsprestation, kreditvärdighet, pålitlighet och uppträdande.101 Jämförelsevis är bestämmelserna om rätten till förklaring i GDPR allmänt tillämpliga, inte bara då personuppgiftsbehandlingen syftar till att bedöma egenskaper hos en person.
4.2 Sammanfattning
När förvaltningsmyndigheterna använder sig av automatiserade förfaranden som omfattar behandling av personuppgifter, gäller vissa särskilda regler enligt den nya dataskyddsförordningen. GDPR föreskriver först och främst en rätt för enskilda att inte bli föremål för helt automatiserade beslut, när beslutet påverkar den enskilde i betydande grad.
Undantag föreligger bland annat då den inhemska lagstiftningen tillåter sådana automatiserade beslut, såtillvida den enskildes rättigheter säkerställs nationellt, bland annat genom efterlevande av förvaltningsrättsliga principer. Därtill måste en rättvis och transparent behandling av
97 Article 29 Data Protection Working Party, 2017, s. 13.
98 Ibid, s. 14.
99 Bestämmelsen infördes 1995 för implementering av Europaparlamentets och rådets direktiv 95/46/EG av den 24 oktober 1995 om skydd för enskilda personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter.
100 Prop. 1997/98:44 s. 135.
101 Öman och Lindblom, 2016, kommentaren till 29 § under rubriken ”Första stycket”.
26 personuppgifter tillförsäkras vid automatiserade beslut enligt skälen till förordningen. Vidare ges enskilda rätt till en förklaring av det tekniska tillvägagångssättet vid automatiserad personuppgiftsbehandling som leder fram till ett beslutsfattande enligt GDPR. Det är emellertid ännu oklart hur bestämmelserna i förordningen ska tillämpas, varför de faktiska konsekvenserna av GDPR är svåra att utreda i dagsläget.
5 Automatiserat beslutsfattande i praktiken
För att utreda hur automatiserat beslutsfattande tillämpas i praktiken, är det av intresse att studera förvaltningsmyndigheternas verksamhet närmare. I detta avsnitt kommer Försäkringskassan att lyftas fram särskilt, där myndighetens automatisering ska redogöras för på ett övergripande plan. Vidare kommer två konkreta förfaranden vid såväl Försäkringskassan som Transportstyrelsen att exemplifiera hur myndigheterna inte alltid efterlever gällande rätt vid automatiserat beslutsfattande.
5.1 Försäkringskassans automatisering
Försäkringskassan är en av de förvaltningsmyndigheter som tillämpar automatiserade beslut i sin verksamhet i syfte att effektivisera handläggningen, öka kvalitén och minska antalet oavsiktliga fel.102 För att möjliggöra automatiserade beslut måste myndigheten skapa ett IT- system med algoritmer utifrån de aktuella rättsreglerna. Automatiseringen möjliggörs av att strukturerade uppgifter från självbetjäningssystem och olika interna register inhämtas maskinellt. Saknas det nödvändig information för att besluta om den aktuella förmånen, är tanken att datasystemet ska notifiera en manuell handläggare för assistans. När alla uppgifter som behövs finns att tillgå kan systemet sedan fatta ett automatiserat beslut.103
Av betydelse är vidare att beslutsfattandet vid Försäkringskassan omfattar rätten till en mängd olika förmåner, som utgår från såväl enklare regelverk som bedömningar av komplex natur.
Vissa ärendetyper har således bedömts lämpligare att automatisera än andra.104 Gemensamt för de beslut som Försäkringskassan har automatiserat är att de styrs av tydliga och mer eller mindre standardiserade regelverk. Barnbidrag utgår exempelvis som huvudregel till den som är vårdnadshavare till barn under 16 år, under förutsättning att både vårdnadshavaren och barnet
102 Försäkringskassan, 2014a, s. 1 f.
103 Inspektionen för socialförsäkringen, 2015, s. 2.
104 Ibid, s. 4.
27 bor i Sverige. Bedömningen kan delas upp i preciserade steg och har därmed bedömts lämplig för automatiserat beslutsfattande. Även beslutsfattande avseende tandvårdsstöd och föräldrapenning är i princip helt automatiserat, då Försäkringskassan anser att ett maskinellt förfarande är lämpligt i dessa fall.105
Angående de förmåner som inte ännu automatiserats finns det ett större bedömningsutrymme i det enskilda fallet. Sådana beslut innefattar ofta ställningstagande till så kallad ostrukturerad information, som fritext från den sökande, utlåtande från läkare eller bilder. Försäkringskassan framhåller dock att det även vid dessa förmåner kan vara möjligt att automatisera delar av beslutsprocessen.106 Som exempel finns det planer på att automatisera sjukpenningen, där så många delmoment av beslutsfattandet som möjligt ska omfattas av ett maskinellt förfarande.
Bedömningen av hur nedsatt en persons arbetsförmåga är i förhållande till ett visst arbete ska emellertid fortsatt göras manuellt.107 Detta rör sig nämligen om en skönsmässig bedömning, som utgår ifrån ostrukturerat material i form av läkarutlåtanden som beskriver diagnos, symptom, sjukdomsgrad och sambandet till nedsättning av arbetsförmåga.108
Tilläggas kan att det emellertid finns visioner om att automatisera även skönsmässiga bedömningar vid Försäkringskassan. Vad gäller prövningen av arbetsförmåga vid ansökan om sjukpenning, har myndighetens jurister exempelvis uttalat att automatisering är möjligt om systemet bygger på en metod där läkarna ger sifferdiagnoser i läkarintyget. Som utgångspunkt ser man inget problem med att automatisera beslut om sjukpenning i sin helhet, såtillvida det med säkerhet går att säga att utfallet blir detsamma som vid ett manuellt förfarande – i vart fall vad gäller enklare ärenden om sjukpenning. Under förutsättning att förfarandereglerna i FL kan efterlevas, blir därför beslutet om att helt automatisera sjukpenningen snarare en lämplighetsfråga enligt myndigheten.109
Även i den övergripande planen för automatisering har Försäkringskassan gjort prognosen att det med hjälp av ny teknik är tänkbart att automatisera förmåner med komplexa bedömningar av ostrukturerat material i framtiden. Det kan bli möjligt för systemen att se till kontext och helhet, samt dra slutsatser utifrån stora mängder data för att lösa mer komplicerade frågor.
105 Ibid, s. 13. Rätten till barnbidrag regleras i 16 kap. socialförsäkringsbalken.
106 Försäkringskassan, 2017, s. 2.
107 Försäkringskassan, 2016, s. 9.
108 Hessmark m.fl., 2011, s. 557 ff.
109 Försäkringskassan, 2014b, s. 4.
