Som framkommit finns det en mängd faktorer som behöver beaktas för att garantera förutsebarhet, objektivitet, likabehandling, öppenhet och effektivitet vid automatiserat beslutsfattande. Det är emellertid inte bara de beslutsfattande myndigheterna som har ett ansvar för att värna om rättssäkerheten. Lagstiftaren måste även skapa riktlinjer för myndigheternas förfarande, i syfte att säkerställa en god förvaltning. Här uppstår frågan huruvida regleringen av automatiserade beslutsförfaranden är tillräcklig ur ett rättssäkerhetsperspektiv.
I dagsläget vill regeringen förtydliga att automatiserat beslutsfattande är lika tillåtet som det manuella tillvägagångssättet. Tekniska förfaranden anses vara en naturlig del av myndigheternas verksamhet och påstås främja såväl enskilda som effektiviteten i förvaltningen. Det framstår således som att regeringen har en ensidigt positiv inställning till användande av automatiserade beslut. Ur rättssäkerhetssynpunkt är det emellertid anmärkningsvärt att det inte har förts något närmare resonemang kring vad som behöver beaktas vid automatisering. I förarbetena till den nya förvaltningslagen säger regeringen endast på ett övergripande plan att rättssäkerheten inte får inskränkas i den moderna förvaltningen. Frågan är om sådana svepande uttalanden gör någon faktisk skillnad. Enligt min åsikt hade det varit välbehövligt att närmare
37 beröra hur automatiserade beslut påverkar de olika rättssäkerhetsaspekterna, följt av förslag på lämpliga avvägningar och åtgärder. Det skulle även kunna förtydligas att automatisering endast är tillåtet om det är lämpligt med hänsyn till intresset av att upprätthålla rättssäkerheten inom förvaltningen.
Vidare finns det enligt E-delegationen inga problem med att uppfylla gällande förvaltningsrättsliga regler även vid ett automatiserat förfarande. Flera av myndigheterna som faktiskt tillämpar automatiserade beslut håller emellertid inte med, utan efterfrågar ytterligare utredning avseende automatisering inom förvaltningen. I praktiken överlåts således frågan om hur de förvaltningsrättsliga förfarandereglerna ska efterlevas till den rättstillämpande myndigheten, eftersom lagstiftaren inte specificerar hur det ska gå till. Som Magnusson Sjöberg framhåller ökar risken för ett godtyckligt förfarande när detaljerna kring rättstillämpningen inte regleras av lagstiftaren.130 Det finns också som bekant redan flertalet fall där myndigheter har eftersatt förvaltningsrättsliga regler vid automatisering. För att åstadkomma ett rättssäkert beslutsförfarande är det därför önskvärt att lagstiftaren närmare specificerar hur de lagstiftade kraven ska uppfyllas vid automatiserade beslut.
Därtill är det anmärkningsvärt att E-delegationen utan vidare konstaterar att det inte behöver införas några särskilda bestämmelser avseende automatiserade beslut Att det redan finns regler som syftar till att säkerställa rättssäkerheten vid myndigheternas beslutsfattande, innebär inte per definition att lagstiftningen garanterar förutsebarhet, likabehandling objektivitet, öppenhet och effektivitet på ett heltäckande sätt. Som jag ser det går det framförallt att ifrågasätta huruvida den nuvarande lagstiftningen säkerställer öppenhet vid automatiserade beslut, vad gäller insyn i den tekniska processen. Wachter m.fl. anser exempelvis att rätten till förklaring av beslutsprocessen i praktiken endast innebär en rätt till information om systemets funktionalitet, vilket inte har reell betydelse för den enskilde.131 Det är inte heller uppenbart hur den tekniska komplexiteten ska göras förståelig för den enskilde, även om beslutsprocessen skulle beskrivas in i minsta detalj. Mot bakgrund av att IT- utvecklingen med all sannolikhet kommer att möjliggöra allt mer avancerad automatisering, är det angeläget att klargöra hur en ändamålsenlig öppenhet ska säkerställas i detta avseende.
130 Ibid, s. 510.
38 Ett sätt att främja rättssäkerheten skulle kunna vara att reglera hur myndigheterna bygger sina beslutssystem. Magnusson Sjöberg framför exempelvis att det borde införas vissa regler eller standarder avseende översättningen av juridiska regelverk till programspråk.132 Detta ter sig särskilt viktigt mot bakgrund av att den tekniska utvecklingen kan komma att aktualisera användande av självlärande algoritmer inom myndigheternas beslutsfattande. Att säkerställa insyn i beslutsprocessen och motverka diskriminering bör vara grundförutsättningar vid systembygget. Vidare kan det exempelvis föreligga så kallad teknisk jäv vid utformandet av det automatiserade systemet, som framförts tidigare. Här är frågan om jävsregeln i FL verkligen täcker denna del av myndigheternas verksamhet, då tillämpningsområdet avser handläggningen av ärenden. En regel om att en tjänsteman kan vara jävig vid utformandet av automatiserade beslutssystem skulle understryka vikten av ett objektivt förfarande i fråga om IT-arbetet. Enligt regeringsformen ska opartiskhet och saklighet visserligen iakttas i förvaltningen, men frågan är om denna allmänna bestämmelse räcker.
Mot bakgrund av att det finns en mängd aspekter som måste beaktas vid valet att automatisera beslut, är det vidare lämpligt att ställa krav på att myndigheterna redovisar fullgod utredning och analys avseende rättssäkerhet inför, under och efter implementering av automatiserat beslutsfattande. Jag håller visserligen med om att införande av automatiserade beslut inte bör försvåras mer än nödvändigt, men är utgångspunkten att rättssäkerheten inte får inskränkas, skulle ett sådant krav på utredning och analys knappast vara oskäligt.
Vad gäller den nya dataskyddsförordningen är det svårt att avgöra hur stora konsekvenser dess tillämpning kommer att få i praktiken. Att det endast är helt automatiserade beslut omfattas av rätten att inte bli föremål för automatiserade beslut, kan exempelvis innebära att det går att komma runt bestämmelsen med vissa mänskliga åtgärder i beslutsprocessen. Ikraftträdandet av den nya dataskyddsförordningen bör dock vara en motivation för lagstiftaren att närmare utreda hur rättssäkerheten ska säkerställas vid automatiserade beslut. Enligt den nya dataskyddsförordningen måste förvaltningsrättsliga principer säkerställas, samt en rättvis och transparent behandling av personuppgifter tillförsäkras, vid automatiserat beslutsfattande som innefattar personuppgiftsbehandling. Som jag ser det, är det osäkert om Sveriges nuvarande reglering verkligen garanterar efterlevande av dessa krav vid automatiserat beslutsfattande.
39
7 Avslutning
En central utgångspunkt vid frågor om automatisering är att juridik i grunden finns till för att lösa problem. Den sedvanliga juridiska metoden, som innebär att en mänsklig beslutsfattare tolkar och tillämpar rättsreglerna, har därmed inte något självändamål. I det fall automatiserade beslut kan främja rättssäkerheten på ett bättre sätt, bör ett sådant förfarande således ges företräde framför manuellt beslutsfattande.133 Som framkommit finns det också många fördelar med att tillvarata möjligheterna i den tekniska utvecklingen. Det går inte att komma ifrån att den mänskliga faktorn i mångt och mycket är något negativt i strävan efter en rättssäker förvaltning. Att ingen människa är perfekt kan bland annat kan yttra sig i form av mer eller mindre oavsiktliga fel och långsam handläggning. Ett automatiserat beslutsfattande kan således främja rättssäkerheten, genom mer effektiva, objektiva, enhetliga och förutsägbara beslut.
Det är emellertid inte säkert att automatisering alltid medför ett bättre beslutsfattande ur rättssäkerhetssynpunkt. Som framkommit i diskussionen behöver en mängd faktorer beaktas för att garantera förutsebarhet, objektivitet, likabehandling, öppenhet och effektivitet i beslutsförfarandet. Om automatiserade beslut används utan tillräcklig utredning och analys är det uppenbart att rättssäkerheten snarare inskränks än främjas, som Transportstyrelsens körkortsreform bland annat visar. Förvaltningsmyndigheterna måste ha klart för sig hur beslutsfattandet påverkas av ett mer eller mindre automatiserat förfarande, samt vilka särskilda problem som kan aktualiseras avseende olika ärendetyper. En överdriven strävan efter effektivitet verkar framförallt vara en riskfaktor i detta sammanhang, som kan inskränka såväl lagstiftarens som förvaltningsmyndigheternas omdöme. Steget in i automatiseringen kan kanske ha som huvudsyfte att skapa en mer effektiv förvaltning, men hänsyn måste självklart även tas till övriga aspekter som behöver garanteras i en god förvaltning. Därtill måste beslutssystemet förvaltas på ett ansvarsfullt sätt, där problem i systemet åtgärdas och effekterna av det automatiserade beslutsfattandet kontinuerligt utvärderas.
Överlag ter sig de beslut som utgår ifrån standardiserade regleringar vara mer fördelaktiga att automatisera ur ett rättssäkerhetsperspektiv. Framförallt då att det är enklare att åstadkomma regelrätta beslut och insyn i beslutsprocessen i dessa fall. Som framkommer av Försäkringskassans interna dokument finns det emellertid planer på att automatisera även
40 skönsmässiga bedömningar i framtiden. Detta är riskabelt, främst vad gäller möjligheten att skapa insyn i den tekniska beslutsprocessen och att förebygga inkorporerande av diskriminerande föreställningar i systemet. Särskilt om Försäkringskassan skulle bestämma sig för att använda självlärande algoritmer. En sådan algoritm kan möjligen lära sig att göra skönsmässiga bedömningar som är regelrätta, men det är svårt att kontrollera huruvida den rättsliga bedömningen har gjorts på ett korrekt sätt.
Av vikt är att lagstiftaren ger förvaltningsmyndigheterna riktlinjer vad gäller automatiserat beslutsfattande för att säkerställa rättssäkerheten. Delvis handlar det om att förtydliga hur den nuvarande regleringen av beslutsfattande kan uppfyllas vid automatisering. Det faktum att förvaltningsrättsliga regler har eftersatts i den automatisering som föreligger vid bland annat Försäkringskassan och Transportstyrelsen, visar att myndigheterna behöver klarare förhållningsregler. Därtill är det en tydlig fingervisning att vissa myndigheter som ska efterleva reglerna i praktiken efterfrågar ytterligare klargörande. Delvis behöver man utreda huruvida det krävs någon särskild reglering avseende automatiserade beslut. Visserligen är det inte realistiskt att reglera automatiserade beslut in i minsta detalj, särskilt mot bakgrund av att tekniken hela tiden förändras och utvecklas. Men vissa grundförutsättningar bör kunna slås fast, så att myndigheterna har riktlinjer att förhålla sig till för att säkerställa samtliga rättssäkerhetsaspekter.
Avslutningsvis vill jag framhålla att den tekniska utvecklingen sannolikt kommer att möjliggöra automatisering av beslut i allt större utsträckning inom kort. Därför är det av vikt att ett rättssäkert förfarande kontinuerligt främjas, även vad gäller framtidens tekniska möjligheter inom förvaltningen. Om inte, finns det en risk att godtycklig maktutövning ökar, samt att förvaltningsmyndigheternas legitimitet urholkas. Ur rättssäkerhetssynpunkt är det inte hållbart att varken förvaltningsmyndigheterna eller den svenska lagstiftaren ignorerar de särskilda faktorer som aktualiseras vid automatiserade beslut.
41
Käll- och litteraturförteckning
Offentligt tryck
Regeringens propositioner (Prop.)
Prop. 1971:30 Förslag till lag om allmänna förvaltningsdomstolar, m.m. Prop. 1985/86:80 Om ny förvaltningslag.
Prop. 1997/98:44 Personuppgiftslag
Prop. 2016/17:180 En modern och rättssäker förvaltning - ny förvaltningslag.
Statens offentliga utredningar (SOU)
SOU 2014:75 Automatiserade beslut - färre regler ger tydligare reglering.
Övrigt
Dir. 2009:19 Delegation för e-förvaltning.
Offentligt tryck från EU
Europaparlamentets och rådets direktiv 95/46/EG av den 24 oktober 1995 om skydd för enskilda personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter.
Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG.
Rättspraxis
Avgöranden från Högsta förvaltningsdomstolen
RÅ 2008 ref.8.
Beslut från Riksdagens ombudsmän
JO:s beslut dnr 1708-2010. JO:s beslut dnr 4728-2011.
Avgöranden från EU-domstolen
Mål C-162/97 Brottmål mot Gunnar Nilsson, Per Olov Hagelgren och Solweig Arrborn, REG 1998, I-07477.
42
Litteratur
Article 29 Working Party on Data Protection, Guidelines on Automated individual
decision-making and Profiling for the purposes of Regulation 2016/678, 2017.
Burany, Stephen, Rise of the racist robots – how AI is learning all of our worst impulses, The
Guardian, 2017-08-08 (2017-10-16), http://www.theguardian.com.
Goodfellow, Ian, Bengio, Yoshua, Courville, Aaron, Deep learning, Första upplagan, Cambridge, The MIT press, 2016.
Haider, Jutta, Sundin, Olof, Internetguide #46 Algoritmer: Så påverkar de din vardag, Internetstiftelsen i Sverige, 2016.
Hellners, Trygve, Malmqvist, Bo, Förvaltningslagen – Med kommentar, 2010-05-31 (2017-12-12), zeteo.wolterskluwer.se.
Hessmark, Lars-Göran, Jansson, Henrik, Lundin, Anna-Karin, Rempler, Kjell, Jenryd, Marianne, Tired, Petrus, Socialförsäkringsbalken - en kommentar, Första upplagan, Stockholm, Norstedts Juridik, 2011.
Inspektionen för socialförsäkringen, Arbetsrapport 2015:3 Individuell eller standardiserad socialförsäkring: En diskussion för mer rättssäker handläggning, 2015.
Janlert, Lars Erik, Tänkande och beräkning, Andra upplagan, Lund, Studentlitteratur, 2015. Kehl, Danielle, Guo, Priscilla, Kessler, Samuel, Algorithms in the Criminal Justice System:
Assessing the Use of Risk Assessments in Sentencing, Berkman Klein Center for Internet &
Society, 2017-07-01 (2017-11-29), https://dash.harvard.edu/
Larsson, Linus, Deras robotar vet mer om din musiksmak än du själv, i Dagens Nyheter, 2016-06-05 (2017-09-20), https://www.dn.se.
Magnusson Sjöberg, Cecilia, Rättsautomation: Särskilt om statsförvaltningens datorisering, Första upplagan, Stockholm, Norstedts Juridik, 1992.
Magnusson Sjöberg, Cecilia, Rättsinformatik: Juridiken i det digitala informationssamhället, Andra upplagan, Lund, Studentlitteratur, 2016.
Marcusson, Lena, God förvaltning - en rättslig princip?, i Marcusson, Lena m.fl. (red.), God
förvaltning - ideal och praktik, Uppsala, Iustus Förlag, 2006.
Naarttijärvi, Markus, Rättsstatlighet och algoritmiska svarta lådor, i Jubileumsskrift till
Juridiska institutionen 40 år, Örjan Edström m.fl. (red.), Umeå, Juridiska institutionen, Umeå
universitet, 2017, s. 245–259.
Peczenik, Aleksander, Vad är rätt?: om demokrati, rättssäkerhet, etik och juridisk
43 Pei, Kexin, Cao, Yinzhi, Yang, Junfeng, Jana, Suman, Towards Practical Verification of
Machine Learning: The Case of Computer Vision Systems, 2017-12-05 (2017-12-15),
https://arxiv.org.
Petersson, Olof, Rättsstaten: Frihet, rättssäkerhet och maktdelning i dagens politik, Första upplagan, Stockholm, Norstedts Juridik, 2005.
Statskontoret, Grönt, gult eller rött ljus? Utvärdering av ändrad ansvarsfördelning för
körkortsfrågor, 2014.
Seipel, Peter, Juridik och IT: Introduktion till rättsinformatiken, Åttonde upplagan, Stockholm, Norstedts Juridik, 2004.
Sterzel, Fredrik, Författning i utveckling: Tjugo studier kring Sveriges författning, Andra upplagan, Uppsala, Iustus Förlag, 2009.
Strömberg, Håkan, Lundell, Bengt, Allmän förvaltningsrätt, Tjugofemte upplagan, Malmö, Liber, 2011.
Wachter, Sandra, Mittelstadt, Brent, Floridi, Luciano, Why a Right to Explanation of Automated
Decision-Making does not Exist in the General Data Protection Regulation, 2017-01-24
(2017-12-01), https//papers.ssrn.com.
Wahlgren, Peter, Automatiserade juridiska beslut, i Korling, Fredric, Zamboni, Mauro m.fl. (red.), Juridisk metodlära, Första upplagan, Lund, Studentlitteratur, 2013.
Öman, Sören, Lindblom, Hans-Olof, Personuppgiftslagen – En kommentar, 2016-12-20 (2017-12-09), zeteo.wolterskluwer.se.
Övriga källor
Ekonomistyrningsverket [http://www.esv.se/effektiv-statsforvaltning/digitalisering/it-anvandning/strategiska-it-projekt/] 2017-10-13.
Ekonomistyrningsverket, Automatiserade beslut – färre regler ger tydligare reglering (SOU 2014:75), 2015 (remissyttrande).
Försäkringskassan, Plan för automatisering, 2017 (internt dokument).
Försäkringskassan, Verksamhetens beslutsunderlag (VBU) – stora versionen, 2016 (internt dokument).
Försäkringskassan,Svar på regeringsuppdrag, dnr 039542–2013, 2014a.
Försäkringskassan, Synpunkter på förslaget digital bedömning av arbetsförmåga på grund av sjukdom, 2014b (internt dokument).
Myndigheten för samhällsskydd och beredskap, SOU 2014:75 Automatiserade beslut - färre regler ger tydligare reglering, 2015 (remissyttrande).
44 Regeringen [http://www.regeringen.se/regeringens-politik/digitaliseringspolitik/] 2017-10-12. Pensionsmyndigheten, Betänkandet En ny förvaltningslag (SOU 2010:29), 2010 (remissyttrande).
SVT [https://www.svt.se/nyheter/inrikes/svt-avslojar-flera-myndigheter-ovetande-om-dataintrang] 2017-11-29.