Iteration 3 - Analys

5.4 Iteration 2 - Utvärdering och Återkoppling

Som utvärdering i den andra iterationen genomfördes en presentation av ramverk version 2 hos ett stort privat energibolag. Under presentationen visade kunden ett stort intresse för AI och dess potentiella användningsområden. I anslutning till presentationen fanns tid för kunden att ställa frågor och komma med återkoppling angående ramverket.

Återkopplingen var till största delen positiv och ramverket ansågs vara relevant för framtida AI-projekt på energibolaget. Energibolaget är, precis som många andra organisationer och företag, i startgroparna vad gäller implementation av AI men såg stora fördelar med att använda ett ramverk för att undvika snedvridningar i framtida projekt. Det enda frågetecknet som lyftes var gällande ramverkets tillämpbarhet på hård AI. Att detta inte inkluderas i ramverket förklarades med att hård AI inte existerar i dagsläget och således inte anses relevant för ramverket i nuläget.

5.5 Iteration 3 - Analys

Behovet av ett ramverk för att motverka algoritmisk snedvridning kommer ur den växande efterfrågan efter implementation av AI och automatisering på olika företag och verksamheter. För att få en nyanserad bild av vilka förutsättningar och möjligheter till automatisering som finns genomfördes en kvalitativ intervjustudie tillsammans med Sida. I studien deltog två handläggare, två statistiker, en verksamhetschef samt en systemförvaltare.

Enligt Näringsdepartementets riktlinjer ska artificiell intelligens ses som ett hjälpmedel som bör utnyttjas i största möjliga mån (Näringsdepartementet, 2018). Studien har därför ämnat svara på vilka förutsättningar som finns för en ökad automatisering, vilka risker som kan komma uppstå vid en ökad automatisering och vilka möjliga nyttor eller konsekvenser en ökad automatisering hos Sida skulle kunna leda till. En sammanställning av citat hämtade från de olika intervjuerna återfinns i tabell 4.

Tabell 4. Citat från svar på tre frågor om automatisering i intervjuer med statistiker, handläggare, verksamhetschef samt systemförvaltare på Sida

5.5.1 Förutsättningar för automatisering på Sida

De sammanställda intervjuerna i tabell 4 visar att den generella uppfattningen om en ökad automatisering är relativt pessimistisk. Trots att det finns en stark tilltro till digitaliseringens möjligheter och en positiv inställning till att arbeta progressivt med ny teknik anses den digitala mognaden på myndigheten vara relativt liten (Intervju, Sida).

Detta gör att den digitala utvecklingen på Sida går långsammare i förhållande till mer digitalt mogna myndigheter som exempelvis Skatteverket - som dessutom arbetar mot digitalt utvecklade kunder (svenska befolkningen och svenska företag). Sida arbetar i första hand mot partnerbolag och organisationer som i dagsläget inte sätter några höga krav på digital utveckling. Vissa anser att det i nuläget inte finns någon möjlighet att automatisera handläggarnas arbete då delar av det fortfarande sker helt icke-digitalt i form av både brevkorrespondens och personliga möten (Intervju, Sida).

Förutsättningarna att automatisera handläggarnas arbete anses dessutom som små på grund av att deras beslut är komplexa och baseras på kvalitativa data. Förhoppningen är snarare att automatisering och AI ska kunna implementeras på simplare uppgifter, som exempelvis tidsrapportering (Intervju, Sida). Många anser att det finns goda möjligheter att automatisera vissa eller till och med stora delar av verksamhetens funktioner. I takt med att extrem fattigdom i större utsträckning kommer att minska kommer verksamhetens syfte, och därmed även arbetssätt, att förändras. Denna förändring

kommer att kräva implementation av ny teknik - där AI och automatisering kommer att spela en viktig roll (Intervju, Sida).

5.5.2 Risker med automatisering på Sida

Ett hinder som återkommande lyfts i debatten om automatisering och implementation av AI i offentlig sektor är krav på transparens och opartiskhet. Enligt likhetsprincipen (SFS 1974:152) är det viktigt att aktörer i den offentliga sektorn i sitt arbete beaktar medborgarnas bästa och agerar opartiskt och icke diskriminerande. Automatisering kan leda till minskad transparens och, som har redovisats i fallstudierna i avsnitt 3.4, diskriminerande resultat. Statistiker vid Sida menar att:

”Vi har ett transparenskrav på oss samtidigt som det finns stora krav på att skydda den personliga integriteten. Det är en risk om vi börja tumma på någon av dem”

- (Intervju, Sida)

Som en effekt av en hög tilltro till teknik kan en ökad automatisering leda till att AI inte ifrågasätts eller granskas tillräckligt samtidigt som mänskliga bedömningar värdesätts och beaktas i mindre utsträckning. Om AI exempelvis implementeras för att generera rekommendationer finns det en risk att rekommendationen värdesätts högre än den mänskliga uppfattningen, trots att rekommendationen enbart är en rekommendation och ingen fullständig sanning (Intervju, Sida). I förlängningen kan detta leda till att en del av ansvarskänslan försvinner och att mer ansvar tillskrivs tekniken.

“...vem är i slutändan den ytterst ansvariga för de resultat som en dator genererar?”

- (Intervju, Sida)

Även kravet på tillförlitliga och kvalitetssäkrade träningsdata ses som ett hinder och en risk vid implementation av AI på myndigheten. Handläggare på Sida menar att det finns stora risker med att förlita sig på resultat genererade av AI som har tränats på icke tillförlitliga träningsdata av varierande eller undermålig kvalitet (Intervju, Sida).

5.5.3 Potentiella möjligheter med automatisering

Optimismen och tilliten till ny teknik är relativt stor på myndigheten. Dessa speglas i en generellt positiv syn på vilka möjligheter automatisering och AI skulle kunna tillföra verksamhetens arbete i framtiden.

”Det finns stora möjligheter med att helt eller delvis automatisera verksamheten. Jag är helt för förändring och utveckling av arbetet och att vi med digitalisering kan förflytta, ta bort och automatisera arbetsuppgifter” - (Intervju, Sida)

Samtidigt finns en försiktigare syn på automatiseringens betydelse och en övertygelse om att AI snarare kommer att möjliggöra kvalitetsförbättringar i statistikers och handläggares nuvarande arbete än att medföra stora tids- och kostnadsbesparingar (Intervju, Sida). Med ökad kvalitetssäkring finns det även en förhoppning om att en

automatisering kommer att möjliggöra för ökad och säkrad objektivitet gentemot partners och medborgare (Intervju, Sida). I ett initialt skede finns det dock en samsyn om att AI i första hand bör ses som ett komplement och ett hjälpmedel till myndighetens nuvarande arbete och att det med tiden kommer att kunna utvecklas och implementeras på fler och större delar av verksamheten.