Riktlinjer och lag

Följande aspekt identifierades i den empiriska datan: ”Nationella riktlinjer och lagar”.

Aspekten togs upp av 3 respondenter vilket inte gör den framträdande.

Nationella riktlinjer och lagar: R5 tar upp att någon typ av nationella riktlinjer/råd behövs. Det ska inte ligga på mammografienheten själva att göra en bra värdering och sedan bestämma om AI ska användas eller inte. R5 belyser att det skulle på en nationell nivå behöva skapas en utvärdering av AI-systemet innan implementation och nämner vidare:

”[…] att det kom någon typ av nationellrekommendation eller bedömning av hur AI-systemen bäst ska användas.” – R5

Vem som skulle stå för det vet inte R5, hen tar upp att svensk bröstradiologiska föreningen eller statens beredning för medicinsk utvärdering möjligen skulle stå för det.

Enligt R5 skulle Socialstyrelsen kunna vara inblandade i hur det ska användas i screeninggranskning, det är de som står för rekommendation när det gäller screening. R7 nämner att efter studier är gjorda behöver en utredning skapas med Socialstyrelsen (SBU-utredning) i syfte att bevisa att det fungerar innan implementationen. R6 nämner att utmaningar finns gällande samarbete när det kommer till upphandlingsregler och lagar.

Riktlinjer och ramverk kan fastställa steg som behövs för att implementera och främja AI-system inom radiologi samt en allmän plan inför framtiden. Ytterligare skulle det kunna finnas standarder för godkännande av tekniken (Liew, 2018). Sådana krav och standarder som litteraturen nämner går hand i hand med det R5 uttryckte om att det behöver bestämmas hur AI-system ska användas.

49

6 Resultat

Följande kapitel presenterar resultatet och besvarar den bestämda frågeställningen i studien.

Studien har kommit fram till ett resultat utifrån den bestämda frågan: ”Vilka icke-tekniska utmaningar finns det med att använda AI som beslutsstöd inom mammografi ur ett radioligistiskt perspektiv?”. För att besvara frågeställningen har radiologer intervjuats gällande deras syn kring AI som ett beslutsstöd inom mammografi. I figur 10 nedan visas en sammanställningen av studiens resultat angående vilka icke-tekniska utmaningar det finns ur ett radiologiskt perspektiv.

Figur 10: Resultat

Baserat på figur 10 ovan är studiens resultat att det finns en rad olika icke-tekniska utmaningar inom olika teman. Vidare går det att konstatera att det finns olika aspekter inom dessa icke-tekniska utmaningar. Studien har inte lagt någon vikt på vilken av dessa icke-tekniska utmaningar som är viktigast baserat på antal respondenter som nämnt något, dock går det att konstatera att vissa av aspekterna inom dessa icke-tekniska utmaningar är mer framträdande. De mest framträdande aspekterna var ”vem tar ansvar”

inom utmaningen ”juridiska aspekten” samt alla aspekter inom ”utbildning/kunskap”.

Studien har utvecklat de använda temana i kap 2.3.4: ansvar, mänskliga förmågor, utbildning/kunskap och acceptans. Inom dessa har studien bidragit med fler icke-tekniska utmaningar och aspekter. Studien identifierade temat samarbete i och med att resultatet visade på att det fanns fler utmaningar inom det temat som behövde framhävas.

Nedan ges en sammanfattning av det resultat studien har bidragit med och det studien har utökat de olika temana med:

Ansvar: Inom detta tema identifierades två icke-tekniska utmaningar: juridiska aspekten och etiska aspekten. Juridiska aspekten avser saknad av lagstiftning eller ram gällande vilken/vilka aktörer som är juridiskt ansvariga för ett beslut fattat med AI som stöd.

50

Utmaningen avser även att en läkare kan hamna i en sämre juridisk situation i jämförelse om de enbart var mänskliga bedömningar. Etiska aspekten avser avsaknad av en etisk-och moralisk ram kring ansvaret etisk-och hur AI ska användas ur ett etiskt perspektiv. Två dilemman inom denna utmaning är: Kommunikation: att förstå vad som händer och att inte kunna kommunicera med en maskin om ett fel som uppstått. Medicinska resultat: hur ska medicinska resultatet hanteras ur ett etiskt perspektiv vid användning av AI som beslutsstöd. Frågan är vad som räknas som en oetisk/etisk medicinskt bedömning.

Mänskliga förmågor: Inom detta tema identifierades två icke-tekniska utmaningar:

radiologens förmågor och erfarenhet. Radiologens förmågor inkluderade fyra aspekter:

sämre koncentration, påverkan, osäkerhet och stress. Alla dessa aspekter innebär att radiologen kan påverkas på olika sätt. Uppstår det sämre koncentration kan det leda till att noggrannheten blir sämre. Påverkan innebär att en radiolog kan påverkas av AI i fel riktning. Osäkerhet och stress är något som kan uppstå hos radiologen vid användning av AI som beslutsstöd. Utmaningen erfarenhet innebär att radiologer kan påverkas av AI beroende på erfarenhetsgrad samt att om AI används granskas färre mammograms vilket kan påverka erfarenheten i och med att det innebär mindre kunskap.

Utbildning/Kunskap: Inom detta tema identifierades två icke-tekniska utmaningar:

vetenskapliga bevis och behov av utbildning. Vetenskapliga bevis innebär att det generellt finns behov av mer fakta och studier innan AI som beslutsstöd kan implementeras. Behov av utbildning innebär att det finns behov av utbildning och kunskap för aktörer. Aktörer exempelvis AI-företag behöver utbildning om mammografi i och med att de behöver förstå vad mammografi innebär. Det framkom även att olika aktörer behöver kunskap om AI när AI-verktyg ska implementeras. Aktörer som nämndes var: radiologer, chefer, sjukvårdspolitiker, sjukvårdsledningar och patienter. Den aktör som lyftes fram mest var radiologerna – de behöver exempelvis kunskap om vilka fördelar och limitationer AI har.

Acceptans: Inom detta tema identifierades två icke-tekniska utmaningar: berörda aktörer och klargöra aspekter. Berörda aktörer avser acceptansen i samband med olika aktörer.

Hos patienterna kan acceptansen bero på hur det presenteras så att de förstår fördelar och risker. Acceptansen hos patienterna kan även variera beroende på land. En annan aktör är AI-företagen (tillverkarna). Det är svårt att lita på tillverkarna när de säger att deras program är bra, testas programmet på egna bilder på det egna sjukhuset är det lättare att acceptera faktamässigt. Det finns en AI-hype hos företagen och sjukvården varav tankarna av att AI ska lösa alla problem överdrivs. AI-hypen kan minska acceptansen när AI-företag tar fram program som inte funkar vilket kan leda till att bra verktyg döljs. Hos gruppen som betalar för AI hade acceptansen ökat om det ersätter läkaren och tillför något samt att chefer behöver bli övertygande om att AI är billigare att införa. Klargöra aspekter avser aspekter som behöver klargöras för att aktörer ska acceptera införandet. Finansiella aspekten: klargöra vad AI kostar. Vetenskapliga aspekten: mer studier och fakta kring AI. Juridiska aspekten: behöver bli godkänt av Socialstyrelsen, avsaknad av lagstiftning samt att det behöver bli C-märkt. Etik och ansvar: avser att etik och ansvar vid användning av AI behöver klargöras.

51

Samarbete: Inom detta tema identifierades tre icke-tekniska utmaningar: samarbete mellan aktörer, finansiella aspekten och riktlinjer/lag. Samarbete mellan aktörer avser att det kommer kräva tidiga resurser från båda industri och sjukvård, samt att aktörerna behöver ha ett frekvent samarbete mellan varandra. Ett annat samarbete är mellan AI-företagen, att de ställs mot varandra i en så kallad benchmarking kring deras material.

Finansiella aspekten avser att inte samarbeta för att tjäna pengar. Det spekuleras kring om vården kan använda AI-verktygen gratis i sjukvården dock behöver någon part ta ansvar för algoritmerna. Den sista utmaningen i samarbete handlar om riktlinjer och lagar, det behövs samarbete i form av en nationellrekommendation hur AI bäst ska användas. Det finns även utmaningar kring upphandlingsregler och lagar.

Avslutningsvis tyder resultatet på att ur ett radiologiskt perspektiv finns det en rad olika icke-tekniska utmaningar vid användning av AI som ett beslutsstöd. Även fast vissa aspekter inom de icke-tekniska utmaningar är mer framträdande är studiens slutgiltiga huvudbudskap och slutsats att alla utmaningar ska ses likvärdiga. De ska ses likvärdiga i och med att frågeställningen enbart behandlade vilka icke-tekniska utmaningar som finns oberoende av antal respondenter som nämnt en. Studiens förväntan var att bidra med kunskap och vara till nytta vid framtida implementationer genom att identifiera radiologers åsikter och öka förståelsen kring ämnet. Studien har med sitt resultat bidragit med en ökad kunskap kring vilka icke-tekniska utmaningar det finns vid AI som beslutsstöd inom mammografi ur ett radiologiskt perspektiv.

52

7 Diskussion

Följande kapitel diskuterar resultatet, metoden samt vetenskapliga, samhälleliga och etiska aspekter. Därefter diskuteras de etiska aspekterna som användes i studien och förslag för framtida forskning.

7.1 Resultatdiskussion

Resultatet i studien har besvarat vilka icke-tekniska utmaningar det finns vid användning av AI som beslutsstöd inom mammografi. Resultatet bidrar till forskningen i och med att det är brist på radiologers perspektiv gentemot den frågeställning som togs fram.

Perspektivet är till nytta för framtida implementationer och forskning i och med att studien bidrar med ny kunskap kring aspekter som är viktiga att ha i åtanke vid utveckling av AI som beslutsstöd. Kunskapen kring dessa kan öka förståelsen hos berörda aktörer exempelvis AI-företag och generera ett samarbete som i den långa loppet tillhandahåller ett effektivt och fungerade beslutsstöd.

Det radiologiskt perspektivet inkluderade två olika synvinklar: (1) radiologer som har erfarenhet av AI inom mammografi samt (2) radiologer som inte har erfarenhet av AI inom mammografi. Denna avgränsning bestämdes i och med att studien ville berika de icke-tekniska utmaningar med fler åsikter och tankar. Radiologerna hade även varierande års erfarenhet av mammografi. Synvinklarna och år av erfarenhet tillhör inte frågeställningen och därför togs de inte upp i föregående kapitel, dock är dessa två attribut hos respondenterna värda att diskutera på grund av hur det kan påverkat resultatet. År av erfarenhet inom mammografi har med stor sannolikhet inte påverkat resultatet i och med att studien inte kunde identifiera några avgörande skillnader.

Synvinklarna kan påverkat resultatet i en viss grad varav det finns två sätt att titta på hur synvinklarna har påverkat resultatet. Tittar studien på helheten av alla icke-tekniska utmaningar som identifierats då har båda synvinklar nämnt en aspekt i varje icke-tekniska utmaning, undantaget är dock i temat samarbete. I två av tre utmaningar i temat samarbete har enbart respondenter med erfarenhet av AI nämnt någon aspekt. Dessa utmaningar hade försvunnit om synvinkeln inte använts vilket hade förändrat studiens resultat. Tittar studien på samtliga aspekter som identifierats inom en utmaning har det indirekt påverkat resultat det vill säga en aspekt mindre inom utmaningen. Skulle studien ta bort respondenterna som inte har erfarenhet av AI hade exempelvis ”vem tar ansvar”

försvunnit från utmaningen etiska aspekten. Hade studien tagit bort respondenter med erfarenhet av AI hade exempelvis ”medicinska resultat” i utmaningen etiska aspekten försvunnit. Studien kan därav konstatera att oavsett om radiologen har erfarenhet av AI eller inte påverkas resultatet. Aspekter inom en utmaning samt utmaningar inom ett tema kan försvinna om en synvinkel tas bort. Inga definitiva mönster gällande de icke-tekniska utmaningarna identifierades utifrån synvinklarna, utan resultatet har snarare berikats med fler åsikter vilket var syftet med synvinklarna.

53

Det blev ett bortfall av en respondent som inte hade erfarenhet av AI varav studien valde att inte kontakta en av reserverna. Naturligtvis hade resultatet kunna stärkts något ytterligare om en till respondent hade inkluderats dock var det insamlade materialet tillräckligt och trovärdigt för att besvara frågeställningen. Respondenterna anses vara ämnesexperter i studien vilket gör resultatet i studien trovärdigt. De har kunskap av mammografi och är medvetna om processer och beslut i deras arbete. I kap. 3.4 förväntat resultat och framtida förväntningar var en förväntning av resultatet att det valda perspektivet (radiologerna) skulle generera viktiga utmaningar som inte glöms bort vid implementationer som exempelvis enbart de är medvetna om. Om andra aktörer inte är medvetna om dessa utmaningar kan inte studien säkerställa, dock går det att konstatera att berörda aktörer kan ta del av resultatet i denna studie och öka deras medvetenhet om radiologernas perspektiv på användningen. Resultatet styrks även av användningen av synvinklarna. Hade de icke-tekniska utmaningarna enbart identifierats från respondenter utan erfarenhet av AI kan de ansetts vara mindre trovärdiga eftersom de inte använt AI.

Att majoriteten av respondenterna har erfarenhet av AI anser denna studie ökar trovärdigheten.

Resultatet kan även anses vara trovärdigt i hur forskaren har hanterat datan under hela forskningsprocessen. Intervjuerna transkriberades noggrant och för att ytterligare säkerställa resultatet i studien fick respondenterna ta del av sina intervjuer. Detta för att minimera felaktigheter som forskaren kan misstolkat under transkriberingsfasen.

Forskaren har varit objektiv under dataanalysen och presenterat de icke-tekniska utmaningarna utan partiskhet. Ingen data har ändrats samt att inget resultat har påverkats av personliga värderingar. Studien har enbart presenterat de resultat som anses vara icke-tekniska utmaningar. Det fanns tillfällen där respondenter tog upp brister kring tekniken i sig varav studien fick utesluta detta från materialpresentationen. Detta är dock inget som påverkat resultat i och med att det inte var relevant för studiens frågeställning. Valet av att inkludera citat i materialpresentationen utfördes för att öka trovärdigheten kring vad respondenterna faktiskt har sagt ordagrant.

7.2 Metoddiskussion

Studien applicerade en kvalitativ forskningsmetod vilket var en fördel för studiens resultat. Forskningsmetoden möjliggjorde att djupa och detaljerade åsikter kring de icke-tekniska utmaningarna kunde identifieras. Hedin & Martin (2011) nämnde att individers uppfattningar kring ämnet som studeras kan variera varav det inte finns en enda objektiv sanning. Respondenterna hade emellanåt relativt olika uppfattningar gentemot de icke-tekniska utmaningar vilket var en fördel i och med att studien ville identifiera och utöka de icke-tekniska utmaningar inom ämnesområdet. Att fokusera på färre antal individer skapade en högre kvalité kring svaren i och med att studiens fokus låg på dessa, vilket inte hade kunna uppnåtts om studien hade använt en kvantitativ undersökning. För att besvara frågeställningen krävdes den typ av data och information som resultatet illustrerar. Det krävdes ett djup som gav mycket information och det hade inte kunna uppnåtts med en kvantitativ undersökning. Med en kvantitativ metod hade inte studien

54

fått ett rättvist resultat i och med att studiens syfte inte handlade om att exempelvis verifiera hur många respondenter som nämnt en icke-teknisk utmaning, utan studiens syfte var att identifiera nya åsikter med mycket information från respondenterna.

Enda nackdelen med att färre individer har använts är att det försvårar att se samband och mönster kring de icke-tekniska utmaningarna. Studien kunde inte identifiera några avgörande mönster/samband mellan år av erfarenhet eller om respondenter hade erfarenhet av AI eller inte gentemot resultatet. Hade fler respondenter inkluderats med exempelvis en enkätundersökning hade studien kunna nått ut till fler respondenter vilket hade kunna genererat fler samband. Syftet med studien var inte att undersöka samband och vidare bekräfta de icke-tekniska utmaningar, dock går det inte att undkomma att det hade varit intressant om fler mönster och samband hade framhävts. Hade enkätundersökningar använts istället hade det inte besvarat frågeställningen lika djupgående som den valda metoden möjliggjorde, men det hade kunnat generera flera samband och mönster. De semistrukturerade intervjuerna i studien anses vara en stor fördel i och med att forskaren kunde förhålla sig till en frågeguide samtidigt som det fanns utrymme för avvikelser. Detta skapade utrymme för mer information och mer detaljerade beskrivningar kring utmaningarna, vilket hade begränsats med exempelvis enkätundersökningar.

Den abduktiva ansatsen möjliggjorde för studien att utgå ifrån utmaningar från tidigare litteratur (kategoriseringar i kap. 2.3.4) och vidare utveckla dessa, vilket skapade rum för nya infallsvinklar och åsikter från respondenterna. Frågeguiden i studien baserades på utmaningarna från den tidigare litteraturen och genom att fråga respondenterna om dessa utvecklades utmaningarna snarare än att enbart bekräftas. Valen av en kvalitativ forskningsmetod, en abduktiv ansats och semistrukturerade intervjuer är bidragande till att frågeställningen kunde besvaras. Valen var en fördel för resultatet eftersom studien ville bidra med fler åsikter gentemot ämnet och inte enbart bekräfta det som nämnts innan i litteraturen.

Valet av att basera frågeguiden på tidigare litteratur kunde som nämnt innan utveckla de icke-tekniska utmaningarna. Enda nackdelen med detta genomförande var att vissa av frågorna som baserades på tidigare litteratur möjligen var för specifika. I resultatet fanns det aspekter inom utmaningarna som var mer framträdande, vilket beror på att inom vissa utmaningar har respondenterna nämnt väldigt lika aspekter och i andra skiljer sig svaren mer. Studien har inte tagit någon ställning och baserat resultatet på om någon aspekt inom en utmaning har framhävts mer, dock går resultatet angående detta att ifrågasättas till en viss mån. Vissa av frågorna som baserades på tidigare litteratur kan varit mer ledande in på svaret alltså mer specifika medan vissa var mer ”öppna”.

Exempelvis var frågan om vilka juridiska utmaningar det fanns en mer specifik fråga än vilka utmaningar det finns gällande samarbetet. Vissa av frågorna kan lett in respondenterna mer in på ämnet och genererat mer specifika svar. Frågan om samarbetet blev dessutom ett eget tema, vilket kan vart på grund av att frågan var mer öppen och inte gick in på något specifikt samarbete. Studien anser därför att studiens frågor som

55

baserades på tidigare litteratur kan påverkat resultatet, i både en negativ och positiv riktning. Negativt i den mening att antal respondent per aspekt inom vissa icke-tekniska utmaning inte blev direkt framhävande vilket kan sänka trovärdigheten. Positiv i den mening att fler aspekter inom de icke-tekniska utmaningarna har identifierats tillskillnad från om frågan varit för specifik. Hade studien utförts igen hade studien inkluderat exempelvis olika typer av samarbeten i intervjuguiden från tidigare litteratur som ses som utmaningar.

Ett alternativt tillvägagångsätt för att besvara frågeställningen hade varit en kompletterande enkätundersökning. Från början av studien när radiologerna kontaktades var det några som avstod från att bli intervjuade på grund av tidsbrist. En enkätundersökning med mer kvalitativa inslag på frågorna hade kunna ansetts ta mindre tid att besvara än att genomföra en intervju. Istället för svarsalternativ hade respondenterna besvarat frågorna i en textruta, nackdelen hade dock varit att forskaren inte hade kunna ställt några följdfrågor. Att enbart använda enkätundersökningar hade förmodligen inte gett lika detaljerade svar men som ett komplement till intervjuerna hade studien kunna identifiera om fler radiologer tycker samma eller olika. Att nå ut till fler respondenter hade kunnat generera fler samband och mönster kring resultatet samt att utmaningarna hade kunna undersökts mer. En kompletterande enkätundersökning hade kunna styrkt trovärdigheten eftersom fler åsikter hade identifierats.