Hej! Nu ska vi prata om etik, närmare bestämt
förklarbarhet och ansvar. Och det finns ju ett
visst antal principer eller krav som brukar nämnas
när det handlar om tillförlitlig, etisk och
ansvarsfull AI. Och då de som nämns är mänskligt
agentskap och mänsklig tillsyn. Teknisk robusthet
och säkerhet, integritet och dataförvaltning,
transparens, förklarbarhet, mångfald, icke
diskriminering och rättvisa. Samhällets och
miljöns välbefinnande och ansvar. Och idag tittar
vi alltså på transparens och förklarbarhet och
ansvar och kopplingen däremellan. Förklarbarhet
innebär ju att man kan se hur och varför en viss
rekommendation kommer ut, eller varför ett visst
beslut fattas. Det ökar användarens förståelse.
Förklarbarhet i sjukvården hjälper vårdpersonal
att förstå och gör det möjligt för dem att kunna
förklara och ge information till patienterna, så
att man förstår bakgrunden till riskbedömningar
och beslut. Och varför är ansvar viktigt då? Jo,
dels handlar det ju om rättvisa, möjligheten att
kunna ställa någon till svars vid skada. Det
bakåtblickande ansvaret. Tillit. Både patienter
och personal måste kunna lita på systemet. Lärande
ansvar krävs för att förbättra system och undvika
fel. Alltså framåtblickande ansvar. Den
professionella integriteten. Läkare måste kunna
stå för beslut de ska ha och ta ansvar för de här
besluten. Och utan tydligt ansvar så riskerar AI
att skapa vad som kallas ett ansvars glapp där
ingen kan hållas ansvarig. Och alla de här bitarna
kräver ju också transparens och förklarbarhet hos
AI, för att för att man ska kunna ta ansvar och
för att det är rimligt att hävda att någon har
ansvaret att ställa någon till svars. Det finns
många olika sorters ansvar. Dels måste man skilja
mellan etiskt och juridiskt ansvar. Juridiskt
ansvar är korrigerat i lagstiftningen, medans det
etiska ansvaret är mer svårdefinierat och man kan
ha olika perspektiv på det. Men framför allt är
det ju så att man kan inte lagstifta om precis
allting, och dessutom ser vi olika på vårat ansvar.
Olika läkare ser också på ansvar på olika sätt. Så
det är etiskt och juridiskt. Sen måste man skilja
mellan individuellt och kollektivt ansvar. Det kan
handla om den enskilda läkaren som har ett
individuellt ansvar, eller så kan det vara ett
kollektivt ansvar, Ett ansvar som t.ex. Ett
sjukhus har. Eller hela vårdsystemet. Eller
samhället. Eller ledningen. Det är alltså ett
gruppansvar. Kollektivt ansvar. Det finns också
bakåtblickande ansvar, det vill säga att kunna
ställa någon till svars Framåtblickande ansvar att
förbättra systemrutiner. När det gäller AI system
och AI teknik är det mest rimliga att tänka sig
att det finns olika aktörer som har ansvar för
olika delar, och diskussionerna handlar om i
vilken utsträckning är sjukvårds fallet läkare och
å ena sidan sjukhus, teknikutvecklare och så
vidare. Vem är det som har ansvar? Det verkar
fördelat mellan olika aktörer, men det är inte en
gång för alla givet vilken fördelning som är den
rimliga. Man kan tänka sig att förklarbarhet och
ansvar hänger ihop på det här sättet. Läkaren
försöker förklara för patienten varför en viss
rekommendation har kommit eller ett visst beslut
fattas med hjälp av AI stödet. Man kan se hur AI
systemet har jobbat fram det som har kommit ut som
resultat.
Varför det till exempel skulle vara högrisk för
sepsis och vad sannolikheten skulle vara. Så där
kan läkaren förklara, förstå och förklara för
patienten. Och då ökar ju förtroendet och
patientsäkerheten. Båda parterna kan förstå
rekommendationen och man kan upptäcka om det finns
bevis och sådana saker. Så där sitter läkaren med
ett förklarbart AI system, och det möjliggör att
hon kan ta ansvar för det kliniska beslutet. Och
som man ser här så kan det finnas olika nivåer på
ansvar, för läkaren kan ju inte ha ansvar för
precis allting. Man kan tänka sig att utvecklaren
har ett visst ansvar och vårdgivare och huvudman
också. Men som sagt, inte en gång för alla givet.
Men på det här sättet som möjliggör förklarbarhet
att vi kan granska och ansvar säkerställer att
någon kan stå till svars och vi kan ta ansvar och
fördela ansvar. Om vi har ett förklarbart system.
Nu har ett scenario som ni kan fundera på. Ni kan
gärna pausa emellan bilderna och fundera.
Vi har ett scenario här. Du blev klar med
läkarutbildningen för tre år sedan och arbetar nu
som läkare på ett sjukhus som har begränsade
resurser på akuten. Ledningen på sjukhuset har
beslutat att följa regionens rekommendation att
använda godkända AI verktyg i så stor utsträckning
som möjligt, både för att fler patienter ska få
rätt vård fort och för att spara pengar. Det är
sen kväll och du har arbetat ett långt pass. När
en 78 årig man kommer in till akuten med svår
förklarat smärta, viss andfåddhet och trötthet men
ingen bröstsmärta. Väntrummet är fullt. Du känner
att du skulle behöva hjälp, men alla kolleger är
upptagna. Du frågar den stressade ansvariga
sjuksköterskan hur du ska göra eftersom du skulle
behöva rådgöra med en annan läkare. Sjuksköterskan
säger att den nya rutinen är att du ska använda
dig av det nya beslutsstödet. Du hade glömt att
det fanns, men går nu till datorn och slår in de
faktorer du känner till om patienten, framför allt
ålder, kön och symptom. AI verktyget säger att det
är 88 % sannolikhet att patientens symptom är
ofarliga och kan prioriteras relativt lågt jämfört
med andra patienter. Det står också att du bör ta
vissa prover, eftersom siffran är baserad på
antagandet att inget alarmerande visar sig i de
proverna. Du tar de föreslagna proverna som inte
visar något onormalt, men du är ändå osäker på vad
du ska göra. En kollega går förbi dig och du
passar på att fråga lite snabbt vad du ska göra,
med tanke på vad beslutsstödet säger om symptomen.
Hon säger att du nog kan skicka hem patienten med
smärtlindringsmedicin och be honom ringa om det
blir värre eller inte går över. Du går hem och
sover och kommer tillbaka till sjukhuset morgonen
efter. Du frågar sjuksköterskan hur natten varit.
Han säger att det mesta har kunnat hanteras, men
att din patient från föregående kväll kommit in
till akuten igen vid tvåtiden och fått
hjärtstillestånd. HLR fungerade inte och hon avled
kort efter att han kom in.
En vecka senare får du ett telefonsamtal från
patientens son. Han är mycket upprörd eftersom han
tagit reda på bland annat via journalen, att AI
används som stöd för beslutet att skicka hem hans
pappa. Han säger att han tycker att det är extremt
oansvarigt att låta AI bestämma om hans pappa ska
leva eller dö. Han ska anmäla sjukhuset till både
IVO och patientnämnden. Vad ska du säga till sonen?
Vi tänker oss ett alternativ på den här zonen.
Zonen har stor erfarenhet av att ha forskat om AI
etik, och känner själv att den har en sunt kritisk
inställning till att använda AI inom
högriskområden som sjukhus och sjukvård, eftersom
det har med liv och död att göra. Han har fått
reda på, efter efterforskningar hos företaget som
utvecklat det, att AI verktyget som används på
akuten har utvecklats så att ålder ingår i
prioriteringen som föreslås av AI verktyget. Han
säger. Det betyder att verktyget utvecklas av
personer som inte känner till att vi i Sverige
inte får prioritera resurser efter kronologisk
ålder, enligt den etiska plattformen för
prioriteringar i hälso och sjukvården. Eftersom
plattformen är lagstadgad ifrågasätter han att
verktyget alls används med tanke på det. Hur ska
du svara?
Tänk dig följande alternativ. Patienten kommer
från en liten by i södra Etiopien. Sonen, som
arbetar med teknikutveckling frågar dig vilka
kategorier som används i den data som AI verktyget
tränats på. Hans pappa tillhör det som är den näst
största folkgruppen i Etiopien. Det bor ungefär 40
noll etiopier i Sverige, säger han. Han vet inte
hur många personer från den här gruppen som bor i
Sverige. Finns det relevanta skillnader när det
gäller infödda svenskar och olika folkgrupper i
världen? Han undrar om AI verktyget har haft
relevant data för den grupp hans pappa tillhör,
och hur du ställer dig till att sjukhuset
rekommenderar att beslutsstöd används på akuten.
Med tanke på den bias i datan som kan finnas som
verktyget att träna på. Han frågar vidare Vilka
grupper är egentligen representerade i
träningsdata och vet du om just den grupp hans
pappa tillhör funnits representerad i träningsdata?
Kan du har missat något eftersom hans pappa inte
tillhör majoritetsbefolkningen och AI inte har
någon information om det. Hur ska du bemöta sonens
kritik och frågor?
Diskussionsfrågor som du kan ta med dig. Kanske
prata med kursare om. I vilken utsträckning är det
rimligt att läkare lutar sig mot AI beslutsstödet
i den här situationen? Var går gränsen mellan att
använda stödet och att låta tekniken bestämma och
sätta diagnoser? Vad skulle krävas för att du
skulle känna dig bekväm med att använda AI och ta
ansvar för besluten som fattas med hjälp av AI?
Och i vilken utsträckning är det rimligt att
läkare ska kunna förklara hur beslutsstödet kommit
fram till de siffror som ligger till grund för
deras beslut?
Fundera över de frågorna som avslutning. Tack!