WEBVTT 00:00.420 --> 00:03.750 Hej! Nu ska vi prata om etik, närmare bestämt 00:03.750 --> 00:08.850 förklarbarhet och ansvar. Och det finns ju ett 00:08.850 --> 00:12.660 visst antal principer eller krav som brukar nämnas 00:13.320 --> 00:15.570 när det handlar om tillförlitlig, etisk och 00:15.570 --> 00:20.700 ansvarsfull AI. Och då de som nämns är mänskligt 00:20.700 --> 00:24.030 agentskap och mänsklig tillsyn. Teknisk robusthet 00:24.030 --> 00:27.270 och säkerhet, integritet och dataförvaltning, 00:27.600 --> 00:30.810 transparens, förklarbarhet, mångfald, icke 00:30.810 --> 00:33.570 diskriminering och rättvisa. Samhällets och 00:33.570 --> 00:37.440 miljöns välbefinnande och ansvar. Och idag tittar 00:37.440 --> 00:40.350 vi alltså på transparens och förklarbarhet och 00:40.380 --> 00:44.700 ansvar och kopplingen däremellan. Förklarbarhet 00:44.700 --> 00:49.410 innebär ju att man kan se hur och varför en viss 00:49.410 --> 00:51.660 rekommendation kommer ut, eller varför ett visst 00:51.810 --> 00:55.710 beslut fattas. Det ökar användarens förståelse. 00:57.030 --> 01:01.410 Förklarbarhet i sjukvården hjälper vårdpersonal 01:01.410 --> 01:05.080 att förstå och gör det möjligt för dem att kunna 01:05.110 --> 01:09.520 förklara och ge information till patienterna, så 01:09.520 --> 01:12.220 att man förstår bakgrunden till riskbedömningar 01:12.250 --> 01:17.740 och beslut. Och varför är ansvar viktigt då? Jo, 01:18.550 --> 01:21.160 dels handlar det ju om rättvisa, möjligheten att 01:21.190 --> 01:24.040 kunna ställa någon till svars vid skada. Det 01:24.040 --> 01:28.300 bakåtblickande ansvaret. Tillit. Både patienter 01:28.300 --> 01:32.350 och personal måste kunna lita på systemet. Lärande 01:32.380 --> 01:36.580 ansvar krävs för att förbättra system och undvika 01:36.610 --> 01:39.880 fel. Alltså framåtblickande ansvar. Den 01:39.880 --> 01:42.520 professionella integriteten. Läkare måste kunna 01:42.520 --> 01:46.990 stå för beslut de ska ha och ta ansvar för de här 01:46.990 --> 01:51.070 besluten. Och utan tydligt ansvar så riskerar AI 01:51.070 --> 01:54.220 att skapa vad som kallas ett ansvars glapp där 01:54.250 --> 01:58.420 ingen kan hållas ansvarig. Och alla de här bitarna 01:58.450 --> 02:01.300 kräver ju också transparens och förklarbarhet hos 02:01.300 --> 02:05.650 AI, för att för att man ska kunna ta ansvar och 02:05.650 --> 02:08.970 för att det är rimligt att hävda att någon har 02:09.390 --> 02:13.230 ansvaret att ställa någon till svars. Det finns 02:13.260 --> 02:16.710 många olika sorters ansvar. Dels måste man skilja 02:16.710 --> 02:19.620 mellan etiskt och juridiskt ansvar. Juridiskt 02:19.620 --> 02:23.580 ansvar är korrigerat i lagstiftningen, medans det 02:23.580 --> 02:26.730 etiska ansvaret är mer svårdefinierat och man kan 02:26.730 --> 02:29.490 ha olika perspektiv på det. Men framför allt är 02:29.490 --> 02:31.860 det ju så att man kan inte lagstifta om precis 02:31.860 --> 02:36.150 allting, och dessutom ser vi olika på vårat ansvar. 02:36.180 --> 02:40.410 Olika läkare ser också på ansvar på olika sätt. Så 02:40.410 --> 02:42.420 det är etiskt och juridiskt. Sen måste man skilja 02:42.420 --> 02:46.260 mellan individuellt och kollektivt ansvar. Det kan 02:46.260 --> 02:48.480 handla om den enskilda läkaren som har ett 02:48.510 --> 02:50.850 individuellt ansvar, eller så kan det vara ett 02:50.880 --> 02:54.540 kollektivt ansvar, Ett ansvar som t.ex. Ett 02:54.540 --> 02:58.260 sjukhus har. Eller hela vårdsystemet. Eller 02:58.260 --> 03:02.100 samhället. Eller ledningen. Det är alltså ett 03:02.190 --> 03:06.200 gruppansvar. Kollektivt ansvar. Det finns också 03:06.220 --> 03:08.790 bakåtblickande ansvar, det vill säga att kunna 03:08.790 --> 03:12.820 ställa någon till svars Framåtblickande ansvar att 03:12.820 --> 03:17.800 förbättra systemrutiner. När det gäller AI system 03:18.340 --> 03:21.640 och AI teknik är det mest rimliga att tänka sig 03:21.640 --> 03:23.770 att det finns olika aktörer som har ansvar för 03:23.770 --> 03:26.920 olika delar, och diskussionerna handlar om i 03:26.920 --> 03:32.560 vilken utsträckning är sjukvårds fallet läkare och 03:32.740 --> 03:39.220 å ena sidan sjukhus, teknikutvecklare och så 03:39.220 --> 03:43.120 vidare. Vem är det som har ansvar? Det verkar 03:43.120 --> 03:46.510 fördelat mellan olika aktörer, men det är inte en 03:46.510 --> 03:49.560 gång för alla givet vilken fördelning som är den 03:49.570 --> 03:53.620 rimliga. Man kan tänka sig att förklarbarhet och 03:53.620 --> 03:56.620 ansvar hänger ihop på det här sättet. Läkaren 03:56.620 --> 04:00.760 försöker förklara för patienten varför en viss 04:00.760 --> 04:04.570 rekommendation har kommit eller ett visst beslut 04:04.570 --> 04:10.120 fattas med hjälp av AI stödet. Man kan se hur AI 04:10.120 --> 04:13.850 systemet har jobbat fram det som har kommit ut som 04:13.850 --> 04:14.540 resultat. 04:17.030 --> 04:19.250 Varför det till exempel skulle vara högrisk för 04:19.250 --> 04:22.880 sepsis och vad sannolikheten skulle vara. Så där 04:22.880 --> 04:26.180 kan läkaren förklara, förstå och förklara för 04:26.930 --> 04:31.280 patienten. Och då ökar ju förtroendet och 04:31.280 --> 04:35.120 patientsäkerheten. Båda parterna kan förstå 04:35.690 --> 04:38.660 rekommendationen och man kan upptäcka om det finns 04:38.840 --> 04:44.180 bevis och sådana saker. Så där sitter läkaren med 04:44.180 --> 04:49.190 ett förklarbart AI system, och det möjliggör att 04:49.430 --> 04:54.620 hon kan ta ansvar för det kliniska beslutet. Och 04:54.950 --> 04:58.010 som man ser här så kan det finnas olika nivåer på 04:58.670 --> 05:00.950 ansvar, för läkaren kan ju inte ha ansvar för 05:00.980 --> 05:04.430 precis allting. Man kan tänka sig att utvecklaren 05:04.430 --> 05:07.610 har ett visst ansvar och vårdgivare och huvudman 05:07.640 --> 05:10.070 också. Men som sagt, inte en gång för alla givet. 05:10.220 --> 05:14.240 Men på det här sättet som möjliggör förklarbarhet 05:14.240 --> 05:18.750 att vi kan granska och ansvar säkerställer att 05:18.750 --> 05:22.650 någon kan stå till svars och vi kan ta ansvar och 05:22.650 --> 05:28.020 fördela ansvar. Om vi har ett förklarbart system. 05:29.970 --> 05:32.760 Nu har ett scenario som ni kan fundera på. Ni kan 05:32.760 --> 05:36.930 gärna pausa emellan bilderna och fundera. 05:38.940 --> 05:41.010 Vi har ett scenario här. Du blev klar med 05:41.010 --> 05:43.890 läkarutbildningen för tre år sedan och arbetar nu 05:43.890 --> 05:46.230 som läkare på ett sjukhus som har begränsade 05:46.230 --> 05:50.460 resurser på akuten. Ledningen på sjukhuset har 05:50.460 --> 05:53.430 beslutat att följa regionens rekommendation att 05:53.460 --> 05:56.550 använda godkända AI verktyg i så stor utsträckning 05:56.550 --> 05:59.250 som möjligt, både för att fler patienter ska få 05:59.250 --> 06:03.120 rätt vård fort och för att spara pengar. Det är 06:03.120 --> 06:05.880 sen kväll och du har arbetat ett långt pass. När 06:05.880 --> 06:08.790 en 78 årig man kommer in till akuten med svår 06:08.790 --> 06:12.300 förklarat smärta, viss andfåddhet och trötthet men 06:12.330 --> 06:17.310 ingen bröstsmärta. Väntrummet är fullt. Du känner 06:17.310 --> 06:19.950 att du skulle behöva hjälp, men alla kolleger är 06:19.950 --> 06:23.300 upptagna. Du frågar den stressade ansvariga 06:23.300 --> 06:25.970 sjuksköterskan hur du ska göra eftersom du skulle 06:25.970 --> 06:30.380 behöva rådgöra med en annan läkare. Sjuksköterskan 06:30.380 --> 06:33.200 säger att den nya rutinen är att du ska använda 06:33.200 --> 06:36.470 dig av det nya beslutsstödet. Du hade glömt att 06:36.470 --> 06:39.110 det fanns, men går nu till datorn och slår in de 06:39.110 --> 06:41.870 faktorer du känner till om patienten, framför allt 06:41.900 --> 06:47.570 ålder, kön och symptom. AI verktyget säger att det 06:47.570 --> 06:50.780 är 88 % sannolikhet att patientens symptom är 06:50.780 --> 06:54.170 ofarliga och kan prioriteras relativt lågt jämfört 06:54.170 --> 06:57.140 med andra patienter. Det står också att du bör ta 06:57.170 --> 06:59.720 vissa prover, eftersom siffran är baserad på 06:59.720 --> 07:03.230 antagandet att inget alarmerande visar sig i de 07:03.230 --> 07:06.950 proverna. Du tar de föreslagna proverna som inte 07:06.950 --> 07:10.610 visar något onormalt, men du är ändå osäker på vad 07:10.610 --> 07:14.390 du ska göra. En kollega går förbi dig och du 07:14.390 --> 07:16.940 passar på att fråga lite snabbt vad du ska göra, 07:16.940 --> 07:19.760 med tanke på vad beslutsstödet säger om symptomen. 07:20.870 --> 07:23.850 Hon säger att du nog kan skicka hem patienten med 07:23.850 --> 07:26.970 smärtlindringsmedicin och be honom ringa om det 07:26.970 --> 07:31.230 blir värre eller inte går över. Du går hem och 07:31.230 --> 07:33.990 sover och kommer tillbaka till sjukhuset morgonen 07:33.990 --> 07:37.950 efter. Du frågar sjuksköterskan hur natten varit. 07:38.310 --> 07:40.770 Han säger att det mesta har kunnat hanteras, men 07:40.770 --> 07:43.410 att din patient från föregående kväll kommit in 07:43.410 --> 07:45.780 till akuten igen vid tvåtiden och fått 07:45.780 --> 07:49.080 hjärtstillestånd. HLR fungerade inte och hon avled 07:49.440 --> 07:50.970 kort efter att han kom in. 07:53.940 --> 07:56.730 En vecka senare får du ett telefonsamtal från 07:56.730 --> 08:00.060 patientens son. Han är mycket upprörd eftersom han 08:00.060 --> 08:03.000 tagit reda på bland annat via journalen, att AI 08:03.000 --> 08:05.490 används som stöd för beslutet att skicka hem hans 08:05.490 --> 08:09.090 pappa. Han säger att han tycker att det är extremt 08:09.120 --> 08:12.840 oansvarigt att låta AI bestämma om hans pappa ska 08:12.870 --> 08:16.650 leva eller dö. Han ska anmäla sjukhuset till både 08:16.650 --> 08:21.330 IVO och patientnämnden. Vad ska du säga till sonen? 08:26.170 --> 08:30.880 Vi tänker oss ett alternativ på den här zonen. 08:31.330 --> 08:34.150 Zonen har stor erfarenhet av att ha forskat om AI 08:34.150 --> 08:37.570 etik, och känner själv att den har en sunt kritisk 08:37.570 --> 08:39.580 inställning till att använda AI inom 08:39.580 --> 08:43.480 högriskområden som sjukhus och sjukvård, eftersom 08:43.480 --> 08:46.510 det har med liv och död att göra. Han har fått 08:46.510 --> 08:49.320 reda på, efter efterforskningar hos företaget som 08:49.330 --> 08:52.240 utvecklat det, att AI verktyget som används på 08:52.240 --> 08:55.270 akuten har utvecklats så att ålder ingår i 08:55.270 --> 09:00.100 prioriteringen som föreslås av AI verktyget. Han 09:00.100 --> 09:03.250 säger. Det betyder att verktyget utvecklas av 09:03.250 --> 09:05.560 personer som inte känner till att vi i Sverige 09:05.770 --> 09:09.460 inte får prioritera resurser efter kronologisk 09:09.460 --> 09:11.980 ålder, enligt den etiska plattformen för 09:11.980 --> 09:15.400 prioriteringar i hälso och sjukvården. Eftersom 09:15.400 --> 09:18.610 plattformen är lagstadgad ifrågasätter han att 09:18.610 --> 09:22.810 verktyget alls används med tanke på det. Hur ska 09:22.810 --> 09:23.380 du svara? 09:28.660 --> 09:32.540 Tänk dig följande alternativ. Patienten kommer 09:32.540 --> 09:35.780 från en liten by i södra Etiopien. Sonen, som 09:35.780 --> 09:38.930 arbetar med teknikutveckling frågar dig vilka 09:38.930 --> 09:42.890 kategorier som används i den data som AI verktyget 09:42.890 --> 09:46.850 tränats på. Hans pappa tillhör det som är den näst 09:46.850 --> 09:50.480 största folkgruppen i Etiopien. Det bor ungefär 40 09:50.480 --> 09:53.240 noll etiopier i Sverige, säger han. Han vet inte 09:53.240 --> 09:55.730 hur många personer från den här gruppen som bor i 09:55.730 --> 09:58.700 Sverige. Finns det relevanta skillnader när det 09:58.700 --> 10:01.970 gäller infödda svenskar och olika folkgrupper i 10:01.970 --> 10:06.740 världen? Han undrar om AI verktyget har haft 10:06.740 --> 10:09.080 relevant data för den grupp hans pappa tillhör, 10:09.470 --> 10:11.450 och hur du ställer dig till att sjukhuset 10:11.450 --> 10:14.510 rekommenderar att beslutsstöd används på akuten. 10:14.960 --> 10:19.220 Med tanke på den bias i datan som kan finnas som 10:19.220 --> 10:23.540 verktyget att träna på. Han frågar vidare Vilka 10:23.540 --> 10:25.310 grupper är egentligen representerade i 10:25.310 --> 10:28.430 träningsdata och vet du om just den grupp hans 10:28.430 --> 10:31.700 pappa tillhör funnits representerad i träningsdata? 10:32.150 --> 10:35.080 Kan du har missat något eftersom hans pappa inte 10:35.080 --> 10:37.930 tillhör majoritetsbefolkningen och AI inte har 10:37.930 --> 10:42.520 någon information om det. Hur ska du bemöta sonens 10:42.520 --> 10:43.690 kritik och frågor? 10:47.650 --> 10:51.400 Diskussionsfrågor som du kan ta med dig. Kanske 10:51.400 --> 10:56.320 prata med kursare om. I vilken utsträckning är det 10:56.320 --> 10:59.800 rimligt att läkare lutar sig mot AI beslutsstödet 11:00.130 --> 11:03.970 i den här situationen? Var går gränsen mellan att 11:03.970 --> 11:08.140 använda stödet och att låta tekniken bestämma och 11:08.140 --> 11:11.710 sätta diagnoser? Vad skulle krävas för att du 11:11.710 --> 11:14.590 skulle känna dig bekväm med att använda AI och ta 11:14.590 --> 11:17.260 ansvar för besluten som fattas med hjälp av AI? 11:18.190 --> 11:20.980 Och i vilken utsträckning är det rimligt att 11:21.010 --> 11:25.090 läkare ska kunna förklara hur beslutsstödet kommit 11:25.090 --> 11:28.450 fram till de siffror som ligger till grund för 11:28.450 --> 11:29.350 deras beslut? 11:31.480 --> 11:36.310 Fundera över de frågorna som avslutning. Tack!