Dags att släppa in AI i sjukvården – men se upp för fallgroparna

AI i kombination med de senaste årens genombrott inom genterapi, immunterapi och bildbehandling har potential att ge sjukvården stora fördelar. I dag används AI för att bland annat granska röntgenbilder, spåra sjukdomsutbrott och även förutsäga sjukdom genom att gå igenom medicinska journaler. Möjligheterna är enorma men så är även fallgroparna.    

Vi hör dagligen om nya framsteg inom Big Data och artificiell intelligens. Stora genombrott görs inom forskning och utveckling av plattformar för bearbetning av data, bildbehandling, mönsterigenkänning och språkteknologi (så kallad natural language processing, NLP). Samtidigt rapporteras framsteg inom den medicinska vetenskapen och teknologin, till exempel inom genterapi, immunterapi och olika teknologier för medicinsk avbildning. Sammanförandet av de här två världarna, det vill säga användandet av AI i vården, har visat sig vara extremt lovande i arbetet för att förbättra både policy och praktik.    

I dag pågår utveckling av AI-applikationer för till exempel mammografi. Det utvecklas nya AI-verktyg som kan gå igenom patientjournaler med syfte att förutsäga sannolikheten för att utveckla vissa sjukdomar. Det finns även AI-system som kan hjälpa till att spåra sjukdomsutbrott. Och dagligen använder vi teknik för att övervaka vår egen hälsa. 

Ökade investeringar efter pandemin

Det finns emellertid ett stort glapp mellan den starka utveckling som pågår i forskarvärlden och de tillämpningar som finns tillgängliga i verkligheten. Och detta glapp blev ännu tydligare under pandemin. Det blev tydligt att vi inte var redo att dra nytta av våra framsteg i en sjukvård som till och med saknade resurser att ta hand om de som drabbats av covid-19. Istället tvingades många läkarbesök, kontroller och behandlingar att skjutas på framtiden för att covid-vården skulle kunna prioriteras. Även cancerpatienter fick uppleva en förändrad praxis där deras behandlingar begränsades för att de inte skulle riskeras att exponeras för covid-19. 

De här insikterna har lett till en ökning av investeringarna i digital hälsa och distansvård i hela världen. De flesta har målet att bygga intelligenta lösningar som kan bli en del av den dagliga hälso- och sjukvården. Den här utvecklingen väcker flera frågor, dels om tillgängliga lösningar verkligen är tillräckligt bra, men också om de är nog säkra och om resultaten går att förklara bra nog. Här är forskningen fortfarande i sin linda och vi måste öka takten för att visa att nya de AI-systemen kan bli en säker och trygg del av vården.

Vikten av pålitliga system

AI-system bör vara robusta, säkra och tillförlitliga under hela sin livscykel. De ska fungera korrekt under alla former av användning, såväl normal drift som vid ogynnsamma förhållanden, även i de fall där de används på ett felaktigt sätt. Det finns många situationer där AI-modeller kan ställas inför utmaningar som till exempel korrupta data eller en förändrad indatamodell som får modellen att dra fel slutsatser. Sjukvården kan även bli ett mål för cyberattacker, allt från skadlig programvara som hotar integriteten hos både system och patienter, till distribuerade överbelastningsattacker, så kallade DDoS-attacker. Det finns många exempel på hur andra sektorer utsätts för DDoS-attacker men för sjukvården kan konsekvenserna bli mer dramatiska än ekonomiska förluster eller integritetsintrång.  

Slutsatsen är att det är riskabelt att införa AI-system i en högriskmiljö som sjukvården, i vilket fall än så länge. Vi behöver vara försiktiga med att lita till dessa system innan vi vet säkert att det vi skapat är pålitligt och säkert. I dag är det här ett mycket aktivt forskningsområde där målet bland annat är att skapa så robusta och driftsäkra AI-system som möjligt.  

Snedvriden data och ökad transparens

En annan aspekt vi måste tänka på är att AI-modellerna inte alltid är opartiska. Granskningar har visat att vissa hälsoalgoritmer har haft inbyggda rasfördomar. Det här kan vara ett resultat av en befintlig statistisk snedvridning av de data som använts för att träna algoritmerna. Det här, i sin tur, ger felaktiga mönster. 

En återkommande kritik mot AI-systemen är att de är svarta lådor utan insyn, vilket gör det svårt för både forskare och läkare att förstå hur de fattar beslut. För att uppmuntra till öppnare system som är lättare att granska har Världshälsoorganisationen WHO gett ut ett vägledningsdokument för etik och styrning av artificiell intelligens för hälsa. Dokumentet, som publicerades 2021, understryker vikten av att använda olika uppsättningar data under modellträningen och även att identifiera och mildra möjlig partiskhet. Här lyfts också nödvändigheten av att säkerställa transparens, begriplighet och skapa en möjlighet att förklara modellernas slutsatser. En AI-modell bör fungera på ett sätt som går att förstå både av utvecklare, användare och tillsynsmyndigheter.  

Här är forskningen inom området Explainable AI starkt på frammarsch, men det är fortfarande en lång väg kvar att vandra. Många AI-tekniker är komplexa vilket kan väcka frustration både hos de som ska förklara dem och de som ska förstå en förklaring. Ofta måste därför en avvägning göras under utvecklingsprocessen mellan att skapa en modell som går att förklara fullständigt eller en modell med största möjliga korrekthet.  Därför är det viktigt att varje modell testas noggrant i den miljön den ska användas för att säkerställa att den uppfyller kraven på säkerhet och effektivitet. Detta är även viktigt för att öka förtroendet för AI-modellerna. Helst ska Explainable AI användas för beskriva vilken påverkan en AI-modell kan få och dess eventuella partiskhet. Explainable AI hjälper också till att karaktärisera en modells noggrannhet och ökar transparensen för hur den tar sina beslut.  

Avslutningsvis är det viktigt att betona att AI-modellerna aldrig ska ersätta en läkare. En människa ska alltid ha det sista ordet i beslut som rör hälsa, och en maskins beslutsfattande måste alltid övervakas och vid behov även förändras. Fördelarna med AI som hjälpmedel inom sjukvården är dock obestridliga och bör inte underskattas. Det är dags att släppa in AI i sjukvården och utnyttja alla möjligheter till förbättringar det kan medföra. Samtidigt måste vi investera mer i forskning för att åtgärda befintliga brister och skapa nya lösningar.