AI hjælper læger med at finde kræft – men hvem opdager maskinens fejl?
Flere kræfttilfælde blev opdaget, og radiologernes arbejdsbyrde faldt, efter at kunstig intelligens blev indført i danske brystkræftscreeninger. Men teknologien rejser et alvorligt dilemma: Hvem har ansvaret, hvis algoritmen tager fejl?
Tomasz Sienicki [user: tsca , mail: tomasz.sienicki at gmail.com] / Wikimedia Commons, Public domain
Hvad sker der?
- Det Etiske Råd har offentliggjort en ny redegørelse om AI i sundhedsvæsenet.
- Et dansk studie omfatter næsten 119.000 brystkræftscreeninger før og efter indførelsen af AI.
- Andelen af screeninger med kræftfund steg fra 0,70 til 0,82 procent.
- Rådet peger på risikoen for uklart ansvar, forskelsbehandling og tab af faglige kompetencer.
Kunstig intelligens kan allerede hjælpe danske læger med at opdage kræft. Men hvad sker der, hvis teknologien overser noget, og lægen stoler på dens vurdering?
Det spørgsmål står centralt i en ny redegørelse fra Det Etiske Råd, der undersøger konsekvenserne af kunstig intelligens i sundhedsvæsenet.
Og dilemmaet er ikke længere teoretisk.
På Herlev og Gentofte Hospital har kunstig intelligens ændret måden, kvinder bliver screenet for brystkræft på.
Et studie med næsten 119.000 screeninger viser, at andelen af undersøgelser med kræftfund steg fra 0,70 til 0,82 procent efter indførelsen af AI.
Det svarer til 12 flere kræftfund for hver 10.000 screeninger.
Samtidig faldt antallet af falske positive svar og genindkaldelser, mens radiologernes arbejde med at gennemgå billeder blev reduceret med omkring en tredjedel.
Det Etiske Råd fremhæver resultaterne som et eksempel på teknologiens potentiale.
Men studiet kan ikke fastslå, at AI alene er årsagen til forbedringerne. Blandt andet var der længere tid mellem screeningerne i perioden med AI, hvilket kan påvirke antallet af kræftfund.
Hvem har ansvaret?
De nye muligheder ændrer samtidig lægernes arbejde.
Når en algoritme vurderer et screeningsbillede, skal radiologen ikke blot undersøge patienten, men også kunne kontrollere teknologiens vurdering.
Og netop her opstår problemet.
Moderne AI-systemer kan være så komplekse, at selv specialister har svært ved at forklare, hvorfor de når frem til et bestemt resultat.
Det Etiske Råd advarer derfor om risikoen for, at sundhedspersonale kommer til at følge algoritmernes anbefalinger ukritisk.
Teknologien kan dermed i praksis få større indflydelse på beslutningerne, end den formelt er tiltænkt.
Rådet peger på, at ansvaret risikerer at forsvinde i gråzonen mellem lægen, hospitalet og producenten.
Det betyder dog ikke, at de eksisterende regler sættes ud af kraft.
Ifølge Styrelsen for Patientsikkerhed gælder de almindelige sundhedsfaglige ansvarsregler også ved digital behandling. Sundhedspersonalet har fortsat ansvar for sine faglige vurderinger, mens hospitalsledelsen skal sikre forsvarlige arbejdsgange.
Kan lægerne miste deres evner?
Redegørelsen rejser også et andet spørgsmål: Hvad sker der med lægernes kompetencer, når AI overtager en stadig større del af arbejdet?
Rådet beskriver risikoen for, at sundhedspersonale gradvist mister de færdigheder, der netop skal gøre dem i stand til at opdage teknologiens fejl.
Det kan især ramme yngre læger, som aldrig får opbygget den samme erfaring med selvstændige vurderinger.
Samtidig kan AI skabe nye problemer i kræftscreeningen. Flere fund er ikke nødvendigvis ensbetydende med bedre behandling, hvis teknologien også opdager forstadier, som aldrig ville have udviklet sig til alvorlig sygdom.
Det kan føre til unødvendig bekymring og behandling.
Det Etiske Råds redegørelse indeholder ikke formelle anbefalinger, men peger på behovet for klare ansvarsforhold, løbende kontrol og faglige kompetencer.
For selv om AI kan gøre sundhedsvæsenet mere effektivt, er det stadig mennesker, der skal kunne gribe ind, når teknologien svigter.
AI hjælper læger med at finde kræft – men hvem opdager maskinens fejl?
Flere kræfttilfælde blev opdaget, og radiologernes arbejdsbyrde faldt, efter at kunstig intelligens blev indført i danske brystkræftscreeninger. Men teknologien rejser et alvorligt dilemma: Hvem har ansvaret, hvis algoritmen tager fejl?
Tomasz Sienicki [user: tsca , mail: tomasz.sienicki at gmail.com] / Wikimedia Commons, Public domain
Hvad sker der?
- Det Etiske Råd har offentliggjort en ny redegørelse om AI i sundhedsvæsenet.
- Et dansk studie omfatter næsten 119.000 brystkræftscreeninger før og efter indførelsen af AI.
- Andelen af screeninger med kræftfund steg fra 0,70 til 0,82 procent.
- Rådet peger på risikoen for uklart ansvar, forskelsbehandling og tab af faglige kompetencer.
Kunstig intelligens kan allerede hjælpe danske læger med at opdage kræft. Men hvad sker der, hvis teknologien overser noget, og lægen stoler på dens vurdering?
Det spørgsmål står centralt i en ny redegørelse fra Det Etiske Råd, der undersøger konsekvenserne af kunstig intelligens i sundhedsvæsenet.
Og dilemmaet er ikke længere teoretisk.
På Herlev og Gentofte Hospital har kunstig intelligens ændret måden, kvinder bliver screenet for brystkræft på.
Et studie med næsten 119.000 screeninger viser, at andelen af undersøgelser med kræftfund steg fra 0,70 til 0,82 procent efter indførelsen af AI.
Det svarer til 12 flere kræftfund for hver 10.000 screeninger.
Samtidig faldt antallet af falske positive svar og genindkaldelser, mens radiologernes arbejde med at gennemgå billeder blev reduceret med omkring en tredjedel.
Det Etiske Råd fremhæver resultaterne som et eksempel på teknologiens potentiale.
Men studiet kan ikke fastslå, at AI alene er årsagen til forbedringerne. Blandt andet var der længere tid mellem screeningerne i perioden med AI, hvilket kan påvirke antallet af kræftfund.
Hvem har ansvaret?
De nye muligheder ændrer samtidig lægernes arbejde.
Når en algoritme vurderer et screeningsbillede, skal radiologen ikke blot undersøge patienten, men også kunne kontrollere teknologiens vurdering.
Og netop her opstår problemet.
Moderne AI-systemer kan være så komplekse, at selv specialister har svært ved at forklare, hvorfor de når frem til et bestemt resultat.
Det Etiske Råd advarer derfor om risikoen for, at sundhedspersonale kommer til at følge algoritmernes anbefalinger ukritisk.
Teknologien kan dermed i praksis få større indflydelse på beslutningerne, end den formelt er tiltænkt.
Rådet peger på, at ansvaret risikerer at forsvinde i gråzonen mellem lægen, hospitalet og producenten.
Det betyder dog ikke, at de eksisterende regler sættes ud af kraft.
Ifølge Styrelsen for Patientsikkerhed gælder de almindelige sundhedsfaglige ansvarsregler også ved digital behandling. Sundhedspersonalet har fortsat ansvar for sine faglige vurderinger, mens hospitalsledelsen skal sikre forsvarlige arbejdsgange.
Kan lægerne miste deres evner?
Redegørelsen rejser også et andet spørgsmål: Hvad sker der med lægernes kompetencer, når AI overtager en stadig større del af arbejdet?
Rådet beskriver risikoen for, at sundhedspersonale gradvist mister de færdigheder, der netop skal gøre dem i stand til at opdage teknologiens fejl.
Det kan især ramme yngre læger, som aldrig får opbygget den samme erfaring med selvstændige vurderinger.
Samtidig kan AI skabe nye problemer i kræftscreeningen. Flere fund er ikke nødvendigvis ensbetydende med bedre behandling, hvis teknologien også opdager forstadier, som aldrig ville have udviklet sig til alvorlig sygdom.
Det kan føre til unødvendig bekymring og behandling.
Det Etiske Råds redegørelse indeholder ikke formelle anbefalinger, men peger på behovet for klare ansvarsforhold, løbende kontrol og faglige kompetencer.
For selv om AI kan gøre sundhedsvæsenet mere effektivt, er det stadig mennesker, der skal kunne gribe ind, når teknologien svigter.