Retsgrundlag og proportionalitet for AI i kommunal hjemmepleje
Roskilde deltager i et forskningsbaseret samarbejde om at bruge kunstig intelligens som beslutningsstøtte i hjemmeplejen for at forebygge indlæggelser blandt ældre. Værktøjet samler relevante oplysninger fra kommunale omsorgssystemer og hospitalskilder og giver et hurtigt overblik, herunder risikokategorisering af borgere, så en tidlig indsats kan iværksættes.
Juridisk kræver anvendelsen et klart retsgrundlag. Behandling af personoplysninger, herunder sundhedsdata, vil typisk hvile på GDPR art. 6, stk. 1, litra e (samfundsinteresse) sammenholdt med art. 9, stk. 2, litra h (sundhedspleje) og relevant national hjemmel i sundhedsloven. Forvaltningsretlige principper om lovlighed, saglighed og proportionalitet skal iagttages, ligesom beslutningsstøtten skal forblive et supplement til den sundhedsfaglige vurdering.
Databeskyttelse, DPIA og registreredes rettigheder
Brugen af AI på tværs af sektorer og kilder forudsætter en systematisk vurdering af risici for de registrerede. En konsekvensanalyse efter databeskyttelsesforordningen (DPIA) vil i praksis være påkrævet, særligt fordi der behandles store mængder følsomme data om en sårbar målgruppe. Rollen som dataansvarlig og eventuelle databehandlere skal afklares, og adgangsstyring, logning og passende sikkerhedsforanstaltninger skal dokumenteres.
Dataminimering, datakvalitet og gennemsigtighed er centrale. Borgerne skal informeres om formål, retsgrundlag og deres rettigheder, herunder indsigtsret. Modellen bør dokumentere, hvilke faktorer der vægter i risikovurderingen, så sundhedspersonalet kan efterprøve anbefalingerne og undgå uigennemsigtig profilering.
For at starte forsvarligt bør myndigheder som udgangspunkt gennemføre følgende trin:
- Fastlæg formål, retsgrundlag og proportionalitet, herunder særhjemmel i sundhedsloven.
- Udfør DPIA efter GDPR og en forvaltningsretlig konsekvensanalyse.
- Sikr datakvalitet, datagrundlag og dokumenteret modelstyring.
- Indtænk de registreredes rettigheder og gennemsigtighed fra start.
Implementering, governance og patientsikkerhed
Praktisk implementering kræver medarbejderinddragelse, træning og klare arbejdsgange. I projektet synliggør værktøjet nøglefaktorer bag indlæggelsesrisikoen, hvilket understøtter klinisk ræsonnement og målretter indsatser i overgangene mellem kommune og hospital.
Governance bør omfatte løbende effektmåling, validering og patientsikker implementering. Det tværkommunale og forskningsbaserede setup muliggør systematiske evalueringer af nytte, bias og utilsigtede konsekvenser samt justeringer i model og databrug, så lovkrav og patientsikkerhed efterleves over tid.
