Københavns Kommune vil anvende en AI-baseret beslutningsstøtte til at udpege borgere, der kan gennemføre og have gavn af vedligeholdende træning og rehabilitering. Datatilsynet vurderer, at udvikling og gentræning kan ske lovligt efter GDPR art. 6, stk. 1, litra e, og art. 9, stk. 2, litra g, forudsat et nationalt supplerende grundlag; her kan serviceloven udgøre hjemlen.
Driftsbrug kræver klarere lovhjemmel
Tilsynet finder derimod, at den løbende drift af løsningen ikke kan baseres på de samme bestemmelser alene. I lyset af den indgribende behandling af store mængder, herunder følsomme oplysninger, kræves en specifik og tilstrækkelig klar lovhjemmel, der præcist angiver formål, datatyper og rammer for anvendelsen.
Datatilsynet understreger samtidig, at myndigheder normalt kan designe, udvikle og teste AI inden for de opgaver, de i forvejen er forpligtet til at løse. Når AI indgår i sagsbehandlingen, øges dog risikoen for, at medarbejdere tillægger modellens output uforholdsmæssig vægt, hvilket skærper kravene til retsgrundlag og kontrol.
Udtalelsen peger derfor på et behov for klar lovgivning, hvis AI skal anvendes operativt som beslutningsstøtte på sundheds- og omsorgsområdet. Læs Datatilsynets udtalelse.
