Datatilsynet har indledt tilsyn med to offentlige AI-løsninger for at afklare, om behandlingen af personoplysninger overholder GDPR og krav i EU’s AI-forordning. Myndigheden fokuserer særligt på behandlingsgrundlag, risikovurdering og klar placering af ansvar.
Tilsyn med AI i Skatteforvaltningen og Region Midtjylland
I Skatteforvaltningen granskes en model, der udvælger medarbejdere i ministeriets koncern til intern kontrol af efterlevelse af skatte- og afgiftsregler. Tilsynet er bl.a. iværksat efter en klage og omfatter både databehandling og den organisatoriske ramme omkring brugen.
I Region Midtjylland vurderes løsningen Fokuspatienter i Psykiatrien, som beslutningsstøtte til at identificere patienter med forhøjet risiko for bæltefiksering, så forebyggende tiltag kan prioriteres. Datatilsynet blev opmærksom på løsningen i sin kortlægning af offentlig AI-brug.
Krav efter GDPR: behandlingsgrundlag, DPIA og roller
Tilsynene omfatter kontrol af, om der foreligger passende behandlingsgrundlag, om følsomme oplysninger håndteres i overensstemmelse med GDPR art. 9, og om principper som dataminimering, nødvendighed og proportionalitet respekteres. Transparens over for de registrerede indgår ligeledes.
Datatilsynet gennemgår konsekvensanalyser efter GDPR art. 35 og dokumentation for rolle- og ansvarsfordeling mellem behandlingsansvarlige og eventuelle databehandlere. Der ses også på, hvordan beslutningsstøtte anvendes i praksis, herunder menneskelig inddragelse og auditspor.
Gør dit arbejde med sundhedsdata og AI lidt lettere efter Djøfs kursus
Læs mere her →AI-forordningens forbud og næste skridt
I sagen om Skatteforvaltningen vurderes endvidere, om elementer kan udgøre forbudt AI-praksis efter AI-forordningen. Myndigheden efterprøver samtidig governance, modelvalidering og løbende kontrol af performance og bias.
Tilsynene skal styrke klarheden om ansvarlig offentlig brug af AI. Se de udsendte dokumenter hos Datatilsynet: Høringsbrev til Skatteforvaltningen. Høringsbrev til Region Midtjylland. Vejledning om AI i det offentlige.
