Datatilsynet har udgivet en målrettet vejledning for myndigheders brug af kunstig intelligens. Fokus er et klart retsgrundlag, dataminimering og formålsbegrænsning, menneskelig kontrol over automatiserede afgørelser samt løbende monitorering i drift. Målet er at fremme innovation uden at svække beskyttelsen af borgernes oplysninger.
Retligt grundlag og menneskelig kontrol
Før AI anvendes som beslutningsstøtte eller til delvist/fuldt automatiserede afgørelser, skal der foreligge et tydeligt behandlingsgrundlag efter GDPR art. 6, typisk retlig forpligtelse eller opgave i samfundets interesse, understøttet af supplerende hjemmel i EU- eller dansk ret. Ved automatiserede afgørelser og profilering bør art. 22 og krav om menneskelig indgriben indgå, så afgørelser kan tilsidesættes.
Myndigheden er dataansvarlig og skal fastlægge roller og ansvar, indgå relevante databehandleraftaler, sikre gennemsigtighed over for borgerne og dokumentere designvalg, risici og kontroller. Procedurer mod automation bias, uddannelse af sagsbehandlere og forklarbarhed i den valgte løsning er centrale elementer.
Livscyklus og designkrav
Vejledningen anbefaler, at databeskyttelse indbygges gennem hele AI-livscyklussen efter principperne privacy by design og privacy by default. Indsamling og brug af data begrænses til det nødvendige, og proportionalitet vurderes løbende.
Som praktisk ramme kan arbejdet opdeles i følgende faser:
- Afgrænsning og design: fastlæg formål, nødvendige datatyper og proportionalitet.
- Udvikling og træning: adskil træningsformål fra driftsformål, grundlag for træningsdata, samt vurdering af bias og generaliserbarhed.
- Drift: overvåg output, test regelmæssigt og opdater model, kontroller og dokumentation.
Drift, DPIA og tilsyn
Når løsningen sættes i drift, skal risici håndteres gennem løbende monitorering, logning, adgangsstyring og klare eskalationsveje. Ved høj risiko bør der gennemføres konsekvensanalyse (DPIA) og særskilte sikkerhedsforanstaltninger.
Med faste governance-processer, tydelig rollefordeling og menneskelig kontrol kan AI understøtte effektiv forvaltning uden at kompromittere rettigheder. Datatilsynets vejledning kan læses her: Offentlige myndigheders brug af kunstig intelligens: Inden I går i gang.
