Folketingets Ombudsmand har indledt målrettede høringer af udvalgte kommuner om brugen af kunstig intelligens i borgerkontakt og som støtte til sagsbehandling. Formålet er at afklare, om centrale forvaltningsretlige krav som vejledningspligt, notatpligt og saglighed efterleves, når AI-værktøjer bringes i anvendelse.
Forvaltningsretlige krav ved AI i kommunal sagsbehandling
Ombudsmanden beder kommunerne redegøre for governance, kvalitetssikring og dokumentation ved brug af AI, herunder hvordan vejledning af borgere, journalisering/notatpligt og saglighed sikres i praksis. Der fokuseres på, om arbejdsgange og kontroller forhindrer vildledende svar og sikrer ensartet og korrekt sagsoplysning.
Der efterspørges også procedurer for menneskelig kontrol, klagevejledning og muligheden for at forklare grundlaget for AI-genererede svar. Kommunerne skal beskrive, hvordan de håndterer risici som fejl, bias og manglende gennemsigtighed, og hvordan disse indgår i risikovurderinger og løbende tilsyn.
Chat- og voicebots samt brug af store sprogmodeller
Høringerne omfatter konkrete projekter, hvor borgere er i direkte kontakt med chat- eller taleassistenter, samt værktøjer der understøtter sagsbehandlerens arbejde. Der lægges vægt på afgrænsning mellem serviceinformation og egentlig sagsbehandling.
Kommunerne skal oplyse, om de anvender kommercielt tilgængelige store sprogmodeller, og om der foreligger eksempler på problematisk anvendelse, fx vildledning, manglende journalisering eller usaglig differentiering. Redegørelserne skal også dække databeskyttelse og informationssikkerhed.
Gør dit arbejde med sundhedsdata og AI lidt lettere efter Djøfs kursus
Læs mere her →Proces, dokumentation og næste skridt i ombudsmandens tilsyn
Høringerne er led i ombudsmandens bredere tilsyn med myndigheders udvikling og anvendelse af it-systemer, herunder AI. Kommunernes svar vil indgå i et flerårigt fokus på retssikkerhed, dokumentationskrav og gennemsigtighed i digital sagsbehandling.
Udvalgte høringer er offentligt tilgængelige og kan give nyttig indsigt i krav og praksis på området:
