Menneskelig overvågning

De første kapitler i EU’s AI-forordning gælder nu og indfører definitioner, forbud og et risikobaseret regime. Organisationer skal afklare deres rolle, kortlægge AI-systemer og etablere governance, dokumentation og menneskelig overvågning for at undgå forbudte anvendelser og kommende sanktionsrisici.

Fra 2. februar 2025 kræver AI-forordningen, at udbydere og idriftsættere sikrer relevante medarbejderes AI-kompetencer. Kravet skal opfyldes med rollebaseret træning, dokumentation og løbende opdatering, koblet til governance, risikostyring og databeskyttelse for at undgå sanktioner.

AI-forordningen udvider definitionen af AI, præciserer undtagelser for højrisikosystemer og skærper indberetning af alvorlige hændelser. Virksomheder bør kortlægge systemer, vurdere risikoniveau, opdatere dokumentation og sikre samspil med GDPR, før kravene træder i kraft.