Højrisikosystemer

AI Act er trådt i kraft med forbud mod uacceptable risici, krav til generelle modeller og omfattende regler for højrisikosystemer. Virksomheder skal dokumentere, risikovurdere, sikre menneskeligt tilsyn og transparens samt tilpasse datastyring til GDPR for at undgå høje sanktioner.

Lukkede AI-systemer eliminerer ikke krav efter AI-forordningen og GDPR. Virksomheder skal risikoklassificere brugsscenarier, fastlægge behandlingsgrundlag, gennemføre DPIA ved behov og føre skarp leverandørkontrol. Anonymisering er ikke nok uden indsigt i træningsdata og modelrisici.

EU’s reguleringspakke presser AI-kontrakter til at adressere forklarbarhed, dataansvar og probabilistisk output. Artiklen skitserer nøglevilkår for udvikling og outsourcing, herunder IP og leverandøransvar, og vurderer værdien og begrænsningerne i EU’s modelklausuler for offentlige indkøb.

De første kapitler i EU’s AI-forordning gælder nu og indfører definitioner, forbud og et risikobaseret regime. Organisationer skal afklare deres rolle, kortlægge AI-systemer og etablere governance, dokumentation og menneskelig overvågning for at undgå forbudte anvendelser og kommende sanktionsrisici.