Forklarbarhed

EU’s reguleringspakke presser AI-kontrakter til at adressere forklarbarhed, dataansvar og probabilistisk output. Artiklen skitserer nøglevilkår for udvikling og outsourcing, herunder IP og leverandøransvar, og vurderer værdien og begrænsningerne i EU’s modelklausuler for offentlige indkøb.

Myndigheder kan nu kræve teknisk dokumentation, gennemføre kontrolbesøg og stoppe salg, markedsføring og brug af forbudte AI-systemer. Virksomheder bør kortlægge AI, klassificere risici, sikre forklarbarhed og logning samt kunne vise data og beslutningsspor ved tilsyn.

Et nyt lovforslag giver Digitaliseringsstyrelsen, Datatilsynet og Domstolsstyrelsen klare beføjelser til at håndhæve EU’s AI-forordning. Myndighederne kan indhente oplysninger, gennemføre kontrolbesøg, standse forbudte AI-systemer og udstede bøder. Virksomheder bør kortlægge og dokumentere deres AI-brug.

EU’s AI-forordning indfører en risikobaseret regulering med forbudte anvendelser, skrappe krav til højrisikosystemer og generelle gennemsigtighedsregler. Virksomheder skal håndtere GDPR, ophavsret og bias samt indføre AI-politik, dokumentation, logning og menneskeligt tilsyn.