AI-forordningen · Artikel 5
Forbudte former for AI-praksis
Udløses, hvis brugen falder under et forbud i AI Act art. 5.
Kildebaseret regelgrundlag vedligeholdt af Aske.
Hvad er kravet?
Otte former for AI-praksis er FORBUDT og må hverken bringes i omsætning, ibrugtages eller anvendes (stk. 1, litra a-h): a) skadelige subliminale, manipulerende eller vildledende teknikker; b) udnyttelse af sårbarheder (alder, handicap, social/økonomisk situation); c) social scoring (evaluering/klassificering baseret på social adfærd) med uberettiget/uforholdsmæssig behandling; d) forudsigelse af kriminalitet ALENE baseret på profilering/personlighedstræk; e) ikkemålrettet skrabning af ansigtsbilleder til opbygning/udvidelse af ansigtsgenkendelsesdatabaser; f) følelsesgenkendelse på arbejdspladser og uddannelsesinstitutioner (undtagen medicinske/sikkerhedsmæssige formål); g) biometrisk kategorisering, der udleder følsomme kategorier (race, politik, religion, seksuel orientering m.v.); h) biometrisk fjernidentifikation i REALTID på offentlige steder til retshåndhævelse — som udgangspunkt forbudt, kun tilladt i snævert opregnede tilfælde og under strenge betingelser. For litra h fastsætter stk. 2-7 (sammenfattet, ikke citeret ordret): krav om at anvendelsen er strengt nødvendig og forholdsmæssig, forudgående tilladelse fra en judiciel eller uafhængig administrativ myndighed, konsekvensanalyse (art. 27), registrering (art. 49), underretning af markedsovervågnings-/databeskyttelsesmyndighed samt national ret. Stk. 8: forbuddene berører ikke forbud, der følger af anden EU-ret. VIGTIGT FOR DK: litra h og hele stk. 2-6 gælder ikke i Danmark (retsforbehold) — se dansk_særregel.
Typisk faldgrube
Typisk fejl: at tro at forbuddene kun rammer "udbydere" — de rammer også "anvendelse", dvs. idriftsættere/brugere. En anden faldgrube er at antage, at en praksis er tilladt, blot fordi den er teknisk mulig eller udbredt (fx følelsesgenkendelse af medarbejdere), selv om den er udtrykkeligt forbudt. For litra h forveksles REALTIDS biometrisk fjernidentifikation ofte med efterfølgende (post) identifikation, som er reguleret andetsteds.
Hvem og hvor?
Roller: udbyder, idriftsaetter
Sektorer: alle
Hvornår?
Gælder fra: 2025-02-02 (kapitel II / forbudte praksisser, jf. art. 113, litra a — verificeret på EUR-Lex og bekræftet i Digst-vejledningen)
Håndhævelse: 2025-08-02 (sanktionsbeføjelserne i kapitel XII samt AI-loven, jf. art. 113, litra b — verificeret på EUR-Lex og bekræftet i Digst-vejledningen)
Tilsynsmyndighed
Markedsovervågningen af art. 5 er FORDELT i Danmark (lov nr. 467 af 14/5/2025, § 2) — bekræftet ordret i Digitaliseringsstyrelsens hovedvejledning (okt. 2025): - Digitaliseringsstyrelsen: art. 5, stk. 1, litra a, b, c, e og f (samt centralt kontaktpunkt og bemyndigende myndighed). - Datatilsynet: art. 5, stk. 1, litra d og g. - Domstolsstyrelsen: domstolenes anvendelse af AI-systemer (når domstolene ikke handler i deres egenskab af domstol). Litra h er ikke fordelt — fordi litra h ikke gælder i Danmark (retsforbehold, se dansk_særregel).
Officielle kilder
Vis det anvendte kildecitat
Artikel 5 — Forbudte former for AI-praksis 1. Følgende former for AI-praksis er forbudt: a) omsætning, ibrugtagning eller anvendelse af et AI-system, der anvender subliminale teknikker, der rækker ud over den menneskelige bevidsthed, eller bevidst manipulerende eller vildledende teknikker med henblik på eller med det resultat i væsentlig grad at fordreje en persons eller en gruppe af personers adfærd ved betydeligt at hæmme dennes evne til at træffe informerede beslutninger, hvilket får dem til at træffe en beslutning, som de ellers ikke ville have truffet, på en måde, der forvolder eller med rimelig sandsynlighed vil forvolde den pågældende person, en anden person eller en gruppe af personer betydelig skade b) omsætning, ibrugtagning eller anvendelse af et AI-system, der hos en fysisk person eller en specifik gruppe af personer udnytter sårbarheder på grundlag af alder, handicap eller en særlig social eller økonomisk situation med henblik på eller med det resultat i væsentlig grad at fordreje den pågældende persons eller en til gruppen hørende persons adfærd på en måde, der forvolder eller med rimelig sandsynlighed vil forvolde den pågældende person eller en anden person betydelig skade c) omsætning, ibrugtagning eller anvendelse af AI-systemer til evaluering eller klassificering af fysiske personer eller grupper af personer over en given periode på grundlag af deres sociale adfærd eller kendte, udledte eller forudsagte personlige egenskaber eller personlighedstræk, således at den sociale bedømmelse fører til et af eller begge følgende udfald: i) skadelig eller ugunstig behandling af visse fysiske personer eller grupper af personer i sociale sammenhænge, som ikke har noget at gøre med de sammenhænge, i hvilke dataene oprindeligt blev genereret eller indsamlet ii) skadelig eller ugunstig behandling af visse fysiske personer eller grupper af personer, som er uberettiget eller uforholdsmæssig i forhold til deres sociale adfærd eller betydningen heraf d) omsætning, ibrugtagning til dette specifikke formål eller anvendelse af et AI-system til at foretage risikovurderinger af fysiske personer for at vurdere eller forudsige risikoen for, at en fysisk person begår en strafbar handling, hvilket alene er baseret på profilering af en fysisk person eller en vurdering af deres personlighedstræk og personlige egenskaber; dette forbud finder ikke anvendelse på AI-systemer, der anvendes til at understøtte den menneskelige vurdering af en persons involvering i en kriminel aktivitet, som allerede er baseret på objektive og verificerbare kendsgerninger, der er direkte knyttet til en kriminel aktivitet e) omsætning, ibrugtagning til dette specifikke formål eller anvendelse af AI-systemer, der opretter eller udvider ansigtsgenkendelsesdatabaser gennem ikkemålrettet indsamling af ansigtsbilleder fra internettet eller kameraovervågning f) omsætning, ibrugtagning til dette specifikke formål eller anvendelse af AI-systemer til at udlede følelser hos en fysisk person på arbejdspladser og uddannelsesinstitutioner, undtagen hvis anvendelsen af AI-systemet er tilsigtet at blive bragt i omsætning af medicinske eller sikkerhedsmæssige årsager g) omsætning, ibrugtagning til dette specifikke formål eller anvendelse af systemer til biometrisk kategorisering, som kategoriserer fysiske personer individuelt på grundlag af deres biometriske data med henblik på at udlede deres race, politiske anskuelser, fagforeningsmedlemskab, religiøse eller filosofiske overbevisning, seksuelle forhold eller seksuelle orientering; dette forbud omfatter ikke mærkning eller filtrering af lovligt indhentede biometriske datasæt såsom billeder på grundlag af biometriske data eller kategorisering af biometriske data på retshåndhævelsesområdet h) anvendelse af systemer til biometrisk fjernidentifikation i realtid på offentlige steder med henblik på retshåndhævelse, medmindre og i det omfang en sådan anvendelse er strengt nødvendig til et af følgende formål: i) målrettet eftersøgning af specifikke ofre for bortførelse, menneskehandel eller seksuel udnyttelse af mennesker samt eftersøgning af forsvundne personer ii) forebyggelse af en specifik, væsentlig og overhængende trussel mod fysiske personers liv eller fysiske sikkerhed eller en reel og aktuel eller reel og forudsigelig trussel om et terrorangreb iii) lokalisering eller identifikation af en person, der mistænkes for at have begået en strafbar handling, med henblik på en strafferetlig efterforskning af eller retsforfølgning eller fuldbyrdelse af en strafferetlig sanktion for overtrædelser, der er omhandlet i bilag II, og som i den pågældende medlemsstat kan straffes med frihedsstraf eller en anden frihedsberøvende foranstaltning af en maksimal varighed på mindst fire år. Første afsnit, litra h), berører ikke artikel 9 i forordning (EU) 2016/679 med hensyn til behandling af biometriske data til andre formål end retshåndhævelse.