AI-forordningen i HR-afdelingen

Artificial Intelligence (AI) vinder stadig større indpas i HR-afdelingen, herunder til brug for blandt andet rekruttering og personaleadministration. EU-Parlamentet har i marts 2024 vedtaget AI-forordningen, der har til formål at etablere en juridisk ramme for udviklingen og anvendelsen af AI-systemer, herunder at AI-systemer ikke krænker grundlæggende rettigheder som retten til ikke at blive diskrimineret. AI-forordningen mangler fortsat formel vedtagelse fra Rådet, men det er forventningen, at forordningen vedtages med enkelte mindre ændringer.

Et AI-system er i henhold til AI-forordningens artikel 3, stk. 1, et ”maskinbaseret system”, der er designet til at virke med en varierende grad af autonomi, og som kan vise en tilpasningsevne og kan udlede et output, ud fra de input det modtager, såsom forudsigelser, anbefalinger eller beslutninger, der kan påvirke fysiske eller virtuelle miljøer.

Systemet skal altså have en grad af autonomi, for at være omfattet af AI-forordningen. AI-forordningen finder derfor ikke anvendelse på systemer, der alene kan udføre automatiske handlinger baseret på regler eller input, som det har modtaget fra fysiske personer. Et system, der kan genere et dokument, fx en ansættelseskontrakt, på grundlag af en skabelon og input fra HR-afdelingen om medarbejderens navn, adresse mv., vil derfor ikke være et AI-system, der er omfattet af forordningen.

AI-forordningen indeholder regler for forskellige typer af AI-systemer, der varierer alt efter hvor stor risiko, der er forbundet med de enkelte typer af AI-systemer, og anvendelsen af sådanne systemer.

Forbudte anvendelser af AI-systemer (sortlisten)

I henhold til AI-forordningen er det forbudt at anvende AI-systemer til bestemte formål. Forbuddet omfatter blandt andet evaluering eller klassificering af fysiske personer over en given periode, på grundlag af deres sociale adfærd eller personlighedstræk, og som fører til skadelig eller ugunstig behandling, der er uberettiget eller uforholdsmæssig.

Forbuddet omfatter formentlig ikke anvendelsen af AI-systemer til for eksempel personlighedstests, idet personlighedstests nok snarere må anses for et punktnedslag, end en klassificering af personlighedstræk over en periode.

Højrisiko AI-systemer

AI-systemer, der er klassificeret som højrisikosystemer, vil blive underlagt krav om blandt andet risikominimering, sikring af høj datakvalitet, logning af aktiviteter, dokumentation, klar brugerinformation, involvering af menneskeligt tilsyn, CE-mærkning og registrering i en EU-database. Hovedparten af de forpligtelser, der følger af AI-forordningen i forbindelse med højrisiko AI-systemer, påhviler udbyderen. Kunden har dog også nogle forpligtelser, der i forhold til højrisikosystemer omfatter, at man skal sikre sig, at de data, der puttes ind i systemet, er relevante, at mennesker, der fører tilsyn med systemet er kompetente, og at de personer, som systemet behandler oplysninger om, oplyses om anvendelsen af AI.

Blandt AI-systemer, der er kategoriseret som højrisikosystemer, er systemer, der tiltænkt til at blive brugt til rekruttering eller udvælgelse af ansøgere, herunder til screening og filtrering af jobansøgninger og evaluering af ansøgere.

På tilsvarende vis er AI-systemer, der er tiltænkt at blive brugt til at træffe beslutning om ansættelsesforhold, herunder om forfremmelser og opsigelser, samt AI-systemer, der vedrører overvågning og evaluering af performance og adfærd i ansættelsesforhold, karakteriseret som højrisikosystemer.

Ansættelsesretlige overvejelser

Der gælder de samme ansættelsesretlige regler ved anvendelse af AI-systemer, som ved manuel personaleadministration. Som arbejdsgiver skal man derfor sikre sig, at AI-systemet fx overholder regler om anti-diskrimination.

Det kan eksempelvis være i forbindelse med annoncering af ledige stillinger, hvor der på forskellige platforme kan filtreres efter alder, så jobopslaget specifikt målrettes bestemte aldersgrupper. En sådan specifik målretning mod bestemte aldersgrupper, vil være i strid med forskelsbehandlingsloven.

Ved anvendelse af AI-systemer til rekruttering, skal man også være særligt opmærksom på indirekte forskelsbehandling. AI-systemer lærer typisk fra tidligere adfærd og praksis, og derfor kan den også have lært at opretholde diskriminationsmønstre, fx i forbindelse med cv-filtrering.

Databeskyttelsesforordningen

Reglerne i databeskyttelsesforordningen ændres ikke med vedtagelsen af AI-forordningen, og der gælder de samme betingelser for behandling af personoplysninger ved anvendelse af AI-systemer, som for enhver anden behandling.

Som arbejdsgiver skal man være særligt opmærksom på databeskyttelsesforordningens artikel 22, hvori udgangspunktet er, at det ikke er tilladt at foretage automatiske afgørelser, herunder i forbindelse med rekruttering (fx i forbindelse med CV-filtrering, hvor der automatisk fravælges visse ansøgere med bestemte karakteristika).

Herudover er der ved anvendelse af AI-systemet næsten altid krav om, at man som arbejdsgiver foretager en konsekvensanalyse, jf. databeskyttelsesforordningens artikel 35, idet der er krav om en sådan konsekvensanalyse ved anvendelse af ny teknologi, hvis behandlingen medfører en høj risiko for fysiske personers rettigheder og frihedsrettigheder.

Ikrafttræden

Når AI-forordningen træder i kraft, gælder den umiddelbart og direkte i alle medlemsstater. Reglerne finder fuld anvendelse 24 måneder efter forordningens ikrafttræden, dog med visse undtagelser, idet reglerne om forbudt anvendelse af AI-systemer finder anvendelse seks måneder efter ikrafttrædelsesdatoen, reglerne om adfærdskodekser  finder anvendelse ni måneder efter ikrafttrædelsen, reglerne for AI til almen brug, herunder forvaltning finder anvendelse 12 måneder efter ikrafttrædelsen, mens reglerne om forpligtelser for højrisikosystemer finder anvendelse 36 måneder efter ikrafttrædelsen.

Vi anbefaler

Hvis man som arbejdsgiver skal investere i et nyt HR-system, der anvender AI-teknologi, er det vigtigt, at man sikrer sig, at systemet er konformt i forhold til AI-forordningen, herunder at der ikke er grundlæggende forudsætninger i systemer, der gør, at det ikke kan ændres til at blive konformt med AI-forordningen. Det anbefales også, at man sikrer sig, at leverandøren forpligter sig til at foretage ændringer, der er nødvendige som følge af AI-forordningen.

Et andet forhold, som er værd at være opmærksom på, er det datagrundlag som AI-systemet trænes ud fra. AI-systemet skal trænes på repræsentant materiale, idet algoritmer kan udvikle en bias, der vil være diskriminerende, fordi den lærer fra et for spinkelt datagrundlag. Man skal i den forbindelse også sikre sig, at man ikke indkøber AI-systemer, der henter input fra jurisdiktioner, der har andre regler om køn, race, alder mv. end de danske regler, idet man derved også risikerer, at den udvikler diskriminerende algoritmer.

Vi udsender løbende opdateringer om AI-forordningen.