EU’s AI-forordning, officielt kendt som Regulation (EU) 2024/1689 eller bare ”The AI Act”, er verdens første omfattende lovgivning, der regulerer brugen af kunstig intelligens (AI). Forordningen trådte i kraft den 1. august 2024 og har til formål at fremme pålidelig og menneskecentreret AI i Europa.
Formålet med AI-forordningen er at sikre, at AI-systemer, der anvendes i EU, er sikre og respekterer grundlæggende rettigheder og værdier. Dette sker gennem en risikobaseret tilgang, hvor AI-systemer klassificeres efter den risiko, de udgør:
- Uacceptabel risiko: AI-systemer, der anses for at udgøre en klar trussel mod sikkerhed, levebrød og rettigheder for personer, er forbudt. Dette inkluderer systemer, der anvender subliminale teknikker til at manipulere adfærd eller udnytter sårbarheder hos specifikke grupper.
- Høj risiko: Disse systemer kan påvirke vigtige områder som sundhed, sikkerhed og grundlæggende rettigheder. Eksempler inkluderer AI anvendt i kritisk infrastruktur, uddannelse, beskæftigelse og retshåndhævelse. Sådanne systemer er underlagt strenge krav, herunder risikovurderinger og overensstemmelsesvurderinger.
- Begrænset risiko: AI-systemer med begrænset risiko er underlagt specifikke gennemsigtighedsforpligtelser for at sikre, at brugerne er opmærksomme på, at de interagerer med en maskine.
- Minimal risiko: Langt størstedelen af AI-systemer falder ind under denne kategori og er ikke underlagt yderligere juridiske krav.
Under minimal risiko falder f.eks. den AI, vi møder, når vi bliver foreslået sange, vi kan lide hos Spotify eller vores tv-udbyder.
De 2 kategorier Høj risiko og Uacceptabel risiko rammer kun de færreste virksomheder. Hvis du arbejder indenfor denne kategori, og ikke allerede er i gang med at se på de krav, som AI Act stiller, så vil vi anbefaler at kontakte Digitaliseringsstyrelsen eller læse mere her: https://digst.dk/tilsyn/ai-forordningen/reglerne-i-ai-forordningen/
Til gengæld er kategorien Begrænset risiko vigtig for langt de fleste virksomheder. Herunder falder nemlig f.eks. brugen af ChatGPT til at generere tekster, brugen af Chatbots i kundeservice og meget andet af det, som mange allerede benytter sig af. F.eks skal det fra August 2026 noteres, om en tekst er lavet med hjælp fra AI, hvis teksten ”har til formål at informere offentligheden om spørgsmål af offentlig interesse”.
Krav til virksomheder vedrørende AI-uddannelse
AI-forordningen stiller specifikke krav til virksomheder og organisationer, der udvikler, drifter eller anvender AI-systemer. En central forpligtelse er at sikre, at medarbejdere og andre personer, der er involveret i drift og anvendelse af AI-systemer, har et tilstrækkeligt niveau af AI-færdigheder. – Og det gælder jo altså så også, når man f.eks. bruger ChatGPT til at skrive sine tekster eller benytter sig af en AI-genereret chat i kundeservice.
Dette indebærer, at virksomheder skal:
- Uddanne personale: Sikre, at relevante medarbejdere har den nødvendige viden og kompetence til at håndtere AI-systemer korrekt og ansvarligt.
- Løbende opdatere kompetencer: Gennemføre kontinuerlig træning og opdatering af medarbejdernes AI-kompetencer for at følge med i den teknologiske udvikling og ændringer i lovgivningen.
- Dokumentere uddannelses aktiviteterne: Holde styr på og dokumentere uddannelsesaktiviteter for at kunne demonstrere overholdelse af forordningens krav.
Disse krav gælder for alle virksomheder og myndigheder, der udbyder, drifter eller anvender AI-løsninger, uanset hvilken AI-risikoprofil løsningen har.
Formålet er at sikre en ansvarlig og informeret anvendelse af AI-teknologier på tværs af sektorer. Forordningen specificerer dog ikke præcist, hvilke tiltag en virksomhederne skal sætte i gang for at opnå dette. Det er derfor op til den enkelte organisation at vurdere, hvad der udgør et tilstrækkeligt niveau af AI-færdigheder i deres specifikke kontekst.
Denne vurdering bør tage hensyn til:
- Medarbejdernes tekniske viden, erfaring og uddannelse: Overvej den eksisterende ekspertise blandt medarbejderne og identificer eventuelle behov for yderligere træning eller opkvalificering.
- Anvendelseskonteksten for AI-systemet: Forstå, hvordan og i hvilke sammenhænge AI-systemet skal anvendes for at sikre, at medarbejderne er rustet til at håndtere specifikke udfordringer eller scenarier.
- De personer eller grupper, som AI-systemerne skal anvendes på: Overvej, hvilke brugergrupper eller kunder der påvirkes af AI-systemet, og hvordan medarbejdernes færdigheder kan sikre en ansvarlig og etisk anvendelse.
Det er vigtigt som virksomhed at være opmærksom på disse krav og sikre, at medarbejderne er tilstrækkeligt uddannede i AI. Ikke alene for at overholde lovgivningen, men selvfølgelig også for at sikre en ansvarlig og effektiv anvendelse af AI-teknologier i organisationen.
Hvis du er i tvivl om, hvordan netop jeres virksomhed er stillet ift. de nye krav fra AI-forordningens, så kontakt os gerne.
Vi tilbyder både rådgivning, implementering og uddannelse i AI, der lever op til alle gældende krav.
Læs evt mere om reglerne på Digitaliseringsstyrelsens hjemmeside her: https://digst.dk/tilsyn/ai-forordningen/reglerne-i-ai-forordningen/
AI-Rådgivning er medlem af:
