Den kommende EU-forordning, kendt som AI-loven, vil spille en afgørende rolle for både leverandører og anvendere af AI-teknologi, inklusive statlige institutioner og private firmaer i alle brancher. Det er essentielt at forstå de nye direktiver, da de vil diktere anvendelsen af AI og de nødvendige standarder for overholdelse.
Fremover bliver det et krav for virksomheder at vurdere risiciene ved deres AI-systemer og indføre tiltag for at minimere disse risici.
AI-loven baserer sig på en risiko-orienteret fremgangsmåde, hvilket betyder, at virksomhedernes forpligtelser varierer afhængigt af risikograden af det benyttede AI-system. Klassificeringen af AI-systemer vil tage højde for faktorer såsom systemets anvendelsesformål, mulige skader, og brugen af personlige data. Systemer med høj risiko vil skulle opfylde strengere betingelser.
AI-systemer med minimal eller ingen risiko, såsom spamfiltre eller spiludvikling, er undtaget fra specifikke krav. Systemer med begrænset risiko, som vejrforudsigelser eller produktanbefalinger, samt chatbots og deepfakes, skal klart angive interaktion med en maskine og markerer kunstigt genereret eller manipuleret indhold.
Overblik over AI-systemernes Risikoniveauer:
- Niveau 1: Minimal eller Ingen Risiko AI-systemer
- Karakteristik: Systemer, der ikke udgør en risiko for mennesker eller samfund.
- Krav: Ingen specifikke krav under AI-forordningen.
- Niveau 2: Begrænset Risiko AI-systemer
- Karakteristik: Systemer, der kan have en negativ indvirkning på mennesker eller samfund, men ikke udgør en betydelig risiko.
- Krav: Underlagt mindre strenge krav end højrisiko-systemer.
- Niveau 3: Højrisiko AI-systemer
- Karakteristik: Systemer, der kan have en betydelig indvirkning på menneskeliv eller anvendes til manipulation eller kontrol af mennesker.
- Krav: Underlagt strenge krav for at sikre sikker og etisk anvendelse.
- Niveau 4: Forbudte AI-systemer
- Karakteristik: Systemer, der udgør en alvorlig risiko for menneskers sundhed, sikkerhed eller kan føre til diskrimination.
- Krav: Forbudt anvendelse.
Strenge krav gælder for højrisiko AI-systemer, som benyttes i kreditvurderinger, offentlig service eller rekruttering, for at sikre deres sikkerhed og etik. Forbudte AI-systemer, potentielt anvendt i strafferetlige beslutninger eller våben, er for farlige til anvendelse.
Generelle krav for alle AI-anvendere inkluderer ansvar for sikker og etisk brug af AI-systemer, samt forbud mod diskrimination og overholdelse af databeskyttelseslove. Specifikke krav gælder for AI-systemer med begrænset og høj risiko.
For højrisiko AI-systemer kræves en konsekvensanalyse for at vurdere og håndtere risici. Denne proces inkluderer identifikation og vurdering af potentielle risici samt tiltag for at minimere disse. Overtrædelse af disse krav kan medføre sanktioner.
Overblik over Vigtige Krav til Højrisiko-AI-Systemer:
- Test af Systemet
- Krav: Grundig testing for at bekræfte korrekt funktionalitet.
- Datastyring
- Krav: Sikker og etisk indsamling og behandling af data til træning og drift.
- Teknisk Dokumentation
- Krav: Levering af detaljeret dokumentation, der forklarer systemets funktionsmåde.
- CE-mærkning
- Krav: Systemerne skal være CE-mærkede som bevis på overholdelse af EU’s sikkerhedsstandarder.
- Registrering i EU-database
- Krav: Obligatorisk registrering af systemerne i en dedikeret EU-database.
- Opbevaring af Logfiler
- Krav: Opbevaring af logfiler til sporing af systemanvendelse.
- Gennemsigtighed
- Krav: Informationsdeling om systemets funktion og indvirkning på brugere.
- Menneskeligt Tilsyn
- Krav: Overvågning af systemer med potentiel negativ indvirkning på børn af mennesker.
- Nøjagtighed, Robusthed og Cybersikkerhed
- Krav: Systemerne skal være præcise, robuste og sikrede mod cyberangreb.
Desuden er brugerne af højrisiko AI-systemer forpligtet til at rapportere alvorlige hændelser og sikre menneskelig overvågning for at korrigere fejl eller modvirke negative effekter. Brugere har også ret til indsigt i beslutninger truffet af fuldautomatiske AI-systemer.
Det er afgørende, at brugere af AI-systemer erhverver den nødvendige viden og færdigheder til sikkert at anvende højrisiko AI-teknologier, hvilket understreger betydningen af forståelse og overholdelse af AI-lovens krav for at beskytte både individet og samfundet.
