Algoritmer og AI defineres som applikationer, der ofte vha. matematiske optimeringsteknikker, bruges til at udføre en eller flere opgaver såsom at indsamle, kombinere, rense, sortere, klassificere og udlede data, samt muliggør udvælgelse, prioritering, anbefaling samt gennemførsel af beslutninger. For at algoritmer, algoritmiske systemer og AI er pålidelige, skal de være lovlige, overholde etiske principper og værdier (fx respekt for menneskelig autonomi, forebygge skade, være rimelige, og kunne forklares). De skal være robuste både ud fra et teknisk og et socialt perspektiv. Der sondres mellem algoritmer og AI med betydning for mennesker og mere generel automatisering af fx industrimaskiner eller processer.
Formålet er, at virksomheden skal sikre pålidelige algoritmer og AI, som man kan have tillid til, hvor der er menneskeligt tilsyn og mellemkomst, og hvor der tages ansvar for løbende at sikre kvaliteten. Derved sikres, at algoritmerne og AI virker til gavn for den enkelte og fællesskabet og kan accepteres af dem, de berører.
7.1 Menneskeligt tilsyn og mellemkomst/indgriben og transparens
Algoritmer og AI skal virke til gavn for mennesket, være underlagt mennesket, og deres virke skal være synligt.
7.1.1 Risikovurdering
7.1.2 Interessentinddragelse
7.1.3 Informationspligt og gennemsigtighed
7.1.4 Udfordringsret
7.1.5 Nødstop
7.2 Data- og modelkvalitet
Virksomheden skal sikre, at brugen af algoritmer og AI er saglig, både mht. valg af data (fx kvalitet, art og oprindelse), og beregningslogik (inferensmetode). Det skal sikres, at fejl, bias og ulovlig forskelsbehandling i datasæt og modeller håndteres baseret på professionelle værdier og praksis.
7.2.1 Valg af inferensmetode og forklarlighed
7.2.2 Højkvalitetsdatagrundlag
7.2.3 Kontinuerlig evaluering af data og beregningslogik
7.3 Implementering igennem udviklingsproces
Virksomheden skal sikre, at krav til algoritmer og AI indgår i virksomhedens udvikling af produkter og tjenester.
7.3.1 Implementering igennem udviklingsproces