Etiske dilemmaer og øget behov for ansvarlighed er blandt udfordringerne ved brug af kunstig intelligens i offentlig sagsbehandling. Men nu er der hjælp at hente for offentlige myndigheder, der arbejder med kunstig intelligens som støtte til at træffe beslutninger i sagsbehandlingen. Dansk Standard har netop udgivet to danske specifikationer, der skal gøre teknologien tryg og sikker at anvende og være med til at skabe gennemsigtighed i de beslutninger, algoritmerne træffer.

- Før enhver anvendelse af et IT-værktøj bør der stilles en række spørgsmål til, hvorfor og hvordan det anvendes i en given situation. Det gælder i endnu højere grad kunstig intelligens anvendt i offentlig sagsbehandling for at sikre etisk og ansvarlig brug, fordi det involverer beslutninger om dig og mig. Og det er netop det, specifikationerne kan hjælpe med, siger Kim Skov Hilding, seniorkonsulent i Dansk Standard.

Den stigende tilgængelighed af data om bl.a. borgere og tidligere trufne beslutninger, betyder, at der opstår nye muligheder for at anvende kunstig intelligens i den offentlige sagsbehandling, fx til lettere og hurtigere at træffe beslutninger i forbindelse med byggeansøgninger, beskæftigelsesindsats mv. Men det betyder samtidigt, at mange offentlige myndigheder kæmper med svære etiske overvejelser om anvendelsen af teknologien.

Dette er professor Thomas Hildebrandt, som har været skribent på den specifikation, der omhandler offentlig sagsbehandling, enig i:

- Kunstig intelligens kan være med til at forbedre den offentlige sagsbehandling. Men det er vigtigt, at man inddrager relevante interessenter i overvejelser om både forståelighed, kontrol, gevinster og risici i alle faser af udviklingen, fra idé til brug og vedligeholdelse, så vi kan bevare tilliden til den offentlige forvaltning, understreger Thomas Hildebrandt.

Og det skal de to nye gratis specifikationer for kunstig intelligens, der er et led i den nationale strategi for kunstig intelligens og udviklet af en lang række eksperter, bl.a. være med til at sikre.

Let tilgængelige checklister

- Specifikationerne skal ses som håndbøger med vejledning og checklister, der kan bruges, hvis du står overfor et AI-projekt. Kort fortalt skal de være med til at sikre, at du har gjort de rigtige overvejelser i de forskellige faser i projektet, siger Kim Skov Hilding, konsulent i Dansk Standard.

Der er således ikke tale om kravspecifikationer eller regulering, men et værktøj til at strukturere arbejdet og hjælp til, hvilke refleksioner det er vigtigt at gøre sig bl.a. i forhold til at skabe gennemsigtighed i, hvad algoritmerne laver, og dermed tillid til teknologien.

- Man kan sige, at specifikationen fungerer som en sparringspartner, der sikrer at du stiller dig selv de rigtige spørgsmål på de rigtige steder i processen, uddyber Kim Skov Hilding.

Kunstig intelligens kan tænkes anvendt til beslutningsstøtte i offentlig sagsbehandling på mange måder.

Fx undersøges i forskningsprojektet EcoKnow støttet af innovationsfonden, om AI kan anvendes i forhold til at give støtte til forståelse af kompleks lovgivning ved brug af tidligere afgørelser i sammenlignelige sager og derved reducere både fejlfortolkning og tidsforbruget i selve sagsbehandlingen. Eller i forhold til at give forudsigelser om ventetider i sagsbehandlingen, så både borger og sagsbehandler kan tage højde for dette i planlægningen af en indsats.

Målgruppen for specifikationen om anvendelse af kunstig intelligens i offentlig sagsbehandling er designere, udviklere, udbydere, indkøbere, tilsynsførere og brugere af kunstig intelligens til beslutningsstøtte i offentlig sagsbehandling, som ønsker eller er forpligtede til at evaluere systemets anvendelse. En sekundær målgruppe er de interessenter, der er berørt af systemet, fx myndigheder og borgere generelt.