Mindretal af modstand
Flere og flere steder i det offentlige dropper sagsbehandlerne nu brugen af algoritmer til at udarbejde risikoprofiler på borgere. Samtidig fortsætter forskerne i projektet ‘Underretninger i fokus’ med at udvikle en algoritme, som måske kan hjælpe socialrådgiverne til at forudsige øget fremtidig mistrivsel hos børn og unge.
Forskerne kalder deres algoritme “beslutningsstøtte”, og de arbejder blandt andet med at undersøge, hvad der sker med retssikkerheden, hvis socialrådgivere begyndte at anvende algoritmer som et værktøj i deres arbejde.
“Beslutningsstøtte” er en kompliceret beregningsmodel, som, forkerne mener, kan forudsige mistrivsel hos børn og unge. Modellen sammenligner bestemte omstændigheder i de nuværende børns og unges liv med de samme omstændigheder i tidligere sager. Den beregner – på en skala fra et til 10 – sandsynligheden for, om barnet vil få svær mistrivsel inden for det næste år.
Kristian Bloch Haug er Ph.d.-studerende ved Roskilde Universitet. Han forsker i det offentliges brug af algoritmer og fortæller på RUC’s hjemmeside om, hvordan flere af de algoritmer, som beregner risikoprofiler tages ud af brug.
– Det er langtfra unikt, at algoritmer, der risikoprofilerer ledige, bliver lukket ned. Eksempelvis kan det for sagsbehandlere opleves, at algoritmerne demotiverer de ledige, og for de ledige selv kan risikovurderinger opleves diskriminerende.
Forskningsprojektet ’Underretninger i fokus’ startede i 2019 og forventes færdigt i 2023. Det er et samarbejde mellem VIA University College og TrygFondens Børneforskningscenter ved Aarhus Universitet.
Baggrunden for projektet er, at der er et stort og voksende antal underretninger til landets kommuner med bekymring for, at børn og unge mistrives. Algoritmen skal være en hjælp for socialrådgiverne, når de skal prioritere arbejdet med underretningerne. Landets socialforvaltninger modtog 135.919 underretninger alene i 2020.
Læs også
Indland
Big data på vej ind i socialrådgiveres arbejde
Forskningsprojekt undersøger om en algoritme kan medvirke til opsporing af børns mistrivsel
Line Svoldgaard Berg er lektor cand.jur. og en af forskerne bag projektet.
– Det er vigtigt for mig at understrege, at vi i projektet ikke er for eller imod algoritmer. Målet har været at undersøge effekten af at anvende “beslutningsstøtten” på underretningssager, siger hun til Arbejderen og tilføjer:
– Måske finder vi ud af, at algoritmer ikke er brugbare på dette felt. Som forskere kan vi generere viden, så man netop ikke ruller algoritmer ud uden at kende effekten.
Historiske data fra kommunerne
“Beslutningsstøtte” baserer sig på socialforvaltningernes egne data og inddrager alene oplysninger, som kommunen allerede er i besiddelse af. Det har de valgt at gøre for at kunne leve op til gældende lovgivning, fortæller Line Svoldgaard Berg videre.
Det betyder, at forskerne ikke vil samkøre oplysninger på tværs af forvaltninger, som man ifølge Altinget havde planer om at gøre i et stærkt kritiseret projekt i Gladsaxe Kommune tilbage i 2018.
Dansk Socialrådgiverforenings næstformand Ditte Brøndum fortæller til Arbejderen, at hun kunne ønske sig, at de data, som kommunerne har aktiveret om borgerne, og som “beslutningsstøtte” laver sine beregninger ud fra, var mere præcise. Hun antyder således, at “beslutningsstøttens” beregninger nogle gange kan indeholde manglende eller endda fejlagtige oplysninger.
Hun glæder sig samtidig over, at de socialrådgivere, som har prøvet at anvende “beslutningsstøtten”, først skulle anvende den, efter at de havde lavet deres personlige vurdering af sagerne. Hun er tilfreds med, at algoritmen, hvis den kommer i brug, udelukkende skal være et supplement til socialrådgiverens egen vurdering af sagen, og tænker, at algoritmen på den betingelse muligvis kan blive en hjælp for socialrådgiverne.
Forskernes valg og overvejelser
Formålet med “beslutningsstøtte” er netop at hjælpe socialrådgiverne med at vurdere, om en underretning drejer sig om en sag, hvor der kan være lille eller alvorlig mistrivsel.
Forskerne bag projektet har, ved at se på alle sager og ved særligt at hæfte sig ved sager om anbringelse af børn og unge, fundet frem til, at der er rigtig god overensstemmelse mellem, om børn og unge er i trivsel eller mistrivsel, og om de anbringes uden for hjemmet inden for et år. Derfor er algoritmen lavet, så den måler sandsynligheden for, om man bliver anbragt uden for hjemmet inden for et år, fordi den herved også rimeligt præcist måler, om man har små eller alvorlige trivselsproblemer.
Forskerne har senere fundet ud af, at andre tegn på alvorlig mistrivsel som for eksempel “risiko for kriminalitet” og “problematisk skolefravær” også har god overensstemmelse med, om man bliver anbragt.
I 2019 gennemførte forskerne et pilotprojekt, hvor algoritmen blev afprøvet på rigtige sager i to jyske kommuner. Afprøvningen skete efter, at sagerne var blevet behandlet, og havde derved ingen indflydelse på dem. Det viste sig her, at socialrådgiverne i 21 procent af de 208 underretninger, hvor algoritmen blev afprøvet, ændrede deres vurdering af en sags alvor, så den kom tættere på at stemme overens med algoritmens resultat. Det vides ikke, om de ændrede vurderinger generelt opkvalificerede eller nedkvalificerede sagsbehandlingens kvalitet, men man fandt i enkelte sager, at der var problemer med algoritmens score, hvilket førte til, at algoritmen blev ændret, så den ikke forskelsbehandler ud fra alder, køn, etnicitet eller socioøkonomisk baggrund.
Blandt de sager, hvor algoritmen fik socialrådgiverne i de to kommuner til at ændre deres vurderinger, sås ifølge netmediet Zetland flere eksempler på, at sagsbehandlerne gik med på algoritmens forskelsbehandling ud fra kriterier som alder, køn, etnicitet og social baggrund. Det kan ikke udelukkes, at man også i fremtiden finder fejl i algoritmen, som kan påvirke socialrådgiveres vurderinger i negativ retning.
Læs også
Indland
Efter kritik af algoritmer på jobcentrene
Forskere vil lave ny algoritme til hjælp for sagsbehandlerne og de arbejdsløse
Forskerne bag algoritmen understreger, at socialrådgiverne skal undervises i at bruge algoritmen, hvis den tages i brug. De vil undersøge, om algoritmen med den rigtige undervisning vil kunne være dem til gavn – som “et støttende supplement” til socialrådgivernes øvrige vurderinger af en sag.
De vil samtidigt undersøge, om algoritmen, som sætter procenter på sandsynligheden for, at forældre får deres barn anbragt inden for et år, vil blive opfattet som anvendelig af forældrene.
Kan man forudsige mistrivsel?
Helle Antczak er lektor på socialrådgiveruddannelsen ved Københavns Professionshøjskole. Hun mener ikke, at det er en god idé med en algoritme, som skal forudsige børns og unges mulige mistrivsel inden for det næste år.
Hun siger til Arbejderen:
– Når vi forsøger at styre fremtiden ved at se i bakspejlet, som man gør i kunstig intelligens, slår man på en måde den ægte fremtid ihjel.
Hun tilføjer, at socialvidenskaben ikke er i stand til med sikkerhed at vise, hvordan sociale problemer opstår, og forklarer:
– Det kan godt være, hvis du profilerer alle de børn, som bliver anbragt, så kommer mange af dem måske ikke til tjek hos lægen, og forældrene var måske arbejdsløse. Men det er ikke det samme som at sige, at alle børn, hvor de faktorer er til stede, vil udvikle problemer.
Hun vil ikke udelukke, at kunstig intelligens kan gavne de fagprofessionelles skøn, vel at mærke hvis teknologien ikke kommer til at overtrumfe den professionelles dømmekraft. Efter hendes mening vil det dog kræve, at socialrådgiverne får tilført nye kompetencer inden for områderne teknologiforståelse, kritisk reflektion over data og digitale løsninger. Endeligt skal de også kunne formidle det, som systemet er kommet frem til, præcist til borgeren.
Helle Antczak understreger, at udviklingen af kunstig intelligens skal tage udgangspunkt i, hvad der praktisk giver mening, når der skal skabes bedre løsninger for udsatte borgere.
Hun mener, at det, at man i flere tilfælde i praksis opgiver at anvende dyrt udviklede, kunstigt intelligente løsninger, er et signal om, at de er udviklet på et uhensigtsmæssigt grundlag.
Som alternativ peger lektoren på følgende muligheder:
– Hvis kommunerne oplever, at de bliver for sent opmærksomme på de børn, der har brug for hjælp, så skulle de også vælge at sætte ind med efter- og videreuddannelse af det personale, som til dagligt er i berøring med børnene, og forbedre samarbejdsstrukturerne mellem socialforvaltning og eksempelvis vuggestuerne og den kommunale tandpleje.
Intet er afgjort
Line Svoldgaard Berg siger til Arbejderen, at forskernes arbejde med at udvikle algoritmen “beslutningsstøtte” fortsat har til formål at undersøge, om det er en god og brugbar idé at udvikle algoritmen, og hun ønsker ikke, at det skal lyde som om, de er uenige med Helle Antczak.
– Der er en række potentialer og risici ved at anvende algoritmer – det tror vi alle sammen. Men først når nogen undersøger det, ved vi præcist, hvilke og hvordan de udfolder sig, siger Line Svoldgaard Berg.
Desuden mener hun ikke, at den offentlige sektors brug af algoritmer til beregning af risikoprofiler er blevet lukket ned andre steder end inden for beskæftigelsesområdet.
Hun forklarer endeligt, at algoritmen “beslutningsstøtte” ikke kategoriseres som kunstig intelligens.
Læs også
Kan du lide, hvad du læser?
Det koster penge at lave progressiv journalistik. Kun med din støtte kan Arbejderen fortsat udgive frit tilgængeligt journalistisk indhold af høj kvalitet.
