Et dansk forskningsprojekt med navnet “Underretninger i fokus” er i gang med at udvikle en algoritme, som skal hjælpe socialrådgivere til hurtigere og bedre end i dag at sortere i de underretninger om bekymring for børns trivsel, som de modtager. Algoritmen skal forudsige fremtidig alvorlig mistrivsel, men er målet realistisk og etisk forsvarligt, spørger kritikere af projektet.
Helle Antczak er lektor på socialrådgiveruddannelsen ved Københavns Professionshøjskole. Hun siger til Arbejderen, at det kræver et socialfagligt skøn at vurdere graden af alvor i en underretning:
– Vi kan ikke automatisere de socialfaglige skøn. Et professionelt skøn kan ikke automatiseres.
Den samme kritik gælder de algoritmer, som skal forudsige hvilke borgere, der statistisk set vil udvikle sociale problemer. Vi har dels for megen tillid til de data, der allerede ligger i det offentlige, dels for megen tiltro til teknologierne, mener Hanne Marie Motzfeldt, som er lektor i digital forvaltning. Hun tilføjer, at der også kan opstå problemer med datasikkerheden og helt grundlæggende rettigheder som privatlivets fred.
Hjælp til de mange underretninger
Kommunernes familieafdelinger modtog i 2019 tilsammen mere end 130.000 underretninger om bekymring for børns trivsel, og antallet har længe været støt stigende. Alle underretninger skal ifølge loven besvares inden for 24 timer, men tidsfristen overskrides ifølge netmediet Respons i dag i to ud af tre tilfælde. De underretninger, som kommunerne modtager, har vidt forskellig karakter. Nogle bør tages alvorligt, og andre kan der ses bort fra, men alle skal vurderes.
Det er TrygFondens Børneforskningscenter, som i samarbejde med VIA University College, står for projekt “Underretninger i fokus”, der startede i 2019 og forventes afsluttet i 2023.
En af forskerne bag projektet – Michael Rosholm, der er professor ved Institut for Økonomi ved Aarhus Universitet – fortæller til Arbejderen, at et af formålene med projektet er at undersøge, om en algoritme kan yde socialrådgiverne hjælp.
Ud fra de oplysninger, socialrådgiveren har i en børnesag, skal forskergruppen lave en algoritme eller beregningsmodel, som skal kunne beregne, om der er lav eller høj risiko for, at barnet får alvorlig mistrivsel.
Forskernes arbejde med algoritmen
Begreberne “trivsel” og “mistrivsel” bruges i dag af socialrådgivere som vigtige, faglige begreber, men forskergruppen finder begreberne for ukonkrete til at kunne bruges i en beregningsmodel.
Forskergruppen har derfor i stedet valgt at udarbejde en model, som beregner, om der er høj eller lav sandsynlighed for, at barnet om et år bliver anbragt uden for hjemmet. De har hen ad vejen forfinet denne model, og har i takt hermed fået den til, med stor sandsynlighed, at kunne vise sammenhæng med visse andre parametre for mistrivsel, som for eksempel risiko for senere at blive sigtet for kriminalitet og problematisk skolefravær.
Risiko for prioritering af algoritmen over faglighed
Det er tanken, at socialrådgiverne, når algoritmen er færdig, skal bruge den som et supplement, når de skal vurdere graden af alvor i underretninger. Flere fagpersoner fra det socialfaglige område har spurgt, om algoritmen, med tiden, i stedet for at blive et supplement vil kunne komme til at fortrænge socialrådgiverens faglige skøn.
Jeg ville jo blive rasende, hvis jeg af en algoritme var blevet udpeget til at komme op til samtale, og mine børn ikke havde problemer.
Helle Antczak, lektor på socialrådgiveruddannelsen ved Københavns Professionshøjskole.
Frederik Kulager er journalist. Han fortæller i netmediet Zetland om nogle resultater, som kom frem, da to jyske kommuner i et pilotprojekt afprøvede den algoritme, som projektet “Underretninger i fokus” foreløbigt havde udarbejdet.
Det viste sig, at socialrådgiverne i 21 procent af de 208 underretninger, som blev behandlet, ændrede deres vurdering af en sags alvor, så den kom tættere på at stemme overens med algoritmens resultat. Denne ændring af de faglige vurderinger skete samtidigt med, at algoritmen i pilotprojektet viste sig at rumme graverende svagheder.
Frederik Kulager nævner et eksempel, hvor et 2-årigt barns fremtidige mulige mistrivsel af en algoritme blev vurderet som “lavest muligt” på en skala mellem 1 og 10. Socialrådgiveren, som skulle give sit faglige skøn, vurderede risikoen som 9, altså temmelig høj. Barnet bankede i sin vuggestue ofte sit hoved i gulvet og skiftede hurtigt mellem at være meget aktiv og slet ikke at kunne kontaktes. Barnets symptomer på mistrivsel indgik ikke i algoritmen, og scoren blev derfor den lavest mulige.
Eksemplet er blot et af talrige mulige, bekymrende symptomer, som børn kan have, som fagprofessionelle inden for det sociale område straks vil reagere på, og som potentielt kan blive udeladt i en algoritme.
Frederik Kulager fortæller også i sin artikel, at it-analytiker Theresa Moreau i et bachelorprojekt undersøgte, hvordan algoritmen i pilotprojektet var sammensat. Det viste sig, at barnets alder på underretningstidspunktet indgik på en yderst uheldig måde. Således scorede algoritmen højere på mistrivsel efter seksuelle krænkelser, jo ældre barnet var.
Michael Rosholm udtaler til Arbejderen, at der arbejdes på at ændre algoritmen, så de nævnte fejl ikke forekommer.
Fremtidige problemer kan ikke forudsiges sikkert
Helle Antczak mener ikke, det er muligt, med rimelig sandsynlighed at forudsige, om et barn vil udvikle alvorlige trivselsproblemer om et år og tilføjer, at man desuden aldrig kan slutte fra statistik til det enkelte tilfælde.
Hun siger til Arbejderen:
– Socialvidenskaben er ikke i stand til med sikkerhed at vise, hvordan sociale problemer opstår. Det kan godt være, hvis du profilerer alle de børn, som bliver anbragt, så kommer mange af dem måske ikke til tjek hos lægen, og forældrene var måske arbejdsløse. Men det er ikke det samme som at sige, at alle børn, hvor de faktorer er til stede, vil udvikle problemer.
Hun nævner et eksempel, der tydeligt viser, at en algoritme ikke kan erstatte socialrådgiverens møde med familierne, og at fagpersonens iagttagelser kan blive en vigtig del af sagen. En nybagt mor havde selv lagt ud for sin hjemmefødsel hos en privat jordemoder og søgte udgiften dækket i socialforvaltningen. Denne udgift hører ikke ind under socialforvaltningens udbetalingsområde, og moren havde derfor blot fået et afslag, hvis sagsbehandlingen kun var foregået digitalt. Moren mødte dog op på socialforvaltningen med barnet i en sportstaske, hendes adfærd var lidt påfaldende, og barnet var sultent og uden overtøj. Det personlige møde medførte, at mor og barn kunne få den nødvendige hjælp.
Helle Antczak er bekymret for, at kommunerne, hvis algoritmen indføres, kommer til at bruge en masse energi på familier, der ikke har brug for hjælp, frem for de bunker af sager med aktuelle problemer, som hober sig op.
Hun er også bekymret for, at henvendelser fra kommunen til borgere med oplysning om mulige, fremtidig mistrivsel, som er udregnet af en algoritme, vil kunne skade borgeres tillid til kommunen.
– Jeg ville jo blive rasende, hvis jeg af en algoritme var blevet udpeget til at komme op til samtale, og mine børn ikke havde problemer, lyder det fra Helle Antczak.
Hun frygter også, at forældre vil være mere tilbageholdende med oplysninger til det offentlige eller for eksempel sende deres barn sygt i skole for at undgå for meget sygefravær, hvis de har fået forklaret, hvordan en algoritme kan udpege trivselsproblemer.
Helle Antczak har et alternativ:
– Hvis kommunerne oplever, at de bliver for sent opmærksomme på de børn, der har brug for hjælp, så skulle de hellere sætte ind med efter- og videreuddannelse af det personale, som til dagligt er i berøring med børnene, og forbedre samarbejdsstrukturerne mellem socialforvaltning og eksempelvis vuggestuerne og den kommunale tandpleje.
Transparens
Alle borgere skal, ifølge loven, have adgang til en juridisk forklaring på, hvad der ligger til grund, når det offentlige træffer en beslutning, som borgeren er en del af.
Thomas Hildebrandt er professor ved Datalogisk Institut på Københavns Universitet. Han har tidligere kritiseret, at borgerne i “Underretninger i fokus-projektet” ikke blev oplyst om, at personfølsomme oplysninger om dem var en del af et forskningsprojekt.
– Jeg kunne godt tænke mig at spørge forskerne bag, om de har undersøgt, om sagsbehandlere og borgere synes, at en sådan model giver en brugbar forklaring på, hvorfor en borger f.eks. kommer i risikogruppe syv, og hvad syv betyder, udtalte han i fagbladet Ingeniøren?
Michael Rosholm svarede samme sted, at han mener, at Thomas Hildebrandts kritik er relevant, og at kravet om transparens bliver inddraget i projektets tredje og sidste fase. Her vurderes det også, om socialrådgivere og forældre vil opleve modellen som egnet til sit formål og som hjælpsom. Det vil blandt andet ske ved, at der sammen med modellens risikovurdering vil være et ark indeholdende de data, som modellen anvender. Han tilføjer:
– Det vil således være tydeligt for socialrådgiveren såvel som borgeren, hvilke data, der er anvendt i modellens beregning, og det vil derfor også være muligt at tjekke, om der er fejl i data. Samtidigt giver dette dataark både socialrådgiver og borger mulighed for at udfordre risikovurderingen.
Projektet forventes færdigt i 2023, og først til den tid vil det vise sig, om algoritmen er brugbar og kan komme i anvendelse i landets familieafdelinger.
Kan du lide, hvad du læser?
Det koster penge at lave progressiv journalistik. Kun med din støtte kan Arbejderen fortsat udgive frit tilgængeligt journalistisk indhold af høj kvalitet.
