Kritik af halehæng til Frankrig
I over halvdelen af kommunerne (54) mener man, at samkøring af data vil komme til at finde sted inden for de næste fem år (Helle A)
Træffe beslutninger fordi man har gjort det i lignende sager
Sandsynlighedsberegning vil altid være usikker baggrund
Beslutningsstøtte bliver let til beslutningstagning
Prædiktion, når bare man har data nok. Systemets følsomhed-rammer man de familier, som har brug for hjælp-Specifitet-rammer man forkerte familier-basistal eller prevalens Hvor almindeligt er fænomenet i befolkningen som helhed.
Socialrådgiveren iagttager borgeren og bemærker en trækning om munden. Eller en nervøs kløen på håndleddet. Eller en anspændt træthed. Hun bemærker udtrykket i et barneansigt, der ikke får den ønskede respons fra moderen. Eller hun spiler næseborene op og fornemmer lugten af alkohol.
når det drejer sig om sårbare børn og
sårbare voksne, er enhver standardisering uetisk – i den helt
elementære forstand, at et menneskes situation hele tiden
ændrer sig, og netop dét er det den professionelle rådgivers
opgaver at holde øje med. Tilgodeser ikke håb, bryde mønster.
Helle Antczak refererer til erfaringer fra kriminalforsorgen i England og
USA, hvor socialarbejderne stort set aldrig går imod
de forslag, som algoritmen
kommer med om blandt andet prøveløsladelser.
- Man kan godt finde nogle generelle sammenhænge, men selv om noget
har virket godt for andre børn, der har
de samme karakteristika, så er det ikke
sikkert, at det virker for lille Peter, som
sidder her foran os. Der kan være 100
ting i den kontekst, han er i, som gør,
at der skal noget andet til i lige præcis
hans tilfælde, siger Helle Antczak.
- Men man kan ikke bedømme, om
- det er rigtigt at anbringe et barn, eller
- om en voldsramt familie skal have familiebehandling, eller om mor og børn
- skal på krisecenter på baggrund af tidligere afgørelser i lignende sager, siger
- Helle Antczak.
Hvis man vil vurdere det, kræver
det, at man kender virkningen af de
tidligere afgøre.
Den kan i de fleste tilfælde først
vurderes lang tid efter, og man kan
ikke bedømme, om det var familieplejen til barnet eller pladsen på krisecenteret, som i det lange løb gav en forbedring, eller om det var forhold helt uden
for det offentliges radar som nye venner eller en kæreste, som var skyld i
forandringen, siger hun.
At sammenligne kunstig intelligens med en hjerne, hvor man heller ikke kan se, hvad der foregår holder ikke.
Den samme kritik gælder de algoritmer,
som skal forudsige, hvilke borgere der statistisk set vil udvikle sociale problemer. Vi
har dels for megen tillid til de data, der allerede ligger i det offentlige, dels for megen
tiltro til teknologierne, mener Hanne Marie Motzfeldt. Men hertil kommer problemer med datasikkerheden og helt grundlæggende rettigheder som privatlivets fred.
Det prædiktive er det allermest problematiske:
IT-løsninger skal bygges sammen med dem, der skal forvalte dem og med dem, der skal bruge dem – ellers kan man let komme til at bygge løsningen på noget, der ikke var et problem. Det er ikke nok at sige, at vi er digitaliseringsparate, pointerede adm. direktør i Dansk Design, Center Christian Bason. Skal vi være digitale i praksis, skal vi tage embedsmændenes virkelighed alvorligt, vise dem empati og give dem ressourcer og mandat til at kunne arbejde digitalt og fleksibelt.
I en skelsættende bog om denne artikels emne, Automating Inequality42 beskriver Virginia Eubanks ligefrem,
hvordan den algoritmiske sagsbehandling i en række amerikanske stater har rødder tilbage i kontrolsystemer fra slutningen af 1960’erne, altså fra it-systemernes allertidligste år.
Pointen er væsentlig, fordi den underbygger en indsigt, som
ofte er fraværende i debatten om nye teknologier: at de er designet af mennesker (organisationer og virksomheder), med
vægt på ganske bestemte funktioner. De er ikke bare faldet ned fra himlen
Funktionerne er i de amerikanske tilfælde mest af alt:
kontrol. I de samme år, som bevægelsen for nationale velfærdsrettigheder kæmpede for – og fik gennemført – et princip om ensartet, lige adgang til offentlige hjælpeydelser,
voksede den politiske modvilje imod velfærdsstatslige reguleringer (delvis i sammenhæng med 70’ernes økonomiske recession). Derfor kunne forvaltningsbureaukratiet introducere
massiv administrativ teknologi med det formål at sikre mod
misbrug og uberettigede ydelser
At sammenholde faktuelle forhold i en borgers sag med
faglige eller retslige kriterier inden for servicelovens område, regnes normalt for at være en central del af en individuel sagsbehandling. Og det har bestemt ikke noget med “store
mængder data” at gøre. Det har derimod noget at gøre med
at opnå indsigt i de komplekse sociale, psykologiske og familiemæssige vilkår, der tilsammen konstituerer borgerens livssituation – og at sætte dem i relation til de retslige rammebetingelser
Hovedparten af den hjælp, man som borger kan få adgang til via Serviceloven, tildeles ud fra elastiske og ikke faste kriterier – f.eks. kriteriet ’behov for særlig støtte’ eller
’betydelig nedsat funktionsevne’; det indebærer, at der skal
foretages en fagligt funderet vurdering, et jugement44.
Det er endvidere højst bemærkelsesværdigt, at KL’s
analyse er udarbejdet og formuleret af konsulentfirmaet Da-
“Hverken algoritmen
eller socialforskningen
er i stand til at
indfange den
komplekse kontekst,
der er knyttet til
Amalies og hendes
forældres samlede
sociale miljø”UDENFOR NUMMER 39 2019 13
reDisrupt. KL har brugt 730.000 kroner på rapporten, hvor
DareDisrupt blandt andet roser det skandaleramte og nu likviderede Cambridge Analytica for sit arbejde med dataanalyser og kunstig intelligens under valgkampagner for blandt
andet Donald Trump og Brexit. Rapporten foreslår, at metoderne fra Cambridge Analytica skal spredes i fremtidens Danmark.
Hvad sker der hvis henvendelser er digitale? Hvad se en rådgiver og hvad ser hun ikke? Hvad forstår borgeren og hvornår opgiver han?
Mig: Er der en indbygget modsætning i at alt det som afviger, er et særligt eksempel skal behandles med en skabelon, som kan bruges til alt og alle? Lovgivningen ændrer sig hyppigt, så det skal skabelonen også. Samtidigt med, at
Kan du lide, hvad du læser?
Det koster penge at lave progressiv journalistik. Kun med din støtte kan Arbejderen fortsat udgive frit tilgængeligt journalistisk indhold af høj kvalitet.
