Landet rundt
EU-kommissionen vil i et nyt udspil forbyde “farlig brug af kunstig intelligens” og opstille regler for, hvordan det må bruges. IT-Politisk Forening og dagbladet Politiken mener, at udspillet er for slapt, mens Dansk Erhverv og Dansk Industri (DI) finder, at det er for skrapt.
EU-kommissionens næstformand med ansvar for digitalisering, Margrethe Vestager, fremsatte den 21. april lovforslaget, som stiller krav til, hvordan kunstig intelligens og algoritmer må bruges. Reglerne skal både gælde for det offentlige og private arbejdsmarked, og overtrædelser af reglerne skal kunne straffes med bøder på op til seks procent af private virksomheders globale omsætning.
– Det kan for eksempel være talende legetøj, der tilskynder børn til en farlig adfærd, nævnte Margrethe Vestager ved præsentationen af lovforslaget som eksempel på noget, der ifølge lovforslaget ville blive forbudt.
Teknologier som ansigtsgenkendelse vil også blive forbudt. Dog vil der være hele 32 undtagelser for forbuddet. Undtagelserne vedrører blandt andet identificering af personer, som er mistænkt for terrorisme, og børn, som er forsvundet, hedder det.
Udspillet opstiller desuden regler for, hvordan anden kunstig intelligens og algoritmer må anvendes. Blandt andet må brugen af dem ikke kunne medføre diskrimination, forlyder det.
For slapt eller for skrapt?
Jesper Lund er formand i IT-Politisk Forening, som har som sit formål at øge befolkningens viden om it og at modarbejde øget overvågning og social kontrol i samfundet. Han siger til Arbejderen:
– EU-kommissionens udspil er et skridt i den rigtige retning, men det går på flere punkter ikke langt nok. Vi er i IT-Politisk Forening glade for Kommissionens forslag til lovgivning om ansigtsgenkendelse, men forslaget rummer en lang række undtagelser, og her ærgrer vi os over, at man ikke er parat til at gå langt nok.
Som eksempel nævner Jesper Lund, at den foreslåede lovgivning ikke omhandler regulering af brug af ansigtsgenkendelse i private virksomheder.
Også dagbladet Politiken mener, at EU-kommissionen “gerne måtte være gået længere, ikke mindst i reguleringen af den private sektor, der også er flittig bruger af ugennemskuelige algoritmer.” Sådan skriver dagbladet i en leder fra den 25. april.
I Dansk Erhverv ser man positivt på, at EU tager initiativ til, at der reguleres på området, men man mener samtidigt, at virksomhederne allerede er gode til at tage ansvar, og at der bør reguleres mindre, end EU-udspillet lægger op til.
– Reguleringen må ikke gå for vidt og kvæle de erhvervsmuligheder, kunstig intelligens giver os, og det ser vi desværre tegn på i det udspil, der er kommet, udtaler markedsdirektør Anders Thomsen på i Dansk Erhvervs hjemmeside.
Læs også
Indland
Efter kritik af algoritmer på jobcentrene
Forskere vil lave ny algoritme til hjælp for sagsbehandlerne og de arbejdsløse
Heller ikke i arbejdsgiver- og erhvervsorganisationen DI er der begejstring for EU-kommissionens forslag.
– Disse krav gør Dansk Industri nervøs for, at virksomhederne pålægges tunge administrative byrder, fortæller Rikke Hougaard Zeberg, som er branchedirektør i DI Digital på organisationens hjemmeside.
Algoritmer væltede den hollandske regering
EU-kommissionens forslag kommer efter flere skandalesager med kritisabel brug af algoritmer og kunstig intelligens. Blandt andet måtte den hollandske regering ifølge Politiken gå af i januar, efter at det kom frem, at mere end 26.000 familier, hovedsageligt med ikke-hollandske rødder, uretmæssigt var blevet beskyldt for at have snydt med børnepengene. De mange familier blev udsat for den urimelige beskyldning, fordi en algoritme ved brug af store mængder data fejlagtigt havde udpeget dem.
Retssagen om sagen, som medførte regeringens afgang, afslørede, at de offentlige myndigheder har særlig forkærlighed for at bruge – og misbruge – algoritmer til kontrol af lavindkomstfamilier, herunder familier med anden etnisk baggrund.
EU-kommissionens forslag vil helt forbyde brugen af algoritmer og kunstig intelligens i forbindelse med myndigheders segmentering af udsatte grupper i relation til udbetaling af offentlige ydelser, såfremt algoritmerne ikke er transparente og tilgængelige for offentligheden, fremgår det af udspillet.
Teknologisk ansigtsgenkendelse med fejl
Biometriske teknologier som ansigtsgenkendelse og andre typer informationer om vores kroppe og adfærd kan – ud fra aktiveret billedmateriale – lave beregninger, som med høj sandsynlighed kan identificere en person. Teknologierne bruges allerede mange steder, og EU-kommissionen vil også – på baggrund af skandalesager – skærpe lovgivningen på dette felt.
Politiet i Detroit arresterede for eksempel ifølge fagbladet ING/version2 sidste år den forkerte mand på baggrund af et fejlagtigt match i politiets ansigtsgenkendelsessoftware. Manden blev beskyldt for at have stjålet fem ure, fordi billedet i hans kørekort matchede billeder på et overvågningskamera. Under afhøringen blev det imidlertid klart, at manden ikke var den skyldige.
Ansigtsgenkendelse har i den seneste tid været diskuteret i USA i forbindelse med Black Lives Matter-demonstrationerne. Det er således dokumenteret, at teknologien oftere tager fejl, når det handler om ikke-hvide personer. Manden fra Detroit i ovennævnte eksempel er sort.
Læs også
Indland
Big data på vej ind i socialrådgiveres arbejde
Forskningsprojekt undersøger om en algoritme kan medvirke til opsporing af børns mistrivsel
Ansigtsgenkendelse bliver også brugt flere steder i Europa. Italienske myndigheder har ifølge IT-Politisk Forening tidligere målrettet biometriske overvågningssystemer mod migrantsamfund i byen Como og forsøger nu at indføre dem i andre byer, selv om brugen af teknologierne er ulovlige.
IT-Politisk Forening kan også oplyse, at der i Frankrig har været ført retssager mod brug af biometrisk overvågning i gymnasier og af demonstranter. I Danmark blev det tilladt at anvende teknologisk ansigtsgenkendelse i forhold til tilskuere på Brøndby Stadion i 2019.
Jesper Lund fortæller på foreningens hjemmeside, at den danske databeskyttelseslov har meget omfattende undtagelser, som gør det nemt for private virksomheder og offentlige myndigheder at udbrede ansigtsgenkendelse i Danmark.
Han mener, at den bedste chance, for at få bugt med de mange undtagelser er, hvis så mange danskere som muligt tilslutter sig et borgerinitiativ i form af en underskriftsindsamling, som European Digital Rights har startet. Målet er at indsamle en million underskrifter i mindst syv EU-lande.
Fire kategorier af risiko
EU-kommissionens forslag om regulering inddeler kunstig intelligens i fire kategorier alt efter risikoen. Kommissionen vil helt forbyde at bruge kunstig intelligens, der udgør en klar trussel mod liv, sikkerhed og borgerlige rettigheder. Herunder er de systemer, der bruges til at manipulere brugerens adfærd og omgå brugerens frie vilje.
Ansigtsgenkendelse i det offentlige rum skal som udgangspunkt være forbudt. Men der er som ovenfor nævnt 32 undtagelser for forbuddet.
Systemer med ‘høj risiko’ omfatter offentlige myndigheders sagsbehandling. Det er systemer, der sorterer i ansøgninger om uddannelse, job og banklån samt køretøjer. Der bliver stillet en række krav til systemer i den kategori.
Kravet til systemer med ‘begrænset risiko’ er, at de skal være åbne. For eksempel skal det være klart for brugeren, når de taler med en robot og ikke et menneske.
Der vil ikke med Kommissionens forslag blive stillet krav til systemer med ‘minimal risiko’. Det omfatter for eksempel videospil og spamfiltre. Langt de fleste systemer falder i den kategori, vurderer Kommissionen.
Afgørende for reglernes effektivitet i praksis bliver, hvordan de bliver håndhævet. Sikring af borgernes rettigheder skal varetages af de nationale datatilsyn. Politiken har tidligere beskrevet, at vort hjemlige “Datatilsynet” i år og i de kommende år skal beskæres. Dette skyldes, at tilsynet i lighed med andre offentlige arbejdspladser er ramt af omprioriteringsbidraget, som årligt medfører en besparelse på to procent.
Kan du lide, hvad du læser?
Det koster penge at lave progressiv journalistik. Kun med din støtte kan Arbejderen fortsat udgive frit tilgængeligt journalistisk indhold af høj kvalitet.
