Kedelig bog om spændende emne

Giver udviklingen inden for kunstig intelligens og det offentliges omfattende viden om os reelt mulighed for, at vi havner i en dystopisk overvågningsstat, der ender med at træffe uretmæssige beslutninger?

En del af svaret finder vi måske i Holland, der har været gennem en stor skandale, hvor tusindvis af familier tilsyneladende havde modtaget børnepenge uretmæssigt. Regeringen udstak et massivt antal bøder og krævede pengene betalt tilbage. Det, borgerne ikke vidste, var, at opkrævningerne blev foretaget af en algoritme, der baserede sig på, hvilken type borger man på forhånd kunne forvente ville snyde, og det var typisk borgere med udenlandsk baggrund i bestemte boligområder og mange børn.

Flere blev tvunget fra hus og hjem, og det var i mange tilfælde uberettiget, for algoritmen lavede fejl, og ingen greb ind, før skaden var sket. På grund af algoritmens udformning var der bl.a. en racemæssig skævhed i afgørelserne, som førte til forkerte vurderinger. Regeringen måtte trække sig, og til og med også bløde en erstatning på over 10 mia. kr. til de berørte borgere.

Denne skandale er et vigtigt afsæt for bogen ’Fra velfærdsstat til overvågningsstat’ ­– en antologi redigeret af Politikens internationale redaktør Michael Jarlner og it-rådgiveren Kim Escherich.

Det er naturligvis afgørende, hvordan staten benytter de uhyrlige datamængder, som myndighederne har samlet sammen om os. Næsten alle danskere har internet og bredbånd, myndigheder har i stigende grad udviklet velfungerende, sikre og brugervenlige selvbetjeningsløsninger, og med CPR-registeret ved staten mere om os, end de fleste er klar over. Danmark er et digitalt slaraffenland, men det er også en fordel for borgerne, der eksempelvis via NemID nemt kan tilgå offentlige og private ydelser.

Det ligger ligefor at udnytte disse data og ved hjælp af kunstig intelligens målrette serviceydelser og sagsbehandling. Dermed kan det offentlige sætte ind, hvor behovet er størst.

Men hvad hvis vi havner i den hollandske fælde, hvor ingen holder øje med algoritmerne?

Det er fristende for politiet at sætte deres ressourcer ind netop der, hvor data kan påvise, at kriminalitet opstår – såkaldt predictive policing – men risikoen er, at det som i USA ender med, at det navnlig er farvede, der bliver anholdt. Det kan grave dybe kløfter, hvis politiet kun er synlig de forventede steder, og hvis borgerne bliver udsat for vilkårlige beslutninger og uretfærdig sagsbehandling.

Skrækscenariet er Kina

Skrækscenariet er Kina, hvor et socialt belønningssystem baseret på styrets kendskab til borgernes data er helt afgørende for individets rettigheder. Ytrer man sig forkert eller gør det dårligt på jobbet, risikerer man straf og vice versa.

Men også i Europa er mange forfærdede over amerikanske techgiganter som Facebook, Amazon og Google, som vi helt frivilligt overdrager vores data til, hvorefter de bliver udnyttet kommercielt. EU forlanger, at techgiganterne overholder europæiske regler for databeskyttelse, så adgang til data er nu en moderne krigsskueplads.

Kun få mistænker som udgangspunkt staten for at have dunkle motiver, men med teknologien og adgangen til den store mængde data, skal det offentlige holde sig selv i stram snor.

Alt dette kunne sagtens have dannet bagtæppe for en spændende bog, men den er desværre en tung omgang at komme igennem. Bortset fra en sag om forudsigelse af langtidsledighed, der skulle have ført til diskrimination, kender vi ikke til konkrete eksempler på hverken brug eller misbrug her i Danmark, og bogen gør os ikke meget klogere, måske fordi bidragyderne ikke selv har tilstrækkelig erfaring med offentlig forvaltning. Derfor ender det alt for ofte i spekulationer og kedelig formidling.

Desuden lider bogen af, at der ikke er noget, der binder de otte bidrag sammen. Det er artikler, der hver for sig kunne være trykt i DJØF-bladet.

Skulle det endelig være, spørger man sig selv, hvorfor der ikke var nogle tidligere chefer fra Socialstyrelsen eller Kriminalforsorgen, der kunne bidrage med erfaringer fra det virkelige liv, frem for de otte udvalgte, der navnlig har journalistiske og forskningsmæssige kompetencer.

Med flere praktikere kunne vi have fået en konstruktiv debat om, hvordan vi øger kvaliteten i sagsbehandlingen herhjemme, for det er jo ikke sådan, at afgørelser truffet af mennesker nødvendigvis er bedre end det, maskinerne kan præstere. Tænk bare på sagen om en dansk stjerneforsker, der måtte opgive at bosætte sig med sin kone og børn i Danmark, fordi han ikke havde færdiggjort gymnasiet i Danmark. Tror man, at kun en maskine kan træffe en så gennemført tosset beslutning, tager man fejl.

Bogen blev anmeldt af Joachim Sperling, direktør Axcelfuture

Læs mere

Lær storytelling fra bunden i ny bog

68 gode råd om hjemmearbejdet er 60 råd for mange

Ledelse i det offentlige har brug for flere redskaber

Hvordan balancerer lederen mellem kaos og kontrol?

Absolut Strategi er en eksplosion af viden og visioner for det strategiske arbejde

Lær at sige det hårde på en blød måde

Gennemresearchet bog om LEGO læser nærmest sig selv

Sådan genstarter man fællesskabet

Intet slår passionen, den gode idé og en vodkatonic

Bedrevidende bog om den finansielle sektor vil irritere målgruppen

Brug din fantasi som arbejdsredskab – hvis du kan

God ledelse: Stadig ikke noget klart svar!

Er din organisation klar til ‘new normal’? Ny bog er den bedste strategibog længe

Livet er for kort til et ulykkeligt arbejdsliv

Manglende mod koster