Det var en varm og fugtig aften, søndag den 19. juli, 2015, i Cincinnatti, Ohio. Termometeret havde ramt 31 grader om eftermiddagen, og svævede stadig omkring 27 grader. Ray Tensing var en 25 år gammel politibetjent ansat ved universitetet. Han må have svedt, mens han kørte sin patrulje, i kvartererne rundt om campus. Klokken halv syv stoppede han en bil, som kørte uden nummerplade. I bilen sad den 43-årige Samuel DuBose. Tensing bad DuBose om at vise sit kørekort. Det afviste DuBose, formodentlig fordi han var blevet frakendt kørekortet. Efter et kort skænderi forsøgte Tensing at få DuBose til at stå ud af bilen, men idet han åbnede døren, begyndte DuBose at starte motoren. DuBose havde siddet i fængsel i 2005 for at smugle marihuana. Han agtede antageligt at stikke af, fordi han havde marihuana i bilen, og frygtede igen at skulle i fængsel. Det kom han imidlertid ikke. Få sekunder senere var DuBose død.
Den officielle forklaring var efterfølgende, at Tensing forsøgte at række ind i bilen, for at stoppe DuBose, at hans arm sad fast i rattet, og at DuBose begyndte at køre, så at Tensing blev slæbt efter bilen. I denne situation, lød forklaringen, trak Tensing sin pistol og skød DuBose i selvforsvar. Det er sikkert, at Tensing affyrede ét skud, og at dette skud ramte Dubose i hovedet på klods hold. Han døde næsten øjeblikkeligt, selvom hans bil fortsatte med at køre 120m, før den ramte en lygtepæl og stoppede.
Sagen kunne sagtens være endt som mange andre sager. Tensing, en hvid politibetjent, skød og dræbte en ubevæbnet sort mand, og forsvarede sine handlinger ved at hævde at han skød i selvforsvar. I mangel på meget stærke beviser for det modsatte, ville Tensings forklaring formodentlig være blevet accepteret, og han ville fortsat være politibetjent. Som enhver der har fulgt USAs politik de seneste 10 år vil vide, så har der været en stribe af sådanne sager. Sådan gik det imidlertid ikke.
Det særlige ved Tensings drab af DuBose var nemlig, at hele forløbet blev optaget af Tensings kropskamera. 10 dage efter drabet frigav myndighederne videoen, som kameraet havde optaget. Den viser, at Tensing trækker sin pistol før motoren starter, at hans arm ikke sidder fast, at han ikke bliver slæbt efter bilen, og at han skyder i samme øjeblik bilen sætter i gang. I lyset af disse beviser blev Tensing fyret, og efterfølgende sigtet for mord. Det er et usædvanligt resultat, også selvom to retssager efterfølgende frikendte Tensing, fordi juryen ikke kunne nå til enighed (en såkaldt "hung jury").
Et kropskamera er et lille videokamera, som kan optage lyd og billede, og som kan sættes fast på for eksempel brystet eller skulderen af en politibetjent. De bruges i dag i mange politikredse verden over, blandt andet i USA, Canada, UK, Australien, Kina, Frankrig, Spanien, Tyskland, Holland, Italien og Finland.
Fortalere for kropskameraer fremhæver sager som Tensings drab på DuBose, som et af de vigtigste argumenter for, at politibetjente bør udstyres med sådanne kameraer. I mange sager, hvor politibetjente angiveligt har anvendt unødvendig og uproportionel magt, har det været meget vanskeligt, at føre bevis for dette. Kropskameraer kan dokumentere både magtanvendelsen, og situationen hvor der blev brugt magt, således at upartiske myndigheder kan vurdere, om magtanvendelsen var rimelig og velbegrundet. Det betyder, at det bliver langt mere sandsynligt, at politibetjente som anvender ulovlig magt kan straffes. Men også, og måske endnu vigtigere, at politibetjente derved får en meget stærk tilskyndelse, til ikke at anvende unødvendig eller uproportionel magt.
Men der er også andre argumenter for brugen af kropskameraer. Først og fremmest, så kan adgangen til video-beviser også hjælpe politi og anklagemyndigheder. Dels med at føre bevis i strafferetslige sager, når en person har begået en forbrydelse, som kameraet har filmet. Det kan for eksempel være tilfældet ved overfald på en politibetjent. Men også ved at føre bevis for at politibetjente ikke har handlet forkert, når der rejses ubegrundede klager mod betjente. Også i den situation kan man forvente, at visheden om, at der findes videobeviser kan have en afskrækkende effekt, således at mange grundløse klager droppes før de overhovedet bliver til en sag.
Endelig så forventer en del kriminologer, at de to første typer effekter vil have gavnlige afledte effekter, for eksempel i form af øget tillid til politiet og bedre samarbejde mellem politi og borgere.
Er der evidens for, at brugen af kropskameraer har disse gavnlige effekter? Ja, omend den ikke er så stærk, som man kunne ønske sig. En række studier især i USA og UK har fulgt introduktionen af kropskameraer i forskellige politikredse, og systematisk sammenlignet politiarbejde med og uden kropskameraer (systematisk review her). Der er relativt god evidens for, at brugen af kropskameraer reducerer antallet af klager mod politibetjente. Der er også rimelig evidens for, at brugen af kropskameraer hjælper med at føre bevis i nogle sager, og fører til små forbedringer i forholdet mellem politi og borgere. Endelig er der relativt god evidens for, at brugen af kropskameraer reducerer mængden af magtanvendelse, men kun hvis brugen af kameraer er obligatorisk.
Den sidste pointe er central: effekten af kropskameraer afhænger i meget høj grad af hvilken politik som indføres, for hvordan og hvornår de skal bruges. Hvis for eksempel politibetjente kan tænde og slukke kameraerne efter forgodtbefindende, eller hvis det alene er politiet som har adgang til de data, som kameraet gemmer, så forsvinder den afskrækkende effekt, som skulle føre til færre ulovlige magtanvendelser og stærkere tillid.
Omvendt ville en politik om, at kameraerne skulle filme alt, og at alle data skal være frit tilgængelige, rejse meget alvorlige privatlivsproblemer. Det kan for eksempel være vigtigt, at politibetjente kan slukke for kameraet, når de taler med ofre for en forbrydelse, som ikke ønsker at blive filmet. Og det kan være uhensigtsmæssigt, at arbejdsgivere, ekskærester, familiemedlemmer, eller tabloid-journalister har fri adgang til alt video-materiale fra situationer, hvor en person har interageret med en politibetjent.
Selvom der er meget, som taler for brugen af kropskameraer, så kræver det derfor en omhyggelig overvejelse, hvilke retningslinjer, som skal styre deres brug. Disse kan for eksempel tage udgangspunkt i den model, som USAs Civil Liberties Union har udarbejdet, og dertil skele til de politikker, man har indført i vores nabolande.
Til gengæld er der ikke nogen oplagte, gode argumenter for helt at afvise, at indføre kropskameraer. I Danmark har vi ikke desto mindre, med undtagelse af brug af kameraer i fængsler og omkring Christiania, valgt at melde pas.
Indførelsen af kropskameraer blev kortvarigt diskuteret omkring 2014-15. En række politiske partier afviste dengang at indføre kropskameraer med henvisning til, at det krævede en præcis politik for deres anvendelse. Denne politik er, som jeg ovenfor har fremhævet, vigtig, men som politisk begrundelse for ikke at indføre kropskameraer er det et usædvanligt slapt argument. Det er jo netop politikernes ansvar, at fastlægge en sådan politik (forhåbentlig, er man nødt til at tilføje, efter at have konsulteret den relevante fagkundskab). Afvisningen begrundes kort sagt med, at indførelsen forudsætter en opgave, som man selv kan og bør udføre. Det svarer til den vrangvillige teenager, som nægter at stå for at lave pastaen til aftensmad, med den begrundelse, at det at lave pasta kræver, at nogen henter pastaskruerne i køkkenskabet. Den går næppe i de fleste hjem.
Et andet og ligeledes lidet imponerende argument blev fremført af politiforbundets formand, Claus Oxfeldt, som i grove træk sagde, at indførelsen af kropskameraer ville være udtryk for mistillid til politiet, og at man er nødt til at stole på det, som politibetjente siger. Det argument har to indlysende svagheder. For det første, at der kan være mange andre gode grunde til at indføre kropskameraer, end kontrol med politiets adfærd. Som vi så ovenfor kan kameraerne for eksempel også have den effekt. at de beskytter politifolk mod ubegrundede eller chikanerende klager, og de kan levere beviser i strafferetslige sager, for eksempel om vold mod politibetjente.
Det andet problem for argumentet er, at tillid er noget, som kan findes i mange forskellige grader. Vi er ikke tvunget til hverken at have absolut, blind tillid til politibetjente, eller til at have absolut ingen tillid til politibetjente. Det danske politivæsen er efter alt at dømme en exceptionelt professionel og hæderlig organisation. Danske politifolk hører, så vidt vi kan vurdere, til de absolut bedste politikorps i verden, når det drejer sig om at varetage deres forpligtelser redeligt, inklusive at respektere grænserne for magtanvendelse.
Det betyder imidlertid ikke, at danske politibetjente aldrig begår fejl, eller at der ikke findes danske politibetjente, som overtræder reglerne for magtanvendelse. Der findes en række nyere eksempler på sager, hvor politibetjente har ageret på måder, der efter alt at dømme var problematiske eller decideret ulovlige. Tænk bare på Tibet-sagen fra 2012 og 2013, sagen om flyttemanden under COP15 i 2009, sagen om brug af magt mod flygtninge på danske veje i 2015, eller den lidt ældre Tilst-sag fra 2001. Dansk politi modtog da også godt 500 klager over betjentes adfærd i 2018. Selv hvis kun for eksempel 10% af klagerne er begrundede, og vi iøvrigt forestiller os, at alle som kunne klage faktisk klager, så er der altså cirka hver uge en situation, hvor betjentes adfærd er problematisk. Det er således fuldstændig rationelt at nære et vist mål af mistillid til danske politibetjente, og at ønske sig kontrol i form af video-optagelser fra kropskameraer.
Styrket retssikkerhed. Bedre beviser. Reduceret magtanvendelse. Færre klager. Øget tillid. Hvis Justitsminister Nick Hækkerup har lyst til at give dansk politi en julegave, så bliver det svært at finde noget bedre at lægge under træet end de kropskameraer, som mange af dansk politis kollegaer verden over allerede har taget i brug. Jeg skal gerne hjælpe med at binde sløjfen.
----------------------------
For de nørdede: Jeg har en artikel om de etiske perspektiver på politiets brug af kropskameraer, som forhåbentlig snart er på vej ud i tidsskriftet Moral Philosophy and Politics. En midlertidig udgave (pre-print) kan findes her.
torsdag den 5. december 2019
mandag den 6. maj 2019
Paludans ytringsfrihed 3: ressourcer og ytringsfrihedens grundlag
I de to seneste indlæg har jeg beklaget mig over en hel serie pointer, som jeg mener fylder for meget i diskussionen om Paludans ytringsfrihed (og en enkelt, som ikke er sagens kerne, men som alligevel fylder for lidt...), og diskuteret hvornår politiet legitimt kan begrænse ytringsfriheden af hensyn til personers sikkerhed. Jeg konkluderede tentativt, at det kan politiet, når hensynet til personers sikkerhed, som umiddelbart må forstås som den samlede risiko for velfærdstab, vejer tungere end hensynet til at lade en person ytre sig.
I dette (foreløbig...) sidste indlæg kigger jeg på spørgsmålet om ressourceforbrug, samt hvad det egentlig er for et hensyn, som taler for at sikre personers mulighed for at ytre sig.
Pragmatisme, ressourcer og alternativomkostninger
Det andet af de to spørgsmål, som jeg mener udgør sagens kerne, er hvornår politiet legitimt kan begrænse ytringsfriheden som en prioritering af politiets ressourcer. Som vi har set, så har blandt andet SF'eren Carsten Hønge og Politiforbundets talsmand Claus Oxfeldt fremført det synspunkt, at der bør være en grænse for, hvor mange ressourcer politiet afsætter til at beskytte Paludans ytringsfrihed. Omvendt har flere kritikere anført, at dette ville være en urimelig begrænsning, som på problematisk vis sætter pris på ytringsfriheden.
Et første argument for en begrænsning kunne være, at et system der ikke sætter grænser for de ressourcer enkeltpersoner kan lægge beslag på, er i overhængende fare for at bryde sammen af mangel på ressourcer. Det forekommer imidlertid tvivlsomt. Dansk politi og anklagemyndighed havde i 2018 budgetterede udgifter på DKK 11 milliarder, og der var ansat ca. 11.000 danske politibetjente. En dansk politibetjent tjener ca. DKK 35.000 om måneden (inkl. pension og tillæg). Hvis jeg besluttede mig for at holde tre demonstrationer om dagen, 365 dage om året, som i gennemsnit krævede 10 politifolks deltagelse i to timer hver, så kunne jeg lægge beslag på næsten 22.000 timers politiarbejde, eller godt 15 fuldtidsansatte betjente, til en værdi af ca. DKK 6,2 millioner. Selv med denne monomane protestaktivitet, som ville få Rasmus Paludan til at ligne et apatisk sofadyr med et overbelastet Netflix-abonnement i sammenligning, ville politiet fortsat have 99.86% af deres betjente tilbage til det almindelige politiarbejde. Det er således ikke sandsynligt, at dansk politi bryder sammen som resultat af behovet for at beskytte overivrige demonstranter.
Et bedre argument er, at det er uhensigtsmæssigt, at lade enkeltindivider som ønsker at demonstrere diktere, at politiet skal afsætte ressourcer til netop det. Her synes en del deltagere i debatten at overse, at politiets brug af ressourcer har alternativomkostninger. En alternativomkostning er den værdi, som en agent går glip af ved at bruge ressourcerne på én måde, når der findes alternative måder at bruge ressourcerne på, som vil skabe mere værdi eller andre værdier. Et enkelt eksempel er forskellen på at investere i aktie A eller aktie B. Hvis A giver en forrentning på 5%/år, kan købet af den umiddelbart ligne en god forretning. Men hvis B giver en forrentning på 7%/år, så medfører købet af A et tab af 2% ekstra per år, hvilket over tid kan blive til en væsentlig omkostning.
I praksis vil det nogle gange være mest relevant at sammenligne med hvad ressourcerne ellers ville være blevet brugt til, snarere end for eksempel hvad de mest optimalt kunne være brugt til. Problemet i situationen med brug af ressourcer på sikring af Paludans ytringsfrihed er således ikke først og fremmest, at ressourcerne i sidste ende betales af skatteyderne - vi betaler for mange ting, en del af dem antageligt af meget ringe, ingen eller endda negativ værdi - for der er ikke nogen direkte sammenhæng mellem skatteniveauet og de enkelte udgifter. Det er for eksempel ikke tilfældet, at hvis vi forbyder Paludan at demonstrere, så fordeles de sparede ressourcer som skattereduktioner, så at hver af os får råd til en ekstra is i 2020 (eller, mere realistisk, et par gajoller...). Problemet er snarere at ressourcerne går fra de andre væsentlig ting, som vores skattebetalinger finansierer, i praksis fra politiets andre opgaver.
Helt konkret kan vi realistisk forvente, at hver gang en politibetjent skal bruge en dag på at sikre Paludans ytringsfrihed, så er der en dags politiarbejde mindre til at forhindre udsatte unge i at glide ind i bandemiljøet, til at forhindre overfald og slagsmål i nattetimerne i weekenden, til at besøge et hus som har haft indbrud og tale med familien, til at følge op på et spor om hvad der er blevet af en stjålet bil, til at afhøre et vidne som kan give et spor i sagen om et hjemmerøveri, til at køre en mindreårig butikstyv hjem til forældrene, og så videre og så videre. Dette er den faktuelle alternativomkostning ved at bruge politiets ressourcer på proaktivt at sikre Paludans ytringsfrihed.
Hvilken rolle bør sådanne alternativomkostninger spille? Forsvarere for ytringsfrihed hævder ind imellem, at vi ikke bør "sætte pris på ytringsfriheden", og i hvert fald en plausibel måde at forstå det udsagn på er, at det vil sige, at hensynet til alternativomkostninger aldrig kan legitimere en begrænsning af ytringsfriheden. Det ville imidlertid være en fejl at to grunde.
For det første fordi vi sagtens kan forestille os situationer, hvor det er indlysende at det bør de. Som vi så ovenfor er der ingen grund til at tro, at de reele omkostninger ved at garantere Paludans ytringsfrihed vil få systemet til at bryde sammen. Men vi kan sagtens forestille os en (ekstrem og urealistisk) situation hvor dette ville være tilfældet. Og hvis prisen for at sikre én persons ytringsfrihed faktisk var at politiet måtte opgive at sikre den personlige sikkerhed og den private ejendomsret i almindelighed, så er det nok de færreste som vil fastholde, at sådanne omkostninger ikke bør spille nogen rolle.
For det andet, så er det grundlæggende de samme hensyn som er på spil i denne type afvejning, som i spørgsmålet om sikkerhed og risici ovenfor. Grunden til at politiet i nogle tilfælde legitimt kan begrænse ytringsfriheden med henvisning til risici er at det er rimeligt, at hensynet til velfærd bør spille en rolle. Men alternativomkostningerne er også velfærdshensyn - de opgaver, som politiet må bruge færre ressourcer på, fordi de skal beskytte en demonstration, er også opgaver som i sidste ende har til formål at beskytte eller fremme menneskelig velfærd. Hvis man vil fastholde, at alternativomkostninger ikke bør spille nogen rolle, så må man altså forklare, hvorfor velfærdshensyn spiller en rolle i den ene situation, men ikke i den anden. Det forekommer mildt sagt vanskeligt at finde på en troværdig forklaring af denne type.
Hvis ikke der er en sådan forskel, så må udgangspunktet også være det samme: vi bør sikre ytringsfriheden, når de hensyn som taler for det vejer tungere end de omkostninger det har, og vi kan omvendt legitimt begrænse ytringsfriheden eller undlade at afsætte ressourcer til at sikre den, når omkostningerne ved at gøre det overstiger vægten af det hensyn som taler for. Derved er vi tilbage ved det måske mest grundlæggende spørgsmål i hele sagen: hvorfor egentlig ytringsfrihed?
Hvorfor ytringsfrihed? Hvorfor til Paludans provokationer?
Ytringsfrihed tages så ofte for givet, at det er overraskende svært at finde et reflekteret og detaljeret forsvar for den. Selv indenfor forskningen er det meste af diskussionen mest fokuseret på at overveje hvilke grænser ytringsfriheden har, snarere end på at definere et grundlag for den, for eksempel om pornografi eller hadtale skal undtages (SEP giver som altid et fornemt overblik). Og når den skal forsvares politisk eller i den offentlige debat, foregår det oftest på skåltale-niveau: "Ytringsfriheden er en central rettighed i et demokratisk samfund". Sådanne udsagn er gode til at skabe følelsesladet opbakning, men komplet utilstrækkelige som egentlige forklaringer.
Det skyldes at de er en særlig slags cirkelslutninger, det som på engelsk kaldes "begging the question". Det er jo meget muligt at ytringsfriheden er en central rettighed i et demokratisk samfund, men hvorfor er den det? Og hvorfor er det iøvrigt at noget, som er en central rettighed i et samfund af den type, er vigtigt? En udmærket øvelse i sådanne situationer er at spørge, om argumentet kan bestå Marsbo-testen: ville en lille, grøn Marsboer, som ikke deler vores værdier og forforståelser, forstå og acceptere argumentet? For langt de fleste almindelige slogan-forsvar for ytringsfrihed, er svaret et entydigt "nej".
Et lidt mere substantielt og relativt almindeligt argument er noget i retning af (det formuleres sjældent præcist), at mennesker i almindelighed har ret til så meget frihed som muligt, at dette omfatter friheden til at ytre sig, og at staten er forpligtet til at beskytte individers rettigheder. Kald dette for frihedsargumentet. I forskellige former har den overordnede ide i argumentet været central i politisk liberalisme, fra John Locke til John Rawls, hvor det typisk præciseres, at retten til maksimal individuel frihed har netop den begrænsning, at denne frihed skal være forenelig med andre individers frihed.
Uanset hvad man mener om politisk liberalisme iøvrigt (jeg tilstår at jeg ikke er en fan), så løber frihedsargumentet ind i mindst to alvorlige problemer. For det første kan den ikke forklare, at der skulle være en forskel på ytringsfrihed og andre friheder. En begrænsning af ytringsfriheden, eller en undladelse af at sikre den, er i denne optik hverken mere eller mindre problematisk end en begrænsning af friheden til, for eksempel, at bevæge sig omkring, klæde sig på og af, købe og sælge, osv. Men det er ikke sådan vi normalt forstår ytringsfrihed. Vi begrænser individers friheder i utallige henseender uden at det vækker nogen særlig bekymring. Begrænsninger af ytringsfriheden opfattes derimod som en særskilt vigtig begrænsning, som stiller højere krav til begrundelserne, end andre typer begrænsninger.
Det andet problem er, at der er meget stærke argumenter imod ideen om, at individer har en intrinsisk ret til den maksimale frihed, som er forenelig med andres. Det er vigtigt at skelne denne ide fra en nært beslægtet, og langt mere plausibel ide, som også er central i politisk liberalisme: at der er instrumentelle grunde til at sikre individers frihed. Den instrumentelle begrundelse vil i praksis ofte trække i samme retning, eller endda føre til samme konklusion, men har en helt anderledes karakter, og er ikke på spil i frihedsargumentet, som jeg her har formuleret det.
Argumenterne imod en intrinsisk ret til maksimal frihed kan overordnet deles i to. For det første de argumenter, som peger på at vi har brug for en forklaring på hvor denne ret kommer fra. Moralske rettigheder er ikke en slags tryllestøv, som drysser ned fra universet. Når fortalere ind imellem behandler dem sådan bliver de, med Jeremy Benthams udødelige ord, til "nonsens på stylter". På den anden side argumenter som påpeger, at det ville have meget besynderlige konsekvenser, hvis der virkelig var en sådan intrinsisk ret til frihed. Vi kan for eksempel forestille os en situation, hvor alle stilles væsentligt bedre og ingen stilles dårligere, ved en beskeden begrænsning i alles frihed. Givet at det for alle er bedst at få friheden begrænset, synes det umiddelbart at være en god ide. Men hvis der er en intrinsisk ret til frihed, så vil det alligevel være moralsk forkert at gøre det.
Et bedre argument for ytringsfrihed har den karakter som jeg pegede på ovenfor: det fremhæver den juridiske og reele ytringsfriheds instrumentelle værdi. Der er i hvert fald to vigtige argumenter for at ytringsfrihed har instrumentel værdi. Det første, klassisk formuleret af John Stuart Mill, hævder at ytringsfrihed generelt har værdi fordi det giver de bedst mulige betingelser for at øge et samfunds viden. Når alle ytringer er tilladte, har vi bedst mulige chancer for, at sandheden kommer for dagen. Selv falske ytringer har værdi, fordi de tvinger andre til at reflektere over og argumentere for sandheden.
Det andet, og mere kyniske argument, hævder, at ytringsfrihed beskytter især én gruppe ytringer, som dels er vigtige, og dels ellers hurtigt ville blive begrænset: kritik af magthaverne. Muligheden for at afsløre kontroversielle beslutninger, som magthaverne har truffet, for offentligt at argumentere imod deres beslutninger, og for at påvise usandheder, som de har fremsat, er vigtig, fordi den sætter magthaverne under pres for at handle i andres interesser, i stedet for kun i deres egne. Magtkritikken fremmer på denne måde bedre regeringsførelse.
Begge argumenter kan naturligvis diskuteres og udfordres, blandt andet ved at pege på, at der ikke er grund til at tro, at de faktorer de peger på, vil være til stede i alle situationer. Det vil sige, at de instrumentelle argumenter ikke kan forklare, at ytringsfrihed altid er vigtig. Spørgsmålet er så, om det er et problem?
Fra enkeltsituationer til gældende ret
Den sidste, og ret afgørende pointe, når vi taler om ytringsfrihed, er nemlig, at der kan være afgørende forskel på vores vurdering af en enkeltsituation, og vores vurdering af en praksis som også omfatter andre situationer.
Som vi tidligere har diskuteret, så afhænger spørgsmålet om, hvorvidt det i en enkeltsituation er rigtigt at sikre eller begrænse ytringsfriheden af en afvejning mellem på den ene side risici og alternativomkostninger, og på den anden siden de hensyn som taler for ytringsfrihed. I en enkeltsituation vil dette, hvis vi accepterer de instrumentelle begrundelser, som jeg har nævnt ovenfor, være den marginale værdi af ytringens bidrag til den demokratiske debat, enten som epistemisk katalysator, eller som incitament til god regereringsførelse.
I dette (foreløbig...) sidste indlæg kigger jeg på spørgsmålet om ressourceforbrug, samt hvad det egentlig er for et hensyn, som taler for at sikre personers mulighed for at ytre sig.
Pragmatisme, ressourcer og alternativomkostninger
Det andet af de to spørgsmål, som jeg mener udgør sagens kerne, er hvornår politiet legitimt kan begrænse ytringsfriheden som en prioritering af politiets ressourcer. Som vi har set, så har blandt andet SF'eren Carsten Hønge og Politiforbundets talsmand Claus Oxfeldt fremført det synspunkt, at der bør være en grænse for, hvor mange ressourcer politiet afsætter til at beskytte Paludans ytringsfrihed. Omvendt har flere kritikere anført, at dette ville være en urimelig begrænsning, som på problematisk vis sætter pris på ytringsfriheden.
Et første argument for en begrænsning kunne være, at et system der ikke sætter grænser for de ressourcer enkeltpersoner kan lægge beslag på, er i overhængende fare for at bryde sammen af mangel på ressourcer. Det forekommer imidlertid tvivlsomt. Dansk politi og anklagemyndighed havde i 2018 budgetterede udgifter på DKK 11 milliarder, og der var ansat ca. 11.000 danske politibetjente. En dansk politibetjent tjener ca. DKK 35.000 om måneden (inkl. pension og tillæg). Hvis jeg besluttede mig for at holde tre demonstrationer om dagen, 365 dage om året, som i gennemsnit krævede 10 politifolks deltagelse i to timer hver, så kunne jeg lægge beslag på næsten 22.000 timers politiarbejde, eller godt 15 fuldtidsansatte betjente, til en værdi af ca. DKK 6,2 millioner. Selv med denne monomane protestaktivitet, som ville få Rasmus Paludan til at ligne et apatisk sofadyr med et overbelastet Netflix-abonnement i sammenligning, ville politiet fortsat have 99.86% af deres betjente tilbage til det almindelige politiarbejde. Det er således ikke sandsynligt, at dansk politi bryder sammen som resultat af behovet for at beskytte overivrige demonstranter.
Et bedre argument er, at det er uhensigtsmæssigt, at lade enkeltindivider som ønsker at demonstrere diktere, at politiet skal afsætte ressourcer til netop det. Her synes en del deltagere i debatten at overse, at politiets brug af ressourcer har alternativomkostninger. En alternativomkostning er den værdi, som en agent går glip af ved at bruge ressourcerne på én måde, når der findes alternative måder at bruge ressourcerne på, som vil skabe mere værdi eller andre værdier. Et enkelt eksempel er forskellen på at investere i aktie A eller aktie B. Hvis A giver en forrentning på 5%/år, kan købet af den umiddelbart ligne en god forretning. Men hvis B giver en forrentning på 7%/år, så medfører købet af A et tab af 2% ekstra per år, hvilket over tid kan blive til en væsentlig omkostning.
I praksis vil det nogle gange være mest relevant at sammenligne med hvad ressourcerne ellers ville være blevet brugt til, snarere end for eksempel hvad de mest optimalt kunne være brugt til. Problemet i situationen med brug af ressourcer på sikring af Paludans ytringsfrihed er således ikke først og fremmest, at ressourcerne i sidste ende betales af skatteyderne - vi betaler for mange ting, en del af dem antageligt af meget ringe, ingen eller endda negativ værdi - for der er ikke nogen direkte sammenhæng mellem skatteniveauet og de enkelte udgifter. Det er for eksempel ikke tilfældet, at hvis vi forbyder Paludan at demonstrere, så fordeles de sparede ressourcer som skattereduktioner, så at hver af os får råd til en ekstra is i 2020 (eller, mere realistisk, et par gajoller...). Problemet er snarere at ressourcerne går fra de andre væsentlig ting, som vores skattebetalinger finansierer, i praksis fra politiets andre opgaver.
Helt konkret kan vi realistisk forvente, at hver gang en politibetjent skal bruge en dag på at sikre Paludans ytringsfrihed, så er der en dags politiarbejde mindre til at forhindre udsatte unge i at glide ind i bandemiljøet, til at forhindre overfald og slagsmål i nattetimerne i weekenden, til at besøge et hus som har haft indbrud og tale med familien, til at følge op på et spor om hvad der er blevet af en stjålet bil, til at afhøre et vidne som kan give et spor i sagen om et hjemmerøveri, til at køre en mindreårig butikstyv hjem til forældrene, og så videre og så videre. Dette er den faktuelle alternativomkostning ved at bruge politiets ressourcer på proaktivt at sikre Paludans ytringsfrihed.
Hvilken rolle bør sådanne alternativomkostninger spille? Forsvarere for ytringsfrihed hævder ind imellem, at vi ikke bør "sætte pris på ytringsfriheden", og i hvert fald en plausibel måde at forstå det udsagn på er, at det vil sige, at hensynet til alternativomkostninger aldrig kan legitimere en begrænsning af ytringsfriheden. Det ville imidlertid være en fejl at to grunde.
For det første fordi vi sagtens kan forestille os situationer, hvor det er indlysende at det bør de. Som vi så ovenfor er der ingen grund til at tro, at de reele omkostninger ved at garantere Paludans ytringsfrihed vil få systemet til at bryde sammen. Men vi kan sagtens forestille os en (ekstrem og urealistisk) situation hvor dette ville være tilfældet. Og hvis prisen for at sikre én persons ytringsfrihed faktisk var at politiet måtte opgive at sikre den personlige sikkerhed og den private ejendomsret i almindelighed, så er det nok de færreste som vil fastholde, at sådanne omkostninger ikke bør spille nogen rolle.
For det andet, så er det grundlæggende de samme hensyn som er på spil i denne type afvejning, som i spørgsmålet om sikkerhed og risici ovenfor. Grunden til at politiet i nogle tilfælde legitimt kan begrænse ytringsfriheden med henvisning til risici er at det er rimeligt, at hensynet til velfærd bør spille en rolle. Men alternativomkostningerne er også velfærdshensyn - de opgaver, som politiet må bruge færre ressourcer på, fordi de skal beskytte en demonstration, er også opgaver som i sidste ende har til formål at beskytte eller fremme menneskelig velfærd. Hvis man vil fastholde, at alternativomkostninger ikke bør spille nogen rolle, så må man altså forklare, hvorfor velfærdshensyn spiller en rolle i den ene situation, men ikke i den anden. Det forekommer mildt sagt vanskeligt at finde på en troværdig forklaring af denne type.
Hvis ikke der er en sådan forskel, så må udgangspunktet også være det samme: vi bør sikre ytringsfriheden, når de hensyn som taler for det vejer tungere end de omkostninger det har, og vi kan omvendt legitimt begrænse ytringsfriheden eller undlade at afsætte ressourcer til at sikre den, når omkostningerne ved at gøre det overstiger vægten af det hensyn som taler for. Derved er vi tilbage ved det måske mest grundlæggende spørgsmål i hele sagen: hvorfor egentlig ytringsfrihed?
Hvorfor ytringsfrihed? Hvorfor til Paludans provokationer?
Ytringsfrihed tages så ofte for givet, at det er overraskende svært at finde et reflekteret og detaljeret forsvar for den. Selv indenfor forskningen er det meste af diskussionen mest fokuseret på at overveje hvilke grænser ytringsfriheden har, snarere end på at definere et grundlag for den, for eksempel om pornografi eller hadtale skal undtages (SEP giver som altid et fornemt overblik). Og når den skal forsvares politisk eller i den offentlige debat, foregår det oftest på skåltale-niveau: "Ytringsfriheden er en central rettighed i et demokratisk samfund". Sådanne udsagn er gode til at skabe følelsesladet opbakning, men komplet utilstrækkelige som egentlige forklaringer.
Det skyldes at de er en særlig slags cirkelslutninger, det som på engelsk kaldes "begging the question". Det er jo meget muligt at ytringsfriheden er en central rettighed i et demokratisk samfund, men hvorfor er den det? Og hvorfor er det iøvrigt at noget, som er en central rettighed i et samfund af den type, er vigtigt? En udmærket øvelse i sådanne situationer er at spørge, om argumentet kan bestå Marsbo-testen: ville en lille, grøn Marsboer, som ikke deler vores værdier og forforståelser, forstå og acceptere argumentet? For langt de fleste almindelige slogan-forsvar for ytringsfrihed, er svaret et entydigt "nej".
Et lidt mere substantielt og relativt almindeligt argument er noget i retning af (det formuleres sjældent præcist), at mennesker i almindelighed har ret til så meget frihed som muligt, at dette omfatter friheden til at ytre sig, og at staten er forpligtet til at beskytte individers rettigheder. Kald dette for frihedsargumentet. I forskellige former har den overordnede ide i argumentet været central i politisk liberalisme, fra John Locke til John Rawls, hvor det typisk præciseres, at retten til maksimal individuel frihed har netop den begrænsning, at denne frihed skal være forenelig med andre individers frihed.
Uanset hvad man mener om politisk liberalisme iøvrigt (jeg tilstår at jeg ikke er en fan), så løber frihedsargumentet ind i mindst to alvorlige problemer. For det første kan den ikke forklare, at der skulle være en forskel på ytringsfrihed og andre friheder. En begrænsning af ytringsfriheden, eller en undladelse af at sikre den, er i denne optik hverken mere eller mindre problematisk end en begrænsning af friheden til, for eksempel, at bevæge sig omkring, klæde sig på og af, købe og sælge, osv. Men det er ikke sådan vi normalt forstår ytringsfrihed. Vi begrænser individers friheder i utallige henseender uden at det vækker nogen særlig bekymring. Begrænsninger af ytringsfriheden opfattes derimod som en særskilt vigtig begrænsning, som stiller højere krav til begrundelserne, end andre typer begrænsninger.
Det andet problem er, at der er meget stærke argumenter imod ideen om, at individer har en intrinsisk ret til den maksimale frihed, som er forenelig med andres. Det er vigtigt at skelne denne ide fra en nært beslægtet, og langt mere plausibel ide, som også er central i politisk liberalisme: at der er instrumentelle grunde til at sikre individers frihed. Den instrumentelle begrundelse vil i praksis ofte trække i samme retning, eller endda føre til samme konklusion, men har en helt anderledes karakter, og er ikke på spil i frihedsargumentet, som jeg her har formuleret det.
Argumenterne imod en intrinsisk ret til maksimal frihed kan overordnet deles i to. For det første de argumenter, som peger på at vi har brug for en forklaring på hvor denne ret kommer fra. Moralske rettigheder er ikke en slags tryllestøv, som drysser ned fra universet. Når fortalere ind imellem behandler dem sådan bliver de, med Jeremy Benthams udødelige ord, til "nonsens på stylter". På den anden side argumenter som påpeger, at det ville have meget besynderlige konsekvenser, hvis der virkelig var en sådan intrinsisk ret til frihed. Vi kan for eksempel forestille os en situation, hvor alle stilles væsentligt bedre og ingen stilles dårligere, ved en beskeden begrænsning i alles frihed. Givet at det for alle er bedst at få friheden begrænset, synes det umiddelbart at være en god ide. Men hvis der er en intrinsisk ret til frihed, så vil det alligevel være moralsk forkert at gøre det.
Et bedre argument for ytringsfrihed har den karakter som jeg pegede på ovenfor: det fremhæver den juridiske og reele ytringsfriheds instrumentelle værdi. Der er i hvert fald to vigtige argumenter for at ytringsfrihed har instrumentel værdi. Det første, klassisk formuleret af John Stuart Mill, hævder at ytringsfrihed generelt har værdi fordi det giver de bedst mulige betingelser for at øge et samfunds viden. Når alle ytringer er tilladte, har vi bedst mulige chancer for, at sandheden kommer for dagen. Selv falske ytringer har værdi, fordi de tvinger andre til at reflektere over og argumentere for sandheden.
Det andet, og mere kyniske argument, hævder, at ytringsfrihed beskytter især én gruppe ytringer, som dels er vigtige, og dels ellers hurtigt ville blive begrænset: kritik af magthaverne. Muligheden for at afsløre kontroversielle beslutninger, som magthaverne har truffet, for offentligt at argumentere imod deres beslutninger, og for at påvise usandheder, som de har fremsat, er vigtig, fordi den sætter magthaverne under pres for at handle i andres interesser, i stedet for kun i deres egne. Magtkritikken fremmer på denne måde bedre regeringsførelse.
Begge argumenter kan naturligvis diskuteres og udfordres, blandt andet ved at pege på, at der ikke er grund til at tro, at de faktorer de peger på, vil være til stede i alle situationer. Det vil sige, at de instrumentelle argumenter ikke kan forklare, at ytringsfrihed altid er vigtig. Spørgsmålet er så, om det er et problem?
Den sidste, og ret afgørende pointe, når vi taler om ytringsfrihed, er nemlig, at der kan være afgørende forskel på vores vurdering af en enkeltsituation, og vores vurdering af en praksis som også omfatter andre situationer.
Som vi tidligere har diskuteret, så afhænger spørgsmålet om, hvorvidt det i en enkeltsituation er rigtigt at sikre eller begrænse ytringsfriheden af en afvejning mellem på den ene side risici og alternativomkostninger, og på den anden siden de hensyn som taler for ytringsfrihed. I en enkeltsituation vil dette, hvis vi accepterer de instrumentelle begrundelser, som jeg har nævnt ovenfor, være den marginale værdi af ytringens bidrag til den demokratiske debat, enten som epistemisk katalysator, eller som incitament til god regereringsførelse.
Intuitivt kan dette svar virke utilfredsstillende, fordi det umiddelbart sætter tærsklen for legitime indgreb meget lavt. Antageligt er den marginale værdi af mange ytringer i et generelt frit og velinformeret samfund som det danske meget lav, så selv relativt små risici eller alternativomkostninger vil være tilstrækkelige til at legitimere en begrænsning af ytringen.
Imidlertid ser tingene meget anderledes ud, når vi diskuterer en praksis, for eksempel i form af et regelsæt, Det er der to grunde til. For det første, så er den gennemsnitlige værdi af de ytringer, som en bestemt praksis begrænser, typisk langt højere end den marginale værdi af den enkelte ytring. Det betyder at vi skal sætte tærsklen for begrænsninger af ytringsfriheden højere.
Den anden grund kan hentes i spilteorien, og knytter sig helt tilbage til den pointe jeg diskuterede i det første indlæg om Paludans ytringsfrihed, om hvilken rolle det bør spille, at personer reagerer voldeligt. Jeg nævnte der, at volden ikke legitimerer Paludans ytringer. Men hensynet til voldelige reaktioner kan påvirke tærsklen på en anden, lidt mere kompleks måde. Fordi vi nu ikke har at gøre med en begrænsning af en enkeltstående ytring, men med et praksis som skal anvendes for en lang række situationer, så bør vi overveje hvilket incitamenter forskellige tærskler skaber for de, som kunne fristes til at reagere voldeligt. Sætter vi tærsklen lavt, så skaber vi et perverst incitament til at forhindre ytringer man ikke bryder sig om, ved at skabe meget små risici knyttet til disse ytringer (det er, i parantes bemærket, dette, som jeg tror er den mest gavmilde tolkning af de ofte ret uklare påstande om, at vi ikke "må give efter for voldsmændene").
Imidlertid ser tingene meget anderledes ud, når vi diskuterer en praksis, for eksempel i form af et regelsæt, Det er der to grunde til. For det første, så er den gennemsnitlige værdi af de ytringer, som en bestemt praksis begrænser, typisk langt højere end den marginale værdi af den enkelte ytring. Det betyder at vi skal sætte tærsklen for begrænsninger af ytringsfriheden højere.
Den anden grund kan hentes i spilteorien, og knytter sig helt tilbage til den pointe jeg diskuterede i det første indlæg om Paludans ytringsfrihed, om hvilken rolle det bør spille, at personer reagerer voldeligt. Jeg nævnte der, at volden ikke legitimerer Paludans ytringer. Men hensynet til voldelige reaktioner kan påvirke tærsklen på en anden, lidt mere kompleks måde. Fordi vi nu ikke har at gøre med en begrænsning af en enkeltstående ytring, men med et praksis som skal anvendes for en lang række situationer, så bør vi overveje hvilket incitamenter forskellige tærskler skaber for de, som kunne fristes til at reagere voldeligt. Sætter vi tærsklen lavt, så skaber vi et perverst incitament til at forhindre ytringer man ikke bryder sig om, ved at skabe meget små risici knyttet til disse ytringer (det er, i parantes bemærket, dette, som jeg tror er den mest gavmilde tolkning af de ofte ret uklare påstande om, at vi ikke "må give efter for voldsmændene").
Begge disse hensyn taler altså for, at vi når vi skal etablere et regelsæt, som definerer begrænsninger af ytringsfriheden, sætter barren højere, end vi ville gøre, hvis vi blot afvejede hensynene til risici og alternativomkostninger mod hensynet til værdien af ytringer i den enkelte situation. En allersidste pointe er værd at understrege i denne sammenhæng, for man kan fristes til at spørge, om vi ikke blot kunne have en praksis med, at tage stilling fra gang til gang?
Med det spørgsmål kommer vi endelig tilbage til hvorfor det er en central værdi, at staten ikke skelner mellem (især politiske) ytringer, når den skal administrere ytringsfriheden. Det skyldes ikke at alle ytringer er lige gode. Tværtimod - Paludans ytringer er dels latterlige og frastødende, men endnu vigtigere er de efter alt at dømme skadelige, fordi de stigmatiserer og polariserer uden grund eller synlig gevinst.
Det skyldes derimod det forhold, at risikoen ved at lade staten skelne mellem ytringer er langt større end den potentielle gevinst. Hvis først staten får mulighed for løbende at skelne mellem "gode" og "dårlige" politiske ytringer, så er der en overhængende fare for, at den til enhver tid siddende magthaver vil benytte muligheden til at undertrykke legitim kritik. I en stat regeret af engle ville der ikke være nogen grund, til at lade selviscenesættende fjolser udfolde latterlige og frastødende provokationer på en måde som stigmatiserer og polariserer, men i vores verden, hvor vi regereres af kun alt for fejlbarlige mennesker, så er disse provokationer den pris vi betaler, for at beskytte den værdifulde del af den demokratiske debat.
Det skyldes derimod det forhold, at risikoen ved at lade staten skelne mellem ytringer er langt større end den potentielle gevinst. Hvis først staten får mulighed for løbende at skelne mellem "gode" og "dårlige" politiske ytringer, så er der en overhængende fare for, at den til enhver tid siddende magthaver vil benytte muligheden til at undertrykke legitim kritik. I en stat regeret af engle ville der ikke være nogen grund, til at lade selviscenesættende fjolser udfolde latterlige og frastødende provokationer på en måde som stigmatiserer og polariserer, men i vores verden, hvor vi regereres af kun alt for fejlbarlige mennesker, så er disse provokationer den pris vi betaler, for at beskytte den værdifulde del af den demokratiske debat.
torsdag den 2. maj 2019
Paludans ytringsfrihed 2: Sikkerhed, risici og ansvar
Diskussionen om Paludans ytringsfrihed fortsætter, om end på en anelse lavere blus end da Nørrebro stod i flammer. Men der er fortsat for meget fokus på pointer som kun i begrænset forstand er relevante, og meget lidt diskussion af hvad jeg mener er sagens kerne: Hvornår kan politiet legitimt indskrænke Paludans ytringsfrihed af hensyn til hans og andre personers sikkerhed? Og hvornår kan politiet legitimt indskrænke Paludans ytringsfrihed af hensyn til prioritering af politiets ressourcer?
Det første spørgsmål har især været diskuteret, fordi det konkret er denne begrundelse, som Københavns politi har brugt, til at forbyde Paludans demonstrationer. Så prominent en fortaler for ytringsfrihed som Jakob Mchangama har i den forbindelse understreget at dette er lovligt, anerkendt at det er rimeligt, og begrædt at det er nødvendigt.
Det andet spørgsmål har været diskuteret efter at blandt andet SF'eren Carsten Hønge og Politiforbundets talsmand Claus Oxfeldt har hævdet, at det er et problem, at bruge så mange ressourcer på at beskytte Paludan, som tilfældet er.
På samme vis kan Paludans reele ytringsfrihed - hans mulighed for at ytre sig uden at risikere eller lide overlast på anden vis end gennem retslige sanktioner - sikres proaktivt eller reaktivt. Selv hvis politiet ikke var til stede ved hans demonstrationer, så ville han stadig nyde godt af den almindelige reaktive beskyttelse, som består i at politiet kan arrestere og retsforfølge personer, som angriber ham.
Mange personer i Paludans situation vil imidlertid nok føle, at en sådan reaktiv beskyttelse er utilstrækkelig, al den stund at den kun giver ham den beskyttelse, som følger af den generelle kriminalpræventive afskrækkelse. En proaktiv beskyttelse fordrer at der står politibetjente klar til fysisk at stoppe voldsmændene, før de kan gennemføre et angreb. Det er en væsentlig forskel, fordi vi allesammen nyder en udstrakt reel ytringsfrihed, men kun ved reaktiv beskyttelse.
Det er relativt sjældent, at vi nyder godt af proaktiv beskyttelse - typisk kun hvis der foreligger en umiddelbar og identificerbar trussel. Jeg kan for eksempel ikke ringe til politiet, og bede dem komme og beskytte mig, blot fordi jeg er på vej ind på en bar, hvor der er mange aggressive mænd. Men jeg kan godt ringe, hvis jeg har bevæget mig ind på baren, er blevet uvenner med én af dem, og han nu venter på mig udenfor baren iført knojern og tandbeskytter, efter at have luftet sin intention om at "slå dig til plukfisk".
Mere overordnet er forskellene vigtige fordi politiet, ved at forbyde Paludans demonstrationer, har taget to skridt, som logisk er forskellige. Dels har politiet besluttet ikke at afsætte ressourcer til proaktivt at sikre Paludans reele ytringsfrihed. Dels har de begrænset hans juridiske ytringsfrihed, idet de har givet sig selv mulighed for at opløse evt. demonstrationer, som Paludan måtte forsøge at gennemføre alligevel. I teorien kunne disse skridt adskilles, for eksempel således at politiet sagde: "Du må gerne demonstrere, men så er det på egen risiko."
Sikkerhed, risici og ansvar
Det første af de to kernespørgsmål, om hvornår Paludans ytringsfrihed legitimt kan indskrænkes med henvisning til, at hans demonstration vil medføre risici for uskyldige, er i lyset af ovenstående reelt et spørgsmål om, hvorvidt politiet proaktivt kan indskrænke Paludans juridiske ytringsfrihed. Hvis det relevante hensyn er at beskytte uskyldige mod at lide overlast, så er det ikke tilstrækkeligt at lade Paludan gennemføre demonstrationen "på egen risiko".
Det forekommer endvidere helt indlysende, at der kan være situationer, hvor det er moralsk tilladeligt, at forhindre personer i at ytre sig, fordi deres ytringer vil medføre alvorlige risici for dem selv eller andre. Overvej et lidt fantasifuldt eksempel:
Der er imidlertid to komplikationer. For det første er det naturligvis ikke alle risici, som kan legitimere et indgreb i ytringsfriheden. Derfor er vi nødt til at vide hvornår risikoen ved en ytring er alvorlig nok, til at politiet legitimt kan forhindre ytringen. For det andet vil nogle mene, at det bør spille en rolle, at risikoen i Paludans eksempel følger af andre menneskers handlinger, og ikke som i eksemplet ovenfor af en naturkatastrofe. Vi bør derfor vurdere hvilken forskel det gør, at risici i Paludans tilfælde skyldes andres handlinger.
Hvilke risici?
Den første komplikation er teoretisk enkel, men i praksis meget vanskelig at afklare med nogen særlig præcision. Man kan forsøge at løse den ved at referere til gældende ret, som i grove træk siger at der skal være tale om en alvorlig, aktuel og reel fare, for at politiet kan forbyde en demonstration, især når faren udgår fra andre personers reaktion på demonstrationen, snarere end fra demonstrationen selv. Det løser imidlertid ikke noget. For det første fordi den juridiske definition er relativt uklar - hvordan, helt præcist, vurderer vi om faren er alvorlig, aktuel og reel nok? - og for det andet fordi vi fortsat er interesserede i det moralske spørgsmål om hvornår vi bør forbyde demonstrationer, ikke det juridiske spørgsmål om hvornår vi lovligt kan. Man kunne naturligvis antage, at den juridiske definition er kalibreret sådan, at den rammer netop rigtigt, men det er vanskeligt at se, hvorfor vi skulle tro at det var tilfældet. Og selv hvis juraen tilfældigvis ramte helt rigtigt, så ville vi stadig mangle en forklaring på hvorfor netop dette niveau af risici var det relevante.
Et andet og nok mere troværdigt bud er, at vi bør afveje de risici, som demonstrationen medfører, mod de hensyn som taler til fordel for dens gennemførsel. Det er i princippet enkelt, hvis vi antager at det i sidste ende er de samme værdier som er på spil på begge sider, f.eks. menneskelig velfærd. Er det tilfældet, så kan vi modellere den forventelige skade på den ene side (som et sandsynlighedsvægtet udfaldsrum), og afveje dette mod de velfærdsinstrumentelle gevinster som taler for at lade ytringen fremføres på den anden.*
Selvom det principielt er enkelt at fastslå risikoens vægt, så vil det i praksis ofte være meget vanskeligt. Hvordan skal vi for eksempel konkret fastslå hvad risikoen er, ved at lade Paludan gennemføre en bestemt demonstration? Det er ikke umuligt - der er metoder i velfærdsøkonomi og risikoanalyse til at komme med kvalificerede bud - men alt andet end enkelt, og givet begrænsninger på den tid og de ressourcer som vi kan afsætte til analysen, vil vi ofte være nødt til at nøjes med mere løse og intuitive vurderinger.
For en samlet vurdering er vi også nødt til at kunne sige hvor stærke de hensyn, som taler for ytringsfrihed er, og hvilken rolle det spiller om der er tale om en enkeltstående afvejning, eller et princip som skal anvendes ved alle sådanne situationer, for eksempel fordi det stadfæstes som lov. Det gemmer jeg imidlertid til et andet indlæg.
Ansvar
Den anden komplikation er på overfladen mere kringlet, men i virkeligheden lettere at håndtere. Mange deltagere i debatten har givet udtryk for varianter af det synspunkt, at vi ikke bør holde Paludan ansvarlig for de risici hans provokationer medfører, og derfor heller ikke bør begrænse hans ytringsfrihed med udgangspunkt i at ytringerne medfører risici, fordi disse risici skyldes de personer, som griber til vold som reaktion. En lidt svagere variant af synspunktet vil hævde, at han kun bør holdes delvist ansvarlig, og at vi derfor bør diskontere de pågældende risici.
Ideen kan finde teoretisk støtte i en klassisk kritik af konsekventialisme, mest prominent formuleret af Bernard Williams, som insisterer på, at de skader som en person selv påfører andre har en særlig moralsk betydning, som er anderledes og vigtigere, end de skader som opstår fordi andre personer reagerer på hvad en person gør. Williams benytter følgende eksempel til at støtte synspunktet:
Dette er imidlertid et synspunkt, som uanset dets filosofiske stamtavle, altid har forekommet mig indlysende forkert, grænsende til det absurde. Det første problem er, at de eksempler, som intuitivt skal underbygge synspunktet, fremkalder den stik modsatte intuition hos mig selv og mange andre. Jeg finder det lige så indlysende, at det ville være hårrejsende horribelt, og moralsk dybt forkasteligt at se stoisk til, som Williams finder det indlysende, at det er moralsk tilladt for Jim at gøre det. Jeg kan til nøds forstå, at der vil være personer som har så stærk en psykologisk vægring mod at slå et andet menneske ihjel, at de ikke kan skyde et menneske (det kunne jeg forestille mig, at jeg selv ville have endda overordentlig svært ved), uanset at det er det rigtige at gøre. Men det er en undskyldning, ikke et argument for, at de ikke burde have gjort det (hvis de havde kunnet).
Det andet problem er, at det er uklart hvorfor det skulle gøre en forskel, at det er kaptajnen, og ikke en lavine eller en anden naturkatastrofe, som er den kausale årsag til at et valg vil føre til død og ødelæggelse. En forklaring kan være, at vi betragter menneskelige handlinger som principielt udeterminerede på en anden måde end naturkatastrofer. Vi accepterer, at den samme højlydte tale nedenfor bjerget altid vil føre til den samme lavine. Bjerget kan ikke vælge at lade være. Men vi forestiller os, at kaptajnen netop har et valg, og at Jim derfor principielt ikke kan vide, hvad konsekvensen af hans valg vil være.
Den forklaring møder to udfordringer. For det første, at vi sagtens kan forestille os udeterminerede naturkatastrofer. Vi kan således forestille os, at der i Lavine er præcis 50% chance for et sneskred, hvis der bliver holdt tale, og i Jim og indianerne præcis 50% chance for at kaptajnen vil skåne de andre indianere, hvis Jim myrder en enkelt. I så fald kan en forskel i sandsynligheder ikke forklare, at de to situationer skulle være forskellige. For det andet, er det overordentlig tvivlsomt, om menneskelige agenter er mere eller mindre determinerede end naturkatastrofer. Dette er alene tilfældet, hvis såkaldt begivenhedskausal libertarianisme er sand, og selvom der ikke er noget der minder om konsensus i den filosofiske forskning om fri vilje, så er det ikke for meget sagt, at netop den teori må betragtes som mildt sagt tvivlsom.
Williams' egen forklaring synes i sidste ende at være et normativt argument: hvis ikke vi har et særligt ansvar for vores egne handlinger, så reduceres vores liv til et tredjepersons perspektiv uden personlig integritet og ejerskab af vores beslutninger. Selvom dette argument er umiddelbart tiltalende for mange, så er der i al stilfærdighed to ting at bemærke. For det første lider det, som alle argumenter ad consequentiam, af det problem, at det ikke følger logisk af, at noget ville være kedeligt for mig, at det må være falsk. Selv hvis Williams havde ret, og det ville være forfærdeligt, at vi er lige ansvarlige for alle de konsekvenser, som følger af vores handlinger, så kunne det sagtens være, at vi bare er så uheldige, at vores liv er forfærdelige på denne vis. Universet har i almindelighed ikke en tendens, til at indrette sig på en måde der tilgodeser menneskelig bekvemmelighed. For det andet, så forekommer det mig overordentlig tvivlsomt, at vi ikke skulle kunne tage ejerskab for vores handlinger eller bevare personlig integritet, også i de situationer, hvor vi udfører dem med tanke på hvordan andre vil reagere. Hvis Jim skyder en indianer, for at forhindre kaptajnen i at myrde de andre, så er det hans handling, og et væsentligt udtryk for hans personlige integritet, at han gør noget ekstraordinært vanskeligt for at beskytte uskyldige.
Ideen om at det i sig selv skulle gøre en forskel, hvor risici stammer fra, forekommer mig samlet set så tvivlsom, at den bør forkastes. Det betyder at vi i udgangspunktet kan nøjes med det teoretisk mere enkle, men som vi bemærkede i praksis ret vanskelige spørgsmål om, hvor store risici er, og hvordan de skal afvejes mod konkurrerende grunde.
Ansvar, lovgivning og gentagne spil
Betyder dette, at vi bør ændre på lovgivningen, som i dag skelner mellem de risici, som følger af voldelige reaktioner på en ytring, og de risici som ytringen i mere direkte forstand skaber? Ikke nødvendigvis. Denne forskel kan ikke forsvares med henvisning til personers reducerede ansvar, men der kan være andre grunde til at skelne. En væsentlig sådan grund er, at vi med lovgivning ikke har at gøre med en enkeltstående situatione, men gennem lovgivningen skaber en incitamentstruktur for en hel serie af handlinger. Det kigger jeg nærmere på i næste indlæg, når jeg diskuterer spørgsmålet om hvilken rolle brugen af ressourcer bør spille for Paludans ytringsfrihed.
-----------------------------
* Situationen er en anelse mere kompleks, hvis der er tale om inkommensurable værdier, eller der er deontiske grunde som taler for eller imod. men også i denne situation må vi i sidste ende afveje grunde for og imod. For nemheds skyld holder jeg mig til at diskutere velfærdsgevinster.
Det første spørgsmål har især været diskuteret, fordi det konkret er denne begrundelse, som Københavns politi har brugt, til at forbyde Paludans demonstrationer. Så prominent en fortaler for ytringsfrihed som Jakob Mchangama har i den forbindelse understreget at dette er lovligt, anerkendt at det er rimeligt, og begrædt at det er nødvendigt.
Det andet spørgsmål har været diskuteret efter at blandt andet SF'eren Carsten Hønge og Politiforbundets talsmand Claus Oxfeldt har hævdet, at det er et problem, at bruge så mange ressourcer på at beskytte Paludan, som tilfældet er.
Begge spørgsmål er relativt vanskelige at besvare, fordi de rummer en række komplikationer (hvilket, i parantes bemærket, måske er en af grundene til at de ikke har fået den opmærksomhed de fortjener - mediemoralfilosofi hader nuancer og kompleksitet). Derfor behandler dette indlæg kun det første af de to spørgsmål. Det andet vender jeg tilbage til i næste indlæg.
Juridisk og reel ytringsfrihed
En enkelt indledende pointe er værd at understrege: I vurderingen af begge spørgsmål bør vi skelne mellem den juridiske ytringsfrihed og den reele ytringsfrihed, og mellem en proaktiv og en reaktiv begrænsning eller beskyttelse af ytringsfriheden. Paludan nyder juridisk ytringsfrihed så længe han ikke retsligt kan straffes for sine ytringer, eller lovligt forhindres af ordensmagten i at ytre sig. Det første er en reaktiv begrænsning, for eksempel racismeparagraffen; det andet er en proaktiv begrænsning, for eksempel politiets forbud mod en demonstration (og den trussel om at opløse forsøg på alligevel at afholde demonstrationen, som følger deraf).På samme vis kan Paludans reele ytringsfrihed - hans mulighed for at ytre sig uden at risikere eller lide overlast på anden vis end gennem retslige sanktioner - sikres proaktivt eller reaktivt. Selv hvis politiet ikke var til stede ved hans demonstrationer, så ville han stadig nyde godt af den almindelige reaktive beskyttelse, som består i at politiet kan arrestere og retsforfølge personer, som angriber ham.
Mange personer i Paludans situation vil imidlertid nok føle, at en sådan reaktiv beskyttelse er utilstrækkelig, al den stund at den kun giver ham den beskyttelse, som følger af den generelle kriminalpræventive afskrækkelse. En proaktiv beskyttelse fordrer at der står politibetjente klar til fysisk at stoppe voldsmændene, før de kan gennemføre et angreb. Det er en væsentlig forskel, fordi vi allesammen nyder en udstrakt reel ytringsfrihed, men kun ved reaktiv beskyttelse.
Det er relativt sjældent, at vi nyder godt af proaktiv beskyttelse - typisk kun hvis der foreligger en umiddelbar og identificerbar trussel. Jeg kan for eksempel ikke ringe til politiet, og bede dem komme og beskytte mig, blot fordi jeg er på vej ind på en bar, hvor der er mange aggressive mænd. Men jeg kan godt ringe, hvis jeg har bevæget mig ind på baren, er blevet uvenner med én af dem, og han nu venter på mig udenfor baren iført knojern og tandbeskytter, efter at have luftet sin intention om at "slå dig til plukfisk".
Mere overordnet er forskellene vigtige fordi politiet, ved at forbyde Paludans demonstrationer, har taget to skridt, som logisk er forskellige. Dels har politiet besluttet ikke at afsætte ressourcer til proaktivt at sikre Paludans reele ytringsfrihed. Dels har de begrænset hans juridiske ytringsfrihed, idet de har givet sig selv mulighed for at opløse evt. demonstrationer, som Paludan måtte forsøge at gennemføre alligevel. I teorien kunne disse skridt adskilles, for eksempel således at politiet sagde: "Du må gerne demonstrere, men så er det på egen risiko."
Sikkerhed, risici og ansvar
Det første af de to kernespørgsmål, om hvornår Paludans ytringsfrihed legitimt kan indskrænkes med henvisning til, at hans demonstration vil medføre risici for uskyldige, er i lyset af ovenstående reelt et spørgsmål om, hvorvidt politiet proaktivt kan indskrænke Paludans juridiske ytringsfrihed. Hvis det relevante hensyn er at beskytte uskyldige mod at lide overlast, så er det ikke tilstrækkeligt at lade Paludan gennemføre demonstrationen "på egen risiko".
Det forekommer endvidere helt indlysende, at der kan være situationer, hvor det er moralsk tilladeligt, at forhindre personer i at ytre sig, fordi deres ytringer vil medføre alvorlige risici for dem selv eller andre. Overvej et lidt fantasifuldt eksempel:
Lavine. Fr. Henriette Øytråbenne insisterer på at holde tale på torvet i landsbyen nedenfor bjerget, umiddelbart efter et kæmpe snefald. Holder hun talen, vil snemasserne med stor sandsynlighed begrave hele landsbyen under tusinder af tons af sne.Det er nok de færreste, som vil protestere, hvis politiet forhindrer Fr. Ø. i at holde talen.
Der er imidlertid to komplikationer. For det første er det naturligvis ikke alle risici, som kan legitimere et indgreb i ytringsfriheden. Derfor er vi nødt til at vide hvornår risikoen ved en ytring er alvorlig nok, til at politiet legitimt kan forhindre ytringen. For det andet vil nogle mene, at det bør spille en rolle, at risikoen i Paludans eksempel følger af andre menneskers handlinger, og ikke som i eksemplet ovenfor af en naturkatastrofe. Vi bør derfor vurdere hvilken forskel det gør, at risici i Paludans tilfælde skyldes andres handlinger.
Hvilke risici?
Den første komplikation er teoretisk enkel, men i praksis meget vanskelig at afklare med nogen særlig præcision. Man kan forsøge at løse den ved at referere til gældende ret, som i grove træk siger at der skal være tale om en alvorlig, aktuel og reel fare, for at politiet kan forbyde en demonstration, især når faren udgår fra andre personers reaktion på demonstrationen, snarere end fra demonstrationen selv. Det løser imidlertid ikke noget. For det første fordi den juridiske definition er relativt uklar - hvordan, helt præcist, vurderer vi om faren er alvorlig, aktuel og reel nok? - og for det andet fordi vi fortsat er interesserede i det moralske spørgsmål om hvornår vi bør forbyde demonstrationer, ikke det juridiske spørgsmål om hvornår vi lovligt kan. Man kunne naturligvis antage, at den juridiske definition er kalibreret sådan, at den rammer netop rigtigt, men det er vanskeligt at se, hvorfor vi skulle tro at det var tilfældet. Og selv hvis juraen tilfældigvis ramte helt rigtigt, så ville vi stadig mangle en forklaring på hvorfor netop dette niveau af risici var det relevante.
Et andet og nok mere troværdigt bud er, at vi bør afveje de risici, som demonstrationen medfører, mod de hensyn som taler til fordel for dens gennemførsel. Det er i princippet enkelt, hvis vi antager at det i sidste ende er de samme værdier som er på spil på begge sider, f.eks. menneskelig velfærd. Er det tilfældet, så kan vi modellere den forventelige skade på den ene side (som et sandsynlighedsvægtet udfaldsrum), og afveje dette mod de velfærdsinstrumentelle gevinster som taler for at lade ytringen fremføres på den anden.*
Selvom det principielt er enkelt at fastslå risikoens vægt, så vil det i praksis ofte være meget vanskeligt. Hvordan skal vi for eksempel konkret fastslå hvad risikoen er, ved at lade Paludan gennemføre en bestemt demonstration? Det er ikke umuligt - der er metoder i velfærdsøkonomi og risikoanalyse til at komme med kvalificerede bud - men alt andet end enkelt, og givet begrænsninger på den tid og de ressourcer som vi kan afsætte til analysen, vil vi ofte være nødt til at nøjes med mere løse og intuitive vurderinger.
For en samlet vurdering er vi også nødt til at kunne sige hvor stærke de hensyn, som taler for ytringsfrihed er, og hvilken rolle det spiller om der er tale om en enkeltstående afvejning, eller et princip som skal anvendes ved alle sådanne situationer, for eksempel fordi det stadfæstes som lov. Det gemmer jeg imidlertid til et andet indlæg.
Ansvar
Den anden komplikation er på overfladen mere kringlet, men i virkeligheden lettere at håndtere. Mange deltagere i debatten har givet udtryk for varianter af det synspunkt, at vi ikke bør holde Paludan ansvarlig for de risici hans provokationer medfører, og derfor heller ikke bør begrænse hans ytringsfrihed med udgangspunkt i at ytringerne medfører risici, fordi disse risici skyldes de personer, som griber til vold som reaktion. En lidt svagere variant af synspunktet vil hævde, at han kun bør holdes delvist ansvarlig, og at vi derfor bør diskontere de pågældende risici.
Ideen kan finde teoretisk støtte i en klassisk kritik af konsekventialisme, mest prominent formuleret af Bernard Williams, som insisterer på, at de skader som en person selv påfører andre har en særlig moralsk betydning, som er anderledes og vigtigere, end de skader som opstår fordi andre personer reagerer på hvad en person gør. Williams benytter følgende eksempel til at støtte synspunktet:
Jim og indianerne. Turisten Jim er på gennemrejse i en lille landsby. Soldater har fanget 20 af de lokale indianere, som havde formastet sig til at protestere mod El Jefes politik og soldaternes regelmæssige overgreb. Kaptajnen fortæller Jim, at alle 20 vil blive henrettet. Men, for at beære gæsten giver han Jim et tilbud: hvis Jim selv skyder en valgfri indianer, så vil kaptajnen undtagelsesvis slippe de andre 19 fri.I én optik er det oplagt, at Jim bør skyde en indianer: derved overlever 19 indianere, som ellers ville dø, og den indianer Jim skyder, vil dø uanset hvad han gør. Men Williams finder det intuitivt indlysende, at Jim ikke er forpligtet til at skyde nogen, og at han ikke handler forkert, hvis han blot ser til, mens kaptajnen henretter de 20 indianere. Jim er, hævder Williams, i sidste ende kun ansvarlig for sine egne handlinger, ikke for kaptajnens. Jims valg er derfor reelt kun valget mellem at dræbe eller ikke dræbe en uskyldig. Det er kaptajnen, som er ansvarlig for hvad der iøvrigt sker.
Dette er imidlertid et synspunkt, som uanset dets filosofiske stamtavle, altid har forekommet mig indlysende forkert, grænsende til det absurde. Det første problem er, at de eksempler, som intuitivt skal underbygge synspunktet, fremkalder den stik modsatte intuition hos mig selv og mange andre. Jeg finder det lige så indlysende, at det ville være hårrejsende horribelt, og moralsk dybt forkasteligt at se stoisk til, som Williams finder det indlysende, at det er moralsk tilladt for Jim at gøre det. Jeg kan til nøds forstå, at der vil være personer som har så stærk en psykologisk vægring mod at slå et andet menneske ihjel, at de ikke kan skyde et menneske (det kunne jeg forestille mig, at jeg selv ville have endda overordentlig svært ved), uanset at det er det rigtige at gøre. Men det er en undskyldning, ikke et argument for, at de ikke burde have gjort det (hvis de havde kunnet).
Det andet problem er, at det er uklart hvorfor det skulle gøre en forskel, at det er kaptajnen, og ikke en lavine eller en anden naturkatastrofe, som er den kausale årsag til at et valg vil føre til død og ødelæggelse. En forklaring kan være, at vi betragter menneskelige handlinger som principielt udeterminerede på en anden måde end naturkatastrofer. Vi accepterer, at den samme højlydte tale nedenfor bjerget altid vil føre til den samme lavine. Bjerget kan ikke vælge at lade være. Men vi forestiller os, at kaptajnen netop har et valg, og at Jim derfor principielt ikke kan vide, hvad konsekvensen af hans valg vil være.
Den forklaring møder to udfordringer. For det første, at vi sagtens kan forestille os udeterminerede naturkatastrofer. Vi kan således forestille os, at der i Lavine er præcis 50% chance for et sneskred, hvis der bliver holdt tale, og i Jim og indianerne præcis 50% chance for at kaptajnen vil skåne de andre indianere, hvis Jim myrder en enkelt. I så fald kan en forskel i sandsynligheder ikke forklare, at de to situationer skulle være forskellige. For det andet, er det overordentlig tvivlsomt, om menneskelige agenter er mere eller mindre determinerede end naturkatastrofer. Dette er alene tilfældet, hvis såkaldt begivenhedskausal libertarianisme er sand, og selvom der ikke er noget der minder om konsensus i den filosofiske forskning om fri vilje, så er det ikke for meget sagt, at netop den teori må betragtes som mildt sagt tvivlsom.
Williams' egen forklaring synes i sidste ende at være et normativt argument: hvis ikke vi har et særligt ansvar for vores egne handlinger, så reduceres vores liv til et tredjepersons perspektiv uden personlig integritet og ejerskab af vores beslutninger. Selvom dette argument er umiddelbart tiltalende for mange, så er der i al stilfærdighed to ting at bemærke. For det første lider det, som alle argumenter ad consequentiam, af det problem, at det ikke følger logisk af, at noget ville være kedeligt for mig, at det må være falsk. Selv hvis Williams havde ret, og det ville være forfærdeligt, at vi er lige ansvarlige for alle de konsekvenser, som følger af vores handlinger, så kunne det sagtens være, at vi bare er så uheldige, at vores liv er forfærdelige på denne vis. Universet har i almindelighed ikke en tendens, til at indrette sig på en måde der tilgodeser menneskelig bekvemmelighed. For det andet, så forekommer det mig overordentlig tvivlsomt, at vi ikke skulle kunne tage ejerskab for vores handlinger eller bevare personlig integritet, også i de situationer, hvor vi udfører dem med tanke på hvordan andre vil reagere. Hvis Jim skyder en indianer, for at forhindre kaptajnen i at myrde de andre, så er det hans handling, og et væsentligt udtryk for hans personlige integritet, at han gør noget ekstraordinært vanskeligt for at beskytte uskyldige.
Ideen om at det i sig selv skulle gøre en forskel, hvor risici stammer fra, forekommer mig samlet set så tvivlsom, at den bør forkastes. Det betyder at vi i udgangspunktet kan nøjes med det teoretisk mere enkle, men som vi bemærkede i praksis ret vanskelige spørgsmål om, hvor store risici er, og hvordan de skal afvejes mod konkurrerende grunde.
Ansvar, lovgivning og gentagne spil
Betyder dette, at vi bør ændre på lovgivningen, som i dag skelner mellem de risici, som følger af voldelige reaktioner på en ytring, og de risici som ytringen i mere direkte forstand skaber? Ikke nødvendigvis. Denne forskel kan ikke forsvares med henvisning til personers reducerede ansvar, men der kan være andre grunde til at skelne. En væsentlig sådan grund er, at vi med lovgivning ikke har at gøre med en enkeltstående situatione, men gennem lovgivningen skaber en incitamentstruktur for en hel serie af handlinger. Det kigger jeg nærmere på i næste indlæg, når jeg diskuterer spørgsmålet om hvilken rolle brugen af ressourcer bør spille for Paludans ytringsfrihed.
-----------------------------
* Situationen er en anelse mere kompleks, hvis der er tale om inkommensurable værdier, eller der er deontiske grunde som taler for eller imod. men også i denne situation må vi i sidste ende afveje grunde for og imod. For nemheds skyld holder jeg mig til at diskutere velfærdsgevinster.
onsdag den 1. maj 2019
Paludans ytringsfrihed 1: Seks ting som debatten egentlig ikke handler om
Jeg kommer sent til festen, for de sidste par uger har man nærmest ikke kunnet åbne en avis, uden at støde på et indlæg i debatten om Rasmus Paludans provokationer, de voldelige reaktioner, og politiets foreløbige forbud mod yderligere demonstrationer. Desværre, så gentager meget af det skrevne og sagte blot de synspunkter (og misforståelser), som går igen og igen, hver gang ytringsfrihed rejses som debat i medierne. Det skyldes ikke alene deltagerne, men også det mere generelle fænomen "mediemoralfilosofi", hvor journalister og medier prioriterer overfladiske og ekstreme synspunkter, alt for ofte formuleret af levebrødsprovokatører (aka "kommentatorer", "debattører", "bloggere"), fremfor sober analyse af nuancerne formidlet af eksperter.
Fordelen ved at være sent på den er dels at det værste støv fra debattens hede allerede har lagt sig, og dels at jeg har haft tid til tænke problematikkerne lidt igennem. Overordnet set er min vurdering, at der er en række pointer som har fyldt meget i debatten, men som ikke er det debatten egentlig handler om (eller burde handle om), enten fordi de er trivielle, eller fordi de ganske enkelt er misforståelser. Samtidig er debattens kerne - spørgsmålet om hvornår politiet legitimt kan begrænse personers ytringsfrihed - mere kompleks end de fleste deltagere i debatten synes at anerkende. I dette indlæg præsenterer jeg seks ting, som jeg mener, debatten egentlig ikke handler om. Sagens kerne, og de komplikationer som præger den, vender jeg tilbage til i næste indlæg.
Fem ting, som burde fylde mindre i debatten, og en som burde fylde mere
Rigtig meget af debatten har fokuseret på at gentage en lang række i nogen grad relevante, men ikke centrale pointer. Der er i hvert fald fem pointer, som har fået mere opmærksomhed, end de fortjener. Til gengæld er der også en enkelt pointe, som burde gives mere opmærksomhed, selvom den strengt taget heller ikke er det, som debatten handler om.
1: Juraen
Den første pointe, som har fået (for) meget plads, er spørgsmålet om, hvorvidt de restriktioner, som politiet har gennemført, eksempelvis ved at forbyde Paludan at demonstrere, er lovlige. Det er de helt ukontroversielt (som blandt andet nogle af mine gode kollegaer har slået fast), og alene af den grund er spørgsmålet ikke så interessant. Men hvad endnu vigtigere er, så bør vi skelne skarpt mellem det juridiske spørgsmål om, hvordan ytringsfriheden faktisk er beskyttet, og det etiske spørgsmål om hvordan ytringsfriheden bør beskyttes. De to forhold forveksles ofte, og blandes ind imellem sammen, men det er næsten altid og også i dette tilfælde det etiske spørgsmål, som er sagens kerne.
2: Paludan
Den anden pointe er vurderingen af Paludans karakter og ytringer. Paludan er efter alt at dømme et selvoptaget fjols, hvis vigtigste ambition er at tiltrække sig mest mulig opmærksomhed. Paludans middel til at få opmærksomhed, det at provokere mest muligt ved bevidst stødende handlinger og fremsættelse af skiftevis latterlige og frastødende politiske udsagn, er netop det: latterlig og frastødende. Heldigvis har denne vurdering været ukontroversiel undtagen i de mest islamofobiske dele af den danske offentlighed. Men dels fordi vurderingen er relativt ukontroversiel, og dels fordi den ikke spiller nogen rolle for sagens kerne, så er pointen triviel.
3: Ytringernes karakter og juraen
Den tredje pointe er nemlig, og her nærmer vi os substansen, at karakteren af Paludans person og ytringer ikke bør spille en rolle for Paludans juridiske og reele ytringsfrihed. Det er en cental værdi i et moderne samfund, at staten ikke skelner mellem forskellige typer ytringer, når den skal vurdere hvordan den etablerede ytringsfrihed skal beskyttes. Der findes naturligvis en række alment accepterede begrænsninger af ytringsfriheden, for eksempel forbud mod injurier, falsk markedsføring, videregivelse af fortrolige oplysninger, og i denne forbindelse især den begrænsning som racismeparagraffen udgør. Der kan også være grund til lejlighedsvis at overveje, om der er andre typer ytringer, som vi bør forbyde, for eksempel vildledende og skadelig vaccineskepsis. Men dels er disse begrænsninger reaktive. Racismeparagraffen giver ikke grundlag for at begrænse Paludans mulighed for at ytre sig, uanset at han efterfølgende kan straffes hvis han faktisk ytrer sig racistisk. Dels er mange af Paludans ytringer ikke strafbare efter racismeparagraffen, og hvad angår disse ytringer, bør politiet ikke skelne. Denne pointe rejser naturligvis umiddelbart spørgsmålet om hvorfor det er en central værdi, at staten antager denne type neutralitet i forhold til ytringers karakter. Dette spørgsmål er væsentligt, og ofte lidt overset i debatten, men også et som jeg først vender tilbage til i et kommende indlæg.
4: Ytringernes karakter og moral
Den fjerde pointe, som debatten egentlig ikke handler om, er at den juridiske ytringsfrihed ikke bør spille en rolle for vores vurdering af Paludans ytringers moralske status. Dette er primært værd at nævne, for at minde om, at der netop ikke findes nogen moralsk ytringsfrihed. Vi har ikke en moralsk ret til at sige hvad vi har lyst til - tværtimod er ytringer handlinger, som etisk må vurderes på samme vis som vi vurderer alle mulige andre handlinger. Det betyder at kvaliteten af Paludans ytringer spiller en rolle for om han handler rigtigt eller forkert ved at ytre sig som han gør. Givet kvaliteten af hans ytringer burde det være trivielt, at det er forkert af ham, at sige som han gør, samt at han afslører sig selv som et dårligt menneske, når han gør det. Der er imidlertid masser af moralsk forkerte handlinger, som vi ikke bør kriminalisere. Et almindeligt eksempel er utroskab i parforhold, som de færreste nok betvivler er forkert, men som det alligevel er de færreste, som mener at staten skal kunne straffe. Dels fordi det burde være trivielt at Paludan handler forkert, og dels fordi der ikke er nogen snæver forbindelse mellem Paludans handlingers moralske karakter og det egentlige spørgsmål - om hvornår vi som samfund bør begrænse muligheden for at ytre sig - så er det heller ikke denne pointe, som debatten egentlig burde handle om.
5: Volden
Den femte pointe er den moralske karakter, af de voldelige reaktioner, som Paludans provokationer er blevet mødt med. Her er det lige så trivielt at slå fast, at Paludans ytringers underlødige moralske karakter ikke legitimerer, at andre angriber ham, vandaliserer en bydel, eller i almindelighed gør skade på andre. Der er situationer hvor man legitimt kan gøre skade på andre, for eksempel i selvforsvar, men der er ikke nogen sobre argumenter for, at dette skulle være en af dem. Omvendt legitimerer den voldelige reaktion heller ikke Paludans handlinger. De ytringer, som i udgangspunktet er moralsk forkerte, bliver ikke pludselig uskyldige, fordi de bliver mødt med vold (det er meget tvivlsomt om det i almindelighed kan lade sig gøre, at ændre en handlings moralske status med tilbagevirkende kraft). Som (desværre...) så ofte kan man med rette i denne sag anlægge det misantropiske perspektiv, at begge de centrale parter i konflikten handler forkasteligt, hvilket selvsagt er foreneligt med, at vurdere, at det er langt værre at gribe til vold end at provokere.
6: Lejlighedsliberalisme
Endelig er det værd at nævne en pointe, som jeg mener har fået alt for lidt opmærksomhed i debatten, selvom den ret beset heller ikke handler om sagens kerne. Den danske debat om ytringsfrihed har nemlig en påfaldende og bekymrende slagside. Væsentlige udfordringer for ytringsfriheden, for eksempel afsløringen af, at forskere på danske universiteter rutinemæssigt undlader at udtale sig, også om deres forskning, af bekymring for de konsekvenser det kan have for deres karriere, forbigåes alt for ofte med knusende ligegyldighed. Samtidig får enkeltsager som Paludans, der for en rimelig betragtning er af langt ringere betydning, en lang række erklærede forsvarere af ytringsfriheden til at galoppere ind i debatten for fuld udblæsning. Mange (omend selvsagt ikke alle) af de især borgerlige kommentatorer som for tiden går i brechen for ytringsfrihed, synes i udpræget grad at være lejlighedsliberalister, som fortrinsvis interesserer sig for ytringsfrihed, når den udfordres i forbindelse med stigmatisering og forhånelse af en bestemt religiøs minoritet. Det klæder dem ikke.
Sagens kerne
Snarere end alle de ovenstående pointer, så mener jeg sagens kerne er følgende to spørgsmål: Hvornår kan politiet legitimt indskrænke Paludans ytringsfrihed af hensyn til hans og andre personers sikkerhed? Og hvornår kan politiet legitimt indskrænke Paludans ytringsfrihed af hensyn til prioritering af politiets ressourcer? Disse spørgsmål, og de komplikationer, som de giver anledning til, kigger jeg på i de næste indlæg (her og her).
Fordelen ved at være sent på den er dels at det værste støv fra debattens hede allerede har lagt sig, og dels at jeg har haft tid til tænke problematikkerne lidt igennem. Overordnet set er min vurdering, at der er en række pointer som har fyldt meget i debatten, men som ikke er det debatten egentlig handler om (eller burde handle om), enten fordi de er trivielle, eller fordi de ganske enkelt er misforståelser. Samtidig er debattens kerne - spørgsmålet om hvornår politiet legitimt kan begrænse personers ytringsfrihed - mere kompleks end de fleste deltagere i debatten synes at anerkende. I dette indlæg præsenterer jeg seks ting, som jeg mener, debatten egentlig ikke handler om. Sagens kerne, og de komplikationer som præger den, vender jeg tilbage til i næste indlæg.
Fem ting, som burde fylde mindre i debatten, og en som burde fylde mere
Rigtig meget af debatten har fokuseret på at gentage en lang række i nogen grad relevante, men ikke centrale pointer. Der er i hvert fald fem pointer, som har fået mere opmærksomhed, end de fortjener. Til gengæld er der også en enkelt pointe, som burde gives mere opmærksomhed, selvom den strengt taget heller ikke er det, som debatten handler om.
1: Juraen
Den første pointe, som har fået (for) meget plads, er spørgsmålet om, hvorvidt de restriktioner, som politiet har gennemført, eksempelvis ved at forbyde Paludan at demonstrere, er lovlige. Det er de helt ukontroversielt (som blandt andet nogle af mine gode kollegaer har slået fast), og alene af den grund er spørgsmålet ikke så interessant. Men hvad endnu vigtigere er, så bør vi skelne skarpt mellem det juridiske spørgsmål om, hvordan ytringsfriheden faktisk er beskyttet, og det etiske spørgsmål om hvordan ytringsfriheden bør beskyttes. De to forhold forveksles ofte, og blandes ind imellem sammen, men det er næsten altid og også i dette tilfælde det etiske spørgsmål, som er sagens kerne.
2: Paludan
Den anden pointe er vurderingen af Paludans karakter og ytringer. Paludan er efter alt at dømme et selvoptaget fjols, hvis vigtigste ambition er at tiltrække sig mest mulig opmærksomhed. Paludans middel til at få opmærksomhed, det at provokere mest muligt ved bevidst stødende handlinger og fremsættelse af skiftevis latterlige og frastødende politiske udsagn, er netop det: latterlig og frastødende. Heldigvis har denne vurdering været ukontroversiel undtagen i de mest islamofobiske dele af den danske offentlighed. Men dels fordi vurderingen er relativt ukontroversiel, og dels fordi den ikke spiller nogen rolle for sagens kerne, så er pointen triviel.
3: Ytringernes karakter og juraen
Den tredje pointe er nemlig, og her nærmer vi os substansen, at karakteren af Paludans person og ytringer ikke bør spille en rolle for Paludans juridiske og reele ytringsfrihed. Det er en cental værdi i et moderne samfund, at staten ikke skelner mellem forskellige typer ytringer, når den skal vurdere hvordan den etablerede ytringsfrihed skal beskyttes. Der findes naturligvis en række alment accepterede begrænsninger af ytringsfriheden, for eksempel forbud mod injurier, falsk markedsføring, videregivelse af fortrolige oplysninger, og i denne forbindelse især den begrænsning som racismeparagraffen udgør. Der kan også være grund til lejlighedsvis at overveje, om der er andre typer ytringer, som vi bør forbyde, for eksempel vildledende og skadelig vaccineskepsis. Men dels er disse begrænsninger reaktive. Racismeparagraffen giver ikke grundlag for at begrænse Paludans mulighed for at ytre sig, uanset at han efterfølgende kan straffes hvis han faktisk ytrer sig racistisk. Dels er mange af Paludans ytringer ikke strafbare efter racismeparagraffen, og hvad angår disse ytringer, bør politiet ikke skelne. Denne pointe rejser naturligvis umiddelbart spørgsmålet om hvorfor det er en central værdi, at staten antager denne type neutralitet i forhold til ytringers karakter. Dette spørgsmål er væsentligt, og ofte lidt overset i debatten, men også et som jeg først vender tilbage til i et kommende indlæg.
4: Ytringernes karakter og moral
Den fjerde pointe, som debatten egentlig ikke handler om, er at den juridiske ytringsfrihed ikke bør spille en rolle for vores vurdering af Paludans ytringers moralske status. Dette er primært værd at nævne, for at minde om, at der netop ikke findes nogen moralsk ytringsfrihed. Vi har ikke en moralsk ret til at sige hvad vi har lyst til - tværtimod er ytringer handlinger, som etisk må vurderes på samme vis som vi vurderer alle mulige andre handlinger. Det betyder at kvaliteten af Paludans ytringer spiller en rolle for om han handler rigtigt eller forkert ved at ytre sig som han gør. Givet kvaliteten af hans ytringer burde det være trivielt, at det er forkert af ham, at sige som han gør, samt at han afslører sig selv som et dårligt menneske, når han gør det. Der er imidlertid masser af moralsk forkerte handlinger, som vi ikke bør kriminalisere. Et almindeligt eksempel er utroskab i parforhold, som de færreste nok betvivler er forkert, men som det alligevel er de færreste, som mener at staten skal kunne straffe. Dels fordi det burde være trivielt at Paludan handler forkert, og dels fordi der ikke er nogen snæver forbindelse mellem Paludans handlingers moralske karakter og det egentlige spørgsmål - om hvornår vi som samfund bør begrænse muligheden for at ytre sig - så er det heller ikke denne pointe, som debatten egentlig burde handle om.
5: Volden
Den femte pointe er den moralske karakter, af de voldelige reaktioner, som Paludans provokationer er blevet mødt med. Her er det lige så trivielt at slå fast, at Paludans ytringers underlødige moralske karakter ikke legitimerer, at andre angriber ham, vandaliserer en bydel, eller i almindelighed gør skade på andre. Der er situationer hvor man legitimt kan gøre skade på andre, for eksempel i selvforsvar, men der er ikke nogen sobre argumenter for, at dette skulle være en af dem. Omvendt legitimerer den voldelige reaktion heller ikke Paludans handlinger. De ytringer, som i udgangspunktet er moralsk forkerte, bliver ikke pludselig uskyldige, fordi de bliver mødt med vold (det er meget tvivlsomt om det i almindelighed kan lade sig gøre, at ændre en handlings moralske status med tilbagevirkende kraft). Som (desværre...) så ofte kan man med rette i denne sag anlægge det misantropiske perspektiv, at begge de centrale parter i konflikten handler forkasteligt, hvilket selvsagt er foreneligt med, at vurdere, at det er langt værre at gribe til vold end at provokere.
6: Lejlighedsliberalisme
Endelig er det værd at nævne en pointe, som jeg mener har fået alt for lidt opmærksomhed i debatten, selvom den ret beset heller ikke handler om sagens kerne. Den danske debat om ytringsfrihed har nemlig en påfaldende og bekymrende slagside. Væsentlige udfordringer for ytringsfriheden, for eksempel afsløringen af, at forskere på danske universiteter rutinemæssigt undlader at udtale sig, også om deres forskning, af bekymring for de konsekvenser det kan have for deres karriere, forbigåes alt for ofte med knusende ligegyldighed. Samtidig får enkeltsager som Paludans, der for en rimelig betragtning er af langt ringere betydning, en lang række erklærede forsvarere af ytringsfriheden til at galoppere ind i debatten for fuld udblæsning. Mange (omend selvsagt ikke alle) af de især borgerlige kommentatorer som for tiden går i brechen for ytringsfrihed, synes i udpræget grad at være lejlighedsliberalister, som fortrinsvis interesserer sig for ytringsfrihed, når den udfordres i forbindelse med stigmatisering og forhånelse af en bestemt religiøs minoritet. Det klæder dem ikke.
Sagens kerne
Snarere end alle de ovenstående pointer, så mener jeg sagens kerne er følgende to spørgsmål: Hvornår kan politiet legitimt indskrænke Paludans ytringsfrihed af hensyn til hans og andre personers sikkerhed? Og hvornår kan politiet legitimt indskrænke Paludans ytringsfrihed af hensyn til prioritering af politiets ressourcer? Disse spørgsmål, og de komplikationer, som de giver anledning til, kigger jeg på i de næste indlæg (her og her).
tirsdag den 9. april 2019
Skitser til en dataetik 3: data, reaktioner, transparens og værdier
(Advarsel: *nørdet*. Dette indlæg er, selv efter denne blogs standard, ret abstrakt og teknisk.)
I de to første indlæg (her og her) i denne skitse til en dataetik har jeg diskuteret hvilke fordele som motiverer brugen af algoritmiske agenter, hvilke fejltyper de bør evalueres på, de udfordringer som de rejser i forhold til forskelsbehandling, og nogle komplikationer ved idealet om at algoritmer bør behandle alle lige.
I dette tredje og sidste indlæg handler det om de udfordringer som knytter sig til algoritmers brug af data, de reaktioner de kan afføde, deres transparens (eller mangel på samme), og det måske mest grundlæggende spørgsmål om de værdier de baseres på og vurderes efter.
Garbage in, garbage out
Et af de mest omdiskuterede problemer ved algoritmiske agenter er deres afhængighed af de data, som algoritmen analyserer på. Disse er indlysende relevante for algoritmers almindelige analyser, fordi en analyse af mangelfulde data bliver upålidelig, men de er også, og måske især relevante for algoritmiske agenter som udvikles gennem maskinlæring. En maskinlærende algoritme finder selv de sorteringsmekanismer, som skal hjælpe den med at lave den endelige vurdering, ved at træne på et udvalgt datasæt. Hvis dette datasæt er mangelfuldt, så bliver de resulterende skævheder indkodet i selve algoritmen, så den efterfølgende vil lave mangelfulde analyser, selv hvis den arbejder med gode data.
De data, som algoritmer arbejder med, vil i praksis altid have visse mangler. Der vil være fejl i databasen, for eksempel fordi en person registreres med et andet karakteristika, end vedkommende faktisk besidder, og der vil være huller i databasen, hvor visse karakteristika eller personer mangler. Sådanne mangler er et vilkår ved alt arbejde med data, og i udgangspunktet en udfordring som menneskelige og algoritmiske agenter deler når de skal analysere data.
Brugen af algoritmiske agenter rejser imidlertid to nye udfordringer knyttet til data. For det første, så kan algoritmiske agenter anvendes på områder, hvor man ikke tidligere har analyseret data (eller i hvert fald ikke lavet samme type systematisk analyse og brug af data). Hvis man ikke i den forbindelse er opmærksom på at vurdere kvaliteten af de data, som algoritmen analyserer, så er der risiko for at overse de fejl, som algoritmens analyser er behæftet med, måske især hvis man bliver grebet af den fascination over algoritmens formåen, som ofte ledsager introduktionen af et analytisk stærkt og tilsyneladende upartisk værktøj.
For det andet så kan algoritmers evne til at samkøre meget store datamængder få mindre mangler til at spille en anden og stærkere rolle. I en gruppe af datasæt, som hver især har mindre mangler, kan disse mangler hver for sig have en beskeden effekt. Men ved samkøring af data kan algoritmen komme til at ramme disse mangler på måder hvor de forstærker hinanden, således at effekten på algoritmens vurderinger bliver væsentligt stærkere.
Fejl, fordelinger og Ratchet-effekter
Data som på denne måde er mangelfulde skaber først og fremmest problemer fordi kvaliteten af de algoritmiske agenters vurderinger falder. Men de kan også, og måske især, skabe problemer fordi de understøtter eller fører til fordelingseffekter af den type som vi behandlede i diskussionen af algoritmisk forskelsbehandling.
Det sidste vil ofte være tilfældet, fordi der er mangler i datasæt som korrellerer med grupper. Der kan for eksempel være bestemte typer mangler som oftest optræder i data i tilknytning til et bestemt køn, en bestemt seksualitet, en bestemt etnicitet, etc. Derved opstår bestemte typer fejl også oftere i tilknytning til disse grupper.
En særlig problematik er at sådanne mangler i data og resulterende fejl kan være selvforstærkende. Et klassisk eksempel analyseret af Bernard Harcourt er politi-profilering som fokuserer på for eksempel en etnisk minoritet, og som kan have en tendens til at skabe øget bevidsthed om denne gruppes kriminalitet, hvilket legitimerer stærkere profilering af gruppen, hvilket øger bevidstheden om gruppens kriminalitet, etc.
Et sådant accellerende fokus - Harcourt kalder det en "ratchet-effect" - kan i sig selv være uhensigtsmæssigt, men er det indlysende og især hvis det hviler på et historisk overfokus, som har skabt en skæv repræsentation af denne gruppe i de data, som motiverer profileringen. I den situation kan man forestille sig, at der ret beset ikke er grund til at fokusere på denne gruppe, men at de data man ligger inde med i stadigt stigende grad kommer til at indikere det modsatte. Det legitimerer og medfører igen en stadigt voksende mængde fejl, og en stadigt mere skæv fordeling af fejl og effekter.
Incitamenter og responseffekter
Et klassisk eksempel fra forskningsverdenen er introduktionen af målingen af videnskabelige produktioner (konkret typisk videnskabelige artikler). Hensigten med dette er typisk at øge mængden af videnskabeligt arbejde, ved at gøre det synligt for den enkelte forsker, hvor meget de selv producerede sammenlignet med kollegaer, og ved at bruge mængden af arbejde som kriterium for ansættelse og forfremmelser. I praksis har konsekvensen snarere været a) en voksende industri af pseudovidenskabelige tidsskrifter, hvor forskere kan udgive artikler af meget lav kvalitet, b) en forstærkning af nepotistiske netværk, hvor forskere hjælper kollegaer med lettere adgang til publikationskanaler, og c) en reduktion af også store dele af det seriøse videnskabeligt arbejde til det minimum af indsats, som er nødvendigt for at kunne publicere arbejdet.
Dermed ikke sagt, at forskere som hele publicerer overfladisk forskning i pseudovidenskabelige tidsskrifter gennem "old boys"-netværk. Langt det meste forskning er fortsat sobert, grundigt og bedømt af dobbelt-blindede fagfæller. Pointen er den mindre dramatiske, men stadig væsentlige, at i den udstrækning introduktionen af målstyring har haft en effekt, har denne effekt måske fortrinsvis været utilsigtet og negativ.
Som eksemplet ovenfor illustrerer, så findes denne type udfordring også for menneskelige agenter. Alligevel er der grund til at være særligt på vagt, når der er tale om algoritmiske agenter. Det skyldes det forhold, at algoritmers beslutningskriterier i teorien er tilgængelige og rigide, på en anden måde end hos typiske menneskelige agenter. En algoritmisk agent har et særligt sæt af kriterier for sine analyser og vurderinger, og disse kan i nogle tilfælde (se diskussionen af transparens nedenfor) være fuldt tilgængelige for andre. I modsætning til mennesker er den algoritmiske agent også bundet til disse kriterier - den kan ikke tage dem op til overvejelse, eller gøre undtagelser, i situationer hvor anvendelsen af kriterierne viser sig at være kontraproduktiv. Det skaber særligt gunstige vilkår for at "game the system".
Præcis hvordan udfordringer med den resulterende incitamentstruktur og responseffekter kan manifestere sig vil variere afhængigt af den algoritmiske agents kontekst og funktion. Det er derfor vanskeligt at sige noget generelt om hvordan sådanne udfordringer vil se ud, og hvordan de kan håndteres. Men det er endnu et forhold, som vi bør holde os for øje, når vi udvikler og implementerer algoritmiske agenter.
Den sorte boks
Et væsentligt element i moderne administration, er at de personer som påvirkes af en beslutning, har mulighed for at få indsigt i det grundlag, som beslutningen er truffet på, og klage over beslutningen, hvis dette grundlag virker urimeligt eller forkert. Det er derfor et væsentligt problem ved algoritmiske agenter, at denne mulighed ofte vil være stærkt begrænset. Algoritmer kan i mange situationer få karakter af en sort boks, hvor vi nok kan se hvad der kommer ind, og hvad der kommer ud, men ikke kan se hvorfor input af den ene type giver et resultat af den anden type, det vil sige, hvad grundlaget for algoritmens beslutning er.
En første grund til, at denne type indsigt kan være begrænset er, at mange algoritmer udvikles af private firmaer, som har behov for at holde detaljerne om hvordan algoritmen fungerer hemmelige, for ikke at blive kopieret og udkonkurreret af andre firmaer. Dette behov skaber indlysende problemer, når for eksempel borgere som bliver berørt af de vurderinger, som algoritmen foretager, ønsker at forstå hvilket grundlag vurderingen er foretaget på, så de kan vurdere om de ønsker at klage. Men det skaber også problemer, hvis for eksempel en offentlig myndighed, som har anvendt én type algoritme, beslutter sig for at skifte til en anden algoritme. I sådanne tilfælde kan det være vanskeligt at overføre data fra det hidtidige arbejde, fordi den måde algoritmen har behandlet dataene på er omfattet af virksomhedens behov for at beskytte sin teknologi.
Man kunne måske fristes til at sige "så meget desto værre for virksomheders behov", men her bør man holde sig for øje, hvad grundlaget for at tage hensyn til virksomheders mulighed for at hemmeligholde teknologi er. Det er ofte i alles interesse at tilskynde private virksomheder, til at udvikle ny teknologi, men det er et vilkår ved sådan udvikling, at den ofte er ekstremt dyr, imens det er relativt enkelt for andre virksomheder for eksempel at kopiere en allerede udviklet algoritme. Hvis virksomheder ikke kan holde følsomme detaljer om deres produkter hemmelige, så vil de derfor hurtigt komme til at stå med alle omkostningerne for at udvikle produktet, men være nødt til at dele indtægterne med de konkurrenter, som kopierer produktet. Resultatet vil være, at virksomheder bruger langt færre ressourcer, på at udvikle ny teknologi.
Denne variant af problemet kan, i hvert fald i nogle situationer, løses ved at udvikle offentlige alternativer til de private produkter, ved at give særlige personer adgang til data om produktet på særlige vilkår, eller ved at kompensere virksomheder for deres tab af fortjeneste.
Der findes imidlertid en anden variant af problemet, som skaber mere fundamentale problemer. Moderne algoritmer udvikles i stigende grad ved såkaldt maskinlæring, hvor algoritmen selv definerer og gradvist tilpasser sine parametre gennem træning på et udvalgt datasæt. Den resulterende algoritme vil i mange tilfælde være bedre, for eksempel til at undgå fejl, end en mere klassisk algoritme, hvor menneskelige programmører har specificeret dens funktioner.
Som tidligere nævnt, så er det måske mest berømte eksempel DeepMinds AlphaZero, som på ganske få timer udviklede sig fra en basal forståelse af skaks regler til verdens måske stærkeste skakspiller, alene ved at spille tusindvis af spil mod sig selv, og konstant revidere sine egne analyser. Resultatet er en algoritme som definitivt kan slå enhver menneskelig skakspiller, og som synes at være de klassiske skakprogrammer, som er udviklet ved møjsommelig, menneskelig finpudsning, klart overlegen.
Ulempen ved maskinlæring er, at der i udgangspunktet ikke er nogen, ikke engang de programmører, som har skrevet algoritmen og sat den i gang med at udvikle sig selv, som ved præcist hvordan den fungerer. Når en sådan algoritme træffer beslutninger, så er der derfor i udgangspunktet ikke nogen, som kan forklare præcis hvad grundlaget for beslutningen er. Det betyder at personer, som påvirkes af en beslutning truffet på dette grundlag, ikke kan få indsigt i beslutningsgrundlaget, og derfor vil have vanskeligt ved at vurdere hvorvidt de finder afgørelsen rimelig, samt at de vil have meget vanskeligt ved at klage over en afgørelse, som de opfatter som urimelig.
Der er igangværende initiativer i den datalogiske forskning, som har til formål at gøre det lettere at vurdere hvordan maskinlærende algoritmer fungerer, og kommunikere dette til brugere. De vil antageligt i nogen grad kunne afhjælpe problemet. Men i den udstrækning det består udgør det en alvorlig udfordring for anvendelsen af maskinlærende algoritmer, som må afvejes mod for eksempel den øgede præcision de kan opnå.
Værdier
Et sidste punkt er det måske vigtigste at tage i betragtning, når vi skal vurdere algoritmiske agenter. Det handler om hvilke værdier vi lægger til grund, når vi skal vurdere dem.
Som vi allerede helt indledningsvis var inde på, så er enhver algoritmisk agent defineret ved sin evne til at løse en given opgave. Hvad det i en sådan situation vil sige at løse opgaven er imidlertid ikke forudgivet, men involverer (ofte implicit) fastsættelsen af en værdi, som algoritmen forventes at fremme. Det er kun i kraft af en sådan værdi, at vi kan sige, at nogle resultater er fejl, mens andre er korrekte.
For at tage fat i et eksempel, som jeg anvendte da jeg diskuterede netop fejl og fordele, så kan vi forestille os en algoritme, der screener patienter, for at identificere de personer, som har en bestemt sygdom. Fejl er i denne situation både at overse patienter som har sygdommen, og at klassificere raske patienter som syge. Implicit er værdien her fremme af patienters sundhed, idet vi antager at de syge patienter som identificeres kan modtage behandling, samt at det er værdifuldt, at de modtager en sådan behandling.
Sådanne antagelser er ofte tilforladelige, men ikke altid. Dels kan det ind imellem være uklart hvilken værdi en algoritme skal fremme, eller kontroversielt om den bør fremme den værdi, som den er designet til. Dels vil der ind imellem være dårlig forbindelse mellem algoritmens funktion og den underliggende værdi.
Et første eksempel kunne være Facebooks nyhedsalgoritme. Facebooks nyhedsalgoritme filtrerer de nyheder, som for enhver bruger dukker op, når personen logger på Facebook, og vurderer dels hvilke nyheder som er relevante at vise, og dels hvordan disse skal prioriteres, det vil sige, hvilke som skal vises først. Præcis hvordan den gør det er naturligvis hemmeligt, men overordnet kunne man måske naivt forvente, at den for eksempel forsøgte at skabe mest mulig brugertilfredshed, ved at vise de nyheder som er mest interessante for den enkelte bruger.
Det er imidlertid meget tvivlsomt, om det virkelig er denne værdi Facebooks algoritme er designet til at fremme. Et mere plausibelt bud er, at den er designet til at maksimere brugeres eksponeren for og interaktion med de reklamer, som Facebook får sin indtægt fra. Det kan i den forbindelse være relevant for Facebook at skabe brugertilfredshed, for så vidt som dette for eksempel får brugere til at besøge Facebook oftere og i længere tid. Men også kun for så vidt som dette er tilfældet. I situationer hvor de to hensyn skilles ad, vil algoritmen antageligt tilstræbe at indfri hensynet til reklameindtægt.
Hvordan kunne det ske? Et primitivt og fuldstændig fiktivt eksempel kunne være valget mellem at prioritere alle nyheder, og servere dem i strengt prioriteret rækkefølge, versus at blande dem så de mest interessante nyheder optræder strøet ud mellem andre nyheder, der er mindre interessante. Den første model kunne føre til at brugere er kortere tid på Facebook, fordi de læser de mest interessante nyheder igennem, registrerer at nyhederne bliver mindre og mindre relevante, og derpå logger af. Det vil antageligt være en bedre brugeroplevelse for de fleste. Omvendt vil den anden model kunne holde brugere aktive på Facebook længere tid, fordi der regelmæssigt dukker en ny, interessant nyhed op, imellem den linde strøm af mindre interessante nyheder. Det vil antageligt samlet set være en mindre god brugeroplevelse, men den længere tid på platformen kan for virksomheden veksles direkte til flere reklameindtægter.
I en situation som ovenstående kan der være en god forbindelse mellem algoritmens funktion, og den værdi som den i sidste ende skal fremme, men det kan være uklart for mange brugere, at denne værdi er Facebooks indtjening snarere end deres brugeroplevelse, og kontroversielt om det sidste er den rigtige værdi at fremme, især selvfølgelig når og hvis det sker på bekostning af andre værdier (om dette faktisk er tilfældet ved Facebook er naturligvis et andet spørgsmål - de optræder her alene som hypotetisk eksempel).
Et andet og meget diskuteret eksempel kunne være brugen af COMPAS-teknologi i en lang række amerikanske stater, til at vurdere dømte kriminelles risiko for at begå fremtidige forbrydelser. Én kritik som er blevet fremført i den forbindelse, er at disse vurderinger inddrages, når dommere skal udmåle straffen, hvilket angiveligt krænker den dømtes ret til at blive behandlet som uskyldig indtil det modsatte er bevist (idet dommeren derved implicit straffer vedkommende for forbrydelser hun antages at ville begå i fremtiden).
Man kan diskutere om dette synspunkt i sig selv er korrekt - det vil sige, om det vitterligt krænker en persons ret til at blive betragtet som uskyldig, hvis risikovurderinger inddrages i strafudmålingen - men mere centralt i denne sammenhæng er det, at dette ikke er en effekt af den algoritmiske agent. Hvis dette vitterligt udgør et problem, så er det et problem som findes i samme form og udstrækning, når dommere inddrager denne type vurdering uden at bruge en algoritmisk agent (f.eks. ved at lave en intuitiv vurdering). Det er således et eksempel på, at algoritmiske agenter kan tjene kontroversielle værdier eller formål, men også på at udfordringen i denne sammenhæng er at holde fokus på denne værdi, snarere end på at der er en algoritmisk agent involveret.
I de to første indlæg (her og her) i denne skitse til en dataetik har jeg diskuteret hvilke fordele som motiverer brugen af algoritmiske agenter, hvilke fejltyper de bør evalueres på, de udfordringer som de rejser i forhold til forskelsbehandling, og nogle komplikationer ved idealet om at algoritmer bør behandle alle lige.
I dette tredje og sidste indlæg handler det om de udfordringer som knytter sig til algoritmers brug af data, de reaktioner de kan afføde, deres transparens (eller mangel på samme), og det måske mest grundlæggende spørgsmål om de værdier de baseres på og vurderes efter.
Garbage in, garbage out
Et af de mest omdiskuterede problemer ved algoritmiske agenter er deres afhængighed af de data, som algoritmen analyserer på. Disse er indlysende relevante for algoritmers almindelige analyser, fordi en analyse af mangelfulde data bliver upålidelig, men de er også, og måske især relevante for algoritmiske agenter som udvikles gennem maskinlæring. En maskinlærende algoritme finder selv de sorteringsmekanismer, som skal hjælpe den med at lave den endelige vurdering, ved at træne på et udvalgt datasæt. Hvis dette datasæt er mangelfuldt, så bliver de resulterende skævheder indkodet i selve algoritmen, så den efterfølgende vil lave mangelfulde analyser, selv hvis den arbejder med gode data.
De data, som algoritmer arbejder med, vil i praksis altid have visse mangler. Der vil være fejl i databasen, for eksempel fordi en person registreres med et andet karakteristika, end vedkommende faktisk besidder, og der vil være huller i databasen, hvor visse karakteristika eller personer mangler. Sådanne mangler er et vilkår ved alt arbejde med data, og i udgangspunktet en udfordring som menneskelige og algoritmiske agenter deler når de skal analysere data.
Brugen af algoritmiske agenter rejser imidlertid to nye udfordringer knyttet til data. For det første, så kan algoritmiske agenter anvendes på områder, hvor man ikke tidligere har analyseret data (eller i hvert fald ikke lavet samme type systematisk analyse og brug af data). Hvis man ikke i den forbindelse er opmærksom på at vurdere kvaliteten af de data, som algoritmen analyserer, så er der risiko for at overse de fejl, som algoritmens analyser er behæftet med, måske især hvis man bliver grebet af den fascination over algoritmens formåen, som ofte ledsager introduktionen af et analytisk stærkt og tilsyneladende upartisk værktøj.
For det andet så kan algoritmers evne til at samkøre meget store datamængder få mindre mangler til at spille en anden og stærkere rolle. I en gruppe af datasæt, som hver især har mindre mangler, kan disse mangler hver for sig have en beskeden effekt. Men ved samkøring af data kan algoritmen komme til at ramme disse mangler på måder hvor de forstærker hinanden, således at effekten på algoritmens vurderinger bliver væsentligt stærkere.
Fejl, fordelinger og Ratchet-effekter
Data som på denne måde er mangelfulde skaber først og fremmest problemer fordi kvaliteten af de algoritmiske agenters vurderinger falder. Men de kan også, og måske især, skabe problemer fordi de understøtter eller fører til fordelingseffekter af den type som vi behandlede i diskussionen af algoritmisk forskelsbehandling.
Det sidste vil ofte være tilfældet, fordi der er mangler i datasæt som korrellerer med grupper. Der kan for eksempel være bestemte typer mangler som oftest optræder i data i tilknytning til et bestemt køn, en bestemt seksualitet, en bestemt etnicitet, etc. Derved opstår bestemte typer fejl også oftere i tilknytning til disse grupper.
En særlig problematik er at sådanne mangler i data og resulterende fejl kan være selvforstærkende. Et klassisk eksempel analyseret af Bernard Harcourt er politi-profilering som fokuserer på for eksempel en etnisk minoritet, og som kan have en tendens til at skabe øget bevidsthed om denne gruppes kriminalitet, hvilket legitimerer stærkere profilering af gruppen, hvilket øger bevidstheden om gruppens kriminalitet, etc.
Et sådant accellerende fokus - Harcourt kalder det en "ratchet-effect" - kan i sig selv være uhensigtsmæssigt, men er det indlysende og især hvis det hviler på et historisk overfokus, som har skabt en skæv repræsentation af denne gruppe i de data, som motiverer profileringen. I den situation kan man forestille sig, at der ret beset ikke er grund til at fokusere på denne gruppe, men at de data man ligger inde med i stadigt stigende grad kommer til at indikere det modsatte. Det legitimerer og medfører igen en stadigt voksende mængde fejl, og en stadigt mere skæv fordeling af fejl og effekter.
Incitamenter og responseffekter
En anden udfordring ved algoritmiske agenter, som i modsætning til ovenstående næsten ikke har modtaget nogen opmærksomhed, er den måde introduktionen af en algoritmisk agent kan påvirke incitamentstrukturer og skabe responseffekter.
Vi berørte allerede i første indlæg et enkelt eksempel på en sådan effekt, nemlig risikoen for at menneskelige agenter kan komme til at køre på automatpilot, når de skal arbejde på baggrund af algoritmiske vurderinger. Men der kan dukke responseffekter op utallige steder.
Mange års forskning i målstyring i offentlig administration har demonstreret, at de personer som styres ofte er meget fleksible, forstået således at de tilpasser deres adfærd til de kontrolmekanismer de underlægges. Imidlertid har sådanne personer ofte deres egne dagsordener, så den måde de tilpasser sig på kan være uhensigtsmæssig. Det er en konstant risiko ved målstyring, at personerne ændrer adfærd for at tilpasse sig styringen, på en måde som umiddelbart tilfredsstiller de definerede mål, men som er værre med hensyn til de egentlige mål.
Et klassisk eksempel fra forskningsverdenen er introduktionen af målingen af videnskabelige produktioner (konkret typisk videnskabelige artikler). Hensigten med dette er typisk at øge mængden af videnskabeligt arbejde, ved at gøre det synligt for den enkelte forsker, hvor meget de selv producerede sammenlignet med kollegaer, og ved at bruge mængden af arbejde som kriterium for ansættelse og forfremmelser. I praksis har konsekvensen snarere været a) en voksende industri af pseudovidenskabelige tidsskrifter, hvor forskere kan udgive artikler af meget lav kvalitet, b) en forstærkning af nepotistiske netværk, hvor forskere hjælper kollegaer med lettere adgang til publikationskanaler, og c) en reduktion af også store dele af det seriøse videnskabeligt arbejde til det minimum af indsats, som er nødvendigt for at kunne publicere arbejdet.
Dermed ikke sagt, at forskere som hele publicerer overfladisk forskning i pseudovidenskabelige tidsskrifter gennem "old boys"-netværk. Langt det meste forskning er fortsat sobert, grundigt og bedømt af dobbelt-blindede fagfæller. Pointen er den mindre dramatiske, men stadig væsentlige, at i den udstrækning introduktionen af målstyring har haft en effekt, har denne effekt måske fortrinsvis været utilsigtet og negativ.
Som eksemplet ovenfor illustrerer, så findes denne type udfordring også for menneskelige agenter. Alligevel er der grund til at være særligt på vagt, når der er tale om algoritmiske agenter. Det skyldes det forhold, at algoritmers beslutningskriterier i teorien er tilgængelige og rigide, på en anden måde end hos typiske menneskelige agenter. En algoritmisk agent har et særligt sæt af kriterier for sine analyser og vurderinger, og disse kan i nogle tilfælde (se diskussionen af transparens nedenfor) være fuldt tilgængelige for andre. I modsætning til mennesker er den algoritmiske agent også bundet til disse kriterier - den kan ikke tage dem op til overvejelse, eller gøre undtagelser, i situationer hvor anvendelsen af kriterierne viser sig at være kontraproduktiv. Det skaber særligt gunstige vilkår for at "game the system".
Præcis hvordan udfordringer med den resulterende incitamentstruktur og responseffekter kan manifestere sig vil variere afhængigt af den algoritmiske agents kontekst og funktion. Det er derfor vanskeligt at sige noget generelt om hvordan sådanne udfordringer vil se ud, og hvordan de kan håndteres. Men det er endnu et forhold, som vi bør holde os for øje, når vi udvikler og implementerer algoritmiske agenter.
Den sorte boks
Et væsentligt element i moderne administration, er at de personer som påvirkes af en beslutning, har mulighed for at få indsigt i det grundlag, som beslutningen er truffet på, og klage over beslutningen, hvis dette grundlag virker urimeligt eller forkert. Det er derfor et væsentligt problem ved algoritmiske agenter, at denne mulighed ofte vil være stærkt begrænset. Algoritmer kan i mange situationer få karakter af en sort boks, hvor vi nok kan se hvad der kommer ind, og hvad der kommer ud, men ikke kan se hvorfor input af den ene type giver et resultat af den anden type, det vil sige, hvad grundlaget for algoritmens beslutning er.
En første grund til, at denne type indsigt kan være begrænset er, at mange algoritmer udvikles af private firmaer, som har behov for at holde detaljerne om hvordan algoritmen fungerer hemmelige, for ikke at blive kopieret og udkonkurreret af andre firmaer. Dette behov skaber indlysende problemer, når for eksempel borgere som bliver berørt af de vurderinger, som algoritmen foretager, ønsker at forstå hvilket grundlag vurderingen er foretaget på, så de kan vurdere om de ønsker at klage. Men det skaber også problemer, hvis for eksempel en offentlig myndighed, som har anvendt én type algoritme, beslutter sig for at skifte til en anden algoritme. I sådanne tilfælde kan det være vanskeligt at overføre data fra det hidtidige arbejde, fordi den måde algoritmen har behandlet dataene på er omfattet af virksomhedens behov for at beskytte sin teknologi.
Man kunne måske fristes til at sige "så meget desto værre for virksomheders behov", men her bør man holde sig for øje, hvad grundlaget for at tage hensyn til virksomheders mulighed for at hemmeligholde teknologi er. Det er ofte i alles interesse at tilskynde private virksomheder, til at udvikle ny teknologi, men det er et vilkår ved sådan udvikling, at den ofte er ekstremt dyr, imens det er relativt enkelt for andre virksomheder for eksempel at kopiere en allerede udviklet algoritme. Hvis virksomheder ikke kan holde følsomme detaljer om deres produkter hemmelige, så vil de derfor hurtigt komme til at stå med alle omkostningerne for at udvikle produktet, men være nødt til at dele indtægterne med de konkurrenter, som kopierer produktet. Resultatet vil være, at virksomheder bruger langt færre ressourcer, på at udvikle ny teknologi.
Denne variant af problemet kan, i hvert fald i nogle situationer, løses ved at udvikle offentlige alternativer til de private produkter, ved at give særlige personer adgang til data om produktet på særlige vilkår, eller ved at kompensere virksomheder for deres tab af fortjeneste.
Der findes imidlertid en anden variant af problemet, som skaber mere fundamentale problemer. Moderne algoritmer udvikles i stigende grad ved såkaldt maskinlæring, hvor algoritmen selv definerer og gradvist tilpasser sine parametre gennem træning på et udvalgt datasæt. Den resulterende algoritme vil i mange tilfælde være bedre, for eksempel til at undgå fejl, end en mere klassisk algoritme, hvor menneskelige programmører har specificeret dens funktioner.
Som tidligere nævnt, så er det måske mest berømte eksempel DeepMinds AlphaZero, som på ganske få timer udviklede sig fra en basal forståelse af skaks regler til verdens måske stærkeste skakspiller, alene ved at spille tusindvis af spil mod sig selv, og konstant revidere sine egne analyser. Resultatet er en algoritme som definitivt kan slå enhver menneskelig skakspiller, og som synes at være de klassiske skakprogrammer, som er udviklet ved møjsommelig, menneskelig finpudsning, klart overlegen.
Ulempen ved maskinlæring er, at der i udgangspunktet ikke er nogen, ikke engang de programmører, som har skrevet algoritmen og sat den i gang med at udvikle sig selv, som ved præcist hvordan den fungerer. Når en sådan algoritme træffer beslutninger, så er der derfor i udgangspunktet ikke nogen, som kan forklare præcis hvad grundlaget for beslutningen er. Det betyder at personer, som påvirkes af en beslutning truffet på dette grundlag, ikke kan få indsigt i beslutningsgrundlaget, og derfor vil have vanskeligt ved at vurdere hvorvidt de finder afgørelsen rimelig, samt at de vil have meget vanskeligt ved at klage over en afgørelse, som de opfatter som urimelig.
Der er igangværende initiativer i den datalogiske forskning, som har til formål at gøre det lettere at vurdere hvordan maskinlærende algoritmer fungerer, og kommunikere dette til brugere. De vil antageligt i nogen grad kunne afhjælpe problemet. Men i den udstrækning det består udgør det en alvorlig udfordring for anvendelsen af maskinlærende algoritmer, som må afvejes mod for eksempel den øgede præcision de kan opnå.
Værdier
Et sidste punkt er det måske vigtigste at tage i betragtning, når vi skal vurdere algoritmiske agenter. Det handler om hvilke værdier vi lægger til grund, når vi skal vurdere dem.
Som vi allerede helt indledningsvis var inde på, så er enhver algoritmisk agent defineret ved sin evne til at løse en given opgave. Hvad det i en sådan situation vil sige at løse opgaven er imidlertid ikke forudgivet, men involverer (ofte implicit) fastsættelsen af en værdi, som algoritmen forventes at fremme. Det er kun i kraft af en sådan værdi, at vi kan sige, at nogle resultater er fejl, mens andre er korrekte.
For at tage fat i et eksempel, som jeg anvendte da jeg diskuterede netop fejl og fordele, så kan vi forestille os en algoritme, der screener patienter, for at identificere de personer, som har en bestemt sygdom. Fejl er i denne situation både at overse patienter som har sygdommen, og at klassificere raske patienter som syge. Implicit er værdien her fremme af patienters sundhed, idet vi antager at de syge patienter som identificeres kan modtage behandling, samt at det er værdifuldt, at de modtager en sådan behandling.
Sådanne antagelser er ofte tilforladelige, men ikke altid. Dels kan det ind imellem være uklart hvilken værdi en algoritme skal fremme, eller kontroversielt om den bør fremme den værdi, som den er designet til. Dels vil der ind imellem være dårlig forbindelse mellem algoritmens funktion og den underliggende værdi.
Et første eksempel kunne være Facebooks nyhedsalgoritme. Facebooks nyhedsalgoritme filtrerer de nyheder, som for enhver bruger dukker op, når personen logger på Facebook, og vurderer dels hvilke nyheder som er relevante at vise, og dels hvordan disse skal prioriteres, det vil sige, hvilke som skal vises først. Præcis hvordan den gør det er naturligvis hemmeligt, men overordnet kunne man måske naivt forvente, at den for eksempel forsøgte at skabe mest mulig brugertilfredshed, ved at vise de nyheder som er mest interessante for den enkelte bruger.
Det er imidlertid meget tvivlsomt, om det virkelig er denne værdi Facebooks algoritme er designet til at fremme. Et mere plausibelt bud er, at den er designet til at maksimere brugeres eksponeren for og interaktion med de reklamer, som Facebook får sin indtægt fra. Det kan i den forbindelse være relevant for Facebook at skabe brugertilfredshed, for så vidt som dette for eksempel får brugere til at besøge Facebook oftere og i længere tid. Men også kun for så vidt som dette er tilfældet. I situationer hvor de to hensyn skilles ad, vil algoritmen antageligt tilstræbe at indfri hensynet til reklameindtægt.
Hvordan kunne det ske? Et primitivt og fuldstændig fiktivt eksempel kunne være valget mellem at prioritere alle nyheder, og servere dem i strengt prioriteret rækkefølge, versus at blande dem så de mest interessante nyheder optræder strøet ud mellem andre nyheder, der er mindre interessante. Den første model kunne føre til at brugere er kortere tid på Facebook, fordi de læser de mest interessante nyheder igennem, registrerer at nyhederne bliver mindre og mindre relevante, og derpå logger af. Det vil antageligt være en bedre brugeroplevelse for de fleste. Omvendt vil den anden model kunne holde brugere aktive på Facebook længere tid, fordi der regelmæssigt dukker en ny, interessant nyhed op, imellem den linde strøm af mindre interessante nyheder. Det vil antageligt samlet set være en mindre god brugeroplevelse, men den længere tid på platformen kan for virksomheden veksles direkte til flere reklameindtægter.
I en situation som ovenstående kan der være en god forbindelse mellem algoritmens funktion, og den værdi som den i sidste ende skal fremme, men det kan være uklart for mange brugere, at denne værdi er Facebooks indtjening snarere end deres brugeroplevelse, og kontroversielt om det sidste er den rigtige værdi at fremme, især selvfølgelig når og hvis det sker på bekostning af andre værdier (om dette faktisk er tilfældet ved Facebook er naturligvis et andet spørgsmål - de optræder her alene som hypotetisk eksempel).
Et andet og meget diskuteret eksempel kunne være brugen af COMPAS-teknologi i en lang række amerikanske stater, til at vurdere dømte kriminelles risiko for at begå fremtidige forbrydelser. Én kritik som er blevet fremført i den forbindelse, er at disse vurderinger inddrages, når dommere skal udmåle straffen, hvilket angiveligt krænker den dømtes ret til at blive behandlet som uskyldig indtil det modsatte er bevist (idet dommeren derved implicit straffer vedkommende for forbrydelser hun antages at ville begå i fremtiden).
Man kan diskutere om dette synspunkt i sig selv er korrekt - det vil sige, om det vitterligt krænker en persons ret til at blive betragtet som uskyldig, hvis risikovurderinger inddrages i strafudmålingen - men mere centralt i denne sammenhæng er det, at dette ikke er en effekt af den algoritmiske agent. Hvis dette vitterligt udgør et problem, så er det et problem som findes i samme form og udstrækning, når dommere inddrager denne type vurdering uden at bruge en algoritmisk agent (f.eks. ved at lave en intuitiv vurdering). Det er således et eksempel på, at algoritmiske agenter kan tjene kontroversielle værdier eller formål, men også på at udfordringen i denne sammenhæng er at holde fokus på denne værdi, snarere end på at der er en algoritmisk agent involveret.
For at samle op, så er det fuldstændig afgørende i vurderingen af algoritmiske agenter, at overveje hvilke værdier algoritmen er designet til at fremme, og i den forbindelse om disse værdier er hensigtsmæssige mål for algoritmen. Anvendelsen af algoritmiske agenter er i den forbindelse risikofyldt fordi vi kan komme til at glemme, at der er sådanne værdier på spil. Men omvendt kan vi også, i den kritiske analyse af algoritmiske agenter, komme til at overse, at det i nogle tilfælde er de værdier, som algoritmen er sat til at fremme, som er problematiske, snarere end anvendelsen af en algoritmisk agent som sådan (den pointe har jeg tidligere illustreret i diskussionen af såkaldt intelligent politiarbejde).
Som de tre indlæg forhåbentlig har illustreret, så er dataetik et komplekst felt, med en række både forskellige og relaterede problematikker. Som forskningsfelt er det i disse år i rivende udvikling. Det er en god ting. For praksis har for længst overhalet vores refleksioner. Algoritmiske agenter udvikles og introduceres flere og flere steder. Hvis vi skal nå at formulere grundigt gennemtænkte svar på de etiske spørgsmål, som brugen af algoritmer rejser, så er det nu vi skal i gang.
Som de tre indlæg forhåbentlig har illustreret, så er dataetik et komplekst felt, med en række både forskellige og relaterede problematikker. Som forskningsfelt er det i disse år i rivende udvikling. Det er en god ting. For praksis har for længst overhalet vores refleksioner. Algoritmiske agenter udvikles og introduceres flere og flere steder. Hvis vi skal nå at formulere grundigt gennemtænkte svar på de etiske spørgsmål, som brugen af algoritmer rejser, så er det nu vi skal i gang.
tirsdag den 2. april 2019
Skitser til en dataetik 2: algoritmisk forskelsbehandling
(Advarsel: *nørdet*. Dette indlæg er, selv efter denne blogs standard, ret abstrakt og teknisk.)
Direkte forskelsbehandling
Den første og måske mest oplagt mulighed for, algoritmer kan forskelsbehandle på en problematisk måde, er at de kan lægge forskelle til grund, som vi intuitivt mener, ikke bør spille en rolle.
Vi kan for eksempel forestille os en algoritme der forsøger at identificere personer, som svindler med offentlige midler, og som giver personer med en bestemt etnicitet en højere sandsynlighed end andre. Selv hvis dette skulle være korrekt - det vil sige, at flere personer med denne etnicitet svindler, selv når man kontrollerer for andre faktorer som alder, indkomst, uddannelse, etc. - så vil mange mene, at det er udtryk for moralsk problematisk diskrimination, hvis algoritmen på denne måde forskelsbehandler på grund af etnicitet. I givet fald er der tale om såkaldt direkte diskrimination.
Diskrimination er et kompliceret fænomen, og det er langt mindre klart både hvad diskrimination er, og hvornår/hvorfor den er moralsk problematisk, end mange personer ofte antager. Ville det, for eksempel, være lige så problematisk, hvis det var mænd som var mere tilbøjelige til at svindle, og derfor mænd som fik justeret deres sandsynlighed? Og hvad, for at tage et andet eksempel, med en algoritme, som skal vurdere hvilke personer som skal tilbydes en test mod en bestemt sygdom, som kvinder har større sandsynlighed end mænd for at lide af? Mange vil nok være langt mindre sikre på, at det i dette tilfælde udgør et problem, hvis algoritmen justerer kvinders sandsynlighed på grund af deres køn, således at flere kvinder (og færre mænd) tilbydes testen. Hvis det er korrekt, så er det ikke selve det, at forskelsbehandle på baggrund af bestemte karakteristika, som er problematisk, men snarere dét at forskelsbehandle på bestemte måder, uanset hvilke grupper som er involveret (det har jeg i sin tid skrevet en artikel om).
Som det sidste eksempel illustrerer, så kan det ind imellem endda virke problematisk, hvis der er distinktioner, som burde indgå i analysen og/eller som del af beslutningsgrundlaget, men som er blevet overset eller bevidst udeladt. En del kritikere påpeger, at det eksempelvis kan være et problem, når langt de fleste algoritmer udvikles af personer, som har en særlig demografi (med en måske lidt grov generalisering: højtuddannede, analytisk begavede men introverte unge mænd), fordi de kan dele antagelser og blinde vinkler, som de uforvarende kommer til at overføre til algoritmen.
Et fiktivt eksempel kunne være et stykke software, som skal analysere bestemte helbredsdata, men som overser at kvinders menstruationscyklus påvirker dataene, og af denne grund ikke kan lave lige så gode vurderinger for kvinder, som den kan for mænd. Her er der tale om at kvinder ved at blive behandlet på samme måde som mænd stilles ringere uden grund, idet (kan vi forestille os) algoritmen uden videre kunne tage højde for de relevante forskelle og derved give kvinder en lige så præcis vurdering, men ikke gør det (eksemplet er kun fiktivt i løs forstand - der er massevis af eksempler på at medicinske tests, medikamenter og procedurer udvikles til mænd, uden at tage højde for at de vil virke anderledes på kvinder). Som sådan er det også et eksempel på såkaldt indirekte diskrimination.
Indirekte forskelsbehandling
Den anden store udfordring for algoritmiske agenter knytter sig netop til, at selv når en algoritmisk agent ikke direkte lægger et karakteristika til grund for forskelsbehandling på en måde som er problematisk, så kan fordelingen af fejl og effekter mellem grupper være ulige på måder som kan være det. Det er værd at bemærke, at dette sagtens kan være tilfældet, selvom agenten samlet set er lige så god som (eller bedre end) en menneskelig agent til lave korrekte vurderinger. En algoritmisk agent, som samlet set laver samme mængde, type og vægt af fejl som en menneskelig agent kan alligevel lave fejl og effekter, som rammer andre personer og grupper, end de som ville være blevet ramt af en menneskelig agent.
Indirekte diskrimination er et komplekst fænomen, og der er ikke konsensus i forskningen om hvordan vi skal forstå det, eller hvad som er galt med det. Men én plausibel forklaring, som jeg selv har argumenteret for, er at indirekte diskrimination er en handling der uhensigtsmæssigt stiller en sårbar gruppe ringere, ved at behandle dem på samme måde som vi behandler andre, uden at tage hensyn til at dette netop for denne gruppe vil have en særlig, negativ effekt.
Den første effekt kunne også opstå alene fordi algoritmen havde tendens til systematisk at undervurdere hvides risiko. I praksis synes det imidlertid at være tilfældet, at den også systematisk overvurderede sortes risiko for recidivisme.
Sådanne forskelle er vigtige. I det aktuelle eksempel betyder det at flere sorte end hvide får lange straffe eller nægtes prøveløsladelse, og at dette for flere sorte end hvide beror på en fejl.
Prospektiv og retrospektiv vurderingslighed
NorthPointe, som udvikler COMPAS, forsvarede sig ved at påpege, at algoritmen giver personer samme sandsynlighed for at begå ny kriminalitet for en given vurdering, uanset race. Det vil sige, at hvis algoritmen vurderer, at en person har x% sandsynlighed for recidivisme, så begår denne person faktisk en ny forbrydelse i y% af tilfældene, og dette er tilfældet på tværs af f.eks. køn, race, etc. Algoritmen er altså lige så god til at vurdere chancen for recidivisme, uanset hvem man er.
Kald dette for prospektiv vurderingslighed: En algoritme må ikke begå flere fejl, målt som ratioen mellem de gange hvor den gætter rigtigt og de hvor den gætter forkert, i sine vurderinger af én gruppe, end den gør i sine vurderinger af en anden gruppe.
ProPublica, som kritiserede COMPAS, argumenterede imidlertid for, at det er uretfærdigt, at en sort person, som ikke begår fremtidige forbrydelser, har en større sandsynlighed for, at være blevet fejlagtigt vurderet, som havende en høj sandsynlighed for recidivisme (og omvendt, at en hvid person som begår en fremtidig forbrydelse har en større sandsynlighed for at være blevet fejlagtigt vurderet som havende en lav sandsynlighed for recidivisme).
Kald dette for retrospektiv vurderingslighed: En algoritme må ikke begå flere fejl, målt som ratioen mellem de gange hvor personer som befinder sig i en kategori vurderes rigtigt og de hvor disse personer vurderes forkert, for én gruppe, end den gør for en anden gruppe.
De to typer lighed stiller forskellige spørgsmål. Den første spørger: hvis en person klassificeres som havende et karakteristika, hvad der så sandsynligheden for, at dette er rigtigt? Og er denne sandsynlighed forskellig, for forskellige grupper? Den anden type lighed spørger: hvis en person faktisk har et karakteristika, hvad er så sandsynligheden for, at vedkommende vil blive klassificeret rigtigt? Og er denne sandsynlighed forskellig, for forskellige grupper?
Det kan umiddelbart lyde mærkeligt, at der skulle kunne være situationer, hvor de to typer lighed kan skilles ad, men overvej følgende simple eksempel:
Gen-test: En særlig genetisk disposition forekommer oftere hos mænd end hos kvinder. Et hospital bruger en test for den genetiske disposition i et år, og får følgende resultater:
Testen omfatter ialt 140 mænd og 80 kvinder, af dem har 100 mænd og 52 kvinder faktisk den genetiske disposition. Ingen af delene er underlige, fordi dispositionen forekommer oftere hos mænd. Men er testen lige så god for kvinder, som for mænd?
Én måde at vurdere dette spørgsmål på, er at sammenligne succesraterne for henholdsvis positivt og negativt testede. Af de mænd som tester positivt (100) er det 80 som har dispositionen og 20 som er blevet fejldiagnosticeret. Det giver en succesrate på 80%. Det er fuldstændig samme resultat, som for kvinderne (40 kvinder, 32 som faktisk har dispositionen, 8 som er fejldiagnosticerede). Hvis vi sammenligner hvor god testen er til at ramme rigtigt, når den tester positivt, så synes den altså at være lige god for begge køn.
Billedet er det samme for de personer som tester negativt. Bliver man testet negativt, er der for begge køn en 50% sandsynlighed for, at man ikke har dispositionen, og en 50% sandsynlighed for, at man alligevel har den (denne fiktive test er derfor samlet set, og i parantes bemærket, ikke imponerende, men det er ikke her pointen). Det skyldes at der for begge køns vedkommende er 20 som korrekt testes negativt og 20 som fejldiagnosticeres.
Det kan således se ud til, at testen er lige så god for kvinder som for mænd. Men det er fordi vi foreløbig kun har vurderet den i lyset af prospektiv vurderingslighed. Hvis vi i stedet spørger, hvor god testen er til at ramme rigtigt, for de som faktisk har og ikke har dispositionen, så er billedet anderledes.
Hvis man er en mand, og faktisk har dispositionen, så er der 80% chance for, at man vil blive testet positivt, og 20 procent chance for at man bliver testet negativt. Hvis man er mand og ikke har dispositionen, så er der 50% chance for at blive testet positivt, og 50% chance for at blive testet negativt. For mænd er der således ingen forskel på prospektiv og retrospektiv vurderingslighed.
Men for kvinder, som faktisk har dispositionen, er der kun 62% chance for at blive testet positivt (20/32). Omvendt er der for kvinder, som ikke har dispositionen, kun 29% chance for at blive testet positivt (8/20). Det betyder at testen i dette perspektiv er meget bedre (80% vs. 62%) til korrekt at identificere de mænd, som har dispositionen. Men den er også meget bedre til ikke at fejldiagnosticere de kvinder, som ikke har dispositionen (29% vs. 50%).
Som eksemplet illustrerer kan de to typer lighed altså skilles ad. Og faktisk er dette ikke bare muligt. Når der er relevante forskelle mellem grupperne vil de nødvendigvis skilles ad, og det er derfor umuligt at opnå begge typer lighed på samme tid (matematisk bevis her, enkel forklaring her). Det betyder at vi i mange situationer vil være tvunget til at vælge, hvilken af de to typer lighed, som vi vil sikre, når vi designer algoritmen.
Samme algoritme-tid, samme algoritme-kanal...
Som dette indlæg har skitseret, så er der en række potentielt problematiske måder, som algoritmiske agenter kan forskelsbehandle på. For flere af dem vil vi være nødt til at lave vanskelige afvejninger af konkurrerende hensyn, f.eks. mellem forskellige idealer om lighed, og mellem hensynet til lighed og hensynet til det mål som algoritmen tjener.
I tredje og sidste afsnit af skitserne skal vi kigge på de udfordringer for algoritmiske agenter som knytter sig til deres brug af data, de reaktioner de kan afstedkomme, deres manglende transparens, og de værdier de bygger på.
-----
* Det er fortsat kontroversielt (se her og her) i hvilken udstrækning dette faktisk udgør problemer ved softwaren. Eksemplet tjener imidlertid som en udmærket illustration af den generelle udfordring for algoritmiske agenter, uanset hvad vi bør mene om lige præcis COMPAS.
I første afsnit af mine skitser til en dataetik præsenterede jeg to argumenter for brugen af algoritmiske agenter - effektivitet og objektivitet - og en række mulige fejl som de kunne begå, og som de må vurderes på. I dette afsnit handler det om et andet forhold, nemlig det, at algoritmiske agenter kan forskelsbehandle personer, på måder som kan virke problematiske.
Direkte forskelsbehandling
Den første og måske mest oplagt mulighed for, algoritmer kan forskelsbehandle på en problematisk måde, er at de kan lægge forskelle til grund, som vi intuitivt mener, ikke bør spille en rolle.
Vi kan for eksempel forestille os en algoritme der forsøger at identificere personer, som svindler med offentlige midler, og som giver personer med en bestemt etnicitet en højere sandsynlighed end andre. Selv hvis dette skulle være korrekt - det vil sige, at flere personer med denne etnicitet svindler, selv når man kontrollerer for andre faktorer som alder, indkomst, uddannelse, etc. - så vil mange mene, at det er udtryk for moralsk problematisk diskrimination, hvis algoritmen på denne måde forskelsbehandler på grund af etnicitet. I givet fald er der tale om såkaldt direkte diskrimination.
Diskrimination er et kompliceret fænomen, og det er langt mindre klart både hvad diskrimination er, og hvornår/hvorfor den er moralsk problematisk, end mange personer ofte antager. Ville det, for eksempel, være lige så problematisk, hvis det var mænd som var mere tilbøjelige til at svindle, og derfor mænd som fik justeret deres sandsynlighed? Og hvad, for at tage et andet eksempel, med en algoritme, som skal vurdere hvilke personer som skal tilbydes en test mod en bestemt sygdom, som kvinder har større sandsynlighed end mænd for at lide af? Mange vil nok være langt mindre sikre på, at det i dette tilfælde udgør et problem, hvis algoritmen justerer kvinders sandsynlighed på grund af deres køn, således at flere kvinder (og færre mænd) tilbydes testen. Hvis det er korrekt, så er det ikke selve det, at forskelsbehandle på baggrund af bestemte karakteristika, som er problematisk, men snarere dét at forskelsbehandle på bestemte måder, uanset hvilke grupper som er involveret (det har jeg i sin tid skrevet en artikel om).
Som det sidste eksempel illustrerer, så kan det ind imellem endda virke problematisk, hvis der er distinktioner, som burde indgå i analysen og/eller som del af beslutningsgrundlaget, men som er blevet overset eller bevidst udeladt. En del kritikere påpeger, at det eksempelvis kan være et problem, når langt de fleste algoritmer udvikles af personer, som har en særlig demografi (med en måske lidt grov generalisering: højtuddannede, analytisk begavede men introverte unge mænd), fordi de kan dele antagelser og blinde vinkler, som de uforvarende kommer til at overføre til algoritmen.
Et fiktivt eksempel kunne være et stykke software, som skal analysere bestemte helbredsdata, men som overser at kvinders menstruationscyklus påvirker dataene, og af denne grund ikke kan lave lige så gode vurderinger for kvinder, som den kan for mænd. Her er der tale om at kvinder ved at blive behandlet på samme måde som mænd stilles ringere uden grund, idet (kan vi forestille os) algoritmen uden videre kunne tage højde for de relevante forskelle og derved give kvinder en lige så præcis vurdering, men ikke gør det (eksemplet er kun fiktivt i løs forstand - der er massevis af eksempler på at medicinske tests, medikamenter og procedurer udvikles til mænd, uden at tage højde for at de vil virke anderledes på kvinder). Som sådan er det også et eksempel på såkaldt indirekte diskrimination.
Indirekte forskelsbehandling
Den anden store udfordring for algoritmiske agenter knytter sig netop til, at selv når en algoritmisk agent ikke direkte lægger et karakteristika til grund for forskelsbehandling på en måde som er problematisk, så kan fordelingen af fejl og effekter mellem grupper være ulige på måder som kan være det. Det er værd at bemærke, at dette sagtens kan være tilfældet, selvom agenten samlet set er lige så god som (eller bedre end) en menneskelig agent til lave korrekte vurderinger. En algoritmisk agent, som samlet set laver samme mængde, type og vægt af fejl som en menneskelig agent kan alligevel lave fejl og effekter, som rammer andre personer og grupper, end de som ville være blevet ramt af en menneskelig agent.
Forskelle i effekt mellem to grupper kan opstå uden at involvere direkte forskelsbehandling af de to grupper, når de afspejler andre forskelle imellem de to grupper, som algoritmen reagerer på. Algoritmen behøver således ikke at skelne direkte mellem grupperne for at vurdere eller behandle de to grupper forskelligt, hvis den skelner på baggrund af egenskaber som er ulige fordelt mellem grupperne, eller hvis behandlingen virker forskelligt på de to grupper.
Hvis algoritmen for eksempel er lavet til at opdage social svindel, og personer med en bestemt alder eller køn har tendens til at begå denne type forbrydelse, så vil det ikke være overraskende, at algoritmen succesfuldt identificerer flere af denne type personer som svindlere end personer i den bredere befolkning uden direkte at lægge alder eller køn til grund, så længe den kan skelne på baggrund af andre karakteristika, som korrellerer med alder eller køn. Vi kan sige at algoritmen "opdager" forskellen, selvom vi har forsøgt at skjule den.
Hvis algoritmen for eksempel er lavet til at opdage social svindel, og personer med en bestemt alder eller køn har tendens til at begå denne type forbrydelse, så vil det ikke være overraskende, at algoritmen succesfuldt identificerer flere af denne type personer som svindlere end personer i den bredere befolkning uden direkte at lægge alder eller køn til grund, så længe den kan skelne på baggrund af andre karakteristika, som korrellerer med alder eller køn. Vi kan sige at algoritmen "opdager" forskellen, selvom vi har forsøgt at skjule den.
En anden mulighed er at algoritmen laver flere fejl for en gruppe og færre for en anden, laver andre typer fejl for en gruppe end for en anden (f.eks. flere type 1 fejl og færre type 2 for en gruppe, og omvendt for en anden gruppe), eller at den laver større fejl for en gruppe end for en anden. Denne type forskelle kan, ligesom ovenfor, især virke problematisk, hvis fejl i højere grad end ellers rammer særligt sårbare grupper.
Et meget diskuteret eksempel er brugen af COMPAS i det amerikanske retsvæsen, hvor softwaren er blevet brugt til at vurdere dømtes risiko for at begå nye forbrydelser i fremtiden (dvs. recidivisme). Nogle analyser af softwaren har kritiseret den for, at den havde tendens til at fejlklassificere sorte som havende en høj risiko (falsk positiv-fejl), mens den havde tendens til at fejlklassificere hvide som havende en lav risiko (falsk negativ fejl).*
Den første effekt kunne også opstå alene fordi algoritmen havde tendens til systematisk at undervurdere hvides risiko. I praksis synes det imidlertid at være tilfældet, at den også systematisk overvurderede sortes risiko for recidivisme.
Sådanne forskelle er vigtige. I det aktuelle eksempel betyder det at flere sorte end hvide får lange straffe eller nægtes prøveløsladelse, og at dette for flere sorte end hvide beror på en fejl.
En subtil udfordring ved at forsøge at få algoritmiske agenter til at behandle personer ligeligt, knytter sig til, at fejlratioer kan være forskellige prospektivt og retrospektivt.
Kald dette for prospektiv vurderingslighed: En algoritme må ikke begå flere fejl, målt som ratioen mellem de gange hvor den gætter rigtigt og de hvor den gætter forkert, i sine vurderinger af én gruppe, end den gør i sine vurderinger af en anden gruppe.
ProPublica, som kritiserede COMPAS, argumenterede imidlertid for, at det er uretfærdigt, at en sort person, som ikke begår fremtidige forbrydelser, har en større sandsynlighed for, at være blevet fejlagtigt vurderet, som havende en høj sandsynlighed for recidivisme (og omvendt, at en hvid person som begår en fremtidig forbrydelse har en større sandsynlighed for at være blevet fejlagtigt vurderet som havende en lav sandsynlighed for recidivisme).
Kald dette for retrospektiv vurderingslighed: En algoritme må ikke begå flere fejl, målt som ratioen mellem de gange hvor personer som befinder sig i en kategori vurderes rigtigt og de hvor disse personer vurderes forkert, for én gruppe, end den gør for en anden gruppe.
De to typer lighed stiller forskellige spørgsmål. Den første spørger: hvis en person klassificeres som havende et karakteristika, hvad der så sandsynligheden for, at dette er rigtigt? Og er denne sandsynlighed forskellig, for forskellige grupper? Den anden type lighed spørger: hvis en person faktisk har et karakteristika, hvad er så sandsynligheden for, at vedkommende vil blive klassificeret rigtigt? Og er denne sandsynlighed forskellig, for forskellige grupper?
Det kan umiddelbart lyde mærkeligt, at der skulle kunne være situationer, hvor de to typer lighed kan skilles ad, men overvej følgende simple eksempel:
Gen-test: En særlig genetisk disposition forekommer oftere hos mænd end hos kvinder. Et hospital bruger en test for den genetiske disposition i et år, og får følgende resultater:
Mænd (antal)
|
Kvinder (antal)
|
|||
Tester negativt
|
Tester positivt
|
Tester negativt
|
Tester positivt
|
|
Har disposition
|
20
|
80
|
20
|
32
|
Har ikke disposition
|
20
|
20
|
20
|
8
|
Testen omfatter ialt 140 mænd og 80 kvinder, af dem har 100 mænd og 52 kvinder faktisk den genetiske disposition. Ingen af delene er underlige, fordi dispositionen forekommer oftere hos mænd. Men er testen lige så god for kvinder, som for mænd?
Én måde at vurdere dette spørgsmål på, er at sammenligne succesraterne for henholdsvis positivt og negativt testede. Af de mænd som tester positivt (100) er det 80 som har dispositionen og 20 som er blevet fejldiagnosticeret. Det giver en succesrate på 80%. Det er fuldstændig samme resultat, som for kvinderne (40 kvinder, 32 som faktisk har dispositionen, 8 som er fejldiagnosticerede). Hvis vi sammenligner hvor god testen er til at ramme rigtigt, når den tester positivt, så synes den altså at være lige god for begge køn.
Billedet er det samme for de personer som tester negativt. Bliver man testet negativt, er der for begge køn en 50% sandsynlighed for, at man ikke har dispositionen, og en 50% sandsynlighed for, at man alligevel har den (denne fiktive test er derfor samlet set, og i parantes bemærket, ikke imponerende, men det er ikke her pointen). Det skyldes at der for begge køns vedkommende er 20 som korrekt testes negativt og 20 som fejldiagnosticeres.
Det kan således se ud til, at testen er lige så god for kvinder som for mænd. Men det er fordi vi foreløbig kun har vurderet den i lyset af prospektiv vurderingslighed. Hvis vi i stedet spørger, hvor god testen er til at ramme rigtigt, for de som faktisk har og ikke har dispositionen, så er billedet anderledes.
Hvis man er en mand, og faktisk har dispositionen, så er der 80% chance for, at man vil blive testet positivt, og 20 procent chance for at man bliver testet negativt. Hvis man er mand og ikke har dispositionen, så er der 50% chance for at blive testet positivt, og 50% chance for at blive testet negativt. For mænd er der således ingen forskel på prospektiv og retrospektiv vurderingslighed.
Men for kvinder, som faktisk har dispositionen, er der kun 62% chance for at blive testet positivt (20/32). Omvendt er der for kvinder, som ikke har dispositionen, kun 29% chance for at blive testet positivt (8/20). Det betyder at testen i dette perspektiv er meget bedre (80% vs. 62%) til korrekt at identificere de mænd, som har dispositionen. Men den er også meget bedre til ikke at fejldiagnosticere de kvinder, som ikke har dispositionen (29% vs. 50%).
Som eksemplet illustrerer kan de to typer lighed altså skilles ad. Og faktisk er dette ikke bare muligt. Når der er relevante forskelle mellem grupperne vil de nødvendigvis skilles ad, og det er derfor umuligt at opnå begge typer lighed på samme tid (matematisk bevis her, enkel forklaring her). Det betyder at vi i mange situationer vil være tvunget til at vælge, hvilken af de to typer lighed, som vi vil sikre, når vi designer algoritmen.
Samme algoritme-tid, samme algoritme-kanal...
Som dette indlæg har skitseret, så er der en række potentielt problematiske måder, som algoritmiske agenter kan forskelsbehandle på. For flere af dem vil vi være nødt til at lave vanskelige afvejninger af konkurrerende hensyn, f.eks. mellem forskellige idealer om lighed, og mellem hensynet til lighed og hensynet til det mål som algoritmen tjener.
I tredje og sidste afsnit af skitserne skal vi kigge på de udfordringer for algoritmiske agenter som knytter sig til deres brug af data, de reaktioner de kan afstedkomme, deres manglende transparens, og de værdier de bygger på.
-----
* Det er fortsat kontroversielt (se her og her) i hvilken udstrækning dette faktisk udgør problemer ved softwaren. Eksemplet tjener imidlertid som en udmærket illustration af den generelle udfordring for algoritmiske agenter, uanset hvad vi bør mene om lige præcis COMPAS.
Abonner på:
Opslag (Atom)