Skitser til en dataetik 3: data, reaktioner, transparens og værdier

(Advarsel: *nørdet*. Dette indlæg er, selv efter denne blogs standard, ret abstrakt og teknisk.)

I de to første indlæg (her og her) i denne skitse til en dataetik har jeg diskuteret hvilke fordele som motiverer brugen af algoritmiske agenter, hvilke fejltyper de bør evalueres på, de udfordringer som de rejser i forhold til forskelsbehandling, og nogle komplikationer ved idealet om at algoritmer bør behandle alle lige.

I dette tredje og sidste indlæg handler det om de udfordringer som knytter sig til algoritmers brug af data, de reaktioner de kan afføde, deres transparens (eller mangel på samme), og det måske mest grundlæggende spørgsmål om de værdier de baseres på og vurderes efter.

Garbage in, garbage out
Et af de mest omdiskuterede problemer ved algoritmiske agenter er deres afhængighed af de data, som algoritmen analyserer på. Disse er indlysende relevante for algoritmers almindelige analyser, fordi en analyse af mangelfulde data bliver upålidelig, men de er også, og måske især relevante for algoritmiske agenter som udvikles gennem maskinlæring. En maskinlærende algoritme finder selv de sorteringsmekanismer, som skal hjælpe den med at lave den endelige vurdering, ved at træne på et udvalgt datasæt. Hvis dette datasæt er mangelfuldt, så bliver de resulterende skævheder indkodet i selve algoritmen, så den efterfølgende vil lave mangelfulde analyser, selv hvis den arbejder med gode data.

De data, som algoritmer arbejder med, vil i praksis altid have visse mangler. Der vil være fejl i databasen, for eksempel fordi en person registreres med et andet karakteristika, end vedkommende faktisk besidder, og der vil være huller i databasen, hvor visse karakteristika eller personer mangler. Sådanne mangler er et vilkår ved alt arbejde med data, og i udgangspunktet en udfordring som menneskelige og algoritmiske agenter deler når de skal analysere data.

Brugen af algoritmiske agenter rejser imidlertid to nye udfordringer knyttet til data. For det første, så kan algoritmiske agenter anvendes på områder, hvor man ikke tidligere har analyseret data (eller i hvert fald ikke lavet samme type systematisk analyse og brug af data). Hvis man ikke i den forbindelse er opmærksom på at vurdere kvaliteten af de data, som algoritmen analyserer, så er der risiko for at overse de fejl, som algoritmens analyser er behæftet med, måske især hvis man bliver grebet af den fascination over algoritmens formåen, som ofte ledsager introduktionen af et analytisk stærkt og tilsyneladende upartisk værktøj.

For det andet så kan algoritmers evne til at samkøre meget store datamængder få mindre mangler til at spille en anden og stærkere rolle. I en gruppe af datasæt, som hver især har mindre mangler, kan disse mangler hver for sig have en beskeden effekt. Men ved samkøring af data kan algoritmen komme til at ramme disse mangler på måder hvor de forstærker hinanden, således at effekten på algoritmens vurderinger bliver væsentligt stærkere.

Fejl, fordelinger og Ratchet-effekter 
Data som på denne måde er mangelfulde skaber først og fremmest problemer fordi kvaliteten af de algoritmiske agenters vurderinger falder. Men de kan også, og måske især, skabe problemer fordi de understøtter eller fører til fordelingseffekter af den type som vi behandlede i diskussionen af algoritmisk forskelsbehandling.

Det sidste vil ofte være tilfældet, fordi der er mangler i datasæt som korrellerer med grupper. Der kan for eksempel være bestemte typer mangler som oftest optræder i data i tilknytning til et bestemt køn, en bestemt seksualitet, en bestemt etnicitet, etc. Derved opstår bestemte typer fejl også oftere i tilknytning til disse grupper.

En særlig problematik er at sådanne mangler i data og resulterende fejl kan være selvforstærkende. Et klassisk eksempel analyseret af Bernard Harcourt er politi-profilering som fokuserer på for eksempel en etnisk minoritet, og som kan have en tendens til at skabe øget bevidsthed om denne gruppes kriminalitet, hvilket legitimerer stærkere profilering af gruppen, hvilket øger bevidstheden om gruppens kriminalitet, etc.

Et sådant accellerende fokus - Harcourt kalder det en "ratchet-effect" - kan i sig selv være uhensigtsmæssigt, men er det indlysende og især hvis det hviler på et historisk overfokus, som har skabt en skæv repræsentation af denne gruppe i de data, som motiverer profileringen. I den situation kan man forestille sig, at der ret beset ikke er grund til at fokusere på denne gruppe, men at de data man ligger inde med i stadigt stigende grad kommer til at indikere det modsatte. Det legitimerer og medfører igen en stadigt voksende mængde fejl, og en stadigt mere skæv fordeling af fejl og effekter.

Incitamenter og responseffekter

En anden udfordring ved algoritmiske agenter, som i modsætning til ovenstående næsten ikke har modtaget nogen opmærksomhed, er den måde introduktionen af en algoritmisk agent kan påvirke incitamentstrukturer og skabe responseffekter. 

Vi berørte allerede i første indlæg et enkelt eksempel på en sådan effekt, nemlig risikoen for at menneskelige agenter kan komme til at køre på automatpilot, når de skal arbejde på baggrund af algoritmiske vurderinger. Men der kan dukke responseffekter op utallige steder. 

Mange års forskning i målstyring i offentlig administration har demonstreret, at de personer som styres ofte er meget fleksible, forstået således at de tilpasser deres adfærd til de kontrolmekanismer de underlægges. Imidlertid har sådanne personer ofte deres egne dagsordener, så den måde de tilpasser sig på kan være uhensigtsmæssig. Det er en konstant risiko ved målstyring, at personerne ændrer adfærd for at tilpasse sig styringen, på en måde som umiddelbart tilfredsstiller de definerede mål, men som er værre med hensyn til de egentlige mål. 

Et klassisk eksempel fra forskningsverdenen er introduktionen af målingen af videnskabelige produktioner (konkret typisk videnskabelige artikler). Hensigten med dette er typisk at øge mængden af videnskabeligt arbejde, ved at gøre det synligt for den enkelte forsker, hvor meget de selv producerede sammenlignet med kollegaer, og ved at bruge mængden af arbejde som kriterium for ansættelse og forfremmelser. I praksis har konsekvensen snarere været a) en voksende industri af pseudovidenskabelige tidsskrifter, hvor forskere kan udgive artikler af meget lav kvalitet, b) en forstærkning af nepotistiske netværk, hvor forskere hjælper kollegaer med lettere adgang til publikationskanaler, og c) en reduktion af også store dele af det seriøse videnskabeligt arbejde til det minimum af indsats, som er nødvendigt for at kunne publicere arbejdet.

Dermed ikke sagt, at forskere som hele publicerer overfladisk forskning i pseudovidenskabelige tidsskrifter gennem "old boys"-netværk. Langt det meste forskning er fortsat sobert, grundigt og bedømt af dobbelt-blindede fagfæller. Pointen er den mindre dramatiske, men stadig væsentlige, at i den udstrækning introduktionen af målstyring har haft en effekt, har denne effekt måske fortrinsvis været utilsigtet og negativ.

Som eksemplet ovenfor illustrerer, så findes denne type udfordring også for menneskelige agenter. Alligevel er der grund til at være særligt på vagt, når der er tale om algoritmiske agenter. Det skyldes det forhold, at algoritmers beslutningskriterier i teorien er tilgængelige og rigide, på en anden måde end hos typiske menneskelige agenter. En algoritmisk agent har et særligt sæt af kriterier for sine analyser og vurderinger, og disse kan i nogle tilfælde (se diskussionen af transparens nedenfor) være fuldt tilgængelige for andre. I modsætning til mennesker er den algoritmiske agent også bundet til disse kriterier - den kan ikke tage dem op til overvejelse, eller gøre undtagelser, i situationer hvor anvendelsen af kriterierne viser sig at være kontraproduktiv. Det skaber særligt gunstige vilkår for at "game the system".

Præcis hvordan udfordringer med den resulterende incitamentstruktur og responseffekter kan manifestere sig vil variere afhængigt af den algoritmiske agents kontekst og funktion. Det er derfor vanskeligt at sige noget generelt om hvordan sådanne udfordringer vil se ud, og hvordan de kan håndteres. Men det er endnu et forhold, som vi bør holde os for øje, når vi udvikler og implementerer algoritmiske agenter.

Den sorte boks
Et væsentligt element i moderne administration, er at de personer som påvirkes af en beslutning, har mulighed for at få indsigt i det grundlag, som beslutningen er truffet på, og klage over beslutningen, hvis dette grundlag virker urimeligt eller forkert. Det er derfor et væsentligt problem ved algoritmiske agenter, at denne mulighed ofte vil være stærkt begrænset. Algoritmer kan i mange situationer få karakter af en sort boks, hvor vi nok kan se hvad der kommer ind, og hvad der kommer ud, men ikke kan se hvorfor input af den ene type giver et resultat af den anden type, det vil sige, hvad grundlaget for algoritmens beslutning er.

En første grund til, at denne type indsigt kan være begrænset er, at mange algoritmer udvikles af private firmaer, som har behov for at holde detaljerne om hvordan algoritmen fungerer hemmelige, for ikke at blive kopieret og udkonkurreret af andre firmaer. Dette behov skaber indlysende problemer, når for eksempel borgere som bliver berørt af de vurderinger, som algoritmen foretager, ønsker at forstå hvilket grundlag vurderingen er foretaget på, så de kan vurdere om de ønsker at klage. Men det skaber også problemer, hvis for eksempel en offentlig myndighed, som har anvendt én type algoritme, beslutter sig for at skifte til en anden algoritme. I sådanne tilfælde kan det være vanskeligt at overføre data fra det hidtidige arbejde, fordi den måde algoritmen har behandlet dataene på er omfattet af virksomhedens behov for at beskytte sin teknologi.

Man kunne måske fristes til at sige "så meget desto værre for virksomheders behov", men her bør man holde sig for øje, hvad grundlaget for at tage hensyn til virksomheders mulighed for at hemmeligholde teknologi er. Det er ofte i alles interesse at tilskynde private virksomheder, til at udvikle ny teknologi, men det er et vilkår ved sådan udvikling, at den ofte er ekstremt dyr, imens det er relativt enkelt for andre virksomheder for eksempel at kopiere en allerede udviklet algoritme. Hvis virksomheder ikke kan holde følsomme detaljer om deres produkter hemmelige, så vil de derfor hurtigt komme til at stå med alle omkostningerne for at udvikle produktet, men være nødt til at dele indtægterne med de konkurrenter, som kopierer produktet. Resultatet vil være, at virksomheder bruger langt færre ressourcer, på at udvikle ny teknologi.

Denne variant af problemet kan, i hvert fald i nogle situationer, løses ved at udvikle offentlige alternativer til de private produkter, ved at give særlige personer adgang til data om produktet på særlige vilkår, eller ved at kompensere virksomheder for deres tab af fortjeneste.

Der findes imidlertid en anden variant af problemet, som skaber mere fundamentale problemer. Moderne algoritmer udvikles i stigende grad ved såkaldt maskinlæring, hvor algoritmen selv definerer og gradvist tilpasser sine parametre gennem træning på et udvalgt datasæt. Den resulterende algoritme vil i mange tilfælde være bedre, for eksempel til at undgå fejl, end en mere klassisk algoritme, hvor menneskelige programmører har specificeret dens funktioner.

Som tidligere nævnt, så er det måske mest berømte eksempel DeepMinds AlphaZero, som på ganske få timer udviklede sig fra en basal forståelse af skaks regler til verdens måske stærkeste skakspiller, alene ved at spille tusindvis af spil mod sig selv, og konstant revidere sine egne analyser. Resultatet er en algoritme som definitivt kan slå enhver menneskelig skakspiller, og som synes at være de klassiske skakprogrammer, som er udviklet ved møjsommelig, menneskelig finpudsning, klart overlegen.

Ulempen ved maskinlæring er, at der i udgangspunktet ikke er nogen, ikke engang de programmører, som har skrevet algoritmen og sat den i gang med at udvikle sig selv, som ved præcist hvordan den fungerer. Når en sådan algoritme træffer beslutninger, så er der derfor i udgangspunktet ikke nogen, som kan forklare præcis hvad grundlaget for beslutningen er. Det betyder at personer, som påvirkes af en beslutning truffet på dette grundlag, ikke kan få indsigt i beslutningsgrundlaget, og derfor vil have vanskeligt ved at vurdere hvorvidt de finder afgørelsen rimelig, samt at de vil have meget vanskeligt ved at klage over en afgørelse, som de opfatter som urimelig.

Der er igangværende initiativer i den datalogiske forskning, som har til formål at gøre det lettere at vurdere hvordan maskinlærende algoritmer fungerer, og kommunikere dette til brugere. De vil antageligt i nogen grad kunne afhjælpe problemet. Men i den udstrækning det består udgør det en alvorlig udfordring for anvendelsen af maskinlærende algoritmer, som må afvejes mod for eksempel den øgede præcision de kan opnå.

Værdier
Et sidste punkt er det måske vigtigste at tage i betragtning, når vi skal vurdere algoritmiske agenter. Det handler om hvilke værdier vi lægger til grund, når vi skal vurdere dem.

Som vi allerede helt indledningsvis var inde på, så er enhver algoritmisk agent defineret ved sin evne til at løse en given opgave. Hvad det i en sådan situation vil sige at løse opgaven er imidlertid ikke forudgivet, men involverer (ofte implicit) fastsættelsen af en værdi, som algoritmen forventes at fremme. Det er kun i kraft af en sådan værdi, at vi kan sige, at nogle resultater er fejl, mens andre er korrekte.

For at tage fat i et eksempel, som jeg anvendte da jeg diskuterede netop fejl og fordele, så kan vi forestille os en algoritme, der screener patienter, for at identificere de personer, som har en bestemt sygdom. Fejl er i denne situation både at overse patienter som har sygdommen, og at klassificere raske patienter som syge. Implicit er værdien her fremme af patienters sundhed, idet vi antager at de syge patienter som identificeres kan modtage behandling, samt at det er værdifuldt, at de modtager en sådan behandling.

Sådanne antagelser er ofte tilforladelige, men ikke altid. Dels kan det ind imellem være uklart hvilken værdi en algoritme skal fremme, eller kontroversielt om den bør fremme den værdi, som den er designet til. Dels vil der ind imellem være dårlig forbindelse mellem algoritmens funktion og den underliggende værdi.

Et første eksempel kunne være Facebooks nyhedsalgoritme. Facebooks nyhedsalgoritme filtrerer de nyheder, som for enhver bruger dukker op, når personen logger på Facebook, og vurderer dels hvilke nyheder som er relevante at vise, og dels hvordan disse skal prioriteres, det vil sige, hvilke som skal vises først. Præcis hvordan den gør det er naturligvis hemmeligt, men overordnet kunne man måske naivt forvente, at den for eksempel forsøgte at skabe mest mulig brugertilfredshed, ved at vise de nyheder som er mest interessante for den enkelte bruger.

Det er imidlertid meget tvivlsomt, om det virkelig er denne værdi Facebooks algoritme er designet til at fremme. Et mere plausibelt bud er, at den er designet til at maksimere brugeres eksponeren for og interaktion med de reklamer, som Facebook får sin indtægt fra. Det kan i den forbindelse være relevant for Facebook at skabe brugertilfredshed, for så vidt som dette for eksempel får brugere til at besøge Facebook oftere og i længere tid. Men også kun for så vidt som dette er tilfældet. I situationer hvor de to hensyn skilles ad, vil algoritmen antageligt tilstræbe at indfri hensynet til reklameindtægt.

Hvordan kunne det ske? Et primitivt og fuldstændig fiktivt eksempel kunne være valget mellem at prioritere alle nyheder, og servere dem i strengt prioriteret rækkefølge, versus at blande dem så de mest interessante nyheder optræder strøet ud mellem andre nyheder, der er mindre interessante. Den første model kunne føre til at brugere er kortere tid på Facebook, fordi de læser de mest interessante nyheder igennem, registrerer at nyhederne bliver mindre og mindre relevante, og derpå logger af. Det vil antageligt være en bedre brugeroplevelse for de fleste. Omvendt vil den anden model kunne holde brugere aktive på Facebook længere tid, fordi der regelmæssigt dukker en ny, interessant nyhed op, imellem den linde strøm af mindre interessante nyheder. Det vil antageligt samlet set være en mindre god brugeroplevelse, men den længere tid på platformen kan for virksomheden veksles direkte til flere reklameindtægter.

I en situation som ovenstående kan der være en god forbindelse mellem algoritmens funktion, og den værdi som den i sidste ende skal fremme, men det kan være uklart for mange brugere, at denne værdi er Facebooks indtjening snarere end deres brugeroplevelse, og kontroversielt om det sidste er den rigtige værdi at fremme, især selvfølgelig når og hvis det sker på bekostning af andre værdier (om dette faktisk er tilfældet ved Facebook er naturligvis et andet spørgsmål - de optræder her alene som hypotetisk eksempel).

Et andet og meget diskuteret eksempel kunne være brugen af COMPAS-teknologi i en lang række amerikanske stater, til at vurdere dømte kriminelles risiko for at begå fremtidige forbrydelser. Én kritik som er blevet fremført i den forbindelse, er at disse vurderinger inddrages, når dommere skal udmåle straffen, hvilket angiveligt krænker den dømtes ret til at blive behandlet som uskyldig indtil det modsatte er bevist (idet dommeren derved implicit straffer vedkommende for forbrydelser hun antages at ville begå i fremtiden).

Man kan diskutere om dette synspunkt i sig selv er korrekt - det vil sige, om det vitterligt krænker en persons ret til at blive betragtet som uskyldig, hvis risikovurderinger inddrages i strafudmålingen - men mere centralt i denne sammenhæng er det, at dette ikke er en effekt af den algoritmiske agent. Hvis dette vitterligt udgør et problem, så er det et problem som findes i samme form og udstrækning, når dommere inddrager denne type vurdering uden at bruge en algoritmisk agent (f.eks. ved at lave en intuitiv vurdering). Det er således et eksempel på, at algoritmiske agenter kan tjene kontroversielle værdier eller formål, men også på at udfordringen i denne sammenhæng er at holde fokus på denne værdi, snarere end på at der er en algoritmisk agent involveret.

For at samle op, så er det fuldstændig afgørende i vurderingen af algoritmiske agenter, at overveje hvilke værdier algoritmen er designet til at fremme, og i den forbindelse om disse værdier er hensigtsmæssige mål for algoritmen. Anvendelsen af algoritmiske agenter er i den forbindelse risikofyldt fordi vi kan komme til at glemme, at der er sådanne værdier på spil. Men omvendt kan vi også, i den kritiske analyse af algoritmiske agenter, komme til at overse, at det i nogle tilfælde er de værdier, som algoritmen er sat til at fremme, som er problematiske, snarere end anvendelsen af en algoritmisk agent som sådan (den pointe har jeg tidligere illustreret i diskussionen af såkaldt intelligent politiarbejde).

Som de tre indlæg forhåbentlig har illustreret, så er dataetik et komplekst felt, med en række både forskellige og relaterede problematikker. Som forskningsfelt er det i disse år i rivende udvikling. Det er en god ting. For praksis har for længst overhalet vores refleksioner. Algoritmiske agenter udvikles og introduceres flere og flere steder. Hvis vi skal nå at formulere grundigt gennemtænkte svar på de etiske spørgsmål, som brugen af algoritmer rejser, så er det nu vi skal i gang.

Skitser til en dataetik 2: algoritmisk forskelsbehandling

(Advarsel: *nørdet*. Dette indlæg er, selv efter denne blogs standard, ret abstrakt og teknisk.)

I første afsnit af mine skitser til en dataetik præsenterede jeg to argumenter for brugen af algoritmiske agenter - effektivitet og objektivitet - og en række mulige fejl som de kunne begå, og som de må vurderes på. I dette afsnit handler det om et andet forhold, nemlig det, at algoritmiske agenter kan forskelsbehandle personer, på måder som kan virke problematiske.

Direkte forskelsbehandling
Den første og måske mest oplagt mulighed for, algoritmer kan forskelsbehandle på en problematisk måde, er at de kan lægge forskelle til grund, som vi intuitivt mener, ikke bør spille en rolle.

Vi kan for eksempel forestille os en algoritme der forsøger at identificere personer, som svindler med offentlige midler, og som giver personer med en bestemt etnicitet en højere sandsynlighed end andre. Selv hvis dette skulle være korrekt - det vil sige, at flere personer med denne etnicitet svindler, selv når man kontrollerer for andre faktorer som alder, indkomst, uddannelse, etc. - så vil mange mene, at det er udtryk for moralsk problematisk diskrimination, hvis algoritmen på denne måde forskelsbehandler på grund af etnicitet. I givet fald er der tale om såkaldt direkte diskrimination.

Diskrimination er et kompliceret fænomen, og det er langt mindre klart både hvad diskrimination er, og hvornår/hvorfor den er moralsk problematisk, end mange personer ofte antager. Ville det, for eksempel, være lige så problematisk, hvis det var mænd som var mere tilbøjelige til at svindle, og derfor mænd som fik justeret deres sandsynlighed? Og hvad, for at tage et andet eksempel, med en algoritme, som skal vurdere hvilke personer som skal tilbydes en test mod en bestemt sygdom, som kvinder har større sandsynlighed end mænd for at lide af? Mange vil nok være langt mindre sikre på, at det i dette tilfælde udgør et problem, hvis algoritmen justerer kvinders sandsynlighed på grund af deres køn, således at flere kvinder (og færre mænd) tilbydes testen. Hvis det er korrekt, så er det ikke selve det, at forskelsbehandle på baggrund af bestemte karakteristika, som er problematisk, men snarere dét at forskelsbehandle på bestemte måder, uanset hvilke grupper som er involveret (det har jeg i sin tid skrevet en artikel om).

Som det sidste eksempel illustrerer, så kan det ind imellem endda virke problematisk, hvis der er distinktioner, som burde indgå i analysen og/eller som del af beslutningsgrundlaget, men som er blevet overset eller bevidst udeladt. En del kritikere påpeger, at det eksempelvis kan være et problem, når langt de fleste algoritmer udvikles af personer, som har en særlig demografi (med en måske lidt grov generalisering: højtuddannede, analytisk begavede men introverte unge mænd), fordi de kan dele antagelser og blinde vinkler, som de uforvarende kommer til at overføre til algoritmen.

Et fiktivt eksempel kunne være et stykke software, som skal analysere bestemte helbredsdata, men som overser at kvinders menstruationscyklus påvirker dataene, og af denne grund ikke kan lave lige så gode vurderinger for kvinder, som den kan for mænd. Her er der tale om at kvinder ved at blive behandlet på samme måde som mænd stilles ringere uden grund, idet (kan vi forestille os) algoritmen uden videre kunne tage højde for de relevante forskelle og derved give kvinder en lige så præcis vurdering, men ikke gør det (eksemplet er kun fiktivt i løs forstand - der er massevis af eksempler på at medicinske tests, medikamenter og procedurer udvikles til mænd, uden at tage højde for at de vil virke anderledes på kvinder). Som sådan er det også et eksempel på såkaldt indirekte diskrimination.

Indirekte forskelsbehandling
Den anden store udfordring for algoritmiske agenter knytter sig netop til, at selv når en algoritmisk agent ikke direkte lægger et karakteristika til grund for forskelsbehandling på en måde som er problematisk, så kan fordelingen af fejl og effekter mellem grupper være ulige på måder som kan være det. Det er værd at bemærke, at dette sagtens kan være tilfældet, selvom agenten samlet set er lige så god som (eller bedre end) en menneskelig agent til lave korrekte vurderinger. En algoritmisk agent, som samlet set laver samme mængde, type og vægt af fejl som en menneskelig agent kan alligevel lave fejl og effekter, som rammer andre personer og grupper, end de som ville være blevet ramt af en menneskelig agent.

Forskelle i effekt mellem to grupper kan opstå uden at involvere direkte forskelsbehandling af de to grupper, når de afspejler andre forskelle imellem de to grupper, som algoritmen reagerer på. Algoritmen behøver således ikke at skelne direkte mellem grupperne for at vurdere eller behandle de to grupper forskelligt, hvis den skelner på baggrund af egenskaber som er ulige fordelt mellem grupperne, eller hvis behandlingen virker forskelligt på de to grupper.

Hvis algoritmen for eksempel er lavet til at opdage social svindel, og personer med en bestemt alder eller køn har tendens til at begå denne type forbrydelse, så vil det ikke være overraskende, at algoritmen succesfuldt identificerer flere af denne type personer som svindlere end personer i den bredere befolkning uden direkte at lægge alder eller køn til grund, så længe den kan skelne på baggrund af andre karakteristika, som korrellerer med alder eller køn. Vi kan sige at algoritmen "opdager" forskellen, selvom vi har forsøgt at skjule den.

Indirekte diskrimination er et komplekst fænomen, og der er ikke konsensus i forskningen om hvordan vi skal forstå det, eller hvad som er galt med det. Men én plausibel forklaring, som jeg selv har argumenteret for, er at indirekte diskrimination er en handling der uhensigtsmæssigt stiller en sårbar gruppe ringere, ved at behandle dem på samme måde som vi behandler andre, uden at tage hensyn til at dette netop for denne gruppe vil have en særlig, negativ effekt.

En anden mulighed er at algoritmen laver flere fejl for en gruppe og færre for en anden, laver andre typer fejl for en gruppe end for en anden (f.eks. flere type 1 fejl og færre type 2 for en gruppe, og omvendt for en anden gruppe), eller at den laver større fejl for en gruppe end for en anden. Denne type forskelle kan, ligesom ovenfor, især virke problematisk, hvis fejl i højere grad end ellers rammer særligt sårbare grupper.

Et meget diskuteret eksempel er brugen af COMPAS i det amerikanske retsvæsen, hvor softwaren er blevet brugt til at vurdere dømtes risiko for at begå nye forbrydelser i fremtiden (dvs. recidivisme). Nogle analyser af softwaren har kritiseret den for, at den havde tendens til at fejlklassificere sorte som havende en høj risiko (falsk positiv-fejl), mens den havde tendens til at fejlklassificere hvide som havende en lav risiko (falsk negativ fejl).* 

Den første effekt kunne også opstå alene fordi algoritmen havde tendens til systematisk at undervurdere hvides risiko. I praksis synes det imidlertid at være tilfældet, at den også systematisk overvurderede sortes risiko for recidivisme.

Sådanne forskelle er vigtige. I det aktuelle eksempel betyder det at flere sorte end hvide får lange straffe eller nægtes prøveløsladelse, og at dette for flere sorte end hvide beror på en fejl.

Prospektiv og retrospektiv vurderingslighed

En subtil udfordring ved at forsøge at få algoritmiske agenter til at behandle personer ligeligt, knytter sig til, at fejlratioer kan være forskellige prospektivt og retrospektivt. 

NorthPointe, som udvikler COMPAS, forsvarede sig ved at påpege, at algoritmen giver personer samme sandsynlighed for at begå ny kriminalitet for en given vurdering, uanset race. Det vil sige, at hvis algoritmen vurderer, at en person har x% sandsynlighed for recidivisme, så begår denne person faktisk en ny forbrydelse i y% af tilfældene, og dette er tilfældet på tværs af f.eks. køn, race, etc. Algoritmen er altså lige så god til at vurdere chancen for recidivisme, uanset hvem man er.

Kald dette for prospektiv vurderingslighed: En algoritme må ikke begå flere fejl, målt som ratioen mellem de gange hvor den gætter rigtigt og de hvor den gætter forkert, i sine vurderinger af én gruppe, end den gør i sine vurderinger af en anden gruppe.

ProPublica, som kritiserede COMPAS, argumenterede imidlertid for, at det er uretfærdigt, at en sort person, som ikke begår fremtidige forbrydelser, har en større sandsynlighed for, at være blevet fejlagtigt vurderet, som havende en høj sandsynlighed for recidivisme (og omvendt, at en hvid person som begår en fremtidig forbrydelse har en større sandsynlighed for at være blevet fejlagtigt vurderet som havende en lav sandsynlighed for recidivisme).

Kald dette for retrospektiv vurderingslighed: En algoritme må ikke begå flere fejl, målt som ratioen mellem de gange hvor personer som befinder sig i en kategori vurderes rigtigt og de hvor disse personer vurderes forkert, for én gruppe, end den gør for en anden gruppe.

De to typer lighed stiller forskellige spørgsmål. Den første spørger: hvis en person klassificeres som havende et karakteristika, hvad der så sandsynligheden for, at dette er rigtigt? Og er denne sandsynlighed forskellig, for forskellige grupper? Den anden type lighed spørger: hvis en person faktisk har et karakteristika, hvad er så sandsynligheden for, at vedkommende vil blive klassificeret rigtigt? Og er denne sandsynlighed forskellig, for forskellige grupper?

Det kan umiddelbart lyde mærkeligt, at der skulle kunne være situationer, hvor de to typer lighed kan skilles ad, men overvej følgende simple eksempel:

Gen-test: En særlig genetisk disposition forekommer oftere hos mænd end hos kvinder. Et hospital bruger en test for den genetiske disposition i et år, og får følgende resultater:

	Mænd (antal)		Kvinder (antal)
	Tester negativt	Tester positivt	Tester negativt	Tester positivt
Har disposition	20	80	20	32
Har ikke disposition	20	20	20	8

Testen omfatter ialt 140 mænd og 80 kvinder, af dem har 100 mænd og 52 kvinder faktisk den genetiske disposition. Ingen af delene er underlige, fordi dispositionen forekommer oftere hos mænd. Men er testen lige så god for kvinder, som for mænd?

Én måde at vurdere dette spørgsmål på, er at sammenligne succesraterne for henholdsvis positivt og negativt testede. Af de mænd som tester positivt (100) er det 80 som har dispositionen og 20 som er blevet fejldiagnosticeret. Det giver en succesrate på 80%. Det er fuldstændig samme resultat, som for kvinderne (40 kvinder, 32 som faktisk har dispositionen, 8 som er fejldiagnosticerede). Hvis vi sammenligner hvor god testen er til at ramme rigtigt, når den tester positivt, så synes den altså at være lige god for begge køn.

Billedet er det samme for de personer som tester negativt. Bliver man testet negativt, er der for begge køn en 50% sandsynlighed for, at man ikke har dispositionen, og en 50% sandsynlighed for, at man alligevel har den (denne fiktive test er derfor samlet set, og i parantes bemærket, ikke imponerende, men det er ikke her pointen). Det skyldes at der for begge køns vedkommende er 20 som korrekt testes negativt og 20 som fejldiagnosticeres.

Det kan således se ud til, at testen er lige så god for kvinder som for mænd. Men det er fordi vi foreløbig kun har vurderet den i lyset af prospektiv vurderingslighed. Hvis vi i stedet spørger, hvor god testen er til at ramme rigtigt, for de som faktisk har og ikke har dispositionen, så er billedet anderledes.

Hvis man er en mand, og faktisk har dispositionen, så er der 80% chance for, at man vil blive testet positivt, og 20 procent chance for at man bliver testet negativt. Hvis man er mand og ikke har dispositionen, så er der 50% chance for at blive testet positivt, og 50% chance for at blive testet negativt. For mænd er der således ingen forskel på prospektiv og retrospektiv vurderingslighed.

Men for kvinder, som faktisk har dispositionen, er der kun 62% chance for at blive testet positivt (20/32). Omvendt er der for kvinder, som ikke har dispositionen, kun 29% chance for at blive testet positivt (8/20). Det betyder at testen i dette perspektiv er meget bedre (80% vs. 62%) til korrekt at identificere de mænd, som har dispositionen. Men den er også meget bedre til ikke at fejldiagnosticere de kvinder, som ikke har dispositionen (29% vs. 50%).

Som eksemplet illustrerer kan de to typer lighed altså skilles ad. Og faktisk er dette ikke bare muligt. Når der er relevante forskelle mellem grupperne vil de nødvendigvis skilles ad, og det er derfor umuligt at opnå begge typer lighed på samme tid (matematisk bevis her, enkel forklaring her). Det betyder at vi i mange situationer vil være tvunget til at vælge, hvilken af de to typer lighed, som vi vil sikre, når vi designer algoritmen.

Samme algoritme-tid, samme algoritme-kanal...
Som dette indlæg har skitseret, så er der en række potentielt problematiske måder, som algoritmiske agenter kan forskelsbehandle på. For flere af dem vil vi være nødt til at lave vanskelige afvejninger af konkurrerende hensyn, f.eks. mellem forskellige idealer om lighed, og mellem hensynet til lighed og hensynet til det mål som algoritmen tjener.

I tredje og sidste afsnit af skitserne skal vi kigge på de udfordringer for algoritmiske agenter som knytter sig til deres brug af data, de reaktioner de kan afstedkomme, deres manglende transparens, og de værdier de bygger på.

-----

* Det er fortsat kontroversielt (se her og her) i hvilken udstrækning dette faktisk udgør problemer ved softwaren. Eksemplet tjener imidlertid som en udmærket illustration af den generelle udfordring for algoritmiske agenter, uanset hvad vi bør mene om lige præcis COMPAS.

Skitser til en dataetik 1: fordele og fejl

(Advarsel: *nørdet*. Dette indlæg er, selv efter denne blogs standard, ret abstrakt og teknisk.)

Dataetik har været et hedt emne de seneste par år, med bl.a. Gladsaxe-sagen, Cambridge Analytica skandalen, og nedsættelsen af en dataetisk ekspertgruppe, som anbefaler oprettelsen af et dataetisk råd. Men som det ofte er tilfældet med den type fænomener, så er der en del tvivl og forvirring ikke bare om hvilke svar dataetikken giver, men om hvilke spørgsmål den stiller, det vil sige hvad dataetik mere præcist er.

En af mine nye opgaver på IMR er at arbejde med dataetik, og i den forbindelse er jeg i gang med både at læse mig ind på emnet, og at tænke over hvad jeg egentlig mener om det (tænke mere over det, burde jeg måske skrive - jeg har tidligere tænkt og skrevet om brugen af algoritmer i politiet, såkaldt "predictive policing"). Selvom der er masser af usikkerheder, så er der en del pointer, som jeg allerede er relativt sikker på. I dette første afsnit handler det om dataetik som anvendt etik, samt om de fordele brugen af algoritmer har, og de fejltyper de kan involvere.

Dataetik er anvendt etik
For det første: dataetikken er en gren af anvendt etik, det vil sige, at den er den etiske analyse af et konkret område. I dette tilfælde groft sagt indsamlingen af store mængder data, især gennem internettet og samkøring af registre, analyse af disse data, og handlinger på baggrund af disse analyser. Indsamling, analyse og handling på baggrund af data er naturligvis ikke nyt. Det har analytikere, forskere og embedsmænd gjort i årtier.

Det, som gør dataetik til noget særligt, er at alle tre komponenter i stadigt større omfang udføres af algoritmer med begrænset menneskelig deltagelse. Det er disse tre typer handlinger (især når de optræder i kombination), og det særlige forhold at det fortrinsvis er algoritmer som udfører en eller flere af dem, som er dataetikkens genstandsfelt.

Den første komponent, indsamlingen af data, rejser en lang række udfordringer om privatlivsbeskyttelse. Mange af disse er imidlertid relativt velkendte fra tidligere diskussioner af overvågning og dataindsamling. Det samme gør sig ikke gældende for de etiske udfordringer som knytter sig algoritmers analyse og handlinger (eller handlinger på baggrund af en analyse eller anbefaling fra en algoritme), som i meget begrænset omfang er blevet studeret og diskuteret. Kald disse funktioner for "algoritmiske agenter".

Spørgsmålet er så hvilke særlige etiske forhold, som knytter sig til algoritmiske agenter. En detaljeret analyse bliver hurtigt kompleks, men jeg tror man relativt enkelt kan tegne følgende overordnede billede: Der er tre særlige fordele, som begrunder indsamling, analyse og handling på baggrund af data, nemlig effektivisering, minimering af menneskelige fejl, og ensartethed. Der er på den anden side også en hel række potentielle udfordringer. De handler overordnet om fejltyper, forskelsbehandling og fordelingseffekter, datakvalitet, transparens, reaktionseffekter, og værdier. En samlet dataetik foretager en grundig vurdering af hvordan algoritmiske agenter er stillet med hensyn til hver af disse faktorer. I dette, og de følgende indlæg, vil jeg lidt mere beskedent nøjes med at skitsere faktorerne.

Effektivisering
Den altoverskyggende fordel ved brugen af algoritmiske agenter er, at det (typisk) er langt billigere, at få en algoritmisk agent til at udføre en opgave, end det ville være at få et menneske til at udføre opgaven. En algoritme kan typisk udføre den samme rutine tusindvis af gange hurtigere end et menneske, og selvom der ofte er store opstartsomkostninger, så er der typisk forholdsvis beskedne udgifter til strøm, sikkerhed og vedligeholdelse, når først algoritmen er udviklet og hardwaren til at køre den er installeret.

De besparelser man kan opnå på denne måde er i første omgang økonomiske, men de bliver etisk relevante, for så vidt som de ressourcer, som effektiviseringen frigiver, kan bruges på etisk relevante måder. Det kan for eksempel være ved at tilføre dem til etisk betragtet gode opgaver, som har for få ressourcer, og hvor der ikke er samme mulighed for at bruge algoritmer. I en nøddeskal: brug algoritmer til at frigive ressourcer i forvaltningen, og ansæt flere pædagoger i vuggestuerne.

Maskine > menneske
Én ting er, at algoritmer, som ovenfor anført, kan løse nogle opgaver hurtigere og billigere end mennesker kan. En anden, og nok så væsentlige fordel er, at algoritmer i nogle sammenhænge kan løse opgaver bedre end mennesker ville kunne. Med et berømt eksempel, så er verdens uden sammenligning stærkeste skakspiller DeepMinds AlphaZero, hvilket blot er en anden måde at sige, at denne (ekstremt komplekse og meget hardware-krævende) algoritme løser opgaven - at vinde i skak - bedre end noget menneske kan.

Der er overordnet to grunde til, at algoritmer i nogle situationer kan løse opgaver bedre end mennesker: råstyrke og objektivitet. Råstyrke handler om det forhold, at sofistikerede algoritmer kan håndtere langt større mængder data end mennesker kan (indenfor det snævre udsnit af virkeligheden, som algoritmen er udviklet til). En algoritme kan således give korrekt vægt til mange flere faktorer i en vurdering, end mennesker normalt er i stand til.

Objektivitet handler om, at mennesker er udstyret med en lang række kognitive bias, og ofte også sociale eller kulturelle bias, som algoritmer kan undgå. I de situationer, hvor det er en god ting, at løse en opgave så godt som muligt, er det derfor en fordel ved algoritmer, når de kan løse den bedre, end mennesker kan.

Ensartethed
En sidste potentiel fordel, som følger umiddelbart af den foregående, men nok er noget svagere, er at algoritmiske agenter kan sikre ensartethed i behandlingen. Mange vil intuitivt mene, at det er en god ting, hvis lige sager behandles lige, for eksempel sådan at der ikke er dramatisk større chance for at blive tilkendt førtidspension, hvis man bor i en kommune, end hvis man bor i en anden.

Man kan diskutere hvorfor en sådan ensartethed er ønskelig - jeg læner mig imod at den primært er god, når den skaber gavnlige responseffekter, f.eks. tillid til systemet, og når den er udtryk for at sager behandles korrekt (hvis to ens sager behandles forskelligt, vil det normalt følge logisk, at mindst én af dem behandles forkert). Men for så vidt at den er en fordel, vil algoritmiske agenter i mange tilfælde kunne øge den, ganske enkelt fordi kompetencer og indflydelsen fra kognitive og socio-kulturelle bias varierer mellem mennesker.

Store, små, mange og få fejl
Det er imidlertid ikke så enkelt, som det måske kunne se ud, at vurdere hvor god en algoritmisk agent er til at løse en opgave. En central komplikation er, at det for en given type opgave vil være muligt at løse opgaven bedre eller dårligere, både ved at svare rigtigt eller forkert flere eller færre gange, men også ved at størrelsen af de fejl agenten laver er forskellige.

En algoritme som analyserer patient-scanninger for kræft kan således være god eller dårlig til at vurdere, om patienten har kræft, men den kan også lave større eller mindre alvorlige fejl, hvis den programmeres til at anbefale en bestemt type behandling. Nogle typer fejlbehandling kan være relativt uproblematiske, mens andre kan være livsfarlige, og det gør en forskel om de fejl algoritmen eventuelt laver er af den første eller den sidste karakter.

Når vi vurderer algoritmiske agenter skal vi således kigge både på antallet af fejl de laver, og på størrelsen af disse fejl, og finde en måde at afveje disse to forhold: er for eksempel en algoritme som laver flere men gennemsnitligt mindre fejl end et menneske bedre eller dårligere til at løse opgaven?

Type et og type to fejl
En faktor som medvirker til, at fejl kan være større eller mindre er, at agenter i almindelighed kan begå to forskellige typer fejl. De kan fejlagtigt kategorisere en ting som medlem af en gruppe, den ikke er medlem af (type 1, eller false positive-fejl), eller de kan fejlagtigt kategorisere en ting som ikke-medlem af en gruppe, som den faktisk er medlem af (type 2 eller false negative-fejl). Ofte vil det både være sådan, at vi er tvunget til at vælge mellem, om vi vil lave flest af den ene type fejl eller af den anden type fejl, og at de to typer fejl ikke er lige vigtige.

Et velkendt eksempel er det forhold, at en domstol kan begå fejl både ved at frikende en forbryder, og ved at straffe en uskyldig. Man kan forsøge at undgå den ene, den anden eller begge typer fejl på mange måder, men grundlæggende er man tvunget til at vælge mellem hvilken af de to man vil prioritere, fordi det helt afgørende forhold er hvor man sætter tærsklen for, at det betragtes som bevist, at en person er skyldig. Hvis det for eksempel kun skal være 85% sandsynligt, at en sigtet faktisk er skyldig, for at vedkommende kan dømmes, så vil forholdsvis få forbrydere gå fri, men en hel del uskyldige vil blive straffet. Hvis man omvendt sætter tærsklen ved 99.9%, så vil meget få uskyldige blive straffet, men en hel del forbrydere vil gå fri.

Som eksemplet også illustrerer, så vil det ofte være sådan, at vi intuitivt mener, at den ene type fejl er værre end den anden. I strafferetslig sammenhæng mener de fleste for eksempel, at det er langt vigtigere at sikre, at uskyldige ikke bliver straffet, end at sikre at forbrydere bliver det. Det er derfor helt afgørende, når vi skal vurdere kvaliteten af algoritmiske agenter, at se på hvor mange af henholdsvis den ene og den anden type fejl de laver, og at vurdere hvor meget vægt vi skal tillægge det, at undgå henholdsvis den ene og den anden type fejl.

Baseline: bedre end status quo versus bedre end alternativer

I den foreløbige diskussion af fordele og fejltyper har jeg konsekvent talt om, at algoritmer kan være værre eller bedre i forskellige henseender, for eksempel ved at begå flere eller færre af en bestemt type fejl. Et oplagt men ofte overset spørgsmål i den henseende er hvad vi skal sammenligne med, når vi vurderer dette spørgsmål. Det vil sige, hvad er det helt præcist, som algoritmen er værre eller bedre end?

Det nok mest indlysende svar er at sammenligne med menneskelige agenter. Algoritmen har fordele i de henseender hvor den løser opgaven bedre end mennesker, og ulemper i de henseender hvor den løser opgaven dårligere end mennesker. Det rejser dog umiddelbart et nyt spørgsmål, nemlig om hvilke personer vi skal sammenligne med? 

Det er, for at tage et enkelt eksempel, i dag ikke imponerende at konstruere et skak-program som spiller bedre end den gennemsnitlige skakspiller. Det store flertal af skakspillere er middelmådige, i den forstand at der er meget langt fra deres niveau til det absolut højeste niveau, som de bedste menneskelige spillere kan præstere. Et mere relevant sammenligningsgrundlag når vi vurderer skakprogrammers præstation er deres evne til at spille bedre end de allerbedste menneskelige skakspillere (omend det i stigende grad er mest relevant at sammenligne med de stærkeste skakprogrammer, idet disse for længst har overhalet mennesker).

Grundlæggende er der derfor to intuitivt relevante grupper mennesker, som en algoritmisk agent kan sammenlignes med: 1) den gruppe af mennesker, som indtil nu har udført algoritmens funktion, eller som ville udføre algoritmens funktion hvis mennesker skulle løse samme opgave; eller 2) den (muligvis hypotetiske) gruppe af mennesker, som med de begrænsninger menneskelige agenter er udstyret med, løser eller ville løse opgaven bedst muligt. Det er ikke givet at der findes en kontekstuafhængig grund til definitivt at foretrække den ene af disse grupper fremfor for den anden som sammenligningsgrundlag.

Der er imidlertid også en anden baseline, som kan være relevant, enten i stedet for eller som supplement til sammenligningen med menneskelige agenter, nemlig alternative algoritmiske agenter. Det er for eksempel indlysende, at en algoritme som begår en lang række alvorlige fejl, som let kunne rettes ved at justere algoritmen, ikke løser opgaven tilfredsstillende, selv hvis det alligevel skulle være tilfældet, at den samlet set klarer sig bedre end mennesker.

Den overordnede pointe er, at det er centralt i alle vurderinger af algoritmiske agenter, at man holder sig for øje hvilket sammenligningsgrundlag man anvender i sin vurdering. Blander man forskellige grundlag sammen, eller anlægger man et grundlag som ikke er relevant for den aktuelle vurdering, så risikerer man at fejlvurdere algoritmens styrker og svagheder.

Forslag eller beslutninger?
En sidste pointe knytter an til det mere overordnede forhold mellem algoritmiske og menneskelige agenters fejl. En ofte fremført påstand i litteraturen om algoritmiske agenter er, at der altid bør være en menneskelig agent som sidste led i beslutningskæden. Det vil sige, at algoritmer nok kan analysere og indstille en beslutning, men at der som minimum skal være et menneske, som vurderer og godkender beslutningen før den effektueres.

Ét argument for dette er, at mennesker kan tage højde for forhold, som algoritmen ikke kan tage i betragtning. Det vil sige, at man kan undgå visse fejl, som algoritmen ellers ville have lavet. Det andet væsentlige argument er, at der derved ikke kan opstå forvirring om, hvis ansvar beslutningen er. I den situation hvor en algoritme begår fejl er det ikke umiddelbart indlysende hvem, om nogen, som kan holdes ansvarlig for fejlen. Hvis det er en menneskelig agent, som er den endelige beslutningstager, så er det ukontroversielt denne person, som er ansvarlig.

En første indvending mod kravet om menneskelig kontrol peger på, at man derved underminerer de to fordele, som algoritmiske agenter har. Ved at indsætte en menneskelig agent reducerer man effektivitetsgevinsten ved at bruge algoritmiske agenter, og man giver disse menneskelige agenter mulighed for at lade deres varierende bias påvirke beslutningen.

En lignende indvending vil pege på, at det ikke i sig selv er en fordel, at have en agent, som kan gøres ansvarlig for en beslutning. Dette er fortrinsvis en fordel, når det for eksempel skaber et incitament til at træffe bedre beslutninger (fordi agenten kan gøres ansvarlig for eventuelle fejl), eller giver mulighed for at udbetale kompensation til de, som er blevet fejlagtigt ramt af en beslutning. I det lys er udfordringen blot at sikre, at de muligheder, som det giver at have en ansvarlig agent, indarbejdes i et system med en algoritmisk agent.

Samtidig så er der en del, som tyder på, at mennesker i denne situation let kommer til at være dårlige kontrollører, ganske enkelt fordi det er så fristende, at forlade sig på algoritmen, og køre på automatpilot. Med et lidt primitivt eksempel, så er flere af de ulykker, som selvkørende biler har været involveret i blandt andet forårsaget af, at chaufføren i modstrid med retningslinjerne, har overladt det fuldstændig til algoritmen at køre bilen, og rettet sin opmærksomhed mod noget andet (for eksempel at se en "Harry Potter"-film). I bedste fald betyder det blot at den menneskelige agents deltagelse er spild af ressourcer. Men det kan også føre til at der for eksempel ikke føres ordentligt opsyn med eller stilles tilstrækkelige krav til den algoritmiske agent, ud fra en ubegrundet forventning om, at den menneskelige agent vil fange de fejl, som algoritmen måtte slippe igennem.

I lyset af disse argumenter for og imod bør det nok bero på en vurdering fra situation til situation, om det samlet er en fordel eller en ulempe at have en menneskelig agent i sidste led af beslutningsprocessen.

Samme algoritme-tid, samme algoritme-kanal...
Som dette indlæg har skitseret, så er der to gode argumenter - effektivitet og objektivitet - for at bruge algoritmiske agenter, og en række potentielle fejltyper, som bør vurderes når vi skal evaluere deres anvendelse.

Der er imidlertid også andre udfordringer. I næste afsnit handler det om de problemer som knytter sig til, at algoritmiske agenter kan forskelsbehandle personer.

Kød, speciesisme, og moralske fremskridt

Dagens "Folk" i Information.

I december måned står kosten i Danmark i endnu højere grad end normalt på kød, kød og atter kød. Medierne benyttede lejligheden til at tage endnu en tur med debatten om, hvorvidt det er etisk problematisk at spise ikke-menneskelige dyr. Selvom debatten langt hen ad vejen kører i cirkler, så er min fornemmelse, at den tilbagevendende diskussion gradvist har en gavnlig effekt, i hvert fald på den måde, at flere og flere er blevet klar over, at det er et spørgsmål, som man bør tage stilling til.

Ikke desto mindre er der, for en moralfilosof, noget lidt forstemmende ved at se det niveau, som meget af debatten foregår på. Jeg er med på, at det kan være svært at give plads til egentlig forskning i massemedier, men der er i dette tilfælde ofte så langt mellem de forudsætninger som debatten antager, og de konklusioner som forskningen er nået frem til, at det bliver pinagtigt.

Lad os starte med den mest oplagte forskel: det er i den dyreetiske forskning ukontroversielt, at det industrielle landbrugs behandling af ikke-menneskelige dyr er en moralsk katastrofe. Spørgsmålet er alene hvor alvorlig katastrofen er.

Jeg vurderer selv, at det er det uden sammenligning mest alvorlige moralske problem i verden i dag (med henholdsvis klimaændringer og global fattigdom som relativt fjerne nummer tre og to). I samme dur bemærkede Michael Huemer på en konference sidste sommer en passant, og uden at nogen opfattede det som kontroversielt, at vores behandling af ikke-menneskelige dyr i det 20. århundrede nok er så katastrofal, at den mere end opvejer samtlige moralske fremskridt på andre fronter siden middelalderen.

Anderledes formuleret: verden ville samlet set være et moralsk bedre sted, hvis vi fortsat havde hekseafbrændinger, jødeprogrommer, slaveri, undertrykkelse af kvinders civile og politiske rettigheder, stændersamfund, korporlig afstraffelse af børn og tyende, osv., hvis vi blot samtidig kunne undgå den industrielle produktion af ikke-menneskelige dyr, som det moderne landbrug har taget i brug især siden omkring midten af det 20. århundrede.

Hvordan kan forskere mene, at det industrielle landbrug er så galt? Fordi der er tale om, at mindst 56 milliarder ikke-menneskelige dyr hvert år bliver udsat for lidelser så grufulde, at man næsten ikke kan forestille sig det (f.eks. kyllinger, køer, grise, og fisk), og derpå dræbt. Hvis det er moralsk forkert at udsætte ikke-menneskelige dyr for lidelse, eller slå dem ihjel, så er det industrielle landbrugs behandling af disse milliarder af ikke-menneskelige dyr forkert i en størrelsesorden som er vanskelig at fatte.

For de fleste mennesker virker det synspunkt imidlertid så absurd, at det kan være svært at tage seriøst. Det er nok den største udfordring for en kvalificering af debatten: den astronomiske afstand mellem almindelige forståelser af moral og den dyreetiske forsknings konklusioner, gør det svært for menigmand at forholde sig til forskningen.

En parallel (som mine kollegaer fra Fysik vil elske at skælde mig ud for...) kunne være forskellen mellem vores umiddelbare opfattelse af den fysiske virkelighed, og de konklusioner som kvantefysikken er nået frem til: det er de færreste af os, som til daglig tænker om vores omverden, at den består af energifelter der ikke eksisterer i en bestemt tilstand, men som sandsynligheder, muligvis fordi de rækker over et uendeligt antal parallele universer.

Debatten om kødspisning har oven i købet den ekstra udfordring, at det for mange mennesker kræver en markant ændring af både deres værdier og adfærd, at acceptere den dyreetiske forsknings konklusioner; det er alt andet lige lettere at acceptere kvantefysikken med et skuldertræk, fordi vi ikke er tvunget til at lave noget særligt om på vores liv, hvis vi accepterer det meget anderledes billede af virkeligheden, som den er nået frem til.

Hvorfor er der så stor afstand mellem dyreetisk forskning og almindelige forståelser? Den væsentligste faktor er nok, at forskningen afviser speciesisme.

Speciesisme er det synspunkt, at der er en fundamental moralsk forskel på mennesker og ikke-menneskelige dyr, også avancerede dyr som andre pattedyr, visse fugle og blæksprutter, således at handlinger, som ville være klart forkerte, hvis de var rettet mod et menneske, kan være moralsk uproblematiske, når de rettes mod et ikke-menneskeligt dyr. Sat på spidsen:

Speciesisme. Ikke-menneskelige dyr har lavere moralsk status end mennesker, ofte i en grad så de ingen moralsk status har.

Specisisme er intuitiv for de fleste mennesker i nogle situationer, men også ekstremt kontraintuitiv i mange. De fleste som holder husdyr mener for eksempel at det er indlysende, at deres kat, hund, hamster eller lignende har moralsk status, på en måde som gør at det ville være meget forkert at mishandle eller dræbe dyret.

Men når det gælder landbruget, så accepterer de fleste, i hvert fald når de ikke tænker efter, at det er i orden at opdrætte landbrugsdyr under kummerlige forhold, slå dem ihjel, og spise dem, og det hviler normalt på en forestilling om, at disse dyr ikke har nogen moralsk status - dvs. at vi ikke skylder dem hverken det ene eller det andet.

Den ide kan imidlertid let udfordres. For det første, så vil mange have en intuition om, at der trods alt er ting, som vi kan gøre ved landbrugsdyr, som er moralsk forkerte. Vi accepterer for eksempel at grise spændes fast på cementgulve i lukkede stalde, får skåret haler og tænder over, og dræbes så vi kan spise dem. Men mange vil mene, at det ville være indlysende forkert, hvis en landmand gav sig til at pine dem for sjovs skyld, og det er da også strafbart, at udsætte dyr for en lang række lidelser og overgreb. Det kan kun være forkert at gøre dette, hvis landbrugsdyrene faktisk har moralsk status.

For det andet, så er der overordentligt stærke argumenter for, at (de relevante) dyr har moralsk status. Det mest klassiske handler om, at det ganske enkelt er forkert at gøre skade:

Skadesprincippet. Det er alt andet lige moralsk forkert at handle på en måde, som gør skade på et andet væsen. Det er mere forkert, jo mere skade ens handling gør.

Skadesprincippet er noget nær den mest ukontroversielle ide, man kan finde i moralfilosofi, og intuitivt indlysende for de fleste. Spørgsmålet er så, hvorfor det ikke skulle gælde for ikke-menneskelige dyr?

Et første bud er nogle gange, at ikke-menneskelige dyr ikke har bevidsthed, og derfor, i modsætning til mennesker, ikke kan lide. Der findes naturligvis dyr, som næppe har bevidsthed, for eksempel muslinger, men for de relevante dyr løber argumentet durk ind i den udfordring, at al forskning peger på, at disse (og mange andre) dyr har tilstrækkelig bevidsthed, til at de kan opleve smerte og nydelse.

Et svar på denne udfordring, som ind imellem fremføres, er at forskningen godt nok kan pege på, at ikke-menneskelige dyr har den type adfærd som hos mennesker er tegn på smerte, og de neurologiske forudsætninger, som gør mennesker i stand til at lide, men at vi jo ikke kan vide, om de rent faktisk oplever det: "Hvem ved hvad der sker inde i hovedet på et ikke-menneskeligt dyr?"

Problemet med det svar er i første omgang, at det i så fald skulle gælde for alle dyr, også for familiens labrador. Lige netop når det gælder Trofast, er det imidlertid de færreste, som er villige til at lade den uløselige tvivl om hvorvidt ikke-menneskelige dyr har bevidsthed godkende mishandling og drab. For det andet, og endnu mere alvorligt, så er der blot tale om en variant af det fremmed-psykiske problem. Skulle vi tage tvivlen alvorligt, så kan vi hver især strengt taget heller ikke vide om andre mennesker har bevidsthed og oplevelser, men der er næppe nogen, som ved deres fulde fem vil påstå, at de derfor kan tillade sig at torture, myrde og spise andre mennesker.

De fleste andre bud er varianter over ideen, at mennesker og ikke-menneskelige dyr har forskellige moralsk status fordi de første er mennesker, og de andre er ikke-menneskelige dyr. De løber alle ind i det samme problem, at det ikke er klart hvorfor dette i sig selv skulle gøre en forskel. Overvej til sammenligning en person, som hævder, at mænd (eller hvide, eller kristne, eller heteroseksuelle, eller...) har højere moralsk status end kvinder, simpelthen fordi de er mænd, og kvinder er kvinder. Det er ubetvivleligt rigtigt, at mænd og kvinder er forskellige, men ikke klart hvorfor forskellen imellem dem skulle gøre en forskel for deres moralske status.

Betyder det så, at mennesker og ikke-menneskelige dyr er moralsk lige? Og skal vi holde helt op med at opdrætte dyr? Ikke nødvendigvis.

Man kan sagtens argumentere for, at der er moralsk relevante forskelle på mennesker og ikke-menneskelige dyr, som gør at de første har højere moralsk status, for eksempel den evne som mennesker har til at lægge avancerede planer for fremtiden. Det er utroværdigt, at menneskers status er så meget højere, at den kan legitimere at mishandle og dræbe dyr for den beskedne nydelse ved at spise dem, men ikke utroværdigt, at vi for eksempel kan tillade os at redde mennesker ud af en brændende bygning før vi forsøger at redde dyrene.

Tilsvarende, så er der en interessant og relevant diskussion at tage, om hvorvidt vi for eksempel kan spise dyr, som har haft gode liv, og som ikke ville have eksisteret, hvis ikke de var blevet opdrættet for at blive spist (for eksempel Peter Sandøe her).

Vi accepterer i almindelighed, at vores erkendelse er ufuldkommen, og at fremtiden vil vide mere end vi gør. Men lige når det gælder etik er der en tendens til, at hver generation forestiller sig, at netop de har gjort de erkendelser, som kan gøres. Det gjaldt for 1700-tallets slaveejere, som brystede sig af deres religiøse tolerance, 1800-tallets misogynister, som var stolte af deres modstand mod slaver, og det 20. århundredes speciesister, som hyldede menneskerettigheder.

Dyreetikken er ikke et løst problem. Men i forhold til disse egentlige spørgsmål befinder meget af den offentlige debat om kødspisning sig stadig på kravlestadiet. Må 2019 blive året, hvor den lærer at gå.

Hvad er der galt med designerbørn?

Et af de problemer, som dukker op igen og igen i mediemoralfilosofi i Danmark, er spørgsmålet om, hvorvidt det er etisk forsvarligt, at modificere menneskelige fostres gener. Det blev aktuelt igen for nylig, da den kinesiske forsker He Jiankui offentliggjorde, at hans forskergruppe for første gang nogensinde havde gjort netop det.

Der er indlysende gode grunde til at være forsigtig med at anvende teknologier som CRISPR, til at modificere menneskelige gener. Den mest oplagte er, at man risikerer at gøre mere skade end gavn, hvis behandlingen har uforudsete side-effekter. Det taler for at gå relativt langsomt frem, for at sikre os at teknologien kun tages i brug der hvor vi har god indsigt i de forventede effekter, og for at følge op på de faktiske effekter med grundige studier.  

Der er også rimelige bekymringer, omend de knytter sig til den noget fjernere fremtid, omkring de måder, teknologien kan anvendes af personer med slette formål, og omkring den ulighed, som gavnlige behandlinger kan forstærke, hvis det kun er de mest velstående, som har adgang til dem.

Det et imidlertid sjældent disse rimelige bekymringer, som er i centrum i den danske debat. Den dominerende bekymring her er langt oftere, om det overhovedet er etisk tilladeligt, at ændre på menneskers gener. Det citerer medier gerne en del personer, som svarer nej til. Informations artikel ovenfor citerer for eksempel Professor Uffe Birk Jensen for det synspunkt, at "Etisk er der generel enighed om, at man ikke ændrer på arvemassen hos mennesker". De henviser også til Etisk Råds udtalelse fra 2016, som overordnet svarer det samme. Og He Jiankui selv citeres i artiklen for, at "[g]enindgreb bør kun bruges til at helbrede og ikke til at øge IQ eller udvælge hår- eller øjenfarve – den slags bør forbydes".

I mange sammenhænge er det altså en prominent position i den danske debat, at selv hvis vi kan ændre på personers gener på en måde som er sikker, ligeligt tilgængelig og anvendes velmenende, så er det moralsk forkert at gøre det, måske undtagen hvis vi derved forhindrer alvorlige sygdomme. Kald dette synspunkt for:

Biokonservatisme: Det er i almindelighed moralsk forkert, at ændre på menneskers gener.

Som så ofte viser det sig imidlertid, at det er et overordentlig vanskeligt synspunkt at give en god begrundelse for synspunktet, når man tænker blot en smule efter. Lad os kigge på de tre nok mest almindelige begrundelser:

1. Et første almindeligt argument er, at børn har ret til en åben fremtid, og at vi, hvis vi ændrer ved deres gener for at give dem særlige træk, skubber dem i en bestemt retning.
2. Et andet almindeligt argument er, at vi ved at ændre på børns gener, griber ind i en naturlig orden.
3. Et tredje almindeligt argument er, at genetisk ændringer vil skabe en ensretning i samfundet, og derved gøre det vanskeligere at være anderledes.[i]

Det overordnede problem for alle tre begrundelser er, at det synes ret indlysende, at vi gør en hel masse ting, som vi alle finder komplet uproblematiske, som har samme type effekter.

De fleste af os vælger for eksempel partner baseret blandt andet på, om vi mener at vedkommende vil være den rette person at få børn med. Ikke dermed sagt, at vi sætter os ned rationelt og lister attraktive og uattraktive genetiske træk ved potentielle partnere, men bevidst og ubevidst spiller arvelige forhold som eksempelvis højde, vægt, symmetri, sundhed, hud-, hår- og øjenfarve en meget væsentlig rolle, når vi vælger partnere. I valget af partner træffer vi indlysende valg, som på helt afgørende vis påvirker, hvilke gener vores fremtidige børn vil få. Og selvom vi godt kunne føle en vis antipati overfor en person, som fuldstændig afviser potentielle partnere som ikke har en vis højde, med den begrundelse, at hun gerne vil have høje børn, så er det nok de færreste som vil mene, at hun ikke har ret til at foretage et sådant valg.

De fleste af os gør os også enddog meget store anstrengelser, for at tilrettelægge tilværelsen for vores børn således, at de udvikler sig i en bestemt retning. Det er naturligvis almindeligt blandt forældre at konstatere, at børn ikke udvikler sig på helt den måde man planlagde (og ind imellem anderledes end man havde håbet...), men det ændrer ikke ved det forhold, at forældre på fuldstændig afgørende vis præger deres børn gennem opdragelsen.

Det samme er iøvrigt tilfældet med en lang række af de institutioner, vi som samfund ofte hylder, for eksempel folkeskolen.

Endelig, så sker der i kraft af en lang række idealer, som det store flertal af os deler, derved en meget kraftig ensretning. Vi foretrækker sundhed frem for sygdom, venlighed frem for fjendtlighed, viden frem for uvidenhed, etc., og alle de måder hvorpå vi skaber bestemte vilkår for fremtidige børn afspejler dette.

Udfordringen for de, som forsvarer biokonservatisme, er derfor at pege på en moralsk relevant forskel mellem de utallige måder, hvorpå vi præger børns fremtid, griber ind i "naturens orden", og skaber ensretning, som vi alle er enige om er moralsk uproblematiske, og så ændring af gener. Det er en udfordring, som de mildt sagt har haft svært ved at løfte. Typisk kommer man ikke nærmere et argument, end den form for cirkelslutninger, som Etisk Råd forfalder til: 

"Design af kommende mennesker overskrider en grænse, mennesker ikke bør overskride. At gøre det vil være at blande sig i den menneskelige natur på et mere detaljeret og mere præcist niveau, end man hidtil har været i stand til. Det udtrykker en holdning til naturen og det naturlige, som grundlæggende er forkert."

Bemærk at den første påstand skal fungere som begrundelse, men reelt blot er en gentagelse, af det synspunkt som biokonservatismen forfægter. 

Den anden påstand er empirisk tvivlsom, og under alle omstændigheder irrelevant, fordi spørgsmålet ikke er, om vi gør noget mere detaljeret og præcist, men hvorfor dette i givet fald er forkert. 

Og den tredje påstand forudsætter igen konklusionen: antageligt er det ikke forkert, at udtrykke den holdning til naturen, som ændring af gener udtrykker (hvad det så end er for en...), hvis denne indstilling til naturen er den rigtige. Det er kun hvis der grund til ikke at have denne holdning, fordi der er moralsk en relevant forskel på ændring af gener og andre indgreb i "naturens orden" (hvordan det end skal forstås...), at det første kan udtrykke en anderledes og forkert holdning.

I tillæg til de øvrige argumenter mod biokonservatisme, så forekommer det mig, at muligheden for en fremtid hvor den gennemsnitlige person bliver så analytisk begavet, at vi slipper for den slags moralfilosofisk sludder, er et særdeles godt argument for designerbørn.

---

[i] Det er i den forbindelse påfaldende at læse Etisk Råds udtalelse. Redegørelsen rejser de tre argumenter, og skitserer kortfattet meget overbevisende indvendinger mod dem. Umiddelbart efter fastholder Rådet biokonservatisme, tilsyneladende uden at lade sig anfægte synderligt af problemerne ved argumenterne. Rådets redegørelser udarbejdes af sekretariatet, som typisk er professionelle etikere. Rådets konklusioner sammenfatter holdningen hos de politisk udpegede lægpersoner.