Denne amerikanske lovgiver ønsker større kontrol af algoritmer anvendt i straffesager

Repræsentant Mark Takano (D CA) siger, Intellektuel ejendomsret skal ikke være i stand til at trumfe behørig proces.

AP Photo / J. Scott Applewhite

Denne amerikanske lovgiver ønsker større kontrol af algoritmer anvendt i straffesager

Af Catherine MatacicSep. 23, 2019, 16:10

Siden det blev introduceret i 1980'erne er DNA-bevis blevet en gold standard for amerikanske retssaler, hvilket førte til overbevisning og retssager tusinder af anklagede kriminelle. Men eksperter kæmper for at analysere forringede eller kontaminerede prøver, og mange er begyndt at bruge sofistikeret probabilistisk genotypesoftware til at estimere sandsynligheden for, at en mistænkt DNA matcher DNA på forbrydelsesscenen. Sådanne såkaldte retsmedicinske algoritmer er langt fra sjældne: I stigende grad bruges de til at estimere kampe for alt fra fingeraftryk til pistoltønder til ansigter i sikkerhedskameraoptagelser.

Forsvarsadvokater har sjældent adgang til kildekoden eller andre oplysninger, der kan forklare, hvordan sådan software som ofte er proprietær værk. Det skyldes, at virksomheder frygter at give det ville udsætte forretningshemmeligheder eller andre former for intellektuel ejendom. Men opaciteten har givet anledning til bekymring for retfærdighed og gennemsigtighed.

I sidste uge introducerede repræsentant Mark Takano (D CA) lovgivning, der ville gøre det lettere for tiltalte, der står over for føderale straffesager, at få adgang til retsmedicinske algoritmer, og kræver endvidere, at producenterne af beregningsmæssig forensisk software opfylder minimumsstandarder, der er fastsat af National Institut for standarder og teknologi (NIST).

ScienceInsider fangede Takano for at diskutere den nye lovforslag. Dette interview er redigeret for kortfattethed og klarhed.

Spørgsmål: Hvilke problemer ville denne regning løse?

A: Det, vi ved, er, at mennesker ofte er dømt med sandsynlighedsmodeller som det eneste bevis i sagen. Folk kan sættes i fængsel, de kan endda miste deres liv [over bare] denne form for omstændighedsbeviser. Og hvad vi også ved, er, at virksomheder, der fremsætter disse teknologier, ikke ønsker at åbne kildekoden eller forklare meget om de underliggende data og få dem stillet spørgsmålstegn ved forsvaret. Vi tror, ​​at der er et grundlæggende problem med dette. Intellektuel ejendomsret skal ikke være i stand til at trumfe behørig process.

Spørgsmål: Hvilken af ​​disse retsmedicinske teknologier er du mest bekymret for?

A: DNA-bevis [fra] probabilistisk genotypesoftware til DNA-analyse. Det ser ud til at være ironclad sandhed, på samme måde som for mange årtier siden en løgndetektor test [gjorde]. Videnskabsangreb kan føre til [falsk sikkerhed] for juryer og dommere. Det er fuldt ud passende, og faktisk nødvendigt, for juryer og dommere at forstå grænserne for teknologi og hvordan det fungerer.

Q: Denne regning opfordrer NIST til at teste retsmedicinsk software. Hvad ville det være at teste?

A: Det er klart, de ville have deres analytikere til at se på teknologien til at måle, hvad begrænsningerne er, hvad mulighederne er, og [de vil] se på, hvad videnskaben derude siger om data, og hvordan disse algoritmer fungerer. Vi vil opfordre dem til [at spørge virksomheder]: Har du testet disse ud, og kan du vise os data? Er der en fejlprocent, der viser en uforholdsmæssig indflydelse på minoriteter, hvor for eksempel mindretal identificeres fejlagtigt? ”Vi mener, at man skal se på enhver vinkel med hensyn til, hvordan disse systemer kan mislykkes.

Sp .: Hvad inspirerede denne regning?

A: Jeg taler meget om min families fængsling under 2. verdenskrig og japansk-amerikansk internering. Hvad er forbindelsen der? Det har med privatlivets fred at gøre, det har at gøre med behørig proces. På samme tid hjælper dette med at holde regeringen opdateret med teknologi og hjælper Kongressen med at forstå den nyeste teknologi. Faren er, at - uanset om det er afstemningssystemer, der ser lyse og skinnende ud eller smukke små sorte kasser, der spytter et resultat - borgere og juryer og dommere og anklagere og forsvarsadvokater [ikke] forstår, hvordan disse systemer fungerer.

Spørgsmål: Hvilke udfordringer står denne regning overfor?

A: Jeg tror, ​​det er det generelle spørgsmål om at forsøge at få medlemmernes opmærksomhed, kollegers opmærksomhed og få de vigtigste medlemmer af underudvalget til at samle det op og forstå det underliggende problem. Jeg tror, ​​at dette alle er meget opnåelige slags ting. Den anden hindring er, at [Representantenes] dommerudvalg har meget på sin plade lige nu. [Takano henviste til henvendelsesundersøgelser mod præsident Donald Trump.] Det er større opmærksomhedsforøgende emner, der kan være min hindring på dette tidspunkt. Men jeg tror ... dette er et tilfælde, hvor det amerikanske folk forstår [behovet], så [indsatsen] kunne være på en topartisk måde.