Britiske myndigheter utvikler kontroversielt AI ‘Mord Prediksjon’ Verktøy

Den britiske regjeringen jobber med et kontroversielt prosjekt som bruker AI for å forutsi hvem som kan komme til å begå drap i fremtiden.

Eksistensen av programmet ble avdekket gjennom forespørsler om offentlig informasjon innhentet av vakthundgruppen Statewatch.

Deres funn tyder på at sensitiv personlig informasjon blir brukt. Dette inkluderer helsejournaler, informasjon om mental helse, historie om avhengighet, og data om personer som ikke har blitt dømt for noen forbrytelser.

Statewatch rapporterer at Justisdepartementet (MoJ) leder denne planen, og undersøker eksisterende myndighetsregistre over personer for å forhindre alvorlige forbrytelser fra å skje.

Opprinnelig kalt «drapsprognoseprosjektet», er det nå kalt «deling av data for å forbedre risikovurdering». Prosjektet er for tiden i en forskningsfase, men kampanjeførere og personvernfortalere har uttrykt bekymringer, som rapportert av Statewatch.

Imidlertid benekter tjenestemenn dette. The Guardian rapporterer at en talsperson for Justisministeriet uttalte: “Dette prosjektet blir gjennomført kun for forskningsformål. Det er designet ved bruk av eksisterende data som holdes av HM Prison and Probation Service og politistyrker om dømte lovbrytere for å hjelpe oss med å bedre forstå risikoen for at folk på prøve vil begå alvorlig vold. En rapport vil bli publisert på et senere tidspunkt.”

Ifølge Statewatch delte politiet i Greater Manchester data om opptil en halv million mennesker. Dette inkluderte ofre, mistenkte og personer i sårbare situasjoner.

Sofia Lyall, en forsker ved Statewatch, kritiserte prosjektet sterkt og sa: “Justisdepartementets forsøk på å bygge dette mordsprediksjonssystemet er den siste skremmende og dystopiske eksempelet på regjeringens hensikt å utvikle såkalte forbrytelses ‘prediksjon’ systemer.”

Hun advarte om at systemet ville forsterke rase- og klassediskriminering: «Denne siste modellen, som bruker data fra vår institusjonelt rasistiske politi og hjemmekontor, vil forsterke og forstørre den strukturelle diskrimineringen som ligger til grunn for det kriminelle rettssystemet.»

«Å bruke så sensitiv data om mental helse, avhengighet og funksjonshemming er svært inngripende og skremmende,» la hun til.

Regjeringen argumenterer med at verktøy som dette kan forbedre hvordan prøvetjenestene vurderer risiko og forhindrer voldelig kriminalitet. Men kritikere sier at systemet kan føre til at folk urettferdig blir stemplet som potensielle mordere på grunn av mangelfulle og fordomsfulle data.

Regjeringen argumenterer med at disse verktøyene vil forbedre prøvetjenestenes evne til å evaluere risiko og stoppe voldelige forbrytelser fra å skje. Kritikere, derimot, advarer om at systemet risikerer å stemple folk som potensielle mordere gjennom dårlige og fordomsfulle data.

Selv om systemet fortsatt er under utvikling, rapporterer Statewatch at dokumenter nevner «fremtidig operasjonalisering» av systemet. Dette vekker bekymringer om at det snart kan bli brukt i reelle politibeslutninger.