El gobierno del Reino Unido está desarrollando un controvertido programa, inicialmente llamado “proyecto de predicción de homicidios”, ahora renombrado como “compartir datos para mejorar la evaluación de riesgos”. Esta iniciativa busca utilizar algoritmos y datos personales de individuos conocidos por las autoridades para predecir quién es más probable que cometa delitos violentos graves, lo que suscita preocupación por la privacidad, los sesgos y la posibilidad de resultados distópicos.
El gobierno del Reino Unido está desarrollando actualmente un controvertido programa destinado a predecir futuros asesinos. Esta iniciativa, inicialmente denominada “proyecto de predicción de homicidios” y ahora conocida como “compartir datos para mejorar la evaluación de riesgos”, busca aprovechar los datos personales de individuos conocidos por las autoridades para identificar a aquellos con mayor probabilidad de cometer delitos violentos graves. Según informes, los investigadores están empleando algoritmos para analizar información de miles de personas, incluidas víctimas de delitos, en un esfuerzo por identificar a los individuos considerados de mayor riesgo.
La existencia de este proyecto y algunos de sus detalles operativos fueron revelados por el grupo de presión Statewatch a través de documentos obtenidos mediante solicitudes de Libertad de Información. Los hallazgos de Statewatch plantean preocupaciones significativas sobre el alcance de los datos que se están utilizando. Afirman que el proyecto incorporará datos de individuos que no han sido condenados por ningún delito, incluida información personal sensible relacionada con autolesiones y violencia doméstica. Esta afirmación se basa en una sección del acuerdo de intercambio de datos entre el Ministerio de Justicia (MoJ) y la Policía del Gran Mánchester (GMP). Esta sección, titulada “tipo de datos personales a compartir”, enumera varias condenas penales, pero también incluye la edad a la que una persona apareció por primera vez como víctima, incluso por violencia doméstica, y la edad a la que una persona tuvo contacto por primera vez con la policía.
Además, el acuerdo de intercambio de datos enumera explícitamente “categorías especiales de datos personales” que se compartirán. Estas categorías incluyen “marcadores de salud que se espera que tengan un poder predictivo significativo”, como datos relacionados con la salud mental, la adicción, el suicidio y la vulnerabilidad, las autolesiones y la discapacidad. Esta inclusión de información de salud profundamente personal y sensible, particularmente de individuos que pueden haber buscado ayuda de la policía o haber sido víctimas de delitos, es un punto central de controversia y alimenta la caracterización “escalofriante y distópica” de los activistas.
Si bien el MoJ niega rotundamente el uso de datos de individuos sin condenas penales, insistiendo en que solo se han utilizado datos sobre personas con al menos una condena penal, la redacción del acuerdo de intercambio de datos obtenido por Statewatch contradice directamente esta afirmación. La inclusión de datos de víctimas y detalles sobre el contacto inicial con la policía para individuos sin condenas sugiere un conjunto de datos más amplio de lo que el gobierno reconoce, lo que plantea interrogantes sobre la transparencia y la posibilidad de un uso indebido de información sensible.
El gobierno sostiene que el proyecto se encuentra actualmente solo en fase de investigación. Un portavoz del Ministerio de Justicia declaró: “Este proyecto se está llevando a cabo únicamente con fines de investigación. Se ha diseñado utilizando datos existentes en poder del Servicio de Prisiones y Libertad Condicional y las fuerzas policiales sobre delincuentes condenados para ayudarnos a comprender mejor el riesgo de que las personas en libertad condicional cometan violencia grave. Se publicará un informe a su debido tiempo”. También indicaron que el proyecto tiene como objetivo “revisar las características de los delincuentes que aumentan el riesgo de cometer homicidio” y “explorar técnicas alternativas e innovadoras de ciencia de datos para la evaluación del riesgo de homicidio”.
Sin embargo, los activistas expresan importantes preocupaciones de que los datos utilizados en este proyecto, particularmente si incluyen información de individuos sin condenas y datos de salud sensibles, inherentemente crearán sesgos en los algoritmos predictivos. Sofia Lyall, investigadora de Statewatch, argumenta que el uso de datos de “la policía y el Ministerio del Interior institucionalmente racistas” “reforzará y magnificará la discriminación estructural que sustenta el sistema legal penal”. Sostiene que el modelo “codificará el sesgo hacia las comunidades racializadas y de bajos ingresos”, lo que conducirá a la elaboración de perfiles automatizados de individuos como delincuentes violentos basándose en datos potencialmente discriminatorios.
El proyecto, encargado por la oficina del primer ministro cuando Rishi Sunak estaba en el poder, se basa en datos de delitos de diversas fuentes oficiales, incluido el Servicio de Libertad Condicional y datos de la Policía del Gran Mánchester anteriores a 2015. Los tipos de información que se están procesando son extensos e incluyen nombres, fechas de nacimiento, sexo, etnia y un número que identifica a los individuos en la computadora nacional de la policía. Esta recopilación exhaustiva de datos, combinada con la posible inclusión de datos de víctimas e información de salud sensible, plantea serias preocupaciones de privacidad y alimenta los temores de un estado de vigilancia.
Los funcionarios argumentan que las herramientas de evaluación de riesgos existentes ya son empleadas por el servicio de prisiones y libertad condicional, y este proyecto tiene la intención de evaluar si la incorporación de nuevas fuentes de datos de la policía y los datos de detención podría mejorar la precisión de estas evaluaciones. Creen que el proyecto “proporcionaría evidencia para mejorar la evaluación del riesgo de delitos graves y, en última instancia, contribuiría a proteger al público mediante un mejor análisis”. Sin embargo, el potencial de sesgo algorítmico, particularmente cuando se utilizan datos de sistemas con problemas documentados de disparidades raciales y socioeconómicas, proyecta una larga sombra sobre estos objetivos declarados.
En última instancia, el proyecto de “compartir datos para mejorar la evaluación de riesgos”, a pesar de su cambio de nombre, sigue siendo una iniciativa profundamente controvertida. Si bien el gobierno enfatiza su naturaleza de investigación y los posibles beneficios para la seguridad pública, las preocupaciones planteadas por los activistas con respecto al alcance de los datos utilizados, el potencial de sesgo algorítmico y las implicaciones para la privacidad y las libertades civiles son significativas y merecen un escrutinio cuidadoso. El proyecto destaca los complejos desafíos éticos y sociales que plantea el creciente uso de tecnologías predictivas en la aplicación de la ley y plantea preguntas fundamentales sobre el equilibrio entre la seguridad y los derechos individuales.
El gobierno del Reino Unido está desarrollando un programa de “predicción de asesinatos” que analiza datos de delincuentes convictos, y potencialmente de víctimas y solicitantes de ayuda, según Statewatch, para identificar a futuros asesinos. Aunque el Ministerio de Justicia afirma que el proyecto es solo para investigación y busca mejorar la seguridad pública a través de una mejor evaluación de riesgos, los críticos advierten sobre sesgos inherentes contra las comunidades minoritarias y de bajos ingresos, y expresan profunda preocupación por el uso de datos personales sensibles como historiales de salud mental. Esto plantea interrogantes cruciales sobre las implicaciones éticas de la policía predictiva y el potencial de discriminación algorítmica en el sistema de justicia penal.
Leave a Reply