La tecnología de reconocimiento facial ya está rodeada de preocupaciones éticas, pero un posible acuerdo en Milwaukee lleva las cosas a un nuevo nivel. Los funcionarios de la policía están considerando intercambiar 2.5 millones de fotos policiales a una empresa privada, Biometrica, a cambio de acceso gratuito al software de reconocimiento facial, lo que plantea serias preguntas sobre la privacidad, la seguridad de los datos y el potencial de exacerbar los sesgos raciales existentes en el sistema de justicia penal.
La industria del reconocimiento facial está plagada de prácticas cuestionables, y un acuerdo propuesto en Milwaukee ejemplifica esta preocupante tendencia. El departamento de policía de la ciudad está considerando un acuerdo con Biometrica, una empresa de software, que implica el intercambio de 2.5 millones de fotos policiales por acceso gratuito al software de reconocimiento facial. Esta propuesta plantea serias preocupaciones éticas y prácticas, destacando el potencial de uso indebido y la exacerbación de las desigualdades sociales existentes.
Para empezar, el acuerdo en sí es inherentemente problemático. El Departamento de Policía de Milwaukee tiene la intención de intercambiar décadas de fotos policiales y registros de la cárcel por acceso a la tecnología de reconocimiento facial. Este intercambio, según informa el *Milwaukee Journal Sentinel*, proporcionaría a Biometrica un vasto conjunto de datos para entrenar su software. Si bien los detalles de los planes de Biometrica no están confirmados, la práctica de utilizar dichos datos para el entrenamiento es común dentro de la industria.
Además, el uso de fotos policiales para entrenar el software de reconocimiento facial no carece de precedentes. Clearview AI, por ejemplo, extrajo millones de imágenes de las redes sociales para construir su base de datos, y PimEyes utilizó imágenes de personas fallecidas. El Instituto Nacional de Estándares y Tecnología también mantiene una base de datos de fotos policiales para pruebas de reconocimiento facial. Este contexto subraya el potencial de uso indebido y la falta de consideraciones éticas a menudo asociadas con la adquisición de datos en este campo.
Otra preocupación significativa gira en torno a las inexactitudes inherentes a la tecnología de reconocimiento facial, particularmente al identificar a personas con tonos de piel más oscuros. Como señaló David Gwidt, portavoz de la Unión Estadounidense por las Libertades Civiles de Wisconsin, la tecnología ha llevado a “múltiples arrestos injustos…debido a la dependencia policial de resultados incorrectos de reconocimiento facial, y esos son solo los casos conocidos”. Además, enfatizó que “en casi todos esos casos, la persona arrestada injustamente era negra”. Esta disparidad destaca el potencial de la tecnología para impactar desproporcionadamente a las comunidades marginadas.
Más allá del problema de la precisión, el acuerdo propuesto carece de transparencia y salvaguardias para las personas cuyos datos se utilizarían. El acuerdo, tal como está, no menciona informar a las personas, obtener su consentimiento o proporcionar una opción de exclusión voluntaria. Wisconsin, como la mayoría de los estados, carece de leyes específicas de privacidad biométrica, y solo Illinois ofrece regulaciones más allá del uso comercial. Este vacío legal crea una situación en la que los datos de las personas podrían ser explotados sin su conocimiento o consentimiento.
Además, el potencial de violaciones de datos y vulnerabilidades de seguridad complica aún más la situación. Los datos biométricos, una vez comprometidos, pueden conducir al robo de identidad y a la elusión de los sistemas de seguridad. Como ha informado *Forbes*, las violaciones biométricas plantean riesgos significativos. A diferencia de otras formas de información personal, las personas no pueden simplemente cambiar sus rasgos faciales. Esto plantea la pregunta de si la policía de Milwaukee debería poder asumir tales riesgos en nombre de sus ciudadanos.
El contexto histórico de los Estados Unidos, marcado por la explotación de las comunidades marginadas en nombre del avance tecnológico, añade otra capa de preocupación. Jeramie Scott, asesor principal de EPIC, señaló: “La ironía aquí es que la policía de Milwaukee está considerando ofrecer millones de fotos policiales que muy probablemente son desproporcionadamente de personas de color para entrenar una tecnología de vigilancia que probablemente se utilizará desproporcionadamente en personas de color”. Además, afirmó que este acuerdo “exacerbaría las desigualdades raciales históricas en el sistema de justicia penal”. Esta perspectiva subraya el potencial del acuerdo para perpetuar y amplificar los sesgos existentes dentro del sistema.
La falta de una regulación federal integral sobre el reconocimiento facial agrava aún más el problema. Si bien Madison, Wisconsin, prohibió la tecnología en 2020, el estado en sí no tiene tales regulaciones, y Milwaukee tampoco tiene regulaciones para su tecnología de vigilancia existente. Scott cree que “Lo más seguro sería no seguir adelante con este acuerdo y que la policía de Milwaukee se abstenga de usar la tecnología, particularmente cuando no existen leyes para limitar estrictamente su uso y proporcionar salvaguardas significativas”.
En conclusión, el acuerdo propuesto entre el Departamento de Policía de Milwaukee y Biometrica plantea numerosas preocupaciones éticas y prácticas. El intercambio de fotos policiales por software de reconocimiento facial, junto con las inexactitudes inherentes a la tecnología, la falta de transparencia y el potencial de violaciones de datos, pinta un panorama preocupante. El potencial del acuerdo para impactar desproporcionadamente a las comunidades marginadas y exacerbar las desigualdades existentes subraya aún más la necesidad de precaución. El llamado de la ACLU a una pausa en la nueva tecnología de vigilancia y el desarrollo de regulaciones es un paso fundamental para abordar estas preocupaciones y garantizar que el uso de la tecnología de reconocimiento facial esté sujeto a las salvaguardas y la supervisión comunitaria adecuadas.
La policía de Milwaukee evalúa un polémico acuerdo para intercambiar 2.5 millones de fotos policiales con la empresa privada Biometrica a cambio de software de reconocimiento facial gratuito. Esto plantea serias preocupaciones éticas y de privacidad, incluyendo posibles resultados sesgados debido a la imprecisión del reconocimiento facial con individuos de piel oscura, la falta de consentimiento u opciones de exclusión, riesgos de seguridad de datos y la perpetuación de desigualdades raciales históricas en el sistema de justicia penal. Ante una regulación limitada y un historial de explotación, la propuesta subraya la urgente necesidad de una supervisión exhaustiva y una pausa en nuevas tecnologías de vigilancia hasta que se establezcan salvaguardias sólidas.
Leave a Reply