Agentes del FBI están utilizando reconocimiento facial sin recibir una capacitación adecuada
FBI agents using facial recognition without proper training
El Buró Federal de Investigaciones de los Estados Unidos (FBI) ha realizado decenas de miles de búsquedas de reconocimiento facial utilizando software de proveedores externos en los últimos años. Sin embargo, solo el 5 por ciento de los 200 agentes con acceso a la tecnología han realizado el curso de capacitación de tres días del buró sobre cómo utilizarla, revela un informe de la Oficina de Responsabilidad Gubernamental (GAO) de este mes. El buró no tiene una política de uso de reconocimiento facial en vigor para proteger la privacidad, los derechos civiles o las libertades civiles.
Los legisladores y otras personas preocupadas por el reconocimiento facial han afirmado que se necesita una capacitación adecuada sobre la tecnología y cómo interpretar sus resultados para reducir el uso indebido o los errores, aunque algunos expertos dicen que la capacitación puede hacer que las fuerzas del orden público y el público piensen que el reconocimiento facial tiene un bajo riesgo.
Desde el arresto injusto de Robert Williams cerca de Detroit en 2020, han surgido múltiples casos en Estados Unidos de arrestos después de que un modelo de reconocimiento facial identificara erróneamente a una persona. Alonzo Sawyer, cuyo calvario se hizo conocido esta primavera, pasó nueve días en prisión por un delito que no cometió. La falta de capacitación en reconocimiento facial en el FBI salió a la luz en un informe de la GAO que examina las protecciones en vigor cuando las fuerzas del orden federales utilizan la tecnología. El informe se elaboró a petición de siete miembros demócratas del Congreso.
La autora del informe y directora de Seguridad Nacional y Justicia de la GAO, Gretta Goodwin, dice, por correo electrónico, que no encontró evidencia de arrestos injustos debido al uso de reconocimiento facial por parte de una agencia federal de fuerzas del orden. Un portavoz del FBI se negó a responder preguntas sobre el informe de la GAO para esta historia.
El informe de la GAO se centra en herramientas de reconocimiento facial creadas por entidades comerciales y sin fines de lucro. Esto significa que no incluye la plataforma de reconocimiento facial interna del FBI, que la GAO criticó anteriormente por tener una protección de la privacidad deficiente. El Departamento de Justicia de los Estados Unidos recibió la orden de la Casa Blanca el año pasado de desarrollar mejores prácticas para el uso de reconocimiento facial y de informar cualquier cambio de política que resulte de ello.
- El último uso de IA de Spotify traduce las voces de los podcasters ...
- Dave Limp liderará Blue Origin de Jeff Bezos después de ‘reti...
- Este visor de realidad virtual me dio una felicidad productiva cuan...
Las herramientas de reconocimiento facial externas utilizadas por el FBI y otras fuerzas del orden federales mencionadas en el informe provienen de empresas como Clearview AI, que recopiló miles de millones de fotos de rostros de Internet para entrenar su sistema de reconocimiento facial, y Thorn, una organización sin fines de lucro que combate la trata de personas aplicando el reconocimiento facial para identificar víctimas y traficantes sexuales en imágenes del mercado comercial de sexo en línea. El FBI ocupa el primer lugar entre las agencias federales de fuerzas del orden examinadas por la GAO en cuanto a la escala de su uso de reconocimiento facial. Se realizaron más de 60,000 búsquedas por parte de siete agencias entre octubre de 2019 y marzo de 2022. Más de la mitad fueron realizadas por agentes del FBI, alrededor de 15,000 utilizando Clearview AI y 20,000 utilizando Thorn.
No existe ninguna ley vigente que exija a los miembros del personal de las fuerzas del orden federales recibir capacitación antes de utilizar reconocimiento facial o seguir estándares particulares cuando lo utilizan en una investigación criminal.
Según el informe, el Departamento de Justicia planea emitir una política de derechos civiles y libertades civiles para el reconocimiento facial en todo el departamento, pero aún no ha establecido una fecha para su implementación planificada. El informe indica que, en un momento de 2022, los funcionarios del Departamento de Justicia consideraron actualizar su política para permitir que una coincidencia de reconocimiento facial por sí sola justifique la solicitud de una orden de registro.
Las herramientas de reconocimiento facial comerciales utilizadas por el FBI y otras agencias federales intentan comparar una foto de un sospechoso o víctima con imágenes de rostros en bases de datos que pueden contener millones de imágenes. Después de que el software ofrece una lista de posibles coincidencias, los humanos deciden a quién someter a una investigación más exhaustiva.
Según un informe del Instituto Nacional de Estándares y Tecnología, los modelos de reconocimiento facial fabricados por proveedores comerciales en los Estados Unidos han identificado erróneamente a los asiáticoamericanos y a las mujeres de piel oscura en tasas más altas que el resto de la población. Aunque las evaluaciones gubernamentales del reconocimiento facial siguen mostrando mejoras en la identificación de personas de diferentes grupos demográficos, los arrestos injustos continúan ocurriendo, a menudo como resultado de una combinación de tecnología defectuosa y mala labor de investigación por parte de los agentes de policía, y casi exclusivamente involucrando a hombres negros. El mes pasado, también se dio a conocer la noticia de Porcha Woodruff, quien fue arrestada injustamente a pesar de estar visiblemente embarazada, a diferencia de un sospechoso visto en imágenes de cámaras de seguridad.
La mala identificación por parte de un testigo o un agente de policía también puede resultar en un arresto injusto. Las investigaciones muestran que las personas generalmente son malas reconociendo a personas que no conocen y especialmente malas reconociendo a personas de una raza diferente. La calidad de la foto y la diferencia de tiempo entre una foto de prueba y una foto en una base de datos también pueden influir en los resultados.
El FBI ha estado bajo presión del gobierno y los legisladores para proteger mejor los derechos de los residentes de los Estados Unidos contra el poder del reconocimiento facial durante años. La GAO comenzó a pedir al FBI que evaluara la precisión y las implicaciones para la privacidad de su software de reconocimiento facial interno en 2016. Renovó esas exigencias en 2019, cuando los legisladores bipartidistas también presionaron al FBI para que agregara salvaguardias.
En 2022, un comité del Congreso instruyó al Departamento de Justicia a crear una política de uso ético de reconocimiento facial, pero la agencia aún no ha puesto en práctica dicha política. Ese mismo año, el presidente Joe Biden firmó una orden ejecutiva que instruye al departamento a encargar un estudio de la Academia Nacional de Ciencias sobre el impacto del reconocimiento facial en la privacidad, los derechos civiles y las libertades civiles. También exigió al Departamento de Justicia que participe en un proceso interinstitucional para desarrollar mejores prácticas para el uso de reconocimiento facial por parte de las agencias de fuerzas del orden.
Sneha Revanur, fundadora de Encode Justice, una organización juvenil sin fines de lucro que busca un moratorio en el uso del reconocimiento facial por parte de las fuerzas del orden, dice que la tecnología puede pasarse por alto en medio de la emoción y el miedo recientes sobre la IA generativa, como ChatGPT. “Es fundamental que no dejemos pendientes asuntos relacionados con el reconocimiento facial”, afirma. Revanur sostiene que un moratorio federal sobre esta tecnología permitiría estudiar qué tipo de capacitación y políticas de uso podrían reducir posiblemente el poder de una herramienta de vigilancia que puede violar los derechos civiles.
