CIUDAD AUTÓNOMA DE BUENOS AIRES, 9 OCT 2020 – El Gobierno argentino bloqueó el acceso público a la base de datos de prófugos, que contenía información de menores de edad, tras un reporte de Human Rights Watch. La información se utiliza en la Ciudad de Buenos Aires en un controversial sistema de reconocimiento facial en tiempo real. Esta es la historia.
Este 7 de octubre el dato más extraño que aparecía en la base de datos era de un niño de tres años, sin nombre ni número de documento, señalado por “delitos contra las personas (dolosos) – lesiones graves”. Había también otros 15 menores, todos de 17 años, para los que sí aparecían nombres y apellidos y, en casi todos los casos, número de documento. Casi todos tenían supuestas causas por robo, en este, el polémico listado del sistema de Consulta Nacional de Rebeldía y Captura (Conarc), que existe desde 2009 y fue de acceso público hasta este jueves.
Los problemas de esa base de datos, y su uso en conjunción con otros sistemas, fueron abordados en un reporte de la ONG Human Rights Watch (HRW) difundido este 9 de octubre, en los que la organización menciona que llegó a detectar datos de hasta 166 niños y niñas incluidos en la Conarc entre mayo de 2017 y el mismo mes de 2020.
“Al publicar los datos personales de estos niños y niñas en línea, el Gobierno nacional pone en riesgo su acceso a la educación, al trabajo y a la vivienda por el resto de sus vidas”, señaló José Miguel Vivanco, director de la División de las Américas de HRW.
Ya lo había dicho el relator especial de las Naciones Unidas sobre el derecho a la privacidad, Joseph Cannataci, tras visitar el país en mayo de 2019: “Es particularmente preocupante que los menores estén incluidos en la base de datos pública, lo que sería difícil de justificar como el interés superior del niño, tal como lo exige la Convención sobre los Derechos del Niño (artículo 3.1), ratificada por Argentina el 4 de diciembre de 1990”.
Tras el reporte de HRW, el 8 de octubre por la tarde ya no era posible acceder a la bases de datos de la Conarc. Fuentes oficiales del Gobierno de Argentina indicaron a France 24 que se ordenó como medida preliminar el bloqueo al acceso público y una auditoría del sistema informático.
Ese mismo día, más temprano, HRW había enviado una carta al presidente Alberto Fernández en la que le recomendaba “retirar inmediatamente a todos los menores de 18 años de la base de datos de la Conarc publicada en línea, así como establecer mecanismos adecuados para evitar que las identidades de nuevos niños sean ingresadas en esta base de datos pública”.
“Me parece positivo que el Gobierno haya bloqueado el acceso a la base de datos de la Conarc y no se siga exponiendo públicamente la identidad de menores, lo cual viola estándares internacionales de Derechos Humanos (…) Además, espero que se haga una auditoría rigurosa para determinar porqué se han cometido tantos errores en la configuración de este listado y así evitarlos en el futuro”, indicó Vivanco a France 24l.
Un sistema de reconocimiento facial con errores y riesgos
De todos modos, de acuerdo con HRW, hay otros riesgos potenciales que surgen del uso de la base de datos de la Conarc, esta vez por parte de la Ciudad de Buenos Aires, dado que no está claro que haya sido resuelto aún (teniendo en cuenta que el Estado no precisó haber restringido el acceso a la ciudad a esa lista).
Desde abril de 2019, este distrito toma los datos de la Conarc para utilizarlos en su Sistema de Reconocimiento Facial de Prófugos (SRFP), que analiza transmisiones de video en vivo del interior e inmediaciones de estaciones del Metro para buscar posibles coincidencias. La lista de la Conarc no contiene imágenes, así que las fotos de referencia que utiliza el SRFP son tomadas de la base de datos del Registro Nacional de las Personas (Renaper).
Según HRW, el SRFP incluye imágenes de los niños y niñas listados en la Conarc y argumenta que, cuando el Observatorio de Derecho Informático Argentino (ODIA), una ONG local, le solicitó al Ministerio de Justicia y Seguridad de la ciudad información sobre el uso de imágenes de menores en el SRFP, el organismo oficial respondió en octubre de 2019 que el sistema no contenía fotos de niños y niñas porque “la base de datos del Conarc no posee datos respecto a menores de edad”, lo cual era falso al menos hasta el miércoles 7 de octubre, como pudo constatar este medio.
Referentes internacionales
En otros lugares del mundo existen sistemas de reconocimiento facial que incluyen imágenes y datos de menores y también han sido abiertamente cuestionados por ello. Por ejemplo, en agosto de 2019, ‘The New York Times’ denunció que la Policía de Nueva York estaba cargando imágenes de menores detenidos en un sistema de este tipo para luego utilizarlas en investigaciones. Pero, a diferencia del de Argentina, ese es un sistema estático.
“La diferencia es que la tecnología utilizada en Buenos Aires analiza transmisiones de video en vivo para identificar niños acusados de cometer delitos, mientras que la de Nueva York no”, explicó Vivanco.
El 1 de julio de 2019, en un balance sobre la implementación del SRFP, el jefe de Gobierno de la Ciudad, Horacio Rodríguez Larreta, dijo: “La verdad (es) que está funcionando incluso mucho mejor de lo que esperábamos”. Para esa fecha, tras ser identificadas con el sistema, las Fuerzas de Seguridad habían puesto a disposición de la Justicia a 1.043 personas. “Son delincuentes, violadores y asesinos que estaban caminando al lado nuestro”, aseguró Larreta en aquel momento.
Pero la tecnología de reconocimiento facial tiene errores que pueden llevar a que el sistema crea identificar a alguien que no es la persona que se encuentra en las bases de datos. En el marco de la discusión en la Legislatura de la Ciudad de Buenos Aires de un proyecto para modificar la Ley del Sistema Integral de Seguridad Pública, la ONG local Asociación por los Derechos Civiles (ADC), envió una carta a la Comisión de Seguridad de ese órgano, en la que da cuenta de los casos en los que el SRFP identificó erróneamente a personas como prófugas.
Allí cita el testimonio de Guillermo Ibarrola, quien pasó seis días detenido en una cárcel de Bahía Blanca, en el sur de la provincia de Buenos Aires, por un delito que no cometió; así como el de Leo Colombo Viña, cuya identidad fue confundida con la de otra persona, que fue cargada en el sistema por error con el número de documento de Colombo Viña. Al respecto, HRW señaló varios problemas en la calidad de los datos de la Conarc.
Todos estos son casos de adultos –como todos los otros conocidos–, pero si el sistema incluye en su base de datos a menores, nada quita que errores similares puedan ocurrir con menores. Además, estas plataformas de reconocimiento facial pueden fallar especialmente en el caso de los niños y niñas por dos motivos: los algoritmos en general son entrenados en rostros adultos y las caras de los menores cambian rápida y drásticamente con su crecimiento.
Según Vivanco, el sistema de reconocimiento facial de la ciudad de Buenos Aires está implementado “con pocas salvaguardas, a pesar de los previsibles errores que esta tecnología puede generar en la identificación de niños y niñas y el impacto negativo sobre ellos”.
HRW le envió una carta al jefe de Gobierno de la ciudad, en la que lo insta a suspender de inmediato el SRFP, evaluar su impacto sobre los Derechos Humanos y la privacidad y publicar “estadísticas verificables sobre los resultados que el sistema ha producido a la fecha”. La ADC había solicitado lo mismo en su misiva a la Comisión de Seguridad de la Legislatura porteña.
France 24 en Español intentó a través de varios contactos comunicarse con el Gobierno de la ciudad de Buenos Aires pero no consiguió obtener una respuesta a los señalamientos y reclamos.