En China, las cámaras de inteligencia artificial alertan a la policía cuando se despliega una pancarta — Radio Free Asia

Una empresa china de videovigilancia ampliamente utilizada y sancionada por gobiernos occidentales incorpora una tecnología de IA que alerta automáticamente a las autoridades si se detecta a una persona desplegando una pancarta.

La IA de las cámaras fabricadas por Dahua Technology parece tener como objetivo explícito sofocar las protestas, según IPVM, una empresa de investigación de vigilancia con sede en EE. UU. que fue la primera en informar sobre la existencia de la tecnología.

Dahua eliminó las referencias al sistema, llamado "Jinn", después de que IPVM le pidiera comentarios a la empresa, pero una versión archivada de su sitio web analiza su uso con fines de "seguridad social" y "gobernanza social", términos utilizados con frecuencia por las autoridades chinas. para justificar la vigilancia y las detenciones.

El sistema de detección es solo un ejemplo del crecimiento de la IA y las tecnologías de seguimiento del gobierno en China que han proliferado en los últimos años en medio de la pandemia de COVID-19.

Una serie de adquisiciones masivas de tecnología por parte de las fuerzas policiales en toda China ha aumentado considerablemente la capacidad de las autoridades para reprimir las libertades sociales, controlar a los ciudadanos y, según los críticos, abusar de los grupos a los que se dirige el gobierno.

'Se generará una alarma'

Según la página web archivada de Dahua, el sistema de inteligencia artificial se lanzó en 2021 y estuvo disponible a partir de mayo de 2023.

Su debut parece haber coincidido con una ola de inversión policial en sistemas de información geográfica en toda China en 2020.

No se sabe qué jurisdicciones policiales usan esta Dahua AI en particular, pero la compañía es un importante proveedor de tecnología policial, dijo Charles Rollet de IPVM.

"Con la pancarta de alarma, eso está atendiendo al mercado empresarial chino: las grandes autoridades, generalmente policiales", dijo. "Está destinado a la policía o alguna forma de autoridad de la ciudad... no hay razón para rastrearlos [pancartas] automáticamente a menos que quieras rastrear protestas, básicamente".

Quizás la protesta más reconocible en China en los últimos años, la protesta del Libro Blanco contra los estrictos bloqueos de COVID, fue iniciada por un hombre que desplegó una pancarta en un puente el año pasado, una indicación de la posible relevancia de la tecnología para la policía (aunque no lo es). se sabe si la policía usó el seguimiento de pancartas en ese caso en particular).

Dahua, que está sancionado por los gobiernos de EE. UU., Reino Unido y Australia, proporciona una serie de tecnologías de IA de vigilancia policial predictiva que pueden vigilar a los civiles utilizando datos biométricos. Anteriormente, los documentos internos de la empresa mostraban que proporciona inteligencia artificial de reconocimiento facial para rastrear a los uigures, lo que condujo a las sanciones occidentales. Dahua negó la discriminación racial.

También se publicó en el sitio web de Dahua una demostración de la IA que despliega pancartas filmada en 2020 antes de ser eliminada. “Si se detecta una persona que sostiene una pancarta dentro del campo de la cámara y dura un cierto período de tiempo, se generará una alarma para la policía”, explicó la demostración.

Dahua no respondió a una solicitud de comentarios de RFA.

Auge de la tecnología policial

La tecnología de despliegue de pancartas es una continuación del "desarrollo de la IA y cómo esa tecnología está realmente disponible" para la policía china, dijo Rollet.

Se sabe que China recopila una gran cantidad de datos sobre sus residentes, y las tecnologías de inteligencia artificial en rápida expansión brindan a las autoridades una nueva forma de recopilar información.

Una solicitud de propuestas para un proyecto de seguimiento de IA de la policía de Shanghái también descubierta por IPVM el mes pasado expone algunas de las ambiciones que albergan las autoridades para utilizar la gran cantidad de datos que han recopilado.

"El trabajo policial tradicional debe transformarse en una operación en línea simplificada digital, inteligente y conveniente", dijo. "La gestión eficaz del modelo para que desempeñe su papel más importante se ha convertido en un problema urgente en el desarrollo de la tecnología de seguridad pública".

El proyecto tiene como objetivo crear alertas automáticas para informar a la policía de los movimientos de poblaciones particulares en el distrito de Songjiang de Shanghái, un populoso suburbio con una gran población de académicos y estudiantes universitarios.

Las "poblaciones objetivo" que el proyecto busca rastrear automáticamente incluyen a los uigures; extranjeros con estatus de residencia irregular; profesores y miembros del personal de universidades clave; periodistas extranjeros estacionados en China; extranjeros que han visitado Xinjiang u otras áreas similares; personas con vacunas COVID; presuntos delincuentes, trabajadores sexuales y traficantes de drogas; y familias con consumo anormal de electricidad.

Según un aviso en su sitio web que luego se eliminó, la policía de Songjiang adjudicó el proyecto a una empresa de seguridad tecnológica, Shanghai Juyi Technology Development Company, que parece especializarse en trabajos por contrato con el gobierno.

La Compañía de Desarrollo de Tecnología de Shanghai Juyi no respondió a una solicitud de comentarios.

Al igual que con Dahua, la policía de Songjiang eliminó el aviso después de que IPVM lo publicara en mayo, y RFA no pudo comunicarse con el gerente del proyecto que figura en el documento.

Los límites de Gran Hermano

Las 26 categorías de "poblaciones objetivo" en el proyecto de Shanghai son lo que las autoridades chinas consideran "personal de enfoque", según Maya Wang de Human Rights Watch.

“Las personas que son peticionarios, las personas que tienen antecedentes penales, las personas que tienen discapacidades psicosociales, etc., estos grupos de personas están siendo monitoreados por la policía”, tanto físicamente como a través de tecnologías, dijo Wang a RFA.

Pero la forma en que se usa la IA para rastrear a las personas muestra tanto la sofisticación como la ingenuidad en la forma en que las autoridades chinas piensan sobre la vigilancia, dijo Geoffrey Cain, autor de "The Perfect Police State", un libro sobre la vigilancia china.

Los parámetros que utilizan (seguimiento del despliegue de una pancarta o saltos de banderas en el uso de electricidad doméstica (en el proyecto de la policía de Shanghái)) tienden a funcionar al revés de comportamientos que podrían estar vagamente conectados con actividades censuradas que están tratando de reprimir preventivamente. encendido, como protestas o minería de criptomonedas.

“Me recuerda cuando todo este estado de vigilancia realmente comenzó alrededor de 2016 y 2017”, dijo Cain. "Estaban persiguiendo a personas que de repente comenzaron a fumar o beber o personas que de repente, ya sabes, compran los artículos que se utilizan para hacer una tienda de campaña.

“Y no es porque haya una razón específica, pero las razones que darían es que ese tipo de comportamientos son sospechosos. Es casi como si hubieran elegido arbitrariamente algo que sería inusual”, dijo.

"Es como si las autoridades retrocedieran, poniendo la causa antes que el hecho".

Discriminación y peligro

Pero hay un impacto real para los grupos objetivo.

La vigilancia masiva de los uigures en particular ha sido un factor clave para permitir su persecución, dijo Wang de HRW.

“Dondequiera que vayan en China, los uigures son esencialmente señalados por una vigilancia policial discriminatoria y dirigida”, dijo. "Y eso significa que a menudo sufren, a menudo no pueden encontrar un lugar para quedarse, un hotel. Por lo general, cuando toman el tren, son investigados e interrogados, etc.".

Según un análisis de mayo de las adquisiciones de sistemas de geolocalización de la policía china por parte de China Digital Times, una empresa de medios especializada, una ola de inversión policial en estos sistemas de seguimiento se vio por primera vez en 2017 y luego nuevamente en 2020, aumentando durante la pandemia de COVID-19.

“Algunos contratos coincidieron con otras compras gubernamentales de sistemas de vigilancia diseñados específicamente para atacar a los uigures”, señaló el informe. "También hay concentraciones notables de adquisiciones en regiones con importantes poblaciones uigur u otras minorías".

En términos más generales, la preocupación es que "estos sistemas [de vigilancia de IA] están facultando a las autoridades para violar los derechos humanos de diferentes maneras, dependiendo de cómo se utilicen", dijo Wang.

“Y cuando son tan baratos y ampliamente disponibles y en el contexto de la Iniciativa de la Franja y la Ruta, dado el financiamiento chino del gobierno chino, se están extendiendo con un impacto perjudicial en los derechos a nivel mundial”, dijo.

Rollet estuvo de acuerdo. "Pude ver que esto despegaba en otros países", dijo. "Creo que el mayor riesgo es que sienta un precedente y da ideas a otros países sobre lo que deberían hacer, ¿sabes?"

Editado por Boer Deng

Añade tu comentario rellenando el siguiente formulario en texto sin formato. Los comentarios son aprobados por un moderador y se pueden editar de acuerdo con los Términos de uso de RFA. Los comentarios no aparecerán en tiempo real. RFA no es responsable del contenido de las publicaciones. Por favor, sea respetuoso con el punto de vista de los demás y apéguese a los hechos.