Legisladores pretenden frenar el uso de tecnología de reconocimiento facial por parte de la policía

La primera prohibición general del reconocimiento facial llegó en mayo, cuando San Francisco se convirtió en la única ciudad de la nación en no autorizar que la policía y otras agencias usaran la tecnología.

Ahora, el poderoso software, que utiliza algoritmos de aprendizaje automático para rastrear caras humanas en imágenes digitales y relacionarlos con nombres, se enfrenta a una moratoria más amplia.

Los legisladores estatales están considerando una regulación que prohíba a todos los oficiales de policía de California ejecutar programas de reconocimiento facial en cámaras corporales. Otras ciudades del Área de la Bahía, como Berkeley y Oakland, están considerando seguir la iniciativa de San Francisco de no autorizar todas las solicitudes de la policía local. Y los legisladores federales, de ambas tendencias políticas, están celebrando audiencias en Capitol Hill para examinar cómo las agencias federales están usando la tecnología y si merece un control más estricto.

En conjunto, estos esfuerzos, impulsados por activistas y políticos de la base de operaciones de la industria tecnológica en el Área de la Bahía, constituyen algo que no se ve a menudo en Silicon Valley: un intento de imponer regulaciones preventivas a una tecnología en rápido desarrollo.

Desde las redes sociales hasta las funciones de voces inteligentes, las innovaciones tecnológicas han afectado a industrias enteras y han cambiado la trama de la vida cotidiana, con un mínimo debate público de antemano y, a veces, con consecuencias no deseadas. Lo que hace diferente el reconocimiento facial es un consenso creciente de que representa una amenaza única y alarmante para las libertades civiles básicas, y una vez que se generalice, puede ser demasiado tarde para detenerlo.

“Las personas no esperan compartir su identidad, su ubicación y con quién se asocian cada vez que salen y caminan por la calle”, dijo Matt Cagle, abogado de la American Civil Liberties Union del norte de California que ha sido una parte clave de la coalición que impulsa una regulación más fuerte. “Ese es el tipo de mundo que la vigilancia facial automatizada crearía”.

La medida estatal, el Proyecto de Ley de la Asamblea 1215, prohibiría a las agencias de aplicación de la ley en todo California el uso de cualquier “sistema de vigilancia biométrica”, que incluye software que identificaría a las personas por tatuaje, forma de caminar y otras características físicas individualmente distinguibles, en tiempo real con cámaras dispuestas en los cuerpos de policías o en imágenes recogidas por esas cámaras. Después de aprobarlo la Asamblea a principios de mayo, el proyecto de ley está programado para una audiencia clave en el Comité de Seguridad Pública del Senado el martes.

El asambleísta Phil Ting (D-San Francisco), el autor principal del proyecto de ley, lo considera un seguimiento necesario de su legislación de 2018 que requiere que las agencias de aplicación de la ley publiquen imágenes de la cámara dentro de los 45 días siguientes de incidentes en los que la policía mató o hirió gravemente una persona, o cualquier incidente en el que los agentes disparen sus armas.

“Las cámaras corporales se desplegaron para generar confianza con las comunidades, para crear más transparencia y más apertura”, dijo Ting. “Realmente la intención no era tener cámaras de vigilancia en la policía”.

El proyecto de ley establece que la vigilancia biométrica es el “equivalente funcional de requerir que cada persona muestre una identificación personal con fotografía en todo momento, en violación de los derechos constitucionales reconocidos”, independientemente de su consentimiento.

Esa práctica corre el riesgo de crear bases de datos masivas y no reguladas sobre los californianos que nunca estuvieron bajo sospecha de cometer algún delito, y “puede desmotivar el ejercicio de la libertad de expresión en lugares públicos”, ya que las identidades de cualquier persona en una multitud se podrían conocer de inmediato.

La oposición formal al proyecto de ley provino de la California Police Chiefs Assn., que dijo durante una audiencia en la Asamblea que “prohibir el uso de sistemas de vigilancia biométrica obstaculiza gravemente la capacidad de los agentes de la ley para identificar y detener a sospechosos de actividad criminal”.

Las bases de datos de reconocimiento facial han llevado a que viejos casos se resuelvan años más tarde, y la policía suele citar los escenarios de disparos masivos o ataques terroristas, como usos potencialmente útiles de la tecnología de reconocimiento facial aplicada en toda la ciudad.

Ting dice que no está al tanto de que algún departamento de policía esté utilizando la tecnología en las cámaras corporales.

En un comunicado, el Departamento de Policía de Los Ángeles dijo que no utilizan tecnología de reconocimiento facial, aunque se ha usado en casos limitados en investigaciones conjuntas con otras agencias.

El Departamento del Sheriff de Los Ángeles ha conducido pequeños programas piloto con cámaras corporales, pero no los ha desplegado ampliamente. Pero el departamento depende de la tecnología de reconocimiento facial como una forma de generar información en las investigaciones, dijo el teniente Derek Sabatini, quien administra el sistema de identificación biométrica del condado.

La comparación de las imágenes de sospechosos con una base de datos de las fotos policiales del Condado de Los Ángeles ha demostrado ser valiosa para resolver crímenes, dijo Sabatini, quien hizo una distinción entre cómo se usa hoy en día y sus riesgos potenciales como herramienta de vigilancia en el despliegue en tiempo real.

“La vigilancia necesita discusión”, dijo Sabatini. “Deberíamos hablar de ello y entender cómo se usa. Hay muchos problemas de confianza con eso, y es totalmente comprensible”.

Los escépticos dicen que los riesgos inherentes al software de reconocimiento facial superan con creces los beneficios potenciales.

Por ejemplo, está el problema de los ‘falsos positivos’. Los investigadores han demostrado que el software a menudo muestra coincidencias incorrectas, especialmente cuando las búsquedas se ejecutan en imágenes de personas y mujeres de piel más oscura. Un estudio de ACLU descubrió que el sistema de reconocimiento facial de Amazon, Rekognition, relacionaba incorrectamente las fotos oficiales de 28 miembros del Congreso con imagenes de individuos que habían sido arrestadas por delitos.

El efecto potencial en el mundo real de confiar en algoritmos no comprobados para identificar a sospechosos cobró vida en San Francisco en 2009, cuando un falso positivo de un algoritmo con el lector de matrículas automatizado, llevó a la policía a creer que una mujer llamada Denise Green conducía un Lexus robado. Green fue detenida por los oficiales y seis de ellos la obligaron a salir de su auto y ponerse de rodillas a punta de pistola; la ciudad finalmente pagó cientos de miles de dólares para resolver las demandas relacionadas con su detención.

Pero incluso si el software fuera perfectamente exacto, los activistas de libertades civiles dicen que permitir que la policía verifique la identidad de cualquier transeúnte sin consentimiento, constituye una invasión de la privacidad y socava las leyes actuales de California sobre el derecho al anonimato en público.

Sus peores temores ya se están manifestando en China, donde el gobierno usa sistemas de vigilancia equipados con reconocimiento facial para rastrear y localizar a los uigures, una minoría mayoritariamente musulmana, y mantener un sistema de ‘puntaje’ social que clasifica a los residentes (y crea listas negras) en base a comportamientos como fumar y cruzar la calle en lugares no permitidos.

Sin ir a esos extremos, el uso del reconocimiento facial por parte de la policía estadounidense corre el riesgo de desviarse hacia áreas inexploradas.

Clare Garvie, asociada senior del Centro de Leyes de Privacidad y Tecnología de Georgetown, quien lidera su investigación sobre la tecnología de reconocimiento facial para el cumplimiento de la ley, dice que la velocidad y la escala de las capacidades del software ponen en peligro la presunción de privacidad, especialmente cuando se usan en tiempo real.

Una cámara corporal policiaca conectada a un sistema de reconocimiento facial podría, teóricamente, permitir que los oficiales que trabajan en el control de multitudes en una protesta política revisen a los manifestantes en busca de antecedentes penales o simplemente registren su presencia. En Londres, la Policía Metropolitana ya ha comenzado a estacionar camionetas equipadas con cámaras que ejecutan algoritmos de reconocimiento facial a lo largo de las aceras concurridas para probar el sistema, y en un caso, según se informa, multó a un hombre que trató de ocultar su rostro mientras caminaba.

“Tenemos la idea de que los agentes de la ley no pueden buscarlo y no pueden exigir una identificación a menos que sea sospechoso de cometer un delito”, dijo Garvie. “Pero si todos los que caminan junto a un oficial están siendo rastreados y comparados en un historial criminal o una lista de vigilancia de delitos, eso significa que se está realizando una búsqueda antes de que se genere una sospecha”.

A diferencia de algunos estados, California no tiene una ley que exija a las personas proporcionar una identificación a los oficiales de la ley a pedido, aunque se requiere que los conductores muestren licencias durante las paradas de tráfico.

Según los críticos, el reconocimiento facial podría aumentar potencialmente una escalada mortal. Un oficial de policía cuya cámara identifique erróneamente a un motorista detenido que tiene una orden de arresto pendiente y un historial de delitos violentos es más probable que se aproxime con un arma en la mano.

“La tecnología inexacta en manos de la ley no nos hará más seguros”, dijo Cagle. “Resultará en encuentros peligrosos adicionales entre la policía y el público, y las identificaciones falsas podrían llevar al uso de la fuerza y la pérdida de vidas”.

Axon, el fabricante de Taser y proveedor líder de cámaras corporales de la policía en EE.UU, dijo en un comunicado que no está trabajando activamente en la tecnología de reconocimiento facial.

Una investigación realizada en abril por el Financial Times encontró que la compañía había obtenido patentes y adquirido empresas relacionadas con el reconocimiento facial, pero Axon dijo que esos sistemas sólo se usaban para la eliminación automática de rostros en las imágenes de las cámaras del cuerpo, y señaló que había establecido una junta de ética de tecnología de vigilancia para construir salvaguardas anticipando cualquier uso futuro de los sistemas.

Motorola Solutions, otro proveedor importante de cámaras corporales, no quiso hacer comentarios, pero ha declarado su intención de desarrollar tecnología de reconocimiento facial para cámaras corporales.

Las grandes firmas de software que construyen programas de reconocimiento facial están divididas en su uso. El presidente de Microsoft, Brad Smith, dijo en abril que la empresa se negó a vender su sistema a una agencia de cumplimiento de la ley de California por cuestiones de derechos humanos, y la compañía ha pedido públicamente que se regule la tecnología para evitar “una carrera comercial”.

Amazon, a pesar de las críticas de los accionistas y activistas sobre sus programas de reconocimiento facial, continúa vendiendo su servicio de Rekognition a la policía.

El reconocimiento facial se está abriendo camino rápidamente en la vida diaria a través de tecnologías comerciales, como la función de desbloqueo FaceID de Apple y el etiquetado automático de fotos de Facebook.

JetBlue se convirtió recientemente en la primera aerolínea de EE.UU en permitir que los pasajeros se sometan a un escaneo facial en lugar de mostrar un boleto y una identificación en el embarque, y algunos minoristas y restaurantes ya utilizan este sistema para ayudar con el seguimiento de los clientes.

Pero las empresas pueden no tener la última palabra sobre cómo se implementa la tecnología. Los gobiernos de las ciudades de Oakland y Berkeley están considerando agregar una prohibición a sus ordenanzas locales, y el reconocimiento facial ha sido objeto de dos audiencias en el Comité de Supervisión de la Cámara, en las que representantes demócratas y republicanos han expresado su apoyo a una moratoria sobre el uso del sistema.

Esas audiencias revelaron que el FBI ha acumulado una base de datos de más de 640 millones de fotografías para su programa de reconocimiento facial, incluidas las fotos de la licencia de conducir de 21 estados (sin incluir a California).

Brian Hofer, uno de los creadores de la prohibición de San Francisco y presidente de la Comisión Asesora de Privacidad de Oakland, cree que el movimiento para una mayor regulación aún está ganando fuerza.

“La gente cree que es inevitable que haya más y más vigilancia, más y más poder del estado policial, y que la tecnología seguirá avanzando en nuestras vidas”, dijo Hofer. “Pero todavía tenemos la libertad y la capacidad de decir que no”.

Para leer esta nota en inglés, haga clic aquí