Amazon seguirá sin vender su software de reconocimiento facial, Rekognition, a las fuerzas de seguridad. La decisión, adelantada por Reuters y confirmada a EL PAÍS por la compañía, se da a conocer poco antes de que se cumpla un año desde que la propia empresa decidiera congelar temporalmente la comercialización de esta tecnología a los cuerpos de policía. La moratoria se anunció en el punto álgido de las protestas que se extendieron por todo Estados Unidos contra el uso excesivo de la fuerza por parte de la policía contra los negros con motivo de la muerte de George Floyd, asfixiado por un agente en Minneapolis el 25 de mayo de 2020. IBM o Microsoft aplicaron medidas similares.
La tecnología del reconocimiento facial cruza de forma automática imágenes tomadas por cámaras colocadas en lugares públicos ―en ocasiones también en privados― con bases de datos propias para identificar a personas. En Estados Unidos está muy extendido su uso policial. Diversos estudios han acreditado que los algoritmos que están detrás de estos sistemas tienden a fallar más con rostros que no sean blancos. Algunos trabajos estiman que un rostro negro tiene 100 veces más probabilidades de ser mal identificado que un rostro blanco.
Las protestas por la muerte de Floyd y la repercusión del caso del también afroamericano Robert Williams, el primer arresto erróneo del que se tiene constancia atribuible a un fallo de un sistema de reconocimiento facial, pusieron a esta tecnología en el disparadero. La presión ciudadana y de varias ONG y organizaciones por los derechos civiles, como Amnistía Internacional o la Unión Estadounidense de Libertades Civiles (ACLU), llevaron a algunas ciudades a prohibir o congelar el año pasado el uso policial de estos sistemas. Incluso se registró en la Cámara de Representantes una iniciativa para regularlos a nivel federal, si bien hasta el momento no se ha traducido en nada concreto.
La moratoria que se autoimpuso Amazon parecía estar relacionada con estos movimientos. “Hemos defendido que los gobiernos pongan en marcha regulaciones más estrictas sobre el uso ético del reconocimiento facial y, en los últimos días, el Congreso parece estar listo para asumir este desafío”, dijo la compañía en un comunicado el año pasado. “Esperamos que esta moratoria de un año le dé al Congreso tiempo suficiente para implementar reglas apropiadas y estamos listos para prestar nuestra ayuda en el proceso si se nos requiere”.
Más información
Esa normativa no ha visto la luz por ahora ni se espera que lo haga en un futuro cercano. La decisión del gigante tecnológico fundado por Jeff Bezos de mantener congelado el uso policial de estos sistemas parece estar alineada con la falta de regulación, aunque la compañía no tiene comentarios que hacer al respecto.
“El reconocimiento facial alimenta la sobrevigilancia de la comunidad negra y ya ha provocado falsos arrestos y encarcelamientos erróneos de varios hombres negros”, señaló el martes Nathan Freed Wessler, subdirector del programa de Libre Expresión, Privacidad y Tecnología de la ACLU. “Estamos encantados de que Amazon extienda su moratoria sobre el uso por parte de las fuerzas policiales del sistema de reconocimiento facial de la compañía. Ahora, la Administración Biden y las legislaturas de todo el país deben proteger a las comunidades de esta tecnología prohibiendo su uso policial”.
Una tecnología controvertida
Pese a los vientos de cambio que soplan sobre una tecnología muy controvertida, su uso sigue siendo la norma en las labores policiales. El ejemplo más aireado por la prensa fue su aplicación en la detección de algunos de los asaltantes al Capitolio. El FBI solicitó la colaboración ciudadana para que la gente denunciara a posibles asaltantes buscando entre las fotos compartidas por sus contactos en las redes sociales. En ese contexto, varios departamentos de policía del país recurrieron al sistema de reconocimiento facial Clearview AI para poner su granito de arena, según el Washington Post. Esta empresa, Clearview AI, fue denunciada el año pasado ante la agencia de protección de datos francesa por haber robado millones de fotos de las redes sociales, especialmente Facebook, para elaborar un motor de búsqueda de personas.
Amazon Rekognition no ha dejado de usarse: la propia empresa asegura que es empleada por la policía estadounidense como una herramienta más en las investigaciones de tráfico sexual. Fuera del ámbito estrictamente policial, el software de Amazon se ofrece como una solución para “identificar objetos, personas, texto, escenas y actividades en imágenes y videos, además de detectar cualquier contenido inapropiado”. Además de poder etiquetar todo lo que aparece en una imagen, el algoritmo de Amazon Rekognition puede leer textos y es capaz de reconocer las emociones mostradas por un rostro.