Siguiendo nuestra serie de artículos sobre la IA en la policía, en este artículo conoceremos los riesgos y la vulneración de derechos que podría suponer un mal uso de la IA. Además conoceremos las medidas establecidas por la UE para solventar estos problemas.
El principal problema que expertos informan sobre el uso de la IA por parte de las FFCCSE es el uso de tecnologías de reconocimiento facial y la aplicación de la ley, planteando diversas cuestiones éticas, legales y de privacidad. Entre ellas encontramos las preocupaciones por la discriminación racial o de género, la invasión de la privacidad de las personas y la posibilidad de que los datos recopilados sean utilizados de manera incorrecta o abusiva.
En 2022 conocimos la noticia de que el Ministerio del Interior puso en practica, en la Sección de Antropología Forense de la Comisaría General de Policía Científica de Madrid, la inteligencia artificial que llevaba a cabo el reconocimiento facial en la hora de investigación de crímenes. El programa se llama ABIS, y es de la compañía francesa Thales.
Este sistema permite comparar imágenes, por ejemplo, de una cámara de seguridad, con fotografías de la base de datos de personas ya fichadas. El Ministerio remarca que en ningún caso, se podrá obtener fotografías de otros registros, como son las fotos de DNI.
Actualmente el trabajo que está haciendo ABIS es analizar todas las fotografías que hay recabadas, ya que se calculan que en la base de datos existen unas millones de imágenes de este tipo.
¿Dónde quedan los derechos de los ciudadanos?
Es aquí donde encontramos el problema principal. Desde hace tiempo el Supervisor Europeo de Protección de Datos (EDPS) y el Comité Europeo de Protección de Datos llamaron al veto del uso de las tecnologías de reconocimiento biomético en espacios públicos, alegando que se puede caer en la discriminación social y en el incumplimiento de varios derechos de los ciudadanos.
Desde España, se ha informado que la Agencia Española de Protección de Datos (AEPD) trabaja junto al Ministerio de Interior para evaluar el avance del programa y su efecto en dichos derechos. Por ejemplo, uno de los principales interrogantes es la duración durante la cual se podrá emplear la fotografía de un individuo bajo sospecha para buscar coincidencias biométricas con las imágenes derivadas de investigaciones en curso.
La tecnología de detección facial es una de las partes que más riesgo conlleva de la IA, puesto que un nimio error suyo podría ocasionar daños graves a personas que no han cometido ninguna infracción.
Los riesgos que puede suponer la IA
Como ya comentamos en nuestro anterior artículo de la serie «IA en la Policía» La Ley de la Inteligencia Artificial de la UE, está en proceso de redacción, luego de la publicación y enmiendas de su borrador. En ella, los legisladores europeos incluyen obligaciones para usuarios y exponen 4 niveles de riesgo que la IA podría suponer para la seguridad, salud, derechos fundamentales. Dichos riesgos se clasifican en: inaceptable, alto, limitado y mínimo.
A continuación puedes ver la lista de las prácticas prohibidas en la UE por parte de la Inteligencia Artificial.
La identificación biométrica a distancia en tiempo real.
Por ejemplo sería el caso del reconocimiento facial en espacios de acceso público.
No obstante, esta restricción presenta ciertas excepciones, como en situaciones en las que sea necesario localizar a víctimas de un delito, prevenir una amenaza concreta e inminente para la integridad física o la vida de las personas, contrarrestar actos de terrorismo o cuando se requiera en la investigación de delitos con sentencias de prisión superiores a tres años en el Estado miembro pertinente.
La identificación biométrica a distancia de forma retroactiva.
Con la excepción de las fuerzas de seguridad, con previa autorización judicial, para la persecución de delitos graves.
La puntuación social (social scoring)
Entendemos social scoring como la categorización de los individuos según su conducta en la sociedad, su posición socioeconómica y sus atributos personales.
Así pues, está prohibida esta practica cuando sea empleada por entidades privadas. Tal y como indica La Organización Europea de Consumidores: “Una práctica demasiado invasiva y arbitraria para ser usada en los consumidores”.
Sistemas policiales predictivos
Siendo estos basados en perfiles, localización o comportamientos delictivos anteriores.
Sistemas de reconocimiento de emociones
Usados en las fuerzas de seguridad, la gestión de fronteras, el lugar de trabajo y las instituciones educativas.
Extracción indiscriminada de datos biométricos
Esto, como comentábamos más arriba, no se puede extraer de redes sociales o grabaciones de cámaras de seguridad para crear bases de datos de reconocimiento facial, ya que se violan los derechos humanos y del derecho a la intimidad.
El uso de técnicas subliminales
Siedo su uso indebido mientras estas trascienden la conciencia de una persona para alterar su comportamiento de un modo que provoque perjuicios físicos o psicológicos a esa u otra persona.
Aprovechamiento de la vulnerabilidades de un grupo específico
No puede la IA aprovechar vulnerabilidades, como la edad o discapacidad física o mental para alterar su comportamiento para provocar perjuicios físicos o psicológicos.
Evaluar o clasificar la fiabilidad de las personas físicas
La utilización de sistemas de IA por parte de las autoridades públicas no podrá usarse con el fin de evaluar o clasificar la fiabilidad de personas físicas. Ya que no pueden establecer una clasificación social que provoque un trato perjudicial contra determinadas personas o colectivos en contextos sociales diferentes o que sea desproporcionado con respecto a su comportamiento social.
Si quieres leer más sobre la clasificación de riesgos, y como la UE está intentando clasificarlos para que su impacto sea el menor posible, te recomendamos este artículo del medio de comunicación Newtral: click aquí para entrar al artículo.
En la próxima entrega de la serie la “IA en la policía” hablaremos sobre como podemos aplicar este sistema para la investigación de delitos, ¿te interesa? ¡te esperamos en nuestra próxima entrega!
¡Por si te interesa!
PREPÁRATE CON JURISPOL
CUMPLE TU SUEÑO, ENTRA EN LA POLICÍA
CURSO POLICÍA NACIONAL
¿CÓMO ADQUIRIR NUESTROS CURSOS?
Puedes adquirir nuestros cursos en la tienda, seleccionando si tienes interés en la opción online o presencial en algunas de nuestras sedes.
