EU borders and potential conflicts between new technologies and human rights

Abstract

Immigrants and asylum seekers have been arriving at the borders of the European Union (EU) continuously for decades. Although there was a noticeable decline during the pandemic, their numbers have already picked up again. Their identification is crucial, also in case of failure in their attempt to cross the border. This is the case of migrants who die at sea and whose bodies cannot be identified. The agencies of the Area of Freedom, Security and Justice together with the member states have addressed the border identification of migrants and asylum seekers by progressively resorting to artificial intelligence (AI) technologies to develop a system that guarantees security at European borders. The European Union Agency for the Operational Management of Large-Scale IT Systems in the Area of Freedom, Security and Justice (EU-LISA) has had its mandate extended to focus on the implementation of EU border and asylum management and migration areas. The purpose of this note is to point out some potential risks in the current management at the border of AI systems in relation to the human rights of migrants and asylum seekers.

Los inmigrantes y los solicitantes de asilo han venido llegando a las fronteras de la Unión Europea (UE) de forma ininterrumpida desde hace décadas. Aunque hubo una disminución notable durante la pandemia, su número ya ha vuelto a recuperarse. Su identificación es crucial, también en caso de fracasar en su intento de cruzar la frontera. Este es el caso de los migrantes que mueren en el mar y cuyos cuerpos no pueden ser identificados. Las agencias del Espacio de Libertad, Seguridad y Justicia junto con los Estados miembros han abordado la identificación fronteriza de migrantes y solicitantes de asilo recurriendo progresivamente a las tecnologías de inteligencia artificial (IA) para desarrollar un sistema que garantice la seguridad en las fronteras europeas. La Agencia de la Unión Europea para la gestión operativa de sistemas informáticos a gran escala en el espacio de libertad, seguridad y justicia (EU-LISA) ha visto ampliado su mandato para centrarse en la implementación de la gestión de asilo y fronteras de la UE y áreas de migración. El propósito de esta nota es señalar algunos riesgos potenciales en la gestión actual de los sistemas de IA en relación con los derechos humanos de los migrantes y los solicitantes de asilo.

Les immigrés et les demandeurs d’asile arrivent aux frontières de l’Union européenne (UE) sans interruption depuis des décennies. Bien qu’il y ait eu une baisse notable pendant la pandémie, leur nombre a déjà repris. Leur identification est cruciale, même en cas d’échec dans leur tentative de franchir la frontière. C’est le cas des migrants qui meurent en mer et dont les corps ne peuvent être identifiés. Les agences de l’Espace de Liberté, de Sécurité et de Justice ainsi que les États membres ont abordé l’identification aux frontières des migrants et des demandeurs d’asile en recourant progressivement aux technologies de l’intelligence artificielle (IA) pour développer un système garantissant la sécurité aux frontières européennes. L’Agence de l’Union Européenne pour la Gestion Opérationnelle des Systèmes d’Information à grande échelle au sein de l’Espace de Liberté, de Sécurité et de Justice (EU-LISA) a vu son mandat étendu pour se concentrer sur la mise en œuvre des zones de gestion des frontières et de l’asile et de la migration de l’UE. L’objectif de cette note est de souligner certains risques potentiels dans la gestion actuelle des systèmes d’IA en ce qui concerne les droits humains des migrants et des demandeurs d’asile.