7amleh – Le Centre arabe pour l’avancement des médias sociaux a publié un nouveau rapport sur les systèmes d’IA dans des régions sensibles.
Comment le financement et les exportations de systèmes d’IA à haut risque par l’UE aggravent les graves violations des droits humains en Palestine et dans la région au sens large fournit une analyse approfondie de la manière dont les politiques européennes contribuent au financement et à l’exportation de technologies numériques avancées utilisées dans des contextes de surveillance, de contrôle et de répression. Cela inclut leur utilisation dans le territoire palestinien occupé et dans des pays d’Asie de l’Ouest et d’Afrique du Nord.
Le rapport montre que le rôle européen ne se limite pas à l’élaboration de cadres réglementaires pour les systèmes d’IA sur ses propres frontières. Par le biais de programmes de financement, de mécanismes d’investissement et d’exportations technologiques, l’UE soutient également la diffusion de systèmes à haut risque à l’étranger. Ceux-ci se manifestent ensuite dans des domaines tels que la gestion des migrations, la surveillance biométrique, les systèmes de sécurité prédictive et l’analyse des données.
Dans l’absence de garde-fous solides et de supervision, ces technologies contribuent à aggraver les violations liées à la liberté d’expression, à la vie privée, à la liberté de mouvement et à la participation politique.
Le rapport identifie trois voies principales par lesquelles ces technologies atteignent la région. La première concerne des programmes de gestion des migrations financés par l’UE qui reposent sur des technologies de surveillance avancées, y compris des systèmes d’identification biométrique et des outils d’analyse des risques.
La deuxième concerne un soutien financier et de recherche pour les entreprises israéliennes d’armement et de technologie qui développent des outils basés sur l’IA pour une utilisation dans les opérations militaires et les systèmes de surveillance.
La troisième implique l’exportation de systèmes d’IA à haut risque par des entreprises européennes. Ceux-ci comprennent les technologies de reconnaissance faciale, les systèmes de villes intelligentes et les infrastructures de surveillance numérique.
Les systèmes d’IA dans des situations déjà sensibles
Le rapport souligne que ces technologies opèrent dans des contextes politiques et de sécurité extrêmement sensibles. Et cela augmente le risque de violations des droits fondamentaux.
Les Palestiniens sont soumis à des systèmes de surveillance pilotés par l’IA, intégrés dans une architecture plus large de contrôle numérique. Cela permet aux autorités israéliennes de suivre et de surveiller leurs déplacements, affectant la liberté de mouvement, le quotidien et l’accès aux services essentiels.
Le rapport note également que certaines de ces technologies ont été développées ou financiées par le biais de programmes européens de recherche et d’innovation ou par le biais de mécanismes de financement de la défense et de l’investissement.
Le rapport avertit ensuite que le financement et l’exportation continus de tels systèmes d’IA, en l’absence de transparence, de supervision indépendante et d’une diligence raisonnable adéquate en matière de droits humains, étendent les capacités de surveillance et de répression des gouvernements et des acteurs militaires.
Il expose également les journalistes, les activistes et les défenseurs des droits humains à des risques croissants de surveillance et de ciblage. Le rapport met en évidence d’autres échappatoires juridiques qui permettent aux entreprises européennes d’exporter des technologies classées comme haut risque, ou même interdites au sein de l’UE, vers des pays situés au-delà de ses frontières sans garanties suffisantes pour prévenir les abus des droits humains.
Le rapport conclut que les politiques européennes actuelles en matière de financement, d’innovation et d’exportation de technologies soulèvent de graves questions quant à l’engagement de l’UE envers les principes des droits humains dans ses actions extérieures. Surtout lorsque ces activités croisent des conflits armés ou des régimes de gouvernance autoritaires.
Image vedette via Canary
