Une étude indépendante de référence sur les chatbots d’IA des services financiers a publié ses résultats. Elle a révélé que huit institutions européennes et internationales majeures sur neuf ont obtenu des scores dans les plages Sévère ou Critique lorsqu’elles servaient des utilisateurs handicapés, immigrés et âgés.
C cela expose les banques à un risque important d’action d’application au titre du Règlement UE sur l’IA et de la Loi européenne sur l’accessibilité.
Les banques qui ont obtenu ce qui pourrait être qualifié de score d’échec étaient Allianz, Aviva, Belfius Bank, HSBC, Santander, PayPal, Western Union et TAF Insurance. Brex s’en est sorti mieux mais demeure dans la catégorie « Risque élevé ».
L’étude, menée par Kindlee, a analysé 98 conversations contrôlées de chatbots à travers neuf institutions, en utilisant six personas de test structurés représentant des populations d’utilisateurs vulnérables conformes aux définitions de la Commission européenne et aux normes d’équité de la Loi européenne sur l’accessibilité et de la Loi sur l’IA. Les résultats révèlent une défaillance systémique à l’échelle de l’industrie plutôt que des incidents isolés.
Kindlee est une plateforme de confiance et de conformité à l’IA qui audite les systèmes d’IA conversationnelle dans les services financiers. Elle utilise le KCTI (Kindlee Conversational Trust Index) propriétaire. Il s’agit du premier score de confiance composite pour les performances des chatbots IA auprès de populations vulnérables.
Key findings
- 82,7 % des interactions avec des utilisateurs vulnérables ont abouti à des défaillances graves ou critiques.
- Aviva (8,50) et Western Union (8,45) se sont placées dans la catégorie Critique. Brex (6,17) était l’institution à risque le plus faible.
- Pour les cinq personas vulnérables testés, les taux d’échec variaient de 77 % à 89 %, les utilisateurs en fauteuil roulant connaissant le taux le plus élevé.
- Aucune institution n’a démontré de capacités d’accessibilité matures.
- Les coûts annuels de friction liés à l’accessibilité pour une institution typique de niveau 2 s’élèvent entre 31,6 et 47,4 M€.
- Un investissement de conformité de 5 M€ offre un rendement sur trois ans de 1 578 %.
- Note moyenne KCTI de l’industrie : 7,7/10, classée Sévère
KCTI institution ranking:
Échelle de risque : 0-5,0 Émergent | 5,0-7,0 Risque élevé | 7,0-8,5 Sévère | 8,5-10,0 Critique
- Aviva 8,50 Critique
- Western Union 8,45 Critique
- Belfius Bank 8,07 Sévère
- Allianz 7,92 Sévère
- Santander 7,79 Sévère
- TAF Insurance 7,75 Sévère
- PayPal 7,67 Sévère
- HSBC 7,33 Sévère
- Brex 6,17 Risque élevé
- Moyenne sectorielle 7,70 Sévère
« Discrimination systémique codée dans l’IA »
Carla Canino est la fondatrice et PDG de Kindlee. Commentant les résultats de l’étude, elle a déclaré :
Toute institution que nous avons étudiée est désormais soumise à la Loi européenne sur l’accessibilité. Chaque institution que nous avons étudiée a échoué aux normes d’accessibilité de base. Le décalage entre l’obligation légale et la réalité opérationnelle n’est pas marginal; il est systémique.
La date limite de conformité au Règlement de l’UE sur l’IA en août 2026 n’est pas un événement lointain. Pour les institutions obtenant des scores dans la tranche critique, il s’agit d’une urgence.
Nous avons documenté le cas d’une cliente âgée sur laquelle on a demandé de se connecter à la banque en ligne après avoir explicitement déclaré ne pas avoir d’accès numérique. Nous avons été témoins de clients malvoyants pénalisés pour échouer à des tâches de vérification visuelle uniquement qu’ils ne peuvent pas réaliser physiquement.
Il s’agit d’une discrimination systémique codée dans des systèmes d’IA qui gèrent désormais les deux tiers des interactions bancaires en Europe.
La mise en application du Règlement sur l’IA de l’UE a débuté en février 2025. La conformité complète, y compris le marquage CE, est requise d’ici août 2026, avec des sanctions allant jusqu’à 35 M€ ou 7 % du chiffre d’affaires mondial. La Loi européenne sur l’accessibilité est devenue applicable en juin 2025, avec des amendes de 250 000 à 1 M€ par violation dans les États membres.
Image mise en avant via The Canary
