IA : biais dans l'estimation d'âge des demandeurs d'asile
Le gouvernement britannique introduira en 2025 une technologie d'estimation d'âge par IA pour les demandeurs d'asile, malgré des erreurs importantes. Un rapport interne révèle que le système se trompe en moyenne de 4,6 ans pour les femmes subsahariennes. Un comité scientifique consultatif a été dissous pendant le développement du projet.
« "We were keen to highlight the inadequacies of facial age estimation, but this opportunity was not presented to us, and then the committee was shut down," » — Wired AI
Que faut-il retenir ?
- Le système d'estimation faciale se trompe en moyenne de 4,6 ans pour les femmes subsahariennes.
- Les Africains subsahariens sont le groupe le plus concerné par ces vérifications d'âge en 2025.
- Un comité scientifique consultatif sur les méthodes d'estimation d'âge a été dissous pendant le développement du projet.
- Le ministère de l'Intérieur a testé 7 algorithmes d'estimation d'âge faciale en 2023.
Pourquoi cette nouvelle compte-t-elle ?
Cette technologie d'IA pourrait avoir des conséquences graves sur les droits des demandeurs d'asile mineurs, avec des erreurs systématiques selon l'origine ethnique. Son déploiement soulève des questions éthiques et techniques majeures, d'autant qu'elle est utilisée sans cadre scientifique clair. Les professionnels de l'IA doivent connaître ces limites avant tout déploiement similaire.
4,6 ans d'erreur moyenne pour les femmes subsahariennes
💬 Tim Cole, Professeur émérite de statistiques médicales à l'University College London
Public concerné : entreprises, développeurs
Quels sont les risques de l'IA d'estimation d'âge pour les demandeurs d'asile ?
Les risques principaux incluent des erreurs systématiques (jusqu'à 4,6 ans pour les femmes subsahariennes) pouvant priver des mineurs de protections légales. L'absence de cadre scientifique et la dissolution du comité consultatif aggravent ces risques.
