Vidéos associées :
Une erreur dans l'utilisation de l'intelligence artificielle (IA) au sein du Service d'Immigration et de Contrôle des Douanes des États-Unis (ICE) a entraîné l'envoi de nombreux nouveaux recrues dans des bureaux de terrain sans avoir reçu la formation adéquate, selon ce qu'a révélé NBC News, citant deux fonctionnaires des forces de l'ordre familiers avec le dossier.
Le problème est survenu alors que l'ICE accélère un plan ambitieux visant à recruter 10 000 nouveaux agents, en utilisant un outil d'IA pour classer les candidatures et déterminer quels candidats avaient une expérience préalable dans les forces de l'ordre.
Une erreur dans la classification des recrues
L'outil automatisé a été conçu pour identifier des candidats ayant une expérience policière et les assigner au programme LEO (Law Enforcement Officer), un cours réduit qui requiert quatre semaines de formation en ligne.
Cependant, l'IA a commis une erreur cruciale : elle a incorrectement classé comme agents de l'ordre des personnes qui ne l'étaient pas, simplement parce que le mot « officer » figurait dans leurs CV.
Selon l'un des fonctionnaires cité par NBC News, des candidats décrits comme des “responsables de conformité” ont été inclus dans le programme, ainsi que des personnes exprimant simplement leur aspiration à devenir agents de l'ICE, sans avoir jamais appartenu à des forces de police locales ou fédérales.
« Ils utilisaient l'IA pour scanner les CV et ont découvert que beaucoup des personnes identifiées comme LEO ne l'étaient pas », a expliqué l'un des fonctionnaires.
Entraînement insuffisant pour des tâches sensibles
Les candidats sans expérience policière devraient avoir suivi une formation en présentiel de huit semaines à l'Académie de l'ICE, située au Federal Law Enforcement Training Center (FLETC) en Géorgie. Ce programme comprend une formation sur les lois sur l'immigration, la manipulation des armes à feu, les procédures opérationnelles et des tests d'aptitude physique.
En raison de l'erreur, un nombre significatif de recrues a reçu uniquement une formation réduite, bien qu'elles ne répondaient pas aux exigences nécessaires, et a été envoyées dans des bureaux de terrain.
Bien que les fonctionnaires aient précisé que les bureaux locaux de l'ICE fournissent généralement une formation supplémentaire avant de déployer les agents, ils ont reconnu que cette défaillance représentait un risque sérieux dans un contexte opérationnel hautement sensible.
Corrections tardives et manque de réponse officielle
L'erreur a été détectée à la mi-automne, lorsque plus d'un mois s'était écoulé depuis le début du processus de recrutement accéléré. Après avoir identifié le problème, ICE a commencé à examiner manuellement les CV et à prendre des mesures correctives.
« Ils doivent maintenant les ramener au FLETC », a indiqué un des fonctionnaires, faisant référence à la nécessité de compléter la formation en présentiel.
Le Département de la Sécurité Nationale (DHS), dont dépend l'ICE, n'a pas répondu aux demandes de commentaires formulées par NBC News.
Préoccupations concernant l'utilisation de l'IA dans la sécurité
L'affaire remet sur la table les préoccupations concernant l'utilisation de l'intelligence artificielle dans des processus critiques, notamment au sein des agences chargées des fonctions policières et migratoires. La dépendance excessive à des systèmes automatisés, sans une supervision humaine adéquate, peut entraîner des erreurs aux conséquences opérationnelles et de sécurité.
Alors que l'ICE continue d'ajuster son processus de recrutement, l'épisode met en lumière les risques de privilégier la rapidité au détriment du sérieux, dans une agence qui gère des arrestations, des expulsions et l'utilisation de la force dans le cadre de ses fonctions quotidiennes.
Archivé dans :