Numalis

L’intelligence artificielle, au service du renseignement ?

25 novembre 2021

L’intelligence artificielle est une solution qui peut assister les employés du renseignement. Mais il est peu probable qu’elle soit amenée à les remplacer et ce pour plusieurs raisons.

Certaines raisons sont d’ordre éthique mais d’autres simplement d’ordre technique, en effet l’IA présente aussi des limites. Le domaine du renseignement fournit justement un bon exemple de cas d’application où l’IA démontre aussi bien son efficacité que ses limites. Par exemple, cette technologie serait utilisée dans la lutte contre le terrorisme par le Royaume-Uni [1], afin de repérer les signaux faibles indiquant que des personnes envisagent de commettre des actes terroristes. Une étude américaine aborde par ailleurs le sujet de l’IA pour le contre-terrorisme et en souligne différents défis [2]. Effectivement, comme les attentats sont (heureusement) très peu fréquents, ces signaux faibles restent très rares. Or pour faire l'entraînement d’une IA capable d’identifier ces signaux faibles il faut une certaine quantité de données, qui n’est du coup pas forcément disponible. De même les personnes perpétrant ces actes changeant régulièrement d’organisation et de manière de s’organiser, l’apprentissage des IA risque d’être toujours en retard par rapport aux signaux qu’elles doivent détecter. Parmi cet ensemble limité de données, les profils restent également trop variés pour permettre de découvrir un modèle de comportement qui soit suffisamment uniforme. L’IA ne serait alors pas performante et le profilage pourrait même devenir discriminatoire (en ciblant certaines ethnies par exemple). Ainsi l’intelligence artificielle ne devrait pas être utilisée pour effectuer en autonomie des analyses dans le cadre du contre-terrorisme. Elle sera plutôt amenée à être utilisée pour assister l’expert dans ses analyses en étendant ses capacités de traitement d’informations, mais elle ne le remplacera pas [3].

1) L’intelligence artificielle et le renseignement

Tout d’abord, faisons un point sur le rôle et l’état actuel de l’intelligence artificielle pour le renseignement. Il est facile de comprendre pourquoi cette technologie a attiré l’attention des agences de renseignement. En outre, la promesse du traitement automatisé de vastes volumes d’information par de l’IA représente une réelle valeur ajoutée pour ces dernières. La CIA a par ailleurs conduit en 2017 environ 140 projets pilotes autour des technologies d’intelligence artificielle.

Les capacités de calcul des IA et ses performances sur les tâches de reconnaissance de motifs (pattern recognition) ou encore d’agrégation (clustering) sont de vrais atouts. Effectivement, le directeur de la National Geospatial-Intelligence Agency s’est exprimé en juin 2017 en indiquant que 75% du travail d’analyse et d’interprétation des images collectées par son agence pouvait être confié à des IA. En l’état actuel des processus et de la croissance des volumes de données, pour tenir la cadence l'agence devrait recruter 8 millions de personnes dans les 15 ans pour tout traiter. La solution est donc d’utiliser des algorithmes sur des volumes de données pour en extraire les informations pertinentes et les transmettre à des opérateurs humains pour être traitées [4].

À notre époque, le cyberespace est devenu un nouveau champ de conflictualité et l’IA fait partie des technologies clés dans ce domaine. Que ce soit pour développer des techniques de cyberdéfense ou de cyber-attaque, l’IA peut offrir de nouveaux modes d’action. Sur le plan défensif, l’IA peut faciliter la détection de menaces dans les flux réseaux (grâce à des techniques de détection de motifs par exemple). Sur le plan offensif l’IA peut être entrainée à reconnaitre les informations importantes sur les réseaux sociaux pour envoyer ensuite des mails frauduleux personnalisés et donc plus crédibles [cf notre ancien article sur la cybersécurité].
À ce titre, les techniques permettant de générer des deepfakes par de l’IA sont capables de renforcer ces approches offensives [voir notre article sur les deepfakes]. Ces techniques de deepfake permettent de manipuler des images ou vidéos, elles peuvent être par exemple utilisées pour faire dire n’importe quoi à une figure publique. Le renseignement s’intéresse au sujet avec intérêt pour deux raisons. D’une part, ils représentent une menace et il faut alors être en mesure de les détecter (en utilisant de l’IA) pour pouvoir les contrer. D’autre part, le renseignement peut aussi se servir des deepfakes, par exemple pour créer de faux profils avec des images générées par de l’IA pour obtenir des informations. Ce mode d’action a d’ailleurs été illustré par des espions russes qui l’ont utilisé pour tromper des politiques américains et entrer en contact avec eux [5].

Sur le plan national, l’utilisation de l’IA par les services de renseignement français reste encore limitée. En 2016, le seul exemple public d’utilisation d’intelligence artificielle par la DGSI concernait l'utilisation du logiciel de l’entreprise américaine Palantir pour l’analyse de données. Le déploiement de cette technologie américaine au cœur de l’appareil de renseignement Français a causé par ailleurs une certaine controverse. Par la suite, l’état a investi davantage dans le développement de solutions souveraines, notamment au travers de programmes comme Artemis. Ces programmes incorporant des technologies d’IA seront prochainement mis en œuvre pour permettre aux services de renseignement de rester compétitifs avec des solutions souveraines et permettre à la France de conserver son rang sur ces technologies [6].

2) Les limites de l’intelligence artificielle pour le renseignement

Mais l’intégration de l’intelligence artificielle au sein des services de renseignements va également présenter ses limites. Si l’IA ne peut pas toujours remplacer l’humain, elle lui sera au moins complémentaire. Premièrement, il existe des limites inhérentes à la technologie, comme l’influence de biais ou les problématiques autour des quantités de données abordées en introduction. De plus, dans les faits, il ne serait pas techniquement possible de donner à des IA les mêmes missions que pour les agents sur le terrain. Là où une IA peut avoir une utilité pour le contre-espionnage par exemple, grâce à la reconnaissance faciale, elle ne permet pas de conduire des opérations d’infiltration d’organisations nécessitant d’être sur le terrain. L’IA peut cependant permettre d’alléger des tâches d’identification ou de suivi car celles-ci pourraient être traitées grâce à des caméras ou des drones, dotés de capacités d’analyse de traitement d’images [7]. L’utilisation de l’IA n'est donc pas envisageable dans tous les domaines et ne se substituera pas aux personnels des services de renseignement. Au-delà des limites de fonctionnement et des avantages que peuvent fournir les systèmes d'IA, ces derniers doivent être acceptés pour être déployés efficacement. Or, cette technologie continue d’être perçue avec méfiance, entraînant des freins à son intégration. Cela a justement pu être observé concernant des logiciels de traduction lors de la guerre d’Afghanistan, les opérationnels ayant préféré utiliser des locuteurs natifs plutôt que les logiciels de traduction automatisés [8].

Conclusion

L’IA a de belles perspectives pour le renseignement en tant que technologie de soutien. Elle pourra être utilisée pour assister les agents, notamment sur certaines tâches fastidieuses, mais elle ne va pas les remplacer.

L’intégration de l’IA dans ces services se fera probablement de manière similaire à celle qui a eu lieu au sein de la police aux États-Unis. Les fonctionnements et enjeux étant similaires entre les différents services de l’ordre. Dans ce contexte l’IA avait pour rôle d’assister les agents en réalisant des tâches d'analyse sans pour autant leur laisser une totale autonomie. La police ayant appris d’un précédent cas d’usage d’IA prédictive pour la prévention des crimes qui avait mené à la formation de biais dans les traitements. Ces biais ayant causés des cas de stigmatisation ils ont fait perdre toute efficacité et confiance dans les algorithmes proposés [9]. L’IA pourra donc être utilisée comme assistant pour des tâches simples en attendant que les algorithmes deviennent suffisamment robustes et efficaces pour permettre d’être acceptés sur des tâches plus complexes.

Retrouvez tous nos articles sur : https://numalis.com/publications.php