L\u2019intelligence artificielle est une solution qui peut assister les employ\u00e9s du renseignement. Mais il est peu probable qu\u2019elle soit amen\u00e9e \u00e0 les remplacer et ce pour plusieurs raisons. Certaines raisons sont d\u2019ordre \u00e9thique mais d\u2019autres simplement d\u2019ordre technique, en effet l\u2019IA pr\u00e9sente aussi des limites.<\/p>\n\n\n\n
Le domaine du renseignement fournit justement un bon exemple de cas d\u2019application o\u00f9 l\u2019IA d\u00e9montre aussi bien son efficacit\u00e9 que ses limites. <\/p>\n\n\n\n
Par exemple, cette technologie serait utilis\u00e9e dans la lutte contre le terrorisme par le Royaume-Uni1<\/a><\/sup>, afin de rep\u00e9rer les signaux faibles indiquant que des personnes envisagent de commettre des actes terroristes. Une \u00e9tude am\u00e9ricaine aborde par ailleurs le sujet de l\u2019IA pour le contre-terrorisme et en souligne diff\u00e9rents d\u00e9fis2<\/a><\/sup>. Effectivement, comme les attentats sont (heureusement) tr\u00e8s peu fr\u00e9quents, ces signaux faibles restent tr\u00e8s rares. Or pour faire l’entra\u00eenement d\u2019une IA capable d\u2019identifier ces signaux faibles il faut une certaine quantit\u00e9 de donn\u00e9es, qui n\u2019est du coup pas forc\u00e9ment disponible. <\/p>\n\n\n\n De m\u00eame les personnes perp\u00e9trant ces actes changeant r\u00e9guli\u00e8rement d\u2019organisation et de mani\u00e8re de s\u2019organiser, l\u2019apprentissage des IA risque d\u2019\u00eatre toujours en retard par rapport aux signaux qu\u2019elles doivent d\u00e9tecter. Parmi cet ensemble limit\u00e9 de donn\u00e9es, les profils restent \u00e9galement trop vari\u00e9s pour permettre de d\u00e9couvrir un mod\u00e8le de comportement qui soit suffisamment uniforme. L\u2019IA ne serait alors pas performante et le profilage pourrait m\u00eame devenir discriminatoire (en ciblant certaines ethnies par exemple). <\/p>\n\n\n\n Ainsi l\u2019intelligence artificielle ne devrait pas \u00eatre utilis\u00e9e pour effectuer en autonomie des analyses dans le cadre du contre-terrorisme. Elle sera plut\u00f4t amen\u00e9e \u00e0 \u00eatre utilis\u00e9e pour assister l\u2019expert dans ses analyses en \u00e9tendant ses capacit\u00e9s de traitement d\u2019informations, mais elle ne le remplacera pas3<\/a><\/sup>.<\/p>\n\n\n\n Tout d\u2019abord, faisons un point sur le r\u00f4le et l\u2019\u00e9tat actuel de l\u2019intelligence artificielle pour le renseignement. Il est facile de comprendre pourquoi cette technologie a attir\u00e9 l\u2019attention des agences de renseignement. En outre, la promesse du traitement automatis\u00e9 de vastes volumes d\u2019information par de l\u2019IA repr\u00e9sente une r\u00e9elle valeur ajout\u00e9e pour ces derni\u00e8res. La CIA a par ailleurs conduit en 2017 environ 140 projets pilotes autour des technologies d\u2019intelligence artificielle.<\/p>\n\n\n\n Les capacit\u00e9s de calcul des IA et ses performances sur les t\u00e2ches de reconnaissance de motifs (pattern recognition) ou encore d\u2019agr\u00e9gation (clustering) sont de vrais atouts. Effectivement, le directeur de la National Geospatial-Intelligence Agency s\u2019est exprim\u00e9 en juin 2017 en indiquant que 75% du travail d\u2019analyse et d\u2019interpr\u00e9tation des images collect\u00e9es par son agence pouvait \u00eatre confi\u00e9 \u00e0 des IA. En l\u2019\u00e9tat actuel des processus et de la croissance des volumes de donn\u00e9es, pour tenir la cadence l’agence devrait recruter 8 millions de personnes dans les 15 ans pour tout traiter. La solution est donc d\u2019utiliser des algorithmes sur des volumes de donn\u00e9es pour en extraire les informations pertinentes et les transmettre \u00e0 des op\u00e9rateurs humains pour \u00eatre trait\u00e9es4<\/a><\/sup>.<\/p>\n\n\n\n \u00c0 notre \u00e9poque, le cyberespace est devenu un nouveau champ de conflictualit\u00e9 et l\u2019IA fait partie des technologies cl\u00e9s dans ce domaine. Que ce soit pour d\u00e9velopper des techniques de cyberd\u00e9fense ou de cyber-attaque, l\u2019IA peut offrir de nouveaux modes d\u2019action. Sur le plan d\u00e9fensif, l\u2019IA peut faciliter la d\u00e9tection de menaces dans les flux r\u00e9seaux (gr\u00e2ce \u00e0 des techniques de d\u00e9tection de motifs par exemple). Sur le plan offensif l\u2019IA peut \u00eatre entrain\u00e9e \u00e0 reconnaitre les informations importantes sur les r\u00e9seaux sociaux pour envoyer ensuite des mails frauduleux personnalis\u00e9s et donc plus cr\u00e9dibles [cf notre ancien article sur la cybers\u00e9curit\u00e9].<\/p>\n\n\n\n \u00c0 ce titre, les techniques permettant de g\u00e9n\u00e9rer des deepfakes par de l\u2019IA sont capables de renforcer ces approches offensives [voir notre article sur les deepfakes]. Ces techniques de deepfake permettent de manipuler des images ou vid\u00e9os, elles peuvent \u00eatre par exemple utilis\u00e9es pour faire dire n\u2019importe quoi \u00e0 une figure publique. Le renseignement s\u2019int\u00e9resse au sujet avec int\u00e9r\u00eat pour deux raisons. D\u2019une part, ils repr\u00e9sentent une menace et il faut alors \u00eatre en mesure de les d\u00e9tecter (en utilisant de l\u2019IA) pour pouvoir les contrer. D\u2019autre part, le renseignement peut aussi se servir des deepfakes, par exemple pour cr\u00e9er de faux profils avec des images g\u00e9n\u00e9r\u00e9es par de l\u2019IA pour obtenir des informations. Ce mode d\u2019action a d\u2019ailleurs \u00e9t\u00e9 illustr\u00e9 par des espions russes qui l\u2019ont utilis\u00e9 pour tromper des politiques am\u00e9ricains et entrer en contact avec eux5<\/a><\/sup>.<\/p>\n\n\n\n Sur le plan national, l\u2019utilisation de l\u2019IA par les services de renseignement fran\u00e7ais reste encore limit\u00e9e. En 2016, le seul exemple public d\u2019utilisation d\u2019intelligence artificielle par la DGSI concernait l’utilisation du logiciel de l\u2019entreprise am\u00e9ricaine Palantir pour l\u2019analyse de donn\u00e9es. Le d\u00e9ploiement de cette technologie am\u00e9ricaine au c\u0153ur de l\u2019appareil de renseignement Fran\u00e7ais a caus\u00e9 par ailleurs une certaine controverse. Par la suite, l\u2019\u00e9tat a investi davantage dans le d\u00e9veloppement de solutions souveraines, notamment au travers de programmes comme Artemis. Ces programmes incorporant des technologies d\u2019IA seront prochainement mis en \u0153uvre pour permettre aux services de renseignement de rester comp\u00e9titifs avec des solutions souveraines et permettre \u00e0 la France de conserver son rang sur ces technologies6<\/a><\/sup>.<\/p>\n\n\n\n Mais l\u2019int\u00e9gration de l\u2019intelligence artificielle au sein des services de renseignements va \u00e9galement pr\u00e9senter ses limites. Si l\u2019IA ne peut pas toujours remplacer l\u2019humain, elle lui sera au moins compl\u00e9mentaire.<\/p>\n\n\n\n Premi\u00e8rement, il existe des limites inh\u00e9rentes \u00e0 la technologie, comme l\u2019influence de biais ou les probl\u00e9matiques autour des quantit\u00e9s de donn\u00e9es abord\u00e9es en introduction. <\/p>\n\n\n\n De plus, dans les faits, il ne serait pas techniquement possible de donner \u00e0 des IA les m\u00eames missions que pour les agents sur le terrain. L\u00e0 o\u00f9 une IA peut avoir une utilit\u00e9 pour le contre-espionnage par exemple, gr\u00e2ce \u00e0 la reconnaissance faciale, elle ne permet pas de conduire des op\u00e9rations d\u2019infiltration d\u2019organisations n\u00e9cessitant d\u2019\u00eatre sur le terrain. L\u2019IA peut cependant permettre d\u2019all\u00e9ger des t\u00e2ches d\u2019identification ou de suivi car celles-ci pourraient \u00eatre trait\u00e9es gr\u00e2ce \u00e0 des cam\u00e9ras ou des drones, dot\u00e9s de capacit\u00e9s d\u2019analyse de traitement d\u2019images7<\/a><\/sup>. L\u2019utilisation de l\u2019IA n’est donc pas envisageable dans tous les domaines et ne se substituera pas aux personnels des services de renseignement. <\/p>\n\n\n\n Au-del\u00e0 des limites de fonctionnement et des avantages que peuvent fournir les syst\u00e8mes d’IA, ces derniers doivent \u00eatre accept\u00e9s pour \u00eatre d\u00e9ploy\u00e9s efficacement. Or, cette technologie continue d\u2019\u00eatre per\u00e7ue avec m\u00e9fiance, entra\u00eenant des freins \u00e0 son int\u00e9gration. Cela a justement pu \u00eatre observ\u00e9 concernant des logiciels de traduction lors de la guerre d\u2019Afghanistan, les op\u00e9rationnels ayant pr\u00e9f\u00e9r\u00e9 utiliser des locuteurs natifs plut\u00f4t que les logiciels de traduction automatis\u00e9s8<\/a><\/sup>.<\/p>\n\n\n\n L\u2019IA a de belles perspectives pour le renseignement en tant que technologie de soutien. Elle pourra \u00eatre utilis\u00e9e pour assister les agents, notamment sur certaines t\u00e2ches fastidieuses, mais elle ne va pas les remplacer.<\/p>\n\n\n\n L\u2019int\u00e9gration de l\u2019IA dans ces services se fera probablement de mani\u00e8re similaire \u00e0 celle qui a eu lieu au sein de la police aux \u00c9tats-Unis. Les fonctionnements et enjeux \u00e9tant similaires entre les diff\u00e9rents services de l\u2019ordre. Dans ce contexte l\u2019IA avait pour r\u00f4le d\u2019assister les agents en r\u00e9alisant des t\u00e2ches d’analyse sans pour autant leur laisser une totale autonomie. <\/p>\n\n\n\n La police ayant appris d\u2019un pr\u00e9c\u00e9dent cas d\u2019usage d\u2019IA pr\u00e9dictive pour la pr\u00e9vention des crimes qui avait men\u00e9 \u00e0 la formation de biais dans les traitements. Ces biais ayant caus\u00e9s des cas de stigmatisation ils ont fait perdre toute efficacit\u00e9 et confiance dans les algorithmes propos\u00e9s9<\/a><\/sup>. L\u2019IA pourra donc \u00eatre utilis\u00e9e comme assistant pour des t\u00e2ches simples en attendant que les algorithmes deviennent suffisamment robustes et efficaces pour permettre d\u2019\u00eatre accept\u00e9s sur des t\u00e2ches plus complexes.<\/p>\n\n\n\n L\u2019intelligence artificielle est une solution qui peut assister les employ\u00e9s du renseignement. Mais il est peu probable qu\u2019elle soit amen\u00e9e \u00e0 les remplacer et ce pour plusieurs raisons. Certaines raisons sont d\u2019ordre \u00e9thique mais d\u2019autres simplement d\u2019ordre technique, en effet l\u2019IA pr\u00e9sente aussi des limites. Le domaine du renseignement fournit justement un bon exemple de […]<\/p>\n","protected":false},"author":8,"featured_media":6977,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":"[{\"content\":\"Artificial Intelligence and UK National Security: Policy Considerations | Royal United Services Institute<\/a>\",\"id\":\"704d7698-4814-4ed2-8663-9f0edb85549a\"},{\"content\":\"Building Peace in Cyberspace - War Prevention Initiative<\/a>\",\"id\":\"8423dd92-f8b7-4a38-8458-aee41263ad91\"},{\"content\":\"Le Royaume-Uni veut doter ses espions d'intelligence artificielle<\/a>\",\"id\":\"9bfc83fa-9fcb-445b-9115-4fa33a5756a9\"},{\"content\":\"Intelligence artificielle | Cairn.info<\/a>\",\"id\":\"ac3841ae-7b9c-48b8-98b0-ded846204567\"},{\"content\":\"Des espions russes utilisent des photos de profils g\u00e9n\u00e9r\u00e9es par une IA pour ne pas \u00eatre rep\u00e9r\u00e9s<\/a>\",\"id\":\"9e8e8358-e98f-4e6d-bcc8-6aa0236fa089\"},{\"content\":\"Le d\u00e9fi du big data et de l\u2019intelligence artificielle pour le monde de la d\u00e9fense \u2013 2e partie \u2013 Les Jeunes IHEDN<\/a>\",\"id\":\"34359964-0ace-46fe-ad04-238fa2dd1e0f\"},{\"content\":\"AI is breathing new life into the intelligence community | FedScoop<\/a>\",\"id\":\"fb35e9d4-4289-437d-a5ac-d6f473ee2510\"},{\"content\":\"Intelligence artificielle - Les agences d'espionnage ont de grands espoirs pour l'IA | Technologie scientifique - ThePressFree<\/a>\",\"id\":\"b842b354-bea3-4b9f-8017-c3de0ef79ac7\"},{\"content\":\"Police pr\u00e9dictive: quels sont les enjeux soulev\u00e9s par les algorithmes ? - Infoprotection<\/a>\",\"id\":\"384cf317-9624-4fdf-945a-a0b9e45a2a67\"}]"},"categories":[149],"tags":[175,185],"class_list":["post-6974","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia-et-industrie","tag-gouvernement","tag-securite"],"acf":[],"_links":{"self":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts\/6974","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/comments?post=6974"}],"version-history":[{"count":0,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts\/6974\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/media\/6977"}],"wp:attachment":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/media?parent=6974"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/categories?post=6974"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/tags?post=6974"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}L\u2019intelligence artificielle et le renseignement<\/h2>\n\n\n\n
Les limites de l\u2019intelligence artificielle pour le renseignement<\/h2>\n\n\n\n
Sources<\/h2>\n\n\n