Peut-on vraiment parler d’autonomie de l’IA ? La notion est diff\u00e9rente de ce qu’illustrent nos m\u00e9dias.<\/p>\n\n\n\n
L\u2019intelligence artificielle est une notion complexe qui aujourd\u2019hui n\u2019a toujours pas de d\u00e9finition unique. Elle est souvent pr\u00e9sent\u00e9e comme un outil faisant du mim\u00e9tisme des fonctions cognitives propres aux humains. Or, ce sont souvent des d\u00e9finitions floues et anthropocentr\u00e9es qui portent pr\u00e9judice au domaine. Il ne faut alors pas s\u2019\u00e9tonner que la pr\u00e9sentation mentale que chacun se fait de l\u2019IA se rapproche des fictions hollywoodiennes.<\/p>\n\n\n\n
On comprend que les probl\u00e8mes de d\u00e9finitions sont importants pour ce domaine, le choix des mots s\u2019av\u00e8re crucial. C\u2019est ce sur quoi nous allons nous pencher. Lorsque l\u2019on dit que l\u2019IA est autonome, est-ce vraiment le cas ? La r\u00e9ponse est non.<\/p>\n\n\n\n
Pour commencer, il faut revenir \u00e0 l\u2019origine \u00e9tymologique du mot \u201cautonomie\u201d. Le mot vient du grec : \u201cauto\u201d et \u201cnomos\u201d qui signifie : \u201cqui fait ses propres r\u00e8gles\u201d. Ce qui signifie que quelque chose d\u2019autonome ne suit pas les r\u00e8gles qui lui sont impos\u00e9es, il construit son propre ensemble de r\u00e8gles. Une population d\u00e9clarant son autonomie ne cherche pas \u00e0 continuer \u00e0 ob\u00e9ir aux r\u00e8gles ext\u00e9rieures, bien au contraire. Or ce n\u2019est absolument pas le cas des IA. <\/p>\n\n\n\n
Il serait plus juste d\u2019utiliser le mot \u201cautomatique\u201d, pour d\u00e9signer un syst\u00e8me qui fonctionne sans intervention humaine1<\/a><\/sup>. Si l\u2019on prend l\u2019exemple de la voiture autonome, elle n\u2019a rien d\u2019un syst\u00e8me pr\u00e9sentant un fonctionnement autonome, elle est en fait \u201ch\u00e9t\u00e9ronome\u201d, elle ob\u00e9it \u00e0 des r\u00e8gles externes. Si l\u2019on souhaite que la voiture nous am\u00e8ne \u00e0 un endroit, elle n\u2019a d\u2019autre choix que de nous y conduire, en respectant le code de la route. Si elle \u00e9tait autonome, elle pourrait d\u00e9cider que l\u2019endroit ne lui convient pas ou que la route est trop encombr\u00e9e et donc qu\u2019elle souhaiterait conduire sur les trottoirs pour s\u2019y rendre plus vite.<\/p>\n\n\n\n Les questions relevant de \u201cl\u2019autonomie\u201d des IA prennent alors une toute autre dimension. Effectivement, les syst\u00e8mes autonomes n\u2019existent pas vraiment aujourd\u2019hui. On parlerait dans ce cas l\u00e0 d\u2019IA \u201cforte\u201d, ce qui n\u2019est actuellement pas pr\u00e8s de voir le jour.<\/p>\n\n\n\n Si l\u2019on s\u2019int\u00e9resse aux d\u00e9bats li\u00e9s \u00e0 l\u2019IA dans le domaine militaire, on se rend compte que les syst\u00e8mes automatiques existent d\u00e9j\u00e0 depuis bien longtemps. Le cas du missile SCALP2<\/a><\/sup> est \u00e9clairant. Le syst\u00e8me re\u00e7oit une mission par une description d\u2019une cible et d\u2019un lieu o\u00f9 elle est cens\u00e9e se trouver. Ensuite le syst\u00e8me calcule automatiquement une trajectoire, des man\u0153uvres d\u2019\u00e9vitement et d\u2019identification pour aller jusqu\u2019\u00e0 valider que la cible est bien identifi\u00e9e et donc qu\u2019elle peut \u00eatre engag\u00e9e comme pr\u00e9vu. <\/p>\n\n\n\n Si l\u2019on prend un exemple un peu plus provocateur on peut parler du cas d\u2019une mine anti-char qui explose d\u00e8s qu\u2019un v\u00e9hicule suffisamment lourd roule dessus, et ce automatiquement. L\u2019Homme la pose et la mine op\u00e8re ensuite seule et c\u2019est un cas syst\u00e8me totalement admis [1]. On peut imaginer que l\u2019IA peut am\u00e9liorer ce fonctionnement et ne d\u00e9tonner que si un v\u00e9hicule d\u00e9tect\u00e9 est bien un char et non un camion. Le syst\u00e8me devient un peu plus intelligent mais il peut encore \u00e9videmment se tromper. Mais pour autant la mine anti-char sans IA ne distingue aucun des deux cas et constitue un cas l\u00e9gitime d\u2019emploi d\u2019un syst\u00e8me automatis\u00e9. <\/p>\n\n\n\n Du coup, il est int\u00e9ressant de se demander pourquoi le syst\u00e8me avec IA poserait soudainement un probl\u00e8me d\u2019adoption ? Le d\u00e9bat est pourtant bien pr\u00e9sent et les craintes, que l\u2019IA suscite dans le domaine militaire, qu\u2019elles soient rationnelles ou non, doivent \u00eatre adress\u00e9es. Personne ne souhaite de syst\u00e8mes d\u2019armes pouvant lui-m\u00eame d\u00e9signer ses cibles et d\u00e9cider de ses actions sans qu’aucune r\u00e8gle soit impos\u00e9e par l\u2019Homme3<\/a><\/sup>.<\/p>\n\n\n\n Rappelons que l\u2019IA est surtout un moyen d\u2019am\u00e9liorer les capacit\u00e9s humaines, par exemple concernant l\u2019analyse des flux d’informations. Les int\u00e9r\u00eats principaux de l\u2019IA faible sont qu\u2019elle permet entre autres un traitement des donn\u00e9es efficace, la possibilit\u00e9 d\u2019effectuer des actions avec plus de souplesse sur un sujet pr\u00e9cis, ou encore une automatisation de certaines t\u00e2ches relativement r\u00e9p\u00e9titives.<\/p>\n\n\n\n Pour aller plus loin, on peut aussi s\u2019interroger sur le terme m\u00eame \u201cd\u2019Intelligence\u201d de l\u2019Intelligence Artificielle. Ces syst\u00e8mes sont-ils vraiment intelligents ? Il faut ici revenir \u00e0 la caract\u00e9risation de leurs fonctions et de leurs fa\u00e7ons de proc\u00e9der. <\/p>\n\n\n\n Actuellement, les IA sont tr\u00e8s sp\u00e9cialis\u00e9es pour effectuer une action mais s\u2019y limitent. Pour y arriver, les IA comme les r\u00e9seaux de neurones d\u00e9couvrent un mod\u00e8le qui essaye de g\u00e9n\u00e9raliser les donn\u00e9es qu\u2019elles ont apprises. Elles ne deviennent pas aussi intelligentes que l\u2019humain. Elles se contentent de traiter des donn\u00e9es en appliquant le mod\u00e8le qu\u2019elles ont appris4<\/a><\/sup>. Les IA ne restent pas moins que des syst\u00e8mes cr\u00e9\u00e9s par l\u2019homme et elles sont donc la r\u00e9sultante de leur intention. L\u2019intention et la cr\u00e9ativit\u00e9 restent des comp\u00e9tences fondamentales de l\u2019\u00eatre humain. Dans les IA faibles qui sont con\u00e7ues aujourd\u2019hui ces comp\u00e9tences n\u2019ont pas d\u2019\u00e9quivalent. Seul le mim\u00e9tisme de leurs actions nous pousse \u00e0 croire incorrectement \u00e0 leur intelligence. Encore une fois, les termes employ\u00e9s portent \u00e0 confusion, les IA restent des automatismes5<\/a><\/sup>.<\/p>\n\n\n\n Ainsi, il faut faire attention au choix des mots lorsque l\u2019on parle d\u2019IA. Les syst\u00e8mes ne sont pas autonomes mais automatiques. Leur intelligence n\u2019en est pas vraiment une, elle s\u2019exprime plut\u00f4t par une tr\u00e8s forte sp\u00e9cialisation qui lui permet de d\u00e9passer les capacit\u00e9s humaines dans une t\u00e2che pr\u00e9cise. Il est en fait important de comprendre fondamentalement ce qu\u2019est l\u2019IA afin de ne pas alimenter de faux d\u00e9bats. <\/p>\n\n\n\n Les instances internationales l\u2019ont bien compris et se penchent depuis quelques ann\u00e9es sur les questions de d\u00e9finition d\u2019IA et de normalisation des IA6<\/a><\/sup>. Engager le dialogue et anticiper la mani\u00e8re de r\u00e9guler des IA fortes est peut-\u00eatre int\u00e9ressant. Mais il ne faut pas que leur hypoth\u00e9tique apparition pollue le d\u00e9bat sur les IA qui elles existent d\u00e9j\u00e0 et m\u00e9ritent notre attention.<\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" Peut-on vraiment parler d’autonomie de l’IA ? La notion est diff\u00e9rente de ce qu’illustrent nos m\u00e9dias. L\u2019intelligence artificielle est une notion complexe qui aujourd\u2019hui n\u2019a toujours pas de d\u00e9finition unique. Elle est souvent pr\u00e9sent\u00e9e comme un outil faisant du mim\u00e9tisme des fonctions cognitives propres aux humains. Or, ce sont souvent des d\u00e9finitions floues et anthropocentr\u00e9es […]<\/p>\n","protected":false},"author":8,"featured_media":7114,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":"[{\"content\":\"La r\u00e9volution de l'Intelligence artificielle (IA) en autonomie - Archive ouverte HAL<\/a>\",\"id\":\"1762d7f6-44b2-487d-ac4d-1ade923bc9f4\"},{\"content\":\"MISSILE SCALP<\/a>\",\"id\":\"f497e109-5935-4089-8b24-4ed65afdba6a\"},{\"content\":\"Autonomie et l\u00e9talit\u00e9 en robotique militaire<\/a>\",\"id\":\"37a9a941-ebe8-43ad-a60a-874ebf5f2676\"},{\"content\":\"L\u2019intelligence artificielle est-elle intelligente ? | Les Echos<\/a>\",\"id\":\"4093c2d5-8173-4cfb-9d3e-3e2908cd4c22\"},{\"content\":\"Arr\u00eatons de parler d\u2019intelligence artificielle : cela n\u2019existe pas<\/a>\",\"id\":\"b5b2422a-2055-4ccd-b012-a66a014037a9\"},{\"content\":\"Commission europ\u00e9enne : LIVRE BLANC, Intelligence artificielle, Une approche europ\u00e9enne ax\u00e9e sur l'excellence et la confiance<\/a>\",\"id\":\"702d0b03-4800-409d-b06f-bebb9e5b6617\"}]"},"categories":[142],"tags":[186],"class_list":["post-7110","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia-et-societe","tag-semantique"],"acf":[],"_links":{"self":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts\/7110","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/comments?post=7110"}],"version-history":[{"count":0,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts\/7110\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/media\/7114"}],"wp:attachment":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/media?parent=7110"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/categories?post=7110"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/tags?post=7110"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}L’autonomie de l’IA dans les syst\u00e8mes d’armes : O\u00f9 en sommes-nous ?<\/h2>\n\n\n\n
L’intelligence artificielle est-elle vraiment intelligente ?<\/h2>\n\n\n\n
Syst\u00e8mes d’IA automatis\u00e9s mais non autonomes<\/h2>\n\n\n\n
Sources<\/h2>\n\n\n