Le 4 mars 2021, la Commission de sécurité nationale américaine sur l’IA a publié son rapport sur l’utilisation des systèmes d’IA que certains veulent qualifier d’« autonomes ».
L’autonomie de l’IA fait l’objet d’un débat dans la société civile, notamment en ce qui concerne son application dans le domaine militaire. Un débat qui découle de la signification sémantique du terme « autonomie » et des questions éthiques et juridiques qui en découlent. Comme le souligne un rapport de la National Security Commission on Artificial Intelligence, certains États internationaux sont opposés aux systèmes d’armes létales autonomes (ALWS). Ils considèrent que l’intervention humaine, notamment dans la prise de décision, est fondamentale. Tandis que d’autres précisent que parler d’autonomie sur un système autonome est encore illusoire et préfèrent parler d’« automatisation », où l’action humaine reste nécessaire à différents niveaux, comme dans le cas des drones.
Numalis partage cette lecture du mot autonomie en considérant qu’il est inapproprié et que le terme d’automatisation est plus adapté à la réalité des usages de l’IA. Une bonne raison de relire notre point de vue sur le sujet dans notre article : « L’autonomie de l’IA : peut-on vraiment en parler ? ».
