Engagement de Numalis en faveur de la normalisation internationale de l'IA : Construire un cadre de confiance pour une adoption sûre

Découvrez comment Numalis façonne l’avenir de l’IA grâce à des contributions actives auprès des comités de normalisation internationaux. Notre tâche assure le développement de cadres significatifs et applicables pour construire des systèmes d’IA fiables et certifiables. Nous développons les exigences et les meilleures pratiques du secteur de l’IA pour permettre le déploiement en toute confiance d’une IA bénéfique à tous.

Comprendre le besoin de normalisation de l’IA

Pour répondre au besoin de confiance du public et de conformité à la réglementation de l’IA, les industries, les institutions et les universités travaillent conjointement à la normalisation de ce domaine en pleine évolution qu’est l’IA. Aujourd’hui, l’adoption de l’IA se heurte encore à des problèmes de confiance de la part des parties prenantes. L’IA ne s’inscrit pas dans le cycle de vie classique bien établi des logiciels, et la défiance du public à l’égard de la sécurité et de l’équité des systèmes d’IA reste encore importante. Les réglementations en cours d’élaboration proposent un cadre d’établissement de confiance, mais ne définissent pas les exigences techniques que seule l’industrie peut établir, compte tenu de l’état actuel de la technique. La normalisation est la solution pour définir un cadre d’exigences unifié, significatif et réalisable en réponse aux objectifs de chaque réglementation.

La normalisation vise à atténuer les risques inhérents à l’IA.

Sécurité : les algorithmes de l’IA ont de nombreuses applications dans des secteurs critiques où la sécurité est primordiale, comme les véhicules, les systèmes de surveillance, les dispositifs de diagnostic médical et les applications de notation. La définition d’exigences de sécurité appropriées n’est qu’une partie des rôles des normes, qui permettront aux entreprises de fournir les preuves de fiabilité correspondantes.
Atténuation des biais : l’IA est souvent sujette à des problèmes de partialité. Les biais peuvent avoir plusieurs causes, pouvant être détectées à chaque étape du cycle de vie. Des exigences claires pour toutes les parties prenantes, exprimées au moyen de normes convenues, sont donc nécessaires pour garantir une atténuation adéquate des risques.
Interopérabilité : Avec un grand nombre d’environnements de développement, de processus et de réglementations spécifiques, les compatibilités deviennent de plus en plus difficiles à gérer, ce qui peut devenir un frein au déploiement. Les normes internationales permettront une production plus rationalisée et une reconnaissance mutuelle, facilitant l’accès au marché industriel dans le monde entier.
Éthique et questions juridiques : l’IA est une technologie transformatrice pour toutes les parties prenantes de la société, avec des attentes en termes de conformité éthique et juridique très variées. La normalisation vise à aligner les pratiques de l’industrie sur les attentes de la société en définissant une compréhension commune pour apporter de la confiance à l’IA.

Loi européenne sur l’IA et normalisation

La Commission européenne a fait de la réglementation de l’IA une réalité avec une loi européenne sur l’IA qui a été votée et prochainement en vigueur. Cette réglementation vise à permettre aux citoyens de l’UE de bénéficier des systèmes d’IA avec les garanties appropriées, en fonction du niveau de risque présentés. Certains risques sont inacceptables, et ces systèmes sont interdits ; pour certains, le risque est élevé, et leur conception et leur déploiement sont strictement définis ; pour les autres, des exigences moins strictes sont appliquées.

Pour que la loi sur l’IA soit applicable dans la pratique, la Commission européenne a appelé toutes les parties prenantes à travailler conjointement avec le CEN-CENELEC, l’organisme européen de normalisation, à la création de normes techniques.

La Commission européenne a donc mandaté le CEN-CENELEC par le biais d’une « demande de normalisation » pour fournir ce que l’on appelle communément des « normes harmonisées », permettant aux industries qui les appliquent de bénéficier d’une présomption de conformité à la Loi. Pour ce faire, le CEN-CENELEC identifie, adapte si nécessaire et adopte les normes internationales déjà disponibles ou en cours d’élaboration par d’autres organisations telles que l’ISO/CEI.

Concrètement, le CEN-CENELEC produira plusieurs types de normes pour l’IA afin de répondre aux exigences de la Loi sur l’IA :

Normes harmonisées : ces normes correspondent directement aux articles de la Loi sur l’IA et développent des exigences permettant aux organisations de mettre en place un système d’évaluation de la conformité.
Normes EN : il s’agit de normes résultant de développements internes ou de l’adoption de normes d’autres comités (par ex, ISO/CEI, ETSI).

Numalis et la série de normes ISO/CEI 24029

Arnault Ioualalen, PDG de Numalis, est l’éditeur de tous les documents relatifs à la série de normes ISO/CEI 24029 développées dans le Groupe de travail 3 (Confiance.AI) de l’ISO/CEI JTC 1/SC 42. Le rôle d’Arnault est de contribuer à l’obtention d’un consensus international autour de ces documents. Arnault est également le porte-drapeau de ces normes, en participant à la sensibilisation des parties prenantes internationales à leur sujet.

Norme 24029-1 : fournit un aperçu de l’évaluation de la robustesse des réseaux neuronaux (publiée en 2019).
Norme 24029-2 : fournit une méthodologie pour l’évaluation de la robustesse des réseaux neuronaux à l’aide de méthodes formelles (publiée en 2021).
Norme 24029-3 : fournit une méthodologie pour l’évaluation de la robustesse des réseaux neuronaux à l’aide de méthodes statistiques (encore en cours de développement).

Arnault contribue également activement au développement des normes harmonisées appelées « Trustworthiness Framework » (Cadre de confiance) au sein de CEN-CENELEC JTC 21. Ce travail est particulièrement axé sur les exigences relatives à la robustesse des systèmes d’IA, qui s’appuieront fortement sur la série ISO/CEI 24029.

Comment se conformer aux exigences définies dans les normes

Une question se pose : comment l’industrie peut-elle répondre aux exigences définies par les normes et atteindre le niveau de fiabilité escompté ? La réponse est relativement simple : vous devez mettre en œuvre des processus et des outils pouvant vous aider à fournir des preuves.

L’évaluation de la conformité est une question de documentation technique comme de gestion organisationnelle. Chaque exigence des normes, selon sa nature, peut être traitée par une combinaison des deux.

Comme le CEN-CENELEC s’appuie sur les normes ISO/CEI, le respect de ces dernières vous rapprochera de la conformité à la Loi sur l’IA, conformité par ailleurs nécessaire pour introduire votre système d’IA sur le marché de l’UE.

Saimple : une solution logicielle pour la conformité de l’IA

La fiabilité de l’IA repose sur de nombreuses propriétés, deux desquelles sont la robustesse et l’explicabilité de l’IA. Ces deux aspects sont directement liés aux rouages techniques des systèmes d’IA et ne peuvent être traités uniquement par des mesures d’atténuation organisationnelles. Des outils et des processus techniques sont alors nécessaires.

Numalis a développé Saimple, une solution logicielle permettant d’analyser, d’évaluer et de documenter la robustesse et l’explicabilité des algorithmes d’IA, tout au long de leur cycle de vie. Cette solution améliore la fiabilité des systèmes d’IA et permet de se conformer aux normes, et notamment à celles délimitant des exigences de robustesse.