Publications

L’IA et son industrialisation ?

11 mars 2021

Le développement d’une intelligence artificielle dans le cadre d’un processus de conception standardisé reste encore un challenge.

La difficulté des grandes entités à adopter des systèmes d’IA au sein de leurs activités est aujourd’hui une problématique de taille qui est partagée dans l’ensemble des domaines d’activités. Cette problématique assez récurrente vient de la structuration très forte qu’elles adoptent pour optimiser leur productivité. Décrite par Mintzberg, cette forme dite mécaniste [1] tend à freiner l’adoption de technologies risquées tant au niveau de l’outil de production qu’au niveau du management. La maîtrise du risque des outils qui ont été évalués en premier lieu dans des structures ad’hoc de R&D devient alors clé pour leur adoption au sein des structures productives. Le développement des solutions d'intelligences artificielles soulève la question de leur industrialisation car ce sont aujourd’hui des solutions pour lesquelles les processus de conception varient d’un développeur à l’autre.

Aujourd’hui l’IA est principalement un produit conçu pour répondre à une tâche précise au sein d’un cadre spécifique. Il existe à ce jour des éléments pour aider à la conception et qui sont disponibles en open source (templates, building blocks). Cependant les processus de conception et de validation des industries ne sont pas encore totalement matures pour les insérer dans leurs processus. Effectivement, en l’absence de cadre standardisé il est difficile de proposer des outils pour favoriser une conception industrialisée. En effet, chaque acteur a alors des processus spécifiques pour lesquels les outils ne seront pas forcément facilement intégrables. La mise en place de pratiques communes est un point pourtant déterminant concernant la mise en place de l’industrialisation de l’IA. Utiliser des processus et des outils standardisés lors de la conception du système d’IA permet de garantir une certaine qualité du produit final. Mais cela permet également d’offrir aussi un gain de temps non négligeable lors de la phase de développement du système d’IA [2].

Aujourd’hui, tout outil informatique qui est embarqué dans un système doit généralement répondre à deux exigences que l’on peut simplifier ainsi : il doit faire correctement ce qu’il est censé faire et il doit le faire pour les bonnes raisons. Il est possible de tirer de ces deux exigences deux thèmes : d’une part la notion de performance (appelée souvent robustesse) du système qui doit être assurée ; d’autre part le système doit être suffisamment explicable pour pouvoir contrôler la manière dont il le fait.
Ainsi, l’aspect “boîte noire” des algorithmes de machine learning pose un frein à leur industrialisation à cause de leur manque d’explicabilité. Le fait de ne pas pouvoir expliquer facilement le fonctionnement de ces systèmes rend leur adoption plus complexe. Comment peut-on s’assurer qu’un algorithme est satisfaisant pour être industrialisé si l’on ne peut pas comprendre son fonctionnement ?

En pratique, l’une des problématiques vient du fait qu’il n’existe pas encore un processus de conceptualisation d’IA qui suivent par exemple un référentiel normatif. Il y a cependant des étapes dans ce processus dont la maturité est suffisante pour voir émerger des outils et des méthodes qui auraient le potentiel de devenir génériques. Nous pouvons par exemple mentionner les environnements de développement tels que Tensorflow, Keras ou PyTorch qui permettent d'entraîner des IA. Ces environnements ne standardisent pas (encore?) les processus de développements d’IA, du coup chaque utilisateur construit son utilisation. Ces plateformes peuvent également soulever des questions de souveraineté. Bien qu’open source, leur rayonnement, leur gouvernance et leur conception sont majoritairement maîtrisés par des  grandes entreprises du numérique américaines. Même si des projets proposent un cadre commun sur une partie du processus de conception, aucun n’est totalement satisfaisant et ne fait consensus. Il faudrait étendre la démarche de standardisation à l’ensemble du processus de conception. Cela donnera alors l’opportunité de faire un pas vers l’industrialisation en permettant de mettre en place des processus de validation partagés.

Actuellement, ces problématiques font que les entreprises éprouvent des difficultés à passer du stade de conceptualisation et de développement d’un système d’IA sous forme de PoC (Proof of Concept) à celui de la mise en production du projet. Au sein des grandes entités, la performance économique et la garantie d’un retour sur investissement sont les priorités lors de la mise en place de nouveaux projets (cost-driven project). Ceci ne favorise pas la prise de risque et notamment lorsqu’il s’agit de technologies émergentes comme l’IA [3]. Si l’on regarde de plus près, rares sont aujourd’hui les PoC arrivant à la phase de production (5). Ceci s’explique par le fait que les PoC ne rencontrent pas nécessairement les performances espérées. Notamment en termes de  robustesse une fois le système mis en conditions réelles. Ces écarts de performances entre les deux peuvent conduire à l’abandon du projet d’industrialisation et donc à la perte pure et simple des investissements réalisés  [4].

Un cadre de standardisation du développement des systèmes d’IA est essentiel. Celui-ci pourra s’établir au travers de normes donnant des recommandations à ce sujet. Aujourd’hui, le manque d’harmonisation des processus de validation vient bloquer l’industrialisation de l’IA. Ces processus viennent pourtant démontrer le bon fonctionnement d’un système d’IA, et évaluer leur niveau de fiabilité. Ils permettent donc de donner confiance en cette technologie. La phase de validation permet en outre de vérifier que les performances correspondent à celles attendues dans un environnement réel. De plus, la phase de validation doit permettre au nouveau système d’IA de remplir les obligations réglementaires du secteur qui le concerne (automobile ou aéronautique par exemple). L’absence d’un cadre standardisé de validation freine l’établissement des obligations réglementaires et donc l’industrialisation d’une IA de confiance.

 

Sources:

[1]- “"Voyage au coeur des organisations", Poche, Henry Mintzberg

[2] - What is “industrialized” AI : https://medium.com/@Petuum/what-is-industrialized-ai-and-why-is-it-important-42c0ee652113

[3]- Les raisons pour lesquelles, l’industrialisation de l’IA est compliquée:
https://industrytoday.com/business-challenges-for-industrial-application-of-ai/

[4] - Différences entre les attentes d’un POC et la Production
https://towardsdatascience.com/what-i-have-learned-after-building-a-successful-ai-poc-3bd24efea4e2

Numalis

We are a French innovative software editor company providing tools and services to make your neural networks reliable and explainable.

Contact us

Follow us