Quel est l\u2019impact des biais sur l\u2019IA ? Un vaste question dont la r\u00e9ponse touche aussi bien des aspects techniques que soci\u00e9taux.<\/p>\n\n\n\n
Alors que l\u2019intelligence artificielle ne cesse de se d\u00e9velopper et que la barri\u00e8re \u00e0 l\u2019entr\u00e9e du deep-learning n\u2019a de cesse de s\u2019abaisser, il reste encore des d\u00e9fis technologiques et soci\u00e9taux \u00e0 relever. Les biais sont aujourd\u2019hui un probl\u00e8me majeur concernant les donn\u00e9es et l\u2019IA. <\/p>\n\n\n\n
C\u2019est un sujet d\u2019\u00e9tude qui a marqu\u00e9 ces derni\u00e8res ann\u00e9es et qui a beaucoup fait parler de lui. Les plus grands industriels faisant de l\u2019IA s\u2019int\u00e9ressent au sujet, notamment car leurs \u00ab\u00a0rat\u00e9s\u00a0\u00bb ont parfois \u00e9t\u00e9 caus\u00e9s par ces biais. Et ces rat\u00e9s ont largement aliment\u00e9 des d\u00e9bats \u00e9thiques plus ou moins justifi\u00e9s. Nous allons ici essayer d\u2019y voir plus clair concernant ces biais afin d\u2019ensuite pouvoir comprendre comment les contrer.<\/p>\n\n\n\n
Tout d\u2019abord, il faut comprendre que les biais peuvent venir en grande partie des donn\u00e9es. Le probl\u00e8me \u00e9tant que les IA d\u00e9rivent leur comportement des donn\u00e9es qu\u2019elles ont apprises. Des donn\u00e9es biais\u00e9es provoquent donc n\u00e9cessairement des comportement eux-m\u00eames biais\u00e9s. Les cons\u00e9quences peuvent \u00eatre importantes tant pour la performance du fonctionnement de l\u2019algorithme, que pour l\u2019impact que celui peut avoir, notamment du point de vue des consid\u00e9rations \u00e9thiques. Dans des domaines critiques, les cons\u00e9quences peuvent \u00eatre encore plus importantes. Il est donc ais\u00e9 de percevoir la n\u00e9cessit\u00e9 que nous avons de comprendre les biais et de les \u00e9viter1<\/a><\/sup>. <\/p>\n\n\n\n Cependant, la difficult\u00e9 est que les biais sont par principe compliqu\u00e9s \u00e0 rep\u00e9rer. On peut m\u00eame penser que dans certains cas il n\u2019existe pas de forme sans biais de repr\u00e9sentation et qu\u2019ils sont donc in\u00e9vitables. C\u2019est pourquoi, sans en avoir conscience, des projets aux comportement biais\u00e9s ont pu voir le jour et faire parler d\u2019eux.<\/p>\n\n\n\n Toutefois, avec la n\u00e9cessaire prise de conscience au niveau des concepteurs et les solutions d\u00e9velopp\u00e9es, les biais peuvent \u00eatre manag\u00e9s. In fine leurs effets devraient diminuer dans les syst\u00e8mes d\u2019intelligence artificielle et permettre ainsi de renforcer la confiance des utilisateurs \u00e0 l\u2019\u00e9gard de ces algorithmes.<\/p>\n\n\n\n Les biais peuvent \u00eatre class\u00e9s en deux cat\u00e9gories : les biais de traitement et les biais cognitifs2<\/a><\/sup>. Les biais de traitement rel\u00e8vent plus du c\u00f4t\u00e9 technique, et ceux cognitif de l\u2019humain. Parmis les biais techniques, nous pouvons avoir entre autres :<\/p>\n\n\n\n Les biais d’\u00e9chantillonnage sont des biais directement li\u00e9s \u00e0 la base d\u2019apprentissage de l\u2019algorithme. Cela peut concerner la surrepr\u00e9sentation ou la sous-repr\u00e9sentation de certaines donn\u00e9es. Ce qui a par exemple \u00e9t\u00e9 le cas d\u2019algorithmes de reconnaissance faciale qui n\u2019avaient pas assez de photos de gens de couleur et qui avait donc plus de mal \u00e0 les identifier.<\/p>\n\n\n\n Les biais de mesure entrent en compte lors de la collecte des donn\u00e9es. Ils sont li\u00e9s \u00e0 des changements qui peuvent intervenir au niveau des appareils de mesure. Par exemple lors de la prise de photos, si l\u2019on change d\u2019appareil.<\/p>\n\n\n\n Les biais de renforcement, plus complexes, ils sont li\u00e9s au fonctionnement de l\u2019algorithme. Ils peuvent intervenir lorsqu\u2019une prise de d\u00e9cision impacte la prochaine d\u00e9cision. C\u2019est le principe des recommandations sur internet. <\/p>\n\n\n\n Aux Etats-Unis, un syst\u00e8me a \u00e9t\u00e9 utilis\u00e9 pour r\u00e9partir les forces de l\u2019ordre dans des quartiers consid\u00e9r\u00e9s comme dangereux. Cependant, plus il y a de police sur les lieux et plus les infractions sont relev\u00e9es et donc fatalement plus l\u2019algorithme envoyait de policiers en pensant que le quartier \u00e9tait tr\u00e8s dangereux. En fait, selon sa conception, un algorithme peut ainsi s\u2019enfermer dans un cercle de d\u00e9cision qui se renforce peu \u00e0 peu.<\/p>\n\n\n\n Les biais d\u2019exclusion interviennent lors du traitement des donn\u00e9es. Il est possible de d\u00e9cider d\u2019\u00e9carter certaines donn\u00e9es car elles ne sont pas jug\u00e9es pertinentes ou entra\u00eenent trop de probl\u00e8mes de traitement. Cependant, supprimer des donn\u00e9es fait perdre de l\u2019information et peut impacter le fonctionnement de l\u2019algorithme. Qui plus est, m\u00eame si certaines donn\u00e9es sont supprim\u00e9es, ce n\u2019est pas pour autant qu\u2019elles ne sont pas utilis\u00e9es. <\/p>\n\n\n\n Par exemple, si l\u2019on supprime une information caract\u00e9risant le genre, l\u2019algorithme peut la retrouver en s\u2019appuyant sur d\u2019autres donn\u00e9es comme les pr\u00e9noms et du coup encore la prendre en compte3<\/a><\/sup>.<\/p>\n\n\n\n Les biais cognitifs sont plus vastes et plus complexes \u00e0 mesurer. Nous ne les d\u00e9taillerons pas beaucoup dans cet article, ils sont li\u00e9s \u00e0 l\u2019humain et aux soci\u00e9t\u00e9s dans lesquelles ils se trouvent. Ainsi, ces biais peuvent \u00eatre li\u00e9s au comportement humain. <\/p>\n\n\n\n Par exemple, si un recruteur faisait de la discrimination et que l\u2019algorithme est entra\u00een\u00e9 afin de reproduire ses prises de d\u00e9cision, l\u2019algorithme sera alors lui aussi discriminant. Cependant, ces biais peuvent aussi provenir de la soci\u00e9t\u00e9. Cela intervient en r\u00e8gle g\u00e9n\u00e9rale lors des \u00e9tiquetages. Il est observable dans le monde de la m\u00e9decine que les infirmi\u00e8res sont principalement des femmes et les docteurs des hommes. Ainsi, en 2013 un algorithme d\u2019analyse du langage naturel de Google a assimil\u00e9 que \u201cdoctor – man + woman = nurse\u201d, d\u00fb \u00e0 une in\u00e9galit\u00e9 d\u00e9j\u00e0 pr\u00e9sente dans notre soci\u00e9t\u00e94<\/a><\/sup>.<\/p>\n\n\n\n Une fois que les biais ont \u00e9t\u00e9 correctement identifi\u00e9s, il faut encore savoir comment les contrer ou les \u00e9viter. Un premier pas \u00e9vident est de conna\u00eetre leur existence et leur essence afin d\u2019en tenir compte lors du d\u00e9veloppement d\u2019une IA. <\/p>\n\n\n\n Une prise de conscience g\u00e9n\u00e9rale est en cours sur la question des biais, dans la lign\u00e9e de l\u2019int\u00e9r\u00eat actuel concernant la caract\u00e9risation m\u00eame de l\u2019IA5<\/a><\/sup>. Les instances internationales se penchent sur la question afin d\u2019entamer la d\u00e9marche vers une IA dite \u201cde confiance\u201d. Les acteurs du secteur font de m\u00eame et les instances de standardisation, comme le CEN CENELEC ou l\u2019ISO, ouvrent la voie vers une standardisation de l\u2019IA.<\/p>\n\n\n\n Outre la prise de conscience, des processus de v\u00e9rification doivent s\u2019imposer au niveau algorithmique. Il faut tester et \u00e9valuer les IA. Pour cela, il faut utiliser plusieurs bases de donn\u00e9es, avec en plus de la base de donn\u00e9es d’entra\u00eenement (training set), une base de donn\u00e9es de validation (\u201cvalidation set\u201d) et une de test (\u201ctest set\u201d). Durant ce travail de validation il est possible d\u2019affiner le r\u00e9glage des hyperparam\u00e8tres des syst\u00e8mes d\u2019IA et de tester l\u2019algorithme sur une base dont on s\u2019est assur\u00e9 qu\u2019elle n\u2019\u00e9tait pas biais\u00e9e6<\/a><\/sup>.<\/p>\n\n\n\n Des outils existent aussi pour aider \u00e0 analyser les IA. Un des objectifs est d\u2019expliquer leur comportement afin de pouvoir corriger si n\u00e9cessaire ou anticiper un probl\u00e8me de fonctionnement. Il est ainsi possible de s\u2019assurer de la pertinence de la prise de d\u00e9cision. Des bases de donn\u00e9es publiques et v\u00e9rifi\u00e9es par un tiers de confiance (sans biais) pourraient aussi \u00eatre une solution afin de pouvoir entra\u00eener ou tester ses algorithmes dessus7<\/a><\/sup>.<\/p>\n\n\n\n Les biais repr\u00e9sentent un aspect des IA que l\u2019industrie et les institutions prennent de plus en plus en compte. M\u00eame si l\u2019image de la \u201cbo\u00eete noire\u201d continue de coller \u00e0 la peau de l\u2019IA, il est quand m\u00eame possible de travailler sur la validation de ce qu\u2019on donne en entr\u00e9e de cette bo\u00eete noire. En travaillant sur la mitigation des risques pos\u00e9es par les biais, l\u2019industrie renforce la confiance en l\u2019IA et permet de faire passer son int\u00e9gration \u00e0 la vitesse sup\u00e9rieure.<\/p>\n\n\n Quel est l\u2019impact des biais sur l\u2019IA ? Un vaste question dont la r\u00e9ponse touche aussi bien des aspects techniques que soci\u00e9taux. Alors que l\u2019intelligence artificielle ne cesse de se d\u00e9velopper et que la barri\u00e8re \u00e0 l\u2019entr\u00e9e du deep-learning n\u2019a de cesse de s\u2019abaisser, il reste encore des d\u00e9fis technologiques et soci\u00e9taux \u00e0 relever. Les […]<\/p>\n","protected":false},"author":8,"featured_media":7177,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":"[{\"content\":\"Les biais cach\u00e9s de l\u2019IA - Ellisphere<\/a>\",\"id\":\"6f3536ff-6711-484e-8b61-f2906994409b\"},{\"content\":\"Biais et intelligence artificielle : une fatalit\u00e9 \u00e9vitable ?<\/a>\",\"id\":\"6e849b90-0a34-4b4d-a9f7-fc4ea9a66e1f\"},{\"content\":\"Apprentissage automatique et biais : Impacts et solutions - IBM-France<\/a>\",\"id\":\"9d27ceb3-0647-436d-8639-526aabdc62af\"},{\"content\":\"Reconna\u00eetre les biais dans l'intelligence artificielle<\/a>\",\"id\":\"22d2f389-c6d9-4e46-833c-1d42eac57f14\"},{\"content\":\"Intelligence artificielle : combattre les biais des algorithmes<\/a>\",\"id\":\"1b0817d5-344b-4497-a002-af0c68282bad\"},{\"content\":\"L'IA et les biais algorithmiques - Le M emlyon - Tech (PnP)<\/a>\",\"id\":\"6e9be7f6-a906-4638-ab51-9bfb2a4eef11\"},{\"content\":\"Quelles pistes pour lutter efficacement contre les biais des algorithmes ?<\/a>\",\"id\":\"f17af312-0441-4a7c-a809-366c2f1eb7f5\"}]"},"categories":[152],"tags":[186],"class_list":["post-7173","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia-technique","tag-semantique"],"acf":[],"_links":{"self":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts\/7173","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/comments?post=7173"}],"version-history":[{"count":0,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts\/7173\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/media\/7177"}],"wp:attachment":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/media?parent=7173"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/categories?post=7173"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/tags?post=7173"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Quels sont les diff\u00e9rents types de biais auxquels l’IA peut \u00eatre confront\u00e9e ?<\/h2>\n\n\n\n
Les biais d’\u00e9chantillonnage<\/h3>\n\n\n\n
Les biais de mesure<\/h3>\n\n\n\n
Les biais de renforcement<\/h3>\n\n\n\n
Les biais d’exclusion<\/h3>\n\n\n\n
Les biais cognitifs<\/h3>\n\n\n\n
Comment d\u00e9tecter la pr\u00e9sence d’un biais dans son jeu de donn\u00e9es ?<\/h2>\n\n\n\n