La reconnaissance d’images n’est pas aussi puissante qu’on pourrait le croire, et certaines failles peuvent poser probl\u00e8me. En voici un aper\u00e7u.<\/p>\n\n\n\n
La reconnaissance d\u2019images s\u2019introduit de plus en plus dans notre quotidien. Elle est classiquement associ\u00e9e par exemple \u00e0 la d\u00e9tection de visage dans une image, ou \u00e0 l\u2019identification des personnes pr\u00e9sentes sur une photo. <\/p>\n\n\n\n
Mais aujourd\u2019hui les r\u00e9seaux de neurones profonds sont \u00e9galement capables de reconna\u00eetre chaque \u00e9l\u00e9ment d\u2019une sc\u00e8ne et d\u2019en g\u00e9n\u00e9rer la l\u00e9gende. Prenons l\u2019exemple de la reconnaissance de visages. Il existe plusieurs applications de machine learning qui analysent les images contenant des visages : la d\u00e9tection des visages et la comparaison faciale. Un syst\u00e8me de d\u00e9tection est con\u00e7u pour r\u00e9pondre \u00e0 la question : \u201ccette image contient-elle un visage ? Et si c\u2019est le cas o\u00f9 se trouve-il ?\u201d. Alors qu\u2019un syst\u00e8me de comparaison est con\u00e7u pour r\u00e9pondre \u00e0 la question : \u201cle visage pr\u00e9sent dans une image correspond-il au visage d’une autre image ?\u201d. Un syst\u00e8me de comparaison prend l’image d’un visage et pr\u00e9dit si ce visage correspond \u00e0 d’autres visages figurant dans une base de donn\u00e9es fournie1<\/a><\/sup>. Les syst\u00e8mes de comparaison sont con\u00e7us pour comparer et pr\u00e9dire les \u00e9ventuelles correspondances.<\/p>\n\n\n\n Aujourd\u2019hui, la reconnaissance d’image est une technologie qui prend de plus en plus de place dans notre quotidien, et cette pr\u00e9sence peut s\u2019appuyer selon Statistica sur une opinion \u00e0 60% favorable des Fran\u00e7ais dans leur confiance en l\u2019intelligence artificielle2<\/a><\/sup>. <\/p>\n\n\n\n Cependant au del\u00e0 de la confiance en la technologie bien des Fran\u00e7ais ont des craintes quant \u00e0 l\u2019utilisation qui en sera faite. Notamment concernant le stockage et la possible revente de leur donn\u00e9es personnelles. Ce qui pose une situation paradoxale pour les industriels car pour fonctionner correctement, l\u2019intelligence artificielle a besoin de ces informations. <\/p>\n\n\n\n En effet, d’un point de vue technique, dans ce contexte le d\u00e9veloppement d\u2019un algorithme de machine learning va se reposer sur l\u2019utilisation des biblioth\u00e8ques de visages. D’un point de vue juridique, la r\u00e9glementation relative \u00e0 la protection des donn\u00e9es personnelles, est relativement stricte quant au traitement des donn\u00e9es biom\u00e9triques. Il est en principe interdit et ne peut \u00eatre effectu\u00e9 que si l\u2019utilisateur a donn\u00e9 son consentement explicite ou si ce traitement est n\u00e9cessaire pour des raisons d’int\u00e9r\u00eat public3<\/a><\/sup>. <\/p>\n\n\n\n Cette r\u00e9gulation peut varier d\u2019un pays \u00e0 l\u2019autre, et la France est plut\u00f4t dans les pays avec une l\u00e9gislation stricte. De ce fait, les industriels fran\u00e7ais sont confront\u00e9s \u00e0 un distortion de la concurrence due \u00e0 l’absence d’un cadre juridique leur permettant de tester leurs solutions en conditions r\u00e9elles sur le territoire.<\/p>\n\n\n\n L\u2019autre soucis mis en \u00e9vidence est que malgr\u00e9 les bonnes performances de ces syst\u00e8mes qui inspirent plut\u00f4t confiance, il est tout de m\u00eame possible de les tromper4<\/a><\/sup>. Presque continuellement, de nouvelles techniques voient le jour pour tromper d\u2019une nouvelle mani\u00e8re les algorithmes de reconnaissance d’image <\/a>ou m\u00eame de son. Chacune de ces techniques peut donc constituer une faille dans le fonctionnement du syst\u00e8me. Mais pour chacune ces attaques des solutions peuvent \u00eatre mises en place pour les contrer, d\u00e9clenchant ainsi une lutte quasi-darwinienne entre ceux qui trouvent les failles et ceux qui les corrigent.<\/p>\n\n\n\n La vuln\u00e9rabilit\u00e9 des mod\u00e8les de Deep Learning a \u00e9t\u00e9 mise en \u00e9vidence en 2013 dans un papier intitul\u00e9 \u201cIntriguing properties of neural networks\u201d, r\u00e9sultat de la recherche men\u00e9e par Christian Szegedy et al5<\/a><\/sup>. Ce type de vuln\u00e9rabilit\u00e9s cause naturellement des craintes qui ralentissent l\u2019adoption dans des secteurs fortement r\u00e9glement\u00e9s. Notamment dans des domaines comme l\u2019automobile pour les voitures sans chauffeur ou la sant\u00e9 pour les diagnostics du cancer. Il a \u00e9t\u00e9 illustr\u00e9 par des chercheurs de Cornwell University que la modification d\u2019un seul pixel peut totalement fausser une reconnaissance ; dans leur exemple un bateau pourrait \u00eatre reconnu comme \u00e9tant une voiture. <\/p>\n\n\n\n Selon ces m\u00eames chercheurs, les enregistrements audios peuvent \u00e9galement \u00eatre truqu\u00e9s par l\u2019application d\u2019une seule perturbation comme un bruit de fond imperceptible. Il est clair que les attaques de ce type compromettent la s\u00e9curit\u00e9 des syst\u00e8mes se reposant sur des briques d\u2019IA, ce qui peut avoir de lourdes cons\u00e9quences. Par exemple, des v\u00e9hicules sans chauffeur pourraient avoir des accidents, du contenu illicite ou ill\u00e9gal pourrait contourner les filtres de contenu, ou encore des syst\u00e8mes d\u2019authentification biom\u00e9trique pourraient \u00eatre manipul\u00e9s pour permettre un acc\u00e8s non autoris\u00e9 (par exemple via Face ID de l\u2019Iphone)6<\/a><\/sup>.<\/p>\n\n\n\n Des technologies permettent donc de tromper un algorithme apr\u00e8s qu\u2019il appris \u00e0 nous reconna\u00eetre avec succ\u00e8s. Mais certains vont encore plus loin et propose d\u2019emp\u00eacher directement tout algorithmes d\u2019IA d\u2019apprendre \u00e0 nous reconna\u00eetre. Pour cela un logiciel gratuit, r\u00e9cemment sorti, modifie nos images de fa\u00e7on imperceptible \u00e0 l\u2019oeil nu afin de forcer les intelligences artificielles qui apprennent \u00e0 partir d\u2019elles \u00e0 se concentrer sur d\u2019autres motifs que ceux de notre visage. La cons\u00e9quence est que celle-ci n\u2019arrive plus \u00e0 correctement identifier les visages sur une nouvelle photographie o\u00f9 le visage appara\u00eet. <\/p>\n\n\n\n Ce logiciel qui s\u2019appelle \u201cFawkes\u201d, utilise une technologie appel\u00e9e \u00ab\u00a0cloaking\u201d (en fran\u00e7ais : masquage). Apr\u00e8s traitement par Fawkes les images que l\u2019algorithme d\u2019IA va apprendre sont dites \u201cempoisonn\u00e9es\u201d car au lieu de d\u00e9tecter les traits habituels qui permettent d’identifier une personne, le syst\u00e8me sera amen\u00e9 \u00e0 se concentrer sur d’autres motifs qui auront \u00e9t\u00e9 ajout\u00e9s par le logiciel7<\/a><\/sup>. Cet outil a \u00e9t\u00e9 d\u00e9velopp\u00e9 par l\u2019\u00e9quipe de chercheurs du SAND Lab, de l’Universit\u00e9 de Chicago aux \u00c9tats-Unis. Il r\u00e9pond \u00e0 un besoin du grand public qui, comme nous l\u2019avons mentionn\u00e9 plus haut, se m\u00e9fie des applications qui recueillent (et utilisent) les donn\u00e9es personnelles qu\u2019ils partagent. Avec ce logiciel, les chercheurs esp\u00e8rent fausser les bases de donn\u00e9es et ainsi permettre aux utilisateurs une anonymisation de leurs photos.<\/p>\n\n\n\n Afin de contrer ces offensives, des mod\u00e8les d\u2019attaque\/d\u00e9fense ont \u00e9t\u00e9 propos\u00e9s par des d\u00e9veloppeurs pour renforcer leur r\u00e9sistance. Ce sont des ensembles de techniques qui fonctionnent sur des mod\u00e8les de r\u00e9f\u00e9rence et qui sont utilisables dans les outils de conception de Deep Learning les plus populaires. Au cours du processus, ils testent le syst\u00e8me et apr\u00e8s analyse des r\u00e9actions corrigent le syst\u00e8me. Le but est d\u2019aider les d\u00e9veloppeurs \u00e0 construire des mod\u00e8les plus robustes. Contre ces vuln\u00e9rabilit\u00e9s des IA, il a \u00e9t\u00e9 prouv\u00e9 que l’utilisation d’une base de donn\u00e9es plus diverse permet d’arriver \u00e0 de meilleurs r\u00e9sultats selon Patrick Grother, directeur de recherche en IA8<\/a><\/sup>. S\u2019il existe actuellement plusieurs m\u00e9thodes de d\u00e9fenses, aucune n\u2019est encore pleinement satisfaisante m\u00eame s’ils sont en constante \u00e9volution.<\/p>\n\n\n\n Ainsi, que ce soit intentionnel ou non, il arrive que l\u2019IA des syst\u00e8mes de reconnaissance d\u2019image puisse \u00eatre tromp\u00e9e<\/a>. Toutefois des techniques existent pour les renforcer. Les industriels l\u2019ont compris, leur but est donc d\u2019une part de prot\u00e9ger et de rendre plus robustes les r\u00e9seaux de neurones afin d\u2019\u00e9viter des attaques malveillantes et d\u2019autre part, de fiabiliser la performance de l\u2019IA pour une meilleure exp\u00e9rience utilisateur.<\/p>\n\n\n\n Il subsiste toujours des tensions li\u00e9es au cadre juridique, concernant l\u2019utilisation des donn\u00e9es utilisateurs notamment. Les diff\u00e9rents gouvernements doivent trouver l\u2019\u00e9quilibre entre des mesures pour conserver la confiance des utilisateurs, et d\u2019autres visant \u00e0 encourager l\u2019innovation. En l\u2019\u00e9tat actuel des choses, tout est en constante \u00e9volution et am\u00e9lioration. Et si de nouveaux dysfonctionnements sont d\u00e9tect\u00e9s, nous avons soit les solutions en main pour les contrer soit les outils pour les fabriquer.<\/p>\n\n\n\n La reconnaissance d’images n’est pas aussi puissante qu’on pourrait le croire, et certaines failles peuvent poser probl\u00e8me. En voici un aper\u00e7u. La reconnaissance d\u2019images s\u2019introduit de plus en plus dans notre quotidien. Elle est classiquement associ\u00e9e par exemple \u00e0 la d\u00e9tection de visage dans une image, ou \u00e0 l\u2019identification des personnes pr\u00e9sentes sur une photo. […]<\/p>\n","protected":false},"author":8,"featured_media":7196,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":"[{\"content\":\"Pr\u00e9sentation de la d\u00e9tection des visages et de la comparaison des visages - Amazon Rekognition<\/a>\",\"id\":\"843ec6cc-a2f1-4b27-849a-1faf39d2a58b\"},{\"content\":\"Niveau de confiance des Fran\u00e7ais en l'intelligence artificielle 2019 | Statista<\/a>\",\"id\":\"b8f32ec2-e7c5-4d3c-adb6-dfb3afd108e1\"},{\"content\":\"Reconnaissance faciale : les enjeux \u00e9thiques et juridiques d'une technologie qui fascine et inqui\u00e8te | IHEMI<\/a>\",\"id\":\"a6fb6596-5a9d-4e30-bd00-ea681edace34\"},{\"content\":\"Des syst\u00e8mes de reconnaissance faciale auraient \u00e9t\u00e9 tromp\u00e9s par des masques et photos<\/a>\",\"id\":\"5f41048b-eb9d-4306-bd19-bfe68d4fb320\"},{\"content\":\"[1312.6199] Intriguing properties of neural networks<\/a>\",\"id\":\"ba7c4ea6-0ee8-40d3-8f64-b6cd94becfec\"},{\"content\":\"Hacker les mod\u00e8les de deep learning facilement - ActuIA<\/a>\",\"id\":\"218f3d61-9028-4e39-b975-ffc4000b649f\"},{\"content\":\"Ce logiciel gratuit modifie vos photos pour que vous ne soyez pas identifi\u00e9 par reconnaissance faciale<\/a>\",\"id\":\"7bd05ef7-8b37-4260-8cff-11014d6cc6c6\"},{\"content\":\"La reconnaissance faciale, pas si fiable<\/a>\",\"id\":\"c42750fa-876d-4f24-b19d-34ea981834df\"}]"},"categories":[152],"tags":[162],"class_list":["post-7191","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia-technique","tag-vision-par-ordinateur"],"acf":[],"_links":{"self":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts\/7191","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/comments?post=7191"}],"version-history":[{"count":0,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts\/7191\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/media\/7196"}],"wp:attachment":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/media?parent=7191"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/categories?post=7191"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/tags?post=7191"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}R\u00e9glementation<\/h2>\n\n\n\n
D\u00e9fis<\/h2>\n\n\n\n
Conclusion<\/h2>\n\n\n\n
Sources<\/h2>\n\n\n