{"id":6966,"date":"2022-01-11T16:05:00","date_gmt":"2022-01-11T15:05:00","guid":{"rendered":"https:\/\/numalis.com\/?p=6966"},"modified":"2025-01-14T14:53:31","modified_gmt":"2025-01-14T13:53:31","slug":"comment-construire-de-la-confiance-dans-lusage-de-lia-en-ville","status":"publish","type":"post","link":"https:\/\/numalis.com\/fr\/comment-construire-de-la-confiance-dans-lusage-de-lia-en-ville\/","title":{"rendered":"Comment construire de la confiance dans l\u2019usage de l\u2019IA en ville ?"},"content":{"rendered":"\n

\u00ab 73 % des Fran\u00e7ais d\u00e9clarent que le d\u00e9veloppement d\u2019une IA de confiance est un enjeu important, voire essentiel \u00bb1<\/a><\/sup>.<\/p>\n\n\n\n

C’est l’un des r\u00e9sultats de l’enqu\u00eate sur la notori\u00e9t\u00e9 et l’image de l’IA en France men\u00e9e en 2020 par l’IFOP et le Think and do tank Impact AI. Cette enqu\u00eate met en \u00e9vidence le d\u00e9ficit de confiance des citoyens, qui peut \u00eatre caus\u00e9 par le manque de cadre des projets d’IA, y compris ceux concernant l’IA urbaine2<\/a><\/sup>.<\/p>\n\n\n\n

Selon la CNIL, la smart-city est un espace urbain qui vise \u00e0 \u00ab am\u00e9liorer la qualit\u00e9 de vie des citadins en rendant la ville plus adaptative et plus efficace, gr\u00e2ce aux nouvelles technologies qui s’appuient sur un \u00e9cosyst\u00e8me d’objets et de services \u00bb3<\/a><\/sup>.<\/p>\n\n\n\n

La confiance \u00e9tant une condition n\u00e9cessaire au d\u00e9veloppement et \u00e0 l’adoption de l’IA dans les villes intelligentes4<\/a><\/sup>, il est important de comprendre l’origine de cette m\u00e9fiance et les solutions qui pourraient \u00eatre apport\u00e9es.<\/p>\n\n\n\n

Les raisons d\u2019une telle rupture<\/h2>\n\n\n\n

L\u2019IA est une technologie incomprise par la population. Il est normal que sa diffusion dans les champs d\u2019application de la smart-city augmente la m\u00e9fiance des citoyens. En effet, d\u2019apr\u00e8s la m\u00eame enqu\u00eate de l\u2019IFOP, \u00ab Plus des deux tiers des Fran\u00e7ais se disent mal inform\u00e9s sur les possibilit\u00e9s offertes par l\u2019IA \u00bb. <\/p>\n\n\n\n

Cette incompr\u00e9hension de l\u2019IA peut se traduire en un scepticisme et m\u00eame parfois jusqu\u2019\u00e0 la d\u00e9fiance5<\/a><\/sup>. Dans cette masse de craintes, il est tout de m\u00eame possible de faire ressortir plusieurs sujets centraux d\u2019inqui\u00e9tude pour les citoyens.<\/p>\n\n\n\n

Tout d\u2019abord la question de la s\u00e9curit\u00e9 des donn\u00e9es priv\u00e9es. En effet, les citoyens craignent l\u2019\u00e9mergence de certaines technologies, telles que la surveillance biom\u00e9trique, qui peuvent \u00eatre d\u00e9tourn\u00e9es \u00e0 des fins autoritaires6<\/a><\/sup>. Toujours en citant l\u2019\u00e9tude sur la notori\u00e9t\u00e9 et l\u2019image de l\u2019IA en France, 24% des sond\u00e9s justifient leurs m\u00e9fiances \u00ab par le risque d\u2019une utilisation malveillante de la technologie \u00bb et pour 20% des interrog\u00e9s \u00ab par un risque en termes de protection des donn\u00e9es \u00bb7<\/a><\/sup>.<\/p>\n\n\n\n

De plus, plusieurs probl\u00e8mes de biais ont pu \u00eatre observ\u00e9s<\/a> dans diff\u00e9rentes villes testant l\u2019IA. En effet, l\u2019IA mod\u00e9lise les donn\u00e9es qu\u2019on lui donne. Si ces donn\u00e9es sont biais\u00e9es, l\u2019IA le sera aussi. En outre, de par la volum\u00e9trie des donn\u00e9es que traite une smart-city, il peut devenir difficile d\u2019identifier l\u2019origine et de corriger ces biais.<\/p>\n\n\n\n

Parmi ceux-ci, nous pouvons citer les risques de diff\u00e9rence de traitements des individus. En effet, un biais de fonctionnement peut entrainer une discrimination d\u2019une minorit\u00e9 de citoyens. La ville d\u2019Oakland en a fait l\u2019exp\u00e9rience avec la mise en place de l\u2019outil de pr\u00e9diction de crime \u00ab Predpol \u00bb8<\/a><\/sup>. Cette \u00ab police pr\u00e9dictive \u00bb ciblait davantage les minorit\u00e9s noires et latinos que la majorit\u00e9 blanche car elle avait \u00e9t\u00e9 aliment\u00e9e par des donn\u00e9es possiblement discriminantes.<\/p>\n\n\n\n

L\u2019IA reste un outil en tant que tel et il est intrins\u00e8quement neutre. L\u2019origine des biais incombe en r\u00e9alit\u00e9 tr\u00e8s souvent \u00e0 l\u2019humain. Ces faits divers viennent alors entamer la confiance naissante que peuvent avoir les citoyens pour l\u2019intelligence artificielle.<\/p>\n\n\n\n

Recommandations pour l\u2019adoption de l\u2019IA dans des villes intelligentes<\/h2>\n\n\n\n

Il est possible de consid\u00e9rer les points suivants pour renforcer la confiance du public dans le d\u00e9veloppement de l\u2019IA pour les projets de smart-cities. Ces consid\u00e9rations sont par ailleurs d\u00e9j\u00e0 propos\u00e9es officiellement et parfois exp\u00e9riment\u00e9es.<\/p>\n\n\n\n

Cr\u00e9er un \u00ab tiers de confiance \u00bb<\/h3>\n\n\n\n

Premi\u00e8rement, la gouvernance des donn\u00e9es g\u00e9n\u00e9r\u00e9es par les smart-cities devrait \u00eatre assum\u00e9e par la puissance publique. De la sorte il est possible d\u2019encadrer l\u2019usage des donn\u00e9es au b\u00e9n\u00e9fice de la population. Dans cette configuration, les acteurs priv\u00e9s ne sont pas exclus des donn\u00e9es mais ils sont des d\u00e9l\u00e9gataires du service public et la ville reste garante de l\u2019usage qu\u2019ils font des donn\u00e9es. <\/p>\n\n\n\n

Cette r\u00e9partition des r\u00f4les peut se faire de deux fa\u00e7ons diff\u00e9rentes. Soit par l\u2019enti\u00e8re prise en charge des donn\u00e9es par la puissance publique, soit par la possibilit\u00e9 pour celle-ci, d\u2019exercer un droit de regard sur la gestion des donn\u00e9es.<\/p>\n\n\n\n

Dans le premier cas, les autorit\u00e9s peuvent installer des infrastructures informatiques directement dans les collectivit\u00e9s locales recueillant les donn\u00e9es des administr\u00e9s (exemple de la cr\u00e9ation du Datacenter de la ville de Paris9<\/a><\/sup>) tout en ouvrant un acc\u00e8s aux acteurs priv\u00e9s.<\/p>\n\n\n\n

Dans le deuxi\u00e8me cas, il est possible de laisser les acteurs priv\u00e9s mettre en place leurs installations. Mais ces derniers doivent \u00eatre contraints au travers de plateformes de donn\u00e9es permettant l\u2019\u00e9change de donn\u00e9es entre les acteurs priv\u00e9s, publics et les citoyens. Ces plateformes centralisent et s\u00e9curisent les donn\u00e9es au sein d\u2019une seule infrastructure dont l\u2019acteur public reste le garant. <\/p>\n\n\n\n

C\u2019est le cas par exemple de la plateforme PRIDE appliqu\u00e9e dans les r\u00e9gions Bretagne et Pays de Loire10<\/a><\/sup>. Cette plateforme joue alors le r\u00f4le de \u00ab tiers de confiance \u00bb pour l\u2019ensemble des acteurs11<\/a><\/sup>.<\/p>\n\n\n\n

Assurer la transparence des m\u00e9thodes de traitements<\/h3>\n\n\n\n

Deuxi\u00e8mement, pour renforcer la confiance des citoyens, une piste est de rendre plus transparent le fonctionnement des IA en montrant l\u2019ensemble des motifs qu\u2019elle identifie pour prendre sa d\u00e9cision. Cependant, une transparence simple n\u2019est pas suffisante ; il faut \u00e9galement \u00eatre en mesure de rendre l\u2019IA explicable, i.e., la mettre dans le contexte de son emploi et fournir une explication que le r\u00e9cepteur est en mesure de comprendre.<\/p>\n\n\n\n

En suivant cette d\u00e9marche d\u2019ouverture, les villes d’Amsterdam aux Pays-Bas et d’Helsinki en Finlande ont fait le choix de rendre public \u00ab\u00a0un registre sur l’IA\u00a0\u00bb pour pr\u00e9senter les motifs utilis\u00e9s par l\u2019IA permettant l’identification de place libre pour le stationnement12<\/a><\/sup>.<\/p>\n\n\n\n

Entamer la construction d\u2019un cadre normatif<\/h3>\n\n\n\n

Troisi\u00e8mement, il est possible d\u2019adresser les risques de biais dans les solutions mises en place pour les citoyens et ainsi \u00e9viter les accidents m\u00e9diatiques qui ont \u00e9maill\u00e9 le d\u00e9ploiement de cette technologie. Le cas de PredPol cit\u00e9 pr\u00e9c\u00e9demment est en cela un cas d\u2019\u00e9cole. Ceci passe par exemple par la cr\u00e9ation de normes pour pr\u00e9venir des biais techniques de l\u2019IA comme celles en cours de r\u00e9daction au sein de l\u2019ISO\/IEC JTC 1\/SC 4213<\/a><\/sup> ou dans le groupe ISO\/IEC JTC 1\/WG 1114<\/a><\/sup>. La standardisation des IA permettra alors de r\u00e9duire les risques de biais de discrimination, d\u2019exclusion ou d\u2019\u00e9chantillonnage.<\/p>\n\n\n\n

Conclusion<\/h2>\n\n\n\n

Bien que la population soit m\u00e9fiante face \u00e0 l\u2019impl\u00e9mentation de l\u2019IA en ville, il semble que cette technologie soit toujours utilis\u00e9e dans le futur. En effet, son march\u00e9 est en pleine croissance et pourra atteindre 1100 milliards d\u2019euros en 202515<\/a><\/sup>. Il est donc important de produire un cadre \u00e9thique \u00e0 l\u2019emploi de l\u2019IA en smart-city. Celui-ci passerait par des d\u00e9marches juridiques, de transparence et de standardisation de l\u2019IA.<\/p>\n\n\n\n

Apr\u00e8s la confiance, l\u2019\u00e9tape suivante pour les pouvoirs publics, serait de d\u00e9velopper l\u2019appropriation de l\u2019IA par les citoyens. En cela, si la smart-city se veut v\u00e9ritablement participative, il faut alors engager les citoyens dans le processus de mise en place de l\u2019IA \u00e0 l\u2019image du crowndsourcing r\u00e9alis\u00e9 par la ville du Caire16<\/a><\/sup>. Des initiatives collaboratives pourront ainsi se mettre en place. Ces derni\u00e8res r\u00e9unissant les d\u00e9cideurs publics et les citoyens pour discuter de probl\u00e8mes sociaux et convenir de la mani\u00e8re d\u2019employer l\u2019IA.<\/p>\n\n\n\n

Sources<\/h2>\n\n\n
  1. Observatoire de la Notori\u00e9t\u00e9 et de l\u2019Image de l\u2019Intelligence Artificielle en France \u2013 Edition 2020<\/a> \u21a9\ufe0e<\/a><\/li>
  2. Pourquoi Google abandonne son projet de smart city \u00e0 Toronto<\/a> \u21a9\ufe0e<\/a><\/li>
  3. Smart city | CNIL<\/a> \u21a9\ufe0e<\/a><\/li>
  4. \u00ab\u00a0La confiance dans l’IA est une condition \u00e0 son d\u00e9veloppement\u00a0\u00bb, estime Guillaume Bodiou (Quantmetry)<\/a> \u21a9\ufe0e<\/a><\/li>
  5. Smart City et reconnaissance faciale : entre dangers et s\u00e9curit\u00e9 | M\u00e9dicis Immobilier Neuf<\/a> \u21a9\ufe0e<\/a><\/li>
  6. Intelligence artificielle : l’UE va-t-elle autoriser la surveillance biom\u00e9trique ? | TV5MONDE – Informations<\/a> \u21a9\ufe0e<\/a><\/li>
  7. Observatoire de la Notori\u00e9t\u00e9 et de l\u2019Image de l\u2019Intelligence Artificielle en France<\/a> \u21a9\ufe0e<\/a><\/li>
  8. Police pr\u00e9dictive, LegalTech : les algorithmes font-ils la loi ?<\/a><\/em> \u21a9\ufe0e<\/a><\/li>
  9. La Ville innove en se dotant de son propre Data Center<\/a> \u21a9\ufe0e<\/a><\/li>
  10. PRIDE | Smile<\/a> \u21a9\ufe0e<\/a><\/li>
  11. Smart Cities : l\u2019enjeu de la gouvernance des donn\u00e9es – SpinPart<\/a> \u21a9\ufe0e<\/a><\/li>
  12. Opinion | Quel contrat social pour l’intelligence artificielle ? | Les Echos<\/a> \u21a9\ufe0e<\/a><\/li>
  13. ISO\/IEC JTC 1\/SC 42 – Intelligence artificielle<\/a> \u21a9\ufe0e<\/a><\/li>
  14. IEC WG 11 Dashboard > Structure: Subcommittee(s) and\/or Working Group(s), Membership, Officers, Liaisons<\/a> \u21a9\ufe0e<\/a><\/li>
  15. Alain Chagnaud Partner Secteur Public Roland Berger<\/a> \u21a9\ufe0e<\/a><\/li>
  16. Quelle place pour les initiatives citoyennes dans les smart cities ?<\/a> \u21a9\ufe0e<\/a><\/li><\/ol>","protected":false},"excerpt":{"rendered":"

    \u00ab 73 % des Fran\u00e7ais d\u00e9clarent que le d\u00e9veloppement d\u2019une IA de confiance est un enjeu important, voire essentiel \u00bb. C’est l’un des r\u00e9sultats de l’enqu\u00eate sur la notori\u00e9t\u00e9 et l’image de l’IA en France men\u00e9e en 2020 par l’IFOP et le Think and do tank Impact AI. Cette enqu\u00eate met en \u00e9vidence le d\u00e9ficit […]<\/p>\n","protected":false},"author":8,"featured_media":6971,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":"[{\"content\":\"Observatoire de la Notori\u00e9t\u00e9 et de l\u2019Image de l\u2019Intelligence Artificielle en France \u2013 Edition 2020<\/a>\",\"id\":\"31a36686-9a16-4510-b2e1-986e9a5ae921\"},{\"content\":\"Pourquoi Google abandonne son projet de smart city \u00e0 Toronto<\/a>\",\"id\":\"90d73d48-6d39-4ec1-b3bc-ae6eab21bcb9\"},{\"content\":\"Smart city | CNIL<\/a>\",\"id\":\"7066ffb9-d18b-4189-bddf-67560f962749\"},{\"content\":\"\\\"La confiance dans l'IA est une condition \u00e0 son d\u00e9veloppement\\\", estime Guillaume Bodiou (Quantmetry)<\/a>\",\"id\":\"0f812ec0-92cc-4791-b472-7fc1c653020d\"},{\"content\":\"Smart City et reconnaissance faciale : entre dangers et s\u00e9curit\u00e9 | M\u00e9dicis Immobilier Neuf<\/a>\",\"id\":\"bce05fe4-7147-4563-8af9-b7f30553e7e8\"},{\"content\":\"Intelligence artificielle : l'UE va-t-elle autoriser la surveillance biom\u00e9trique ? | TV5MONDE - Informations<\/a>\",\"id\":\"2911d6cf-9f74-4f6f-9273-f8c4d2cf5f15\"},{\"content\":\"Observatoire de la Notori\u00e9t\u00e9 et de l\u2019Image de l\u2019Intelligence Artificielle en France<\/a>\",\"id\":\"d3b218bb-1025-453f-bb2c-8e017c6bb944\"},{\"content\":\"Police pr\u00e9dictive, LegalTech : les algorithmes font-ils la loi ?<\/a><\/em>\",\"id\":\"2871303e-ee33-42e7-8b82-b4363b520747\"},{\"content\":\"La Ville innove en se dotant de son propre Data Center<\/a>\",\"id\":\"f37d5642-6647-4d5f-86e3-53d1c7d7e129\"},{\"content\":\"PRIDE | Smile<\/a>\",\"id\":\"1b2303d8-7cfb-4129-8deb-ec3b40a57fef\"},{\"content\":\"Smart Cities : l\u2019enjeu de la gouvernance des donn\u00e9es - SpinPart<\/a>\",\"id\":\"ec6353a5-d13b-4924-a9ad-85fcfc93339a\"},{\"content\":\"Opinion | Quel contrat social pour l'intelligence artificielle ? | Les Echos<\/a>\",\"id\":\"24aa3a4e-5d22-4bec-bb0b-5adfe281c3ca\"},{\"content\":\"ISO\/IEC JTC 1\/SC 42 - Intelligence artificielle<\/a>\",\"id\":\"c7cb0569-210e-4fa5-8bdd-efdb6ef94b7b\"},{\"content\":\"IEC WG 11 Dashboard > Structure: Subcommittee(s) and\/or Working Group(s), Membership, Officers, Liaisons<\/a>\",\"id\":\"2d13aae3-0da9-4c7d-8ee0-c0f75018c5ed\"},{\"content\":\"Alain Chagnaud Partner Secteur Public Roland Berger<\/a>\",\"id\":\"506717cb-cea9-437f-9bc3-c77952fc0c3d\"},{\"content\":\"Quelle place pour les initiatives citoyennes dans les smart cities ?<\/a>\",\"id\":\"761740b2-3856-4f52-a111-de5cfb330765\"}]"},"categories":[149],"tags":[187],"class_list":["post-6966","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia-et-industrie","tag-villes-intelligentes"],"acf":[],"_links":{"self":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts\/6966","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/comments?post=6966"}],"version-history":[{"count":0,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/posts\/6966\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/media\/6971"}],"wp:attachment":[{"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/media?parent=6966"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/categories?post=6966"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/numalis.com\/fr\/wp-json\/wp\/v2\/tags?post=6966"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}