Comment construire de la confiance dans l’usage de l’IA en ville ?

« 73 % des Français déclarent que le développement d’une IA de confiance est un enjeu important, voire essentiel »¹.

C’est l’un des résultats de l’enquête sur la notoriété et l’image de l’IA en France menée en 2020 par l’IFOP et le Think and do tank Impact AI. Cette enquête met en évidence le déficit de confiance des citoyens, qui peut être causé par le manque de cadre des projets d’IA, y compris ceux concernant l’IA urbaine².

Selon la CNIL, la smart-city est un espace urbain qui vise à « améliorer la qualité de vie des citadins en rendant la ville plus adaptative et plus efficace, grâce aux nouvelles technologies qui s’appuient sur un écosystème d’objets et de services »³.

La confiance étant une condition nécessaire au développement et à l’adoption de l’IA dans les villes intelligentes⁴, il est important de comprendre l’origine de cette méfiance et les solutions qui pourraient être apportées.

Les raisons d’une telle rupture

L’IA est une technologie incomprise par la population. Il est normal que sa diffusion dans les champs d’application de la smart-city augmente la méfiance des citoyens. En effet, d’après la même enquête de l’IFOP, « Plus des deux tiers des Français se disent mal informés sur les possibilités offertes par l’IA ».

Cette incompréhension de l’IA peut se traduire en un scepticisme et même parfois jusqu’à la défiance⁵. Dans cette masse de craintes, il est tout de même possible de faire ressortir plusieurs sujets centraux d’inquiétude pour les citoyens.

Tout d’abord la question de la sécurité des données privées. En effet, les citoyens craignent l’émergence de certaines technologies, telles que la surveillance biométrique, qui peuvent être détournées à des fins autoritaires⁶. Toujours en citant l’étude sur la notoriété et l’image de l’IA en France, 24% des sondés justifient leurs méfiances « par le risque d’une utilisation malveillante de la technologie » et pour 20% des interrogés « par un risque en termes de protection des données »⁷.

De plus, plusieurs problèmes de biais ont pu être observés dans différentes villes testant l’IA. En effet, l’IA modélise les données qu’on lui donne. Si ces données sont biaisées, l’IA le sera aussi. En outre, de par la volumétrie des données que traite une smart-city, il peut devenir difficile d’identifier l’origine et de corriger ces biais.

Parmi ceux-ci, nous pouvons citer les risques de différence de traitements des individus. En effet, un biais de fonctionnement peut entrainer une discrimination d’une minorité de citoyens. La ville d’Oakland en a fait l’expérience avec la mise en place de l’outil de prédiction de crime « Predpol »⁸. Cette « police prédictive » ciblait davantage les minorités noires et latinos que la majorité blanche car elle avait été alimentée par des données possiblement discriminantes.

L’IA reste un outil en tant que tel et il est intrinsèquement neutre. L’origine des biais incombe en réalité très souvent à l’humain. Ces faits divers viennent alors entamer la confiance naissante que peuvent avoir les citoyens pour l’intelligence artificielle.

Recommandations pour l’adoption de l’IA dans des villes intelligentes

Il est possible de considérer les points suivants pour renforcer la confiance du public dans le développement de l’IA pour les projets de smart-cities. Ces considérations sont par ailleurs déjà proposées officiellement et parfois expérimentées.

Créer un « tiers de confiance »

Premièrement, la gouvernance des données générées par les smart-cities devrait être assumée par la puissance publique. De la sorte il est possible d’encadrer l’usage des données au bénéfice de la population. Dans cette configuration, les acteurs privés ne sont pas exclus des données mais ils sont des délégataires du service public et la ville reste garante de l’usage qu’ils font des données.

Cette répartition des rôles peut se faire de deux façons différentes. Soit par l’entière prise en charge des données par la puissance publique, soit par la possibilité pour celle-ci, d’exercer un droit de regard sur la gestion des données.

Dans le premier cas, les autorités peuvent installer des infrastructures informatiques directement dans les collectivités locales recueillant les données des administrés (exemple de la création du Datacenter de la ville de Paris⁹) tout en ouvrant un accès aux acteurs privés.

Dans le deuxième cas, il est possible de laisser les acteurs privés mettre en place leurs installations. Mais ces derniers doivent être contraints au travers de plateformes de données permettant l’échange de données entre les acteurs privés, publics et les citoyens. Ces plateformes centralisent et sécurisent les données au sein d’une seule infrastructure dont l’acteur public reste le garant.

C’est le cas par exemple de la plateforme PRIDE appliquée dans les régions Bretagne et Pays de Loire¹⁰. Cette plateforme joue alors le rôle de « tiers de confiance » pour l’ensemble des acteurs¹¹.

Assurer la transparence des méthodes de traitements

Deuxièmement, pour renforcer la confiance des citoyens, une piste est de rendre plus transparent le fonctionnement des IA en montrant l’ensemble des motifs qu’elle identifie pour prendre sa décision. Cependant, une transparence simple n’est pas suffisante ; il faut également être en mesure de rendre l’IA explicable, i.e., la mettre dans le contexte de son emploi et fournir une explication que le récepteur est en mesure de comprendre.

En suivant cette démarche d’ouverture, les villes d’Amsterdam aux Pays-Bas et d’Helsinki en Finlande ont fait le choix de rendre public « un registre sur l’IA » pour présenter les motifs utilisés par l’IA permettant l’identification de place libre pour le stationnement¹².

Entamer la construction d’un cadre normatif

Troisièmement, il est possible d’adresser les risques de biais dans les solutions mises en place pour les citoyens et ainsi éviter les accidents médiatiques qui ont émaillé le déploiement de cette technologie. Le cas de PredPol cité précédemment est en cela un cas d’école. Ceci passe par exemple par la création de normes pour prévenir des biais techniques de l’IA comme celles en cours de rédaction au sein de l’ISO/IEC JTC 1/SC 42¹³ ou dans le groupe ISO/IEC JTC 1/WG 11¹⁴. La standardisation des IA permettra alors de réduire les risques de biais de discrimination, d’exclusion ou d’échantillonnage.

Conclusion

Bien que la population soit méfiante face à l’implémentation de l’IA en ville, il semble que cette technologie soit toujours utilisée dans le futur. En effet, son marché est en pleine croissance et pourra atteindre 1100 milliards d’euros en 2025¹⁵. Il est donc important de produire un cadre éthique à l’emploi de l’IA en smart-city. Celui-ci passerait par des démarches juridiques, de transparence et de standardisation de l’IA.

Après la confiance, l’étape suivante pour les pouvoirs publics, serait de développer l’appropriation de l’IA par les citoyens. En cela, si la smart-city se veut véritablement participative, il faut alors engager les citoyens dans le processus de mise en place de l’IA à l’image du crowndsourcing réalisé par la ville du Caire¹⁶. Des initiatives collaboratives pourront ainsi se mettre en place. Ces dernières réunissant les décideurs publics et les citoyens pour discuter de problèmes sociaux et convenir de la manière d’employer l’IA.