Avancer avec une IA de Confiance dans ArcGIS
Je l'évoque régulièrement depuis plusieurs années sur ce blog, comme de nombreux autres domaines, les SIG n'échappent pas à l'introduction d'outils et d'assistants d'IA pour augmenter les capacités des utilisateurs. Pour ArcGIS, l'année 2025 sera particulièrement riche en termes d'IA, en particulier avec l'arrivée de plusieurs assistants IA dans différentes applications. L'usage de l’intelligence artificielle peut inquiéter tout autant le grand public que les experts SIG et les scientifiques de la donnée que vous êtes. Les fantasmes sont nombreux, mais certaines craintes sont fondées. Face à cela, la charge est du côté des éditeurs de solutions logiciels tels qu'Esri d'expliquer les principes, les règles, les processus et les précautions qui régissent l'implémentation de ces nouvelles capacités dans leurs solutions.
L'Intelligence Artificielle de Confiance (IA) va au-delà de la simple obtention de résultats plus précis ou pertinents dans les produits ArcGIS. Elle implique une approche holistique, priorisant la sécurité, la confidentialité, la transparence, l'équité, la fiabilité et le développement responsable. Esri reconnaît le potentiel transformateur de l'IA pour construire un avenir durable mais les avancées rapides de l'IA générative mettent en lumière le besoin de cadres de déploiement de confiance, comblant le fossé de confiance envers l'IA. Pour cela, Esri vient de publier sur le site trust.arcgis.com ce document important décrivant les principes et les engagements du leader mondial des SIG pour fournir un IA de Confiance dans ArcGIS. Je résume l'essentiel dans cet article mais je vous recommande vivement la lecture complète de ce document.
Une IA de Confiance dans ArcGIS : un engagement durable vers une IA responsable et éthique
L’intelligence artificielle (IA) est en passe de transformer radicalement notre manière d’analyser et d’utiliser les données spatiales. Chez Esri, l’objectif ne se limite pas à obtenir des résultats précis et pertinents : il s'agit de bâtir une IA de confiance. Cela signifie garantir la sécurité, la transparence, l’équité, la fiabilité et le respect de la vie privée. Face aux récents progrès de l’IA générative, qui révolutionne la création de contenus (texte, images, etc.), des cadres robustes deviennent essentiels pour renforcer la confiance des utilisateurs.
Depuis plus de dix ans, Esri intègre des modèles d’apprentissage automatique (machine learning) et d’apprentissage profond (deep learning) pour analyser les données spatiales. Ces approches, regroupées sous l’appellation GeoAI, permettent d’identifier des modèles, de faire des prédictions ou encore de détecter des changements dans les données géospatiales. À mesure que l’IA générative se développe, Esri travaille à concilier innovation et responsabilité en s’assurant que ses outils intègrent des garanties solides.
Une approche structurée basée sur des principes forts
Esri a défini six principes directeurs pour le développement de ses solutions d’IA dans ArcGIS. Ces valeurs guident chaque étape de la conception et de la mise en œuvre :
- Sécurité : Adopter une approche "secure by design" pour prévenir les risques liés aux cyberattaques et garantir la robustesse des systèmes.
- Confidentialité : Protéger les données utilisateurs via des méthodes comme l’anonymisation et le respect des normes internationales en matière de vie privée.
- Transparence : Offrir une visibilité sur le fonctionnement des modèles d’IA, leurs limites et leurs impacts.
- Équité : Intégrer l’éthique dans les décisions pour éviter tout biais discriminatoire.
- Fiabilité : Tester les outils dans divers scénarios pour assurer des résultats constants et pertinents.
- Responsabilité : Maintenir une supervision humaine sur les décisions critiques, appuyée par des cadres de gouvernance clairs.
De la conception au contrôle utilisateur : des mesures concrètes
Esri s’engage à transformer ses principes en actions tangibles, avec des pratiques conçues pour bâtir la confiance :
- Conception : Chaque outil passe par un processus d'évaluation des risques et des tests rigoureux en laboratoire. Les solutions d'IA générative sont encadrées par des garde-fous éthiques et des validations contre les biais.
- Choix utilisateur : Les fonctionnalités d’IA générative d’ArcGIS sont optionnelles et activées uniquement lorsque l’utilisateur y consent. Cette approche garantit un contrôle total à chaque organisation.
- Données protégées : Les données fournies par les utilisateurs restent leur propriété et ne sont jamais utilisées pour entraîner des modèles, sauf autorisation explicite. Esri privilégie des pratiques de segmentation et collabore avec des tiers partageant ses exigences élevées en matière de sécurité.
Transparence et gouvernance : un partenariat nécessaire
Un aspect novateur introduit par Esri est la création de fiches de transparence d’IA (AI Transparency Cards). Ces documents décriront le fonctionnement des outils d’IA dans ArcGIS, les sources de données utilisées et les validations effectuées. Ces fiches offriront une vue complète aux utilisateurs, leur permettant d'intégrer ces outils en toute confiance.
Par ailleurs, Esri a mis en place en interne un comité de gouvernance transverse pour superviser l’utilisation de l’IA, garantissant ainsi l'alignement avec les principes et les réglementations internationales comme le Pacte sur IA introduit au niveau Européen en aout 2024.
Ensemble vers un avenir responsable
L’avenir de l’IA dans ArcGIS repose sur une collaboration active entre Esri et ses utilisateurs. Alors qu’Esri continue d’innover avec des outils comme les assistants génératifs, les organisations sont invitées à jouer un rôle actif : respecter les bonnes pratiques en matière de données, fournir des retours d’expérience et rester attentifs aux implications éthiques de leurs usages.
En combinant technologie et responsabilité, Esri ouvre la voie à une IA qui soutient les objectifs sociétaux tout en préservant la confiance. Ensemble, nous pouvons construire un avenir où l’IA transforme positivement le monde, avec des solutions fiables, transparentes et éthiques.
