« L’IA est un outil. Ce sont les agents, décideurs et usagers qui, par leurs choix, leurs vigilances et leurs usages, détermineront si cette technologie renforce ou affaiblit la valeur du service public », conclut un livre blanc récemment publié par Metapolis, cabinet français spécialisé dans la transformation numérique du secteur public. Intitulé : "Le service public à l'ère de l'intelligence artificielle : point d'étape", il concerne l’IA dans sa globalité, mais il accorde une attention particulière aux solutions d’IA générative car « se sont elles qui occupent aujourd’hui le devant de la scène, tant par la rapidité de leur diffusion que par les interrogations qu’elles suscitent », précise le document.

Premier constat : « L’intelligence artificielle ne se contente plus d’alimenter les conversations et les effets d’annonce. Elle s’installe concrètement dans les usages quotidiens d’un nombre croissant de citoyennes et de citoyens, dont certains sont également agents du service public. » L’IA est donc désormais un outil du quotidien pour une partie des agents des territoires, ce qui transforme les modes de travail au sein des administrations. Pourquoi cette adoption ? Car les agents passent une grande partie de leur temps à manipuler l’information, ce qui en fait une cible naturelle pour les outils génératifs.

Parmi les principaux usages évoqués par Metapolis figurent ainsi la rédaction automatique et le résumé de texte. Le livre blanc évoque également les chatbots et autres agents conversationnels, ainsi que l’analyse d’images par IA (ex : détection des dépôts sauvages), l’optimisation de planification des travaux publics ou encore la maintenance préventive d’équipements.

Metapolis observe aussi l’arrivée des agents IA, ces systèmes capables d'exécuter des tâches de manière autonome pour le compte d'un utilisateur ou d'un autre système. Avec les agents IA, les usages vont évoluer vers la coordination de plusieurs tâches, l’intégration avec les systèmes métiers ou encore l’interaction proactive avec les usagers et agents. Attention cependant : « Ces agents ne peuvent pleinement exprimer leur potentiel que s’ils accèdent à des données à jour et contextualisées, issues du système d’information de l’organisation. Cela suppose donc une intégration plus fine de l’IA au sein du SI, avec les exigences que cela implique : accès sécurisé aux données, interopérabilité, gestion des droits, traçabilité des échanges, etc. »

Les risques du shadow IA

Metapolis observe une montée du « shadow IA » dans les collectivités, ces usages non encadrés d’outils d’IA en version gratuite tels que ChatGPT. « Le shadow IA génère des failles en matière de sécurité, de conformité réglementaire (avec le RGPD), de gouvernance des données et de souveraineté technologique », souligne Metapolis. Le Livre blanc met aussi en garde contre la solitude des utilisateurs que génère le shadow IA. « Au travers de nos accompagnements, nous avons pu faire le constat de l’inconfort voire de la pression psychologique que ces pratiques informelles peuvent générer : les agents expriment de l’inconfort, parfois même de la honte, ont le sentiment de « tricher » et la crainte d’être sanctionnés ».

Mais cette utilisation « bricolante » de l’IA répond souvent à des besoins concrets. Il ne s’agit donc pas de bannir complètement ces pratiques mais de les comprendre et de s’en servir pour construire un cadre des usages autorisés de l’IA au sein de la collectivité.

Performances surestimées et ROI difficile à estimer

Le livre blanc point également quelques points vigilance. Concernant l’IA générative, Metapolis rappelle ainsi qu’il s’agit d’une « IA faible » qui ne raisonne pas et n’est pas une base de données. Les taux d’erreur encore élevés — « 60 % de réponses incorrectes » sans RAG et de « 17 à 33 % » avec RAG — montrent que la supervision humaine reste indispensable.

Le Livre blanc insiste également sur le décalage entre perception et performance réelle, rappelant les conclusions d’une récente étude du laboratoire américain indépendant METR (Model Evaluation & Threat Research) : « dans des conditions réelles de développement logiciel, des développeurs expérimentés utilisant des outils d’IA générative ont été en moyenne 19% plus lents, tout en estimant avoir gagné 20% de temps. Autrement dit, ils étaient convaincus d’être plus efficaces alors que leur performance objective diminuait ».

Autre point de vigilance : l’équation économique reste floue. « Les modèles économiques de l’IA ne sont pas encore stabilisés. Licences, coûts d’usage variables, besoins en puissance de calcul : les premières tensions apparaissent entre ce qui est promis et ce qui est financièrement tenable. Nos échanges avec les éditeurs et les administrations le confirment : il y a un décalage entre les discours sur le retour sur investissement et la réalité des coûts, surtout dans un contexte où réduire les effectifs n’est ni souhaité ni réaliste ».

Le document se conclut sur une vision humaniste : « Ce n’est pas la machine qui transformera l’administration : c’est la capacité des organisations à garder l’humain au centre de leurs priorités. » Metapolis invite ainsi les décideurs publics à avancer « à la fois individuellement et collectivement, de manière réaliste, responsable et structurée, en s’appuyant sur la richesse des cas d’usage existants pour transformer l’enthousiasme autour de l’IA en résultats tangibles pour les territoires ».