Le AI Act n’oblige pas seulement à mieux utiliser l’IA. Il oblige à la gouverner.
Au cours des dernières années, la discussion sur l’intelligence artificielle dans l’administration publique a été dominée par une question :
Comment pouvons-nous utiliser l’IA pour fournir des services de meilleure qualité ?
C’est une question logique, mais ce n’est plus suffisant.
Avec l’entrée en vigueur du Règlement européen sur l’intelligence artificielle (AI Act), la question change de manière significative.
La question ne se limite plus à ce que l’IA peut faire, mais devient :
Comment garantissons-nous que les systèmes d’IA soient utilisés de manière responsable, transparente et sous contrôle ?
Ce changement de perspective est probablement le plus grand défi pour les administrations publiques.
Car implanter un système basé sur l’IA ne consiste pas seulement à incorporer une nouvelle technologie. Cela suppose de prendre de nouvelles responsabilités quant à la manière dont certaines décisions sont prises, quelle information est utilisée, qui supervise le système et comment réagir lorsque quelque chose ne fonctionne pas comme prévu.
La gouvernance cesse d’être une question technologique pour devenir une responsabilité organisationnelle.
L'IA n'est pas seulement un projet technologique
Trop souvent, la mise en place de solutions basées sur l’IA commence par une évaluation fonctionnelle.
Pouvez-vous répondre à des questions ?
Pouvez-vous classer les documents ?
Pouvez-vous résumer les dossiers ?
Peut-on y assister avec un opérateur ?
Toutes ces questions sont importantes.
Mais aucune ne répond aux questions qui conditionnent réellement la viabilité du service.
Avant d'implémenter tout système, d'autres questions beaucoup plus pertinentes devraient être résolues.
- Qui est responsable du système pendant toute sa durée de vie ?
- Qui valide les informations que vous utilisez ?
- Comment sont gérés les changements réglementaires ?
- Que se passe-t-il lorsque plusieurs interprétations sont possibles ?
- Comment les erreurs sont-elles détectées avant qu’elles ne touchent la population ?
- Quel est le processus en place pour stopper le système si il ne se comporte pas comme prévu ?
Ces questions relèvent du domaine de la gouvernance.
Et ce sont précisément elles qui détermineront si un projet peut devenir un service stable.
Gérer signifie définir des responsabilités
L’un des principaux éléments positifs de la Loi sur l’IA est de transférer le débat de la technologie vers la responsabilité.
En pratique, toute organisation utilisant l’IA devrait pouvoir répondre clairement à des questions telles que :
- Quel but a le système.
- Quelles décisions peut-on appuyer ou automatiser ?.
- Quelles personnes interviennent dans leur supervision ?.
- Quelles informations utilise-t-il ?.
- Comment la qualité de cette information est contrôlée.
- Comment les modifications sont documentées.
- Comment les incidents et les réclamations sont gérés.
Il ne s'agit pas seulement de respecter un critère réglementaire.
Il s’agit de construire des services publics qui puissent être maintenus dans le temps avec des garanties.
Les informations officielles nécessitent une gouvernance spécifique
Dans l’administration publique, une grande partie de la valeur d’un assistant basé sur l’IA dépend de la qualité des informations officielles qu’il utilise.
Ordonnances.
Procédures.
Appels à candidatures.
Temps imparti.
Normes.
Informations publiées sur le site électronique.
Toute cette information change constamment.
C’est pourquoi l’un des principaux risques n’est pas que la IA « s’alunise ».
Le risque réel est d’offrir des informations désactualisées, incomplètes ou contradictoires provenant de sources dont la gouvernance n’est pas définie.
La question cesse d'être :
Pouvez-vous répondre correctement ?
Et cela devient :
Qui garantit que les informations resteront correctes demain ?
La surveillance humaine reste indispensable
Le AI Act met l’accent sur le contrôle humain en tant qu’un des éléments essentiels des systèmes IA.
Cependant, superviser ne signifie pas examiner toutes les réponses manuellement.
Cela signifie concevoir un modèle opérationnel où les responsabilités soient claires.
Qui valide ?.
Qui actualise ?.
Qui audite ?.
Qui peut arrêter le système ?.
C’est qui qui analyse les incidents ?.
Qui autorise les changements ?.
La supervision efficace fait partie du design du service ; elle n’apparaît pas après la mise en place.
La traçabilité génère confiance
Un autre aspect fondamental est la capacité à reconstruire ce qui s'est passé.
Lorsque un citoyen reçoit une réponse pertinente, l'organisation doit pouvoir comprendre :
- quelle information a-t-il utilisé le système,
- quelle version était en vigueur,
- Quand la réponse est survenue,
- quels contrôles existaient,
- et quel processus a été suivi.
La traçabilité n'est pas seulement un moyen de faciliter le respect des réglementations.
Il permet d’apprendre, de corriger les erreurs et d’améliorer continuellement le service.
Sans traçabilité, il est très difficile de gouverner un système basé sur l’IA.
De pilote à l'administration publique
De nombreux projets fonctionnent correctement lors d'une démonstration.
La véritable complexité apparaît lorsque le système devient partie intégrante de l'activité quotidienne.
À ce moment-là, de nouvelles besoins apparaissent.
Actualisation permanente.
Contrôle des modifications.
Gestion des incidents.
Revision des contenus.
Nouveaux règlements.
Audits.
Nouveaux responsables.
La différence entre un pilote et un service public ne se situe généralement pas dans la technologie.
Il est capable de le gouverner pendant des années.
La vision de CivitPhone
À CivitPhone, nous croyons que l’avenir de l’assistance publique ne dépend pas uniquement de disposer de meilleurs modèles d’intelligence artificielle.
Cela dépend de la construction de services qui puissent être maintenus en toute sécurité, transparence et contrôle.
C’est pourquoi nous concevons l’IA comme une capacité intégrée dans une architecture d’information et un modèle de gouvernance.
La technologie peut contribuer à améliorer l’attention portée aux citoyens.
Mais cela ne crée de confiance que lorsque l’on dispose d’une organisation capable de la superviser, de la maintenir et de la faire évoluer avec garanties.
C’est là le véritable défi que pose la Loi sur l’IA.
Et, probablement, aussi la meilleure occasion de moderniser de manière responsable l’attention portée aux citoyens.
