El AI Act no obliga solo a utilizar mejor la IA. Obliga a gobernarla.
Durante los últimos años, la conversación sobre inteligencia artificial en la Administración Pública ha estado dominada por una pregunta:
¿Cómo podemos utilizar la IA para prestar mejores servicios?
Es una pregunta lógica, pero ya no es suficiente.
Con la entrada en vigor del Reglamento Europeo de Inteligencia Artificial (AI Act), la cuestión cambia de forma significativa.
La pregunta deja de ser únicamente qué puede hacer la IA y pasa a ser:
¿Cómo garantizamos que los sistemas de IA se utilizan de forma responsable, transparente y bajo control?
Ese cambio de perspectiva es probablemente el mayor desafío para las administraciones públicas.
Porque implantar un sistema basado en IA no consiste únicamente en incorporar una nueva tecnología. Supone asumir nuevas responsabilidades sobre cómo se toman determinadas decisiones, qué información se utiliza, quién supervisa el sistema y cómo se responde cuando algo no funciona como estaba previsto.
La gobernanza deja de ser una cuestión tecnológica para convertirse en una responsabilidad organizativa.
La IA no es solo un proyecto tecnológico
Con demasiada frecuencia la implantación de soluciones basadas en IA comienza con una evaluación funcional.
¿Puede responder preguntas?
¿Puede clasificar documentos?
¿Puede resumir expedientes?
¿Puede asistir a un operador?
Todas esas preguntas son importantes.
Pero ninguna responde a las cuestiones que realmente condicionan la sostenibilidad del servicio.
Antes de implantar cualquier sistema deberían resolverse otras preguntas mucho más relevantes.
- ¿Quién es responsable del sistema durante toda su vida útil?
- ¿Quién valida la información que utiliza?
- ¿Cómo se gestionan los cambios normativos?
- ¿Qué ocurre cuando existen varias interpretaciones posibles?
- ¿Cómo se detectan errores antes de que afecten a la ciudadanía?
- ¿Qué procedimiento existe para detener el sistema si deja de comportarse como se esperaba?
Estas preguntas pertenecen al ámbito de la gobernanza.
Y son precisamente las que determinarán si un proyecto puede convertirse en un servicio estable.
Gobernar significa definir responsabilidades
Una de las principales aportaciones del AI Act es trasladar la conversación desde la tecnología hacia la responsabilidad.
En la práctica, toda organización que utilice IA debería poder responder con claridad a cuestiones como:
- Qué finalidad tiene el sistema.
- Qué decisiones puede apoyar o automatizar.
- Qué personas intervienen en su supervisión.
- Qué información utiliza.
- Cómo se controla la calidad de esa información.
- Cómo se documentan las modificaciones.
- Cómo se gestionan incidencias y reclamaciones.
No se trata únicamente de cumplir un requisito normativo.
Se trata de construir servicios públicos que puedan mantenerse en el tiempo con garantías.
La información oficial necesita una gobernanza específica
En la Administración Pública, gran parte del valor de un asistente basado en IA depende de la calidad de la información oficial que utiliza.
Ordenanzas.
Procedimientos.
Convocatorias.
Plazos.
Normativa.
Información publicada en la sede electrónica.
Toda esa información cambia continuamente.
Por eso uno de los mayores riesgos no es que la IA «alucine».
El riesgo real es ofrecer información desactualizada, incompleta o contradictoria procedente de fuentes cuya gobernanza no está definida.
La pregunta deja de ser:
¿Puede responder correctamente?
Y pasa a ser:
¿Quién garantiza que la información sigue siendo correcta mañana?
La supervisión humana sigue siendo imprescindible
El AI Act pone el foco en la supervisión humana como uno de los elementos esenciales de los sistemas de IA.
Sin embargo, supervisar no significa revisar todas las respuestas manualmente.
Significa diseñar un modelo operativo donde existan responsabilidades claras.
Quién valida.
Quién actualiza.
Quién audita.
Quién puede detener el sistema.
Quién analiza incidencias.
Quién autoriza cambios.
La supervisión eficaz forma parte del diseño del servicio, no aparece después de la implantación.
La trazabilidad genera confianza
Otro aspecto fundamental es la capacidad para reconstruir qué ocurrió.
Cuando un ciudadano recibe una respuesta relevante, la organización debe poder comprender:
- qué información utilizó el sistema,
- qué versión estaba vigente,
- cuándo se produjo la respuesta,
- qué controles existían,
- y qué procedimiento se siguió.
La trazabilidad no solo facilita el cumplimiento normativo.
Permite aprender, corregir errores y mejorar continuamente el servicio.
Sin trazabilidad resulta muy difícil gobernar un sistema basado en IA.
Del piloto al servicio público
Muchos proyectos funcionan correctamente durante una demostración.
La verdadera complejidad aparece cuando el sistema pasa a formar parte de la operación diaria.
En ese momento aparecen nuevas necesidades.
Actualización permanente.
Control de cambios.
Gestión de incidencias.
Revisión de contenidos.
Nuevas normativas.
Auditorías.
Nuevos responsables.
La diferencia entre un piloto y un servicio público no suele estar en la tecnología.
Está en la capacidad de gobernarlo durante años.
La visión de CivitPhone
En CivitPhone creemos que el futuro de la atención ciudadana no depende únicamente de disponer de mejores modelos de inteligencia artificial.
Depende de construir servicios que puedan mantenerse con seguridad, transparencia y control.
Por eso entendemos la IA como una capacidad integrada dentro de una arquitectura de información y de un modelo de gobernanza.
La tecnología puede ayudar a mejorar la atención a la ciudadanía.
Pero solo genera confianza cuando existe una organización capaz de supervisarla, mantenerla y hacerla evolucionar con garantías.
Ese es el verdadero reto que plantea el AI Act.
Y, probablemente, también la mayor oportunidad para modernizar la atención ciudadana de forma responsable.
