{"id":684,"date":"2026-08-06T18:28:43","date_gmt":"2026-08-06T16:28:43","guid":{"rendered":"https:\/\/www.civitphone.com\/?p=684"},"modified":"2026-08-06T18:28:44","modified_gmt":"2026-08-06T16:28:44","slug":"ia-act-la-gobernanza-es-el-verdadero-reto-de-la-ia-en-la-administracion-publica","status":"publish","type":"post","link":"https:\/\/www.civitphone.com\/ca\/ia-act-la-gobernanza-es-el-verdadero-reto-de-la-ia-en-la-administracion-publica\/","title":{"rendered":"IA Act. La governan\u00e7a \u00e9s el veritable repte de la IA en l'Administraci\u00f3 P\u00fablica"},"content":{"rendered":"<h2 class=\"wp-block-heading\">El AI Act no obliga solo a utilizar mejor la IA. Obliga a gobernarla.<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Durante los \u00faltimos a\u00f1os, la conversaci\u00f3n sobre inteligencia artificial en la Administraci\u00f3n P\u00fablica ha estado dominada por una pregunta:<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u00bfC\u00f3mo podemos utilizar la IA para prestar mejores servicios?<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Es una pregunta l\u00f3gica, pero ya no es suficiente.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Con la entrada en vigor del Reglamento Europeo de Inteligencia Artificial (AI Act), la cuesti\u00f3n cambia de forma significativa.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La pregunta deja de ser \u00fanicamente qu\u00e9 puede hacer la IA y pasa a ser:<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u00bfC\u00f3mo garantizamos que los sistemas de IA se utilizan de forma responsable, transparente y bajo control?<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ese cambio de perspectiva es probablemente el mayor desaf\u00edo para las administraciones p\u00fablicas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Porque implantar un sistema basado en IA no consiste \u00fanicamente en incorporar una nueva tecnolog\u00eda. Supone asumir nuevas responsabilidades sobre c\u00f3mo se toman determinadas decisiones, qu\u00e9 informaci\u00f3n se utiliza, qui\u00e9n supervisa el sistema y c\u00f3mo se responde cuando algo no funciona como estaba previsto.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La gobernanza deja de ser una cuesti\u00f3n tecnol\u00f3gica para convertirse en una responsabilidad organizativa.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">La IA no es solo un proyecto tecnol\u00f3gico<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Con demasiada frecuencia la implantaci\u00f3n de soluciones basadas en IA comienza con una evaluaci\u00f3n funcional.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00bfPuede responder preguntas?<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00bfPuede clasificar documentos?<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00bfPuede resumir expedientes?<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00bfPuede asistir a un operador?<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Todas esas preguntas son importantes.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pero ninguna responde a las cuestiones que realmente condicionan la sostenibilidad del servicio.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Antes de implantar cualquier sistema deber\u00edan resolverse otras preguntas mucho m\u00e1s relevantes.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>\u00bfQui\u00e9n es responsable del sistema durante toda su vida \u00fatil?<\/li>\n\n\n\n<li>\u00bfQui\u00e9n valida la informaci\u00f3n que utiliza?<\/li>\n\n\n\n<li>\u00bfC\u00f3mo se gestionan los cambios normativos?<\/li>\n\n\n\n<li>\u00bfQu\u00e9 ocurre cuando existen varias interpretaciones posibles?<\/li>\n\n\n\n<li>\u00bfC\u00f3mo se detectan errores antes de que afecten a la ciudadan\u00eda?<\/li>\n\n\n\n<li>\u00bfQu\u00e9 procedimiento existe para detener el sistema si deja de comportarse como se esperaba?<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Estas preguntas pertenecen al \u00e1mbito de la gobernanza.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Y son precisamente las que determinar\u00e1n si un proyecto puede convertirse en un servicio estable.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Gobernar significa definir responsabilidades<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Una de las principales aportaciones del AI Act es trasladar la conversaci\u00f3n desde la tecnolog\u00eda hacia la responsabilidad.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En la pr\u00e1ctica, toda organizaci\u00f3n que utilice IA deber\u00eda poder responder con claridad a cuestiones como:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Qu\u00e9 finalidad tiene el sistema.<\/li>\n\n\n\n<li>Qu\u00e9 decisiones puede apoyar o automatizar.<\/li>\n\n\n\n<li>Qu\u00e9 personas intervienen en su supervisi\u00f3n.<\/li>\n\n\n\n<li>Qu\u00e9 informaci\u00f3n utiliza.<\/li>\n\n\n\n<li>C\u00f3mo se controla la calidad de esa informaci\u00f3n.<\/li>\n\n\n\n<li>C\u00f3mo se documentan las modificaciones.<\/li>\n\n\n\n<li>C\u00f3mo se gestionan incidencias y reclamaciones.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">No se trata \u00fanicamente de cumplir un requisito normativo.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Se trata de construir servicios p\u00fablicos que puedan mantenerse en el tiempo con garant\u00edas.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">La informaci\u00f3n oficial necesita una gobernanza espec\u00edfica<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">En la Administraci\u00f3n P\u00fablica, gran parte del valor de un asistente basado en IA depende de la calidad de la informaci\u00f3n oficial que utiliza.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ordenanzas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Procedimientos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Convocatorias.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Plazos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Normativa.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Informaci\u00f3n publicada en la sede electr\u00f3nica.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Toda esa informaci\u00f3n cambia continuamente.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Por eso uno de los mayores riesgos no es que la IA \u00abalucine\u00bb.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El riesgo real es ofrecer informaci\u00f3n desactualizada, incompleta o contradictoria procedente de fuentes cuya gobernanza no est\u00e1 definida.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La pregunta deja de ser:<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u00bfPuede responder correctamente?<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Y pasa a ser:<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u00bfQui\u00e9n garantiza que la informaci\u00f3n sigue siendo correcta ma\u00f1ana?<\/strong><\/p>\n\n\n\n<h2 class=\"wp-block-heading\">La supervisi\u00f3n humana sigue siendo imprescindible<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">El AI Act pone el foco en la supervisi\u00f3n humana como uno de los elementos esenciales de los sistemas de IA.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Sin embargo, supervisar no significa revisar todas las respuestas manualmente.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Significa dise\u00f1ar un modelo operativo donde existan responsabilidades claras.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Qui\u00e9n valida.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Qui\u00e9n actualiza.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Qui\u00e9n audita.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Qui\u00e9n puede detener el sistema.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Qui\u00e9n analiza incidencias.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Qui\u00e9n autoriza cambios.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La supervisi\u00f3n eficaz forma parte del dise\u00f1o del servicio, no aparece despu\u00e9s de la implantaci\u00f3n.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">La trazabilidad genera confianza<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Otro aspecto fundamental es la capacidad para reconstruir qu\u00e9 ocurri\u00f3.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cuando un ciudadano recibe una respuesta relevante, la organizaci\u00f3n debe poder comprender:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>qu\u00e9 informaci\u00f3n utiliz\u00f3 el sistema,<\/li>\n\n\n\n<li>qu\u00e9 versi\u00f3n estaba vigente,<\/li>\n\n\n\n<li>cu\u00e1ndo se produjo la respuesta,<\/li>\n\n\n\n<li>qu\u00e9 controles exist\u00edan,<\/li>\n\n\n\n<li>y qu\u00e9 procedimiento se sigui\u00f3.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">La trazabilidad no solo facilita el cumplimiento normativo.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Permite aprender, corregir errores y mejorar continuamente el servicio.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Sin trazabilidad resulta muy dif\u00edcil gobernar un sistema basado en IA.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Del piloto al servicio p\u00fablico<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Muchos proyectos funcionan correctamente durante una demostraci\u00f3n.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La verdadera complejidad aparece cuando el sistema pasa a formar parte de la operaci\u00f3n diaria.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En ese momento aparecen nuevas necesidades.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Actualizaci\u00f3n permanente.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Control de cambios.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Gesti\u00f3n de incidencias.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Revisi\u00f3n de contenidos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Nuevas normativas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Auditor\u00edas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Nuevos responsables.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La diferencia entre un piloto y un servicio p\u00fablico no suele estar en la tecnolog\u00eda.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Est\u00e1 en la capacidad de gobernarlo durante a\u00f1os.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">La visi\u00f3n de CivitPhone<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">En CivitPhone creemos que el futuro de la atenci\u00f3n ciudadana no depende \u00fanicamente de disponer de mejores modelos de inteligencia artificial.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Depende de construir servicios que puedan mantenerse con seguridad, transparencia y control.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Por eso entendemos la IA como una capacidad integrada dentro de una arquitectura de informaci\u00f3n y de un modelo de gobernanza.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La tecnolog\u00eda puede ayudar a mejorar la atenci\u00f3n a la ciudadan\u00eda.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pero solo genera confianza cuando existe una organizaci\u00f3n capaz de supervisarla, mantenerla y hacerla evolucionar con garant\u00edas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ese es el verdadero reto que plantea el AI Act.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Y, probablemente, tambi\u00e9n la mayor oportunidad para modernizar la atenci\u00f3n ciudadana de forma responsable.<\/p>","protected":false},"excerpt":{"rendered":"<p>El AI Act no obliga solo a utilizar mejor la IA. Obliga a gobernarla. Durante los \u00faltimos a\u00f1os, la conversaci\u00f3n sobre inteligencia artificial en la Administraci\u00f3n P\u00fablica ha estado dominada por una pregunta: \u00bfC\u00f3mo podemos utilizar la IA para prestar mejores servicios? Es una pregunta l\u00f3gica, pero ya no es suficiente. Con la entrada en [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":685,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-684","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/www.civitphone.com\/ca\/wp-json\/wp\/v2\/posts\/684","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.civitphone.com\/ca\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.civitphone.com\/ca\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.civitphone.com\/ca\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.civitphone.com\/ca\/wp-json\/wp\/v2\/comments?post=684"}],"version-history":[{"count":1,"href":"https:\/\/www.civitphone.com\/ca\/wp-json\/wp\/v2\/posts\/684\/revisions"}],"predecessor-version":[{"id":686,"href":"https:\/\/www.civitphone.com\/ca\/wp-json\/wp\/v2\/posts\/684\/revisions\/686"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.civitphone.com\/ca\/wp-json\/wp\/v2\/media\/685"}],"wp:attachment":[{"href":"https:\/\/www.civitphone.com\/ca\/wp-json\/wp\/v2\/media?parent=684"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.civitphone.com\/ca\/wp-json\/wp\/v2\/categories?post=684"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.civitphone.com\/ca\/wp-json\/wp\/v2\/tags?post=684"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}