La gobernanza de IA en la administración pública es el conjunto de responsabilidades, controles y evidencias que permite saber qué hace un sistema, con qué autorización, sobre qué datos y quién responde por sus efectos. En un agente capaz de consultar expedientes o ejecutar acciones, no basta con una política general: hay que documentar las decisiones de diseño antes del despliegue y poder reconstruir cada actuación después.
El Manifiesto de Madrid por una IA responsable, presentado en octubre de 2026 por el Consejo Asesor Internacional de Inteligencia Artificial, propone identidad atribuible para los agentes, trazabilidad, evaluación y control humano efectivo. Son recomendaciones, no una nueva obligación legal ni una convocatoria de contratación. Esta ficha las traduce a preguntas y artefactos que una entidad pública puede utilizar para evaluar un caso concreto sin confundir el Manifiesto con el Reglamento europeo de IA.

GUÍA PARA COMITÉS DE DIRECCIÓN
¿Cómo pasar de los pilotos de IA a una capacidad operativa real?
Una guía para estructurar la conversación sobre adopción de IA empresarial antes de la próxima inversión.
Descargar la guía →Qué cambia cuando la IA deja de responder y empieza a actuar
Un asistente que resume documentos y un agente que consulta datos, redacta una propuesta y pulsa «enviar» no comparten el mismo riesgo operativo. La pregunta de gobernanza no es «¿tenemos IA?», sino qué permisos posee, qué acción puede desencadenar, en nombre de quién y qué persona conserva la decisión. La guía general de IA en el sector público cubre usos y riesgos; aquí nos concentramos en el rastro verificable de un agente concreto.
Conviene separar tres niveles de autonomía. Si el agente informa, su salida debe mostrar fuentes y límites, pero no altera el expediente. Si propone, la persona competente revisa y decide antes de que se produzcan efectos. Si ejecuta una acción autorizada, hacen falta permisos delimitados, condiciones de activación, registro de la operación y mecanismo de interrupción. Una aprobación meramente nominal, sin tiempo ni información suficiente para revisar, no constituye control humano efectivo: esta es precisamente la advertencia del principio 24 del Manifiesto.
| Nivel | Ejemplo ilustrativo | Control mínimo a diseñar | Evidencia que debe quedar |
|---|---|---|---|
| Consulta | Resumir información de un expediente | Acceso limitado, fuentes y aviso de limitaciones | Identidad del agente, consulta, fuentes y versión |
| Propuesta | Preparar un borrador para revisión | Responsable humano, comprobación y decisión expresa | Borrador, cambios, identidad y decisión de quien revisa |
| Ejecución | Enviar una comunicación previamente autorizada | Permiso específico, umbral, confirmación y parada | Orden, autorización, acción, resultado e incidencia |
Estos ejemplos son una propuesta de diseño, no una clasificación legal automática. La calificación jurídica depende de la finalidad, el proceso y los efectos sobre las personas.
Antes del despliegue: el expediente mínimo de decisión
Una ficha previa de gobernanza debe permitir a la entidad explicar por qué existe el agente, cuáles son sus límites y qué pruebas respaldaron el paso a producción. No sustituye a los documentos jurídicos o técnicos exigibles según el caso; los conecta con una decisión operativa reconocible.
1. Finalidad, ámbito y responsable
Identifique procedimiento o servicio, tareas permitidas y excluidas, personas afectadas, dueño funcional, responsable técnico y órgano que autoriza el despliegue. Describa qué permanece en manos de una persona y qué ocurre si el agente no puede resolver una excepción. Si se trata de una actuación administrativa automatizada en el sentido del artículo 41 de la Ley 40/2015, deben determinarse previamente los órganos competentes allí previstos y el responsable a efectos de impugnación. No toda herramienta de apoyo con IA constituye por sí sola una actuación administrativa automatizada.
2. Identidad, representación y permisos
Asigne un identificador inequívoco al agente y a cada versión; vincule sus acciones con una entidad responsable y con las credenciales de servicio que realmente utiliza. Documente fuentes, sistemas, operaciones de lectura y escritura, límites de datos, caducidad de permisos y acciones prohibidas. Separe la identidad del agente de la identidad de la persona que revisa o autoriza: compartir una cuenta impide atribuir actos. Esta traducción técnica se inspira en el principio 20 del Manifiesto, no en un supuesto registro universal obligatorio de agentes.
3. Clasificación normativa y evaluaciones aplicables
Documente la finalidad concreta frente a los usos prohibidos del artículo 5 y a los criterios de alto riesgo del artículo 6 y sus anexos. «Agente» y «sector público» no son, por sí solos, etiquetas de alto riesgo. Determine además si el tratamiento de datos requiere una evaluación de impacto en protección de datos. Cuando resulte aplicable, valore por separado la evaluación de impacto en derechos fundamentales del artículo 27 del Reglamento de IA; su perímetro, excepciones y fecha de aplicación no son idénticos a los de la evaluación de protección de datos.
El Reglamento (UE) 2024/1689 tiene un calendario escalonado y fue modificado en 2026. Según el calendario de aplicación de la Comisión Europea, las reglas específicas de alto riesgo para los sistemas del anexo III comienzan a aplicarse el 2 de diciembre de 2027. No presente ahora las obligaciones de sus artículos 26 y 27 como si ya alcanzasen a cualquier agente municipal; verifique el texto auténtico y la fecha pertinente para el caso antes de aprobar el despliegue.
4. Pruebas, decisión y capacidad de parada
Conserve el inventario de versiones de modelo, instrucciones, herramientas y fuentes; pruebas con casos normales, excepciones, datos adversos y fallos de integración; criterios de aceptación y resultados; revisión de seguridad y privacidad; plan de reversión; formación de supervisores; y acta de autorización o rechazo. Para los casos de mayor impacto, diseñe revisión independiente proporcional, sin afirmar que el Manifiesto haya creado una certificación legal universal. El expediente debe contener también una demostración de cómo detener el agente y quién puede hacerlo.
Después del despliegue: una traza que permita reconstruir y corregir

Cada interacción relevante debería dejar una cadena verificable: identificador y versión del agente; mandato y permisos vigentes; solicitud y contexto mínimo necesario; datos y fuentes consultados; herramientas invocadas; salida propuesta; decisión humana cuando exista; acción efectivamente ejecutada; resultado, error, corrección o suspensión. Aplique minimización, control de acceso y plazos de conservación adecuados: trazabilidad no significa almacenar indiscriminadamente datos personales ni instrucciones sensibles.
Los principios 22 y 23 del Manifiesto piden poder reconstruir decisiones, cambios e incidentes durante todo el ciclo de vida. Operativamente, asigne a cada evento una referencia de expediente o proceso y un identificador de correlación; proteja la integridad de las trazas; conserve la relación entre la versión que actuó y la decisión posterior. Esta es una arquitectura de evidencia propuesta. Para ciertos sistemas de alto riesgo, el artículo 26 del Reglamento de IA establece deberes específicos de seguimiento, supervisión, suspensión y conservación de registros cuando estén bajo el control del responsable del despliegue; no se deben extrapolar a todos los agentes ni anticipar su aplicación temporal.
| Momento | Evidencia recuperable | Pregunta de auditoría | Respuesta operativa |
|---|---|---|---|
| Antes de actuar | Versión, permiso, fuente y prueba de habilitación | ¿Podía hacer esto, aquí y entonces? | Bloquear si falla la condición |
| En la decisión | Propuesta, revisión y motivo de aprobación o rechazo | ¿Quién decidió y con qué información? | Escalar excepciones |
| Tras la acción | Operación, sistema destino y resultado | ¿Qué cambió de verdad? | Corregir o revertir cuando sea posible |
| En la operación continua | Incidentes, reclamaciones, cambios y métricas | ¿Sigue siendo fiable y útil? | Restringir, suspender o retirar |
El registro solo vale si alguien lo consulta. Establezca un ciclo de revisión con responsables para errores, resultados discutidos, accesos indebidos, desviación de calidad y cambios de proveedor o modelo. Mida contra una línea base del proceso: tasa de revisión humana, correcciones, incidentes, tiempo de resolución, reclamaciones y coste operativo. Los umbrales se acuerdan antes de medir; no existe un porcentaje de seguridad o retorno universal que esta ficha pueda prometer.
Supervisión humana y derechos: quién puede decir «no»
La supervisión efectiva requiere una persona identificada con contexto, competencia, tiempo, acceso al expediente y autoridad para corregir, rechazar o parar. Diseñe una ruta de reclamación comprensible para la persona afectada y una forma de explicar la intervención del agente sin revelar información protegida. Si alguien interactúa con un sistema de IA, compruebe los supuestos y excepciones de transparencia del artículo 50 del Reglamento de IA, distinguiendo las responsabilidades de proveedores y responsables del despliegue.
La prueba útil no es una casilla «human in the loop». Es poder responder: ¿qué vio la persona, cuándo intervino, qué cambió, qué alternativa tenía y a quién se puede reclamar? En procesos sensibles, un agente no debería crear un hecho consumado y pedir una firma después. La decisión sobre automatizar parte del procedimiento exige evaluación jurídica y organizativa específica.
La propuesta de valor de la gobernanza no es «cumplir un manifiesto»: es poder demostrar, ante un error o una impugnación, qué ocurrió, quién tenía autoridad y cómo se corrigió.
Ficha práctica: diez comprobaciones antes de autorizar un agente

- Finalidad acotada: ¿qué tarea realiza y qué tareas quedan expresamente fuera?
- Efecto administrativo: ¿solo informa, propone o ejecuta? ¿Puede producir una actuación administrativa automatizada?
- Responsabilidades: ¿quién es dueño del servicio, quién despliega y quién responde ante reclamaciones?
- Identidad: ¿cada agente, versión, cuenta de servicio y supervisor se distingue sin ambigüedad?
- Datos y herramientas: ¿qué consulta, modifica o comunica y bajo qué permisos?
- Evaluación jurídica: ¿se han clasificado uso, riesgo y tratamientos de datos con el calendario vigente?
- Pruebas: ¿hay escenarios normales, adversos y excepcionales con criterios de aceptación documentados?
- Control humano: ¿la persona competente puede comprender, revisar, rechazar y detener la operación a tiempo?
- Trazas y derechos: ¿pueden reconstruirse acciones sin acumular datos innecesarios y existe una vía de reclamación?
- Operación continua: ¿quién revisa incidentes, cambios, rendimiento y condiciones de suspensión o retirada?
La entidad puede usarla como índice de un expediente, no como certificado de conformidad. Para el diseño técnico de controles transversales, consulte también gobernanza de IA distribuida; para los usos y límites sectoriales, la pieza sobre IA en Administración local aporta contexto distinto.
De la recomendación a un piloto público verificable
Empiece por un proceso acotado donde la actuación del agente sea reversible o esté sujeta a revisión previa. Mapee sistemas y responsables, documente una línea base, aplique la ficha a una versión concreta y ensaye excepciones antes de decidir si se amplía el alcance. El objetivo no es prometer que la tecnología «garantiza el cumplimiento», sino comprobar si el servicio conserva control, trazabilidad y capacidad de respuesta cuando trabaja con IA.
En OpenSistemas abordamos la IA desde los procesos, los datos, la integración y el gobierno operativo. Si su administración estudia un agente para un procedimiento real, hablemos del proceso y sus puntos de control: la primera conversación puede delimitar la tarea, los sistemas implicados, las evidencias que faltan y la decisión que corresponderá a la entidad.
Preguntas frecuentes sobre gobernanza de IA en administraciones
¿El Manifiesto de Madrid obliga a registrar todos los agentes de IA?
No. El Manifiesto recomienda identificación única y atribución de acciones, pero no crea por sí mismo un registro legal universal. Cada entidad debe revisar las normas aplicables a su caso y diseñar un inventario interno útil para identificar responsables, versiones, permisos y acciones.
¿Todo agente usado por una administración es de alto riesgo?
No. La clasificación del Reglamento europeo de IA depende de la finalidad y los supuestos previstos en el artículo 6 y los anexos, no únicamente de que se utilice en el sector público o de que tenga capacidad agéntica. Un caso concreto puede activar además otras obligaciones jurídicas.
¿Qué debe quedar registrado cuando un agente modifica un expediente?
Como pauta operativa: identidad y versión del agente, mandato, permisos, fuentes pertinentes, propuesta, aprobación humana cuando proceda, operación realizada, resultado e incidencias. El diseño de la traza debe respetar minimización, seguridad y periodos de conservación aplicables.
¿Una aprobación humana al final del proceso es supervisión suficiente?
No necesariamente. Debe existir capacidad real de entender y rechazar una propuesta antes de que tenga efectos, con información, tiempo y autoridad suficientes. El grado de intervención depende del riesgo, del procedimiento y del marco jurídico aplicable.
¿La evaluación de impacto en derechos fundamentales reemplaza la de protección de datos?
No automáticamente. Responden a marcos y supuestos diferentes; el artículo 27 del Reglamento de IA permite aprovechar información de otras evaluaciones cuando corresponde, pero se deben comprobar por separado su ámbito, excepciones y fecha de aplicación.
¿Cómo se decide si un piloto de agente puede ampliarse?
Compare el piloto con una línea base del proceso y unos criterios fijados previamente: calidad, correcciones, reclamaciones, incidentes, tiempo de resolución, coste y carga de supervisión. Mantenga una puerta de decisión humana y suspenda o rediseñe si los controles no funcionan.
Fuentes institucionales
- Manifiesto de Madrid por una IA responsable, texto íntegro (2026), especialmente descargo de responsabilidad (p. 5) y principios 20–24 (pp. 18–20).
- Nota de presentación del Ministerio, 8 de octubre de 2026.
- Reglamento (UE) 2024/1689, Diario Oficial y calendario actualizado de la Comisión Europea.
- Ley 40/2015, artículo 41 (BOE) y AEPD: evaluaciones de impacto.








