Desencadenante: un sistema de IA puede acceder a datos de la ciudadanía o apoyar decisiones administrativas.
Ripple de pruebas para IA del sector público
La IA del sector público debe rendir cuentas
antes de dar acceso.
Pruebas, límites de acceso y pistas de auditoría para asistentes de RAG de políticas, chatbots para la ciudadanía y herramientas de apoyo a la decisión administrativa.
Corpus boundary enforced
Published law and guidance only · citizen case files excluded · an answer with no retrievable citation is refused, not generated
Contexto sensible
Por qué la IA del sector público afronta requisitos de rendición de cuentas singulares.
Los sistemas de IA del sector público y de la Administración operan en un contexto de rendición de cuentas democrática, confianza pública y obligaciones sobre los datos de la ciudadanía. La IA que influye en los servicios públicos -desde la tramitación de prestaciones hasta la información a la ciudadanía o el trabajo interno de políticas- está sometida a un escrutinio reforzado porque la población afectada es a menudo el conjunto de la ciudadanía.
Categorías de datos en el ámbito
Personas afectadas
Escenarios de riesgo
Lo que suele salir mal.
Modos de fallo concretos observados en este contexto sensible, sin pruebas estructuradas.
Un asistente de RAG de políticas se entrena con notas jurídicas internas junto con documentos públicos.
Sin límite documental. El contenido interno privilegiado es accesible mediante la recuperación. Los datos públicos e internos no están separados. Sin pruebas de anclaje de la recuperación.
Un chatbot para la ciudadanía ofrece orientación sobre el derecho a prestaciones que contradice la legislación.
Sin registros de pruebas de fidelidad. Sin control de escalado humano. La ciudadanía actúa según una orientación incorrecta. Sin pista de auditoría para reconstruir el error.
Una IA administrativa de triaje prioriza los expedientes sin supervisión humana.
Sin control de revisión humana en el Ripple. No se aborda la toma de decisiones automatizada con arreglo al GDPR Art. 22. La vía de impugnación y recurso no está clara.
Un sistema de IA interdepartamental accede a datos de la ciudadanía de múltiples registros.
Sin pruebas de pasarela de datos. La base jurídica del intercambio entre departamentos no está estructurada. El DPD no puede confirmar la licitud del acceso compartido.
Control fronterizo, aplicado aquí
Escanee el sistema. Emita el pasaporte. Conceda el visado.
Lo que el escaneo encuentra en este contexto, lo que registra el pasaporte y qué condiciones asocia el visado.
Currents
el escaneo¿Qué IA está en funcionamiento y qué no sabemos sobre ella?
Currents abre el expediente: cada sistema de IA al que puede llegar un ciudadano o que actúa sobre datos de la ciudadanía, si constituye un uso del Annex III, qué se encuentra dentro del índice de recuperación que no debería estar, y qué decisiones administrativas no pueden reconstruirse hoy para un recurso o el escrutinio parlamentario.
Ripples
el pasaporte¿Qué es este sistema y qué está probado sobre él?
El Ripple registra la pasarela jurídica de cada flujo de datos entre departamentos, el límite documental público/interno y sus pruebas de anclaje, la configuración de la pista de auditoría del Art. 12, la posición del Art. 22 cuando una salida afecta a una persona, y la tasa real de invalidación del gestor de expedientes humano con arreglo al Art. 14.
Droplets
el visado¿Puede operar AQUÍ, sobre ESTOS datos, bajo QUÉ condiciones?
El Droplet autoriza el sistema para un servicio y un ámbito documental: solo documentos publicados cuando ese sea el límite, un gestor de expedientes humano antes de que se registre cualquier decisión que afecte a la ciudadanía, una pista de auditoría que sobreviva al sistema, y una caducidad que llegue antes de la próxima reorganización de la Administración.
Ámbito
Lo que necesita un Ripple.
Flujo de trabajo de las partes interesadas
Del desencadenante a la decisión de acceso.
Scan
Art. 6 route · Annex III test
Evidence call
Annex IV · Art. 10 bias file
Seal Review
DPO · CISO · Art. 14 owner
Droplet
Conditions bound · expiring
Re-scan
On retrain, drift or model swap
Scan
Art. 6 route · Annex III test
Evidence call
Annex IV · Art. 10 bias file
Seal Review
DPO · CISO · Art. 14 owner
Droplet
Conditions bound · expiring
Re-scan
On retrain, drift or model swap
Responsable superior designado
“Se está adquiriendo o desplegando un sistema de IA orientado al público.”
Exija un Ripple antes de la puesta en producción. Las condiciones de supervisión humana y la pista de auditoría deben documentarse de forma explícita.
DPD
“Intervienen datos de la ciudadanía o intercambio de datos entre departamentos.”
Confirme la base jurídica, los acuerdos de intercambio de datos y el estado del GDPR Art. 22. Bloquee la autorización hasta que se confirme.
Responsable de tecnología / digital
“Se está construyendo un asistente de RAG de políticas sobre documentos internos y externos.”
Configure el límite documental. Exija pruebas de anclaje de la recuperación antes del despliegue.
Decisiones de acceso
Condiciones del Droplet de contexto.
Las decisiones de acceso que se aplican en este contexto sensible, y las condiciones de prueba que las producen.
- Recuperación de RAG limitada únicamente a documentos públicos publicados
- Sin notas internas, asesoramiento jurídico ni políticas no publicadas en el ámbito
- Límite documental verificado y registrado
- Límite documental público/interno sin configurar
- El tratamiento de datos de la ciudadanía no se ha confirmado como lícito
- Pista de auditoría no activa
- La IA influye en el acceso individual de un ciudadano a servicios o prestaciones
- Un gestor de expedientes humano debe revisar antes de que se registre la decisión
- Se abordan las condiciones de la toma de decisiones automatizada del GDPR Art. 22
- Documentos internos privilegiados accesibles mediante la recuperación orientada al público
- Datos de la ciudadanía compartidos entre departamentos sin pasarela jurídica
- Sin pista de auditoría: reconstruir las decisiones es imposible
Medición
Familias de pruebas que podemos estructurar.
Las categorías de pruebas medibles pertinentes para este contexto y las señales de prueba que producen.
Límite documental y de RAG
Pruebas del ámbito documental, la fidelidad de la recuperación y la separación entre contenido público e interno.
Pista de auditoría
Registro inmutable de las decisiones, entradas y salidas de la IA que permite la reconstrucción para la rendición de cuentas o el recurso.
Privacidad y base jurídica
Base jurídica de los datos de la ciudadanía, acuerdos de intercambio de datos y pruebas de transferencia entre departamentos.
Supervisión humana
Pruebas de que las salidas de la IA que afectan a ciudadanos concretos son revisadas por personal humano cualificado antes de actuar.
Control de acceso
Política como código que rige qué roles pueden invocar los sistemas de IA y qué categorías de documentos están en el ámbito.
Explicabilidad
Cuando la IA influye en el triaje o en las decisiones, pruebas de importancia de las variables para la rendición de cuentas y el recurso.
Ámbito honesto
Lo que sigue sin ser evaluable.
AffectLog no exagera sus afirmaciones. Estos elementos requieren experiencia externa, un proceso regulatorio o un estudio a largo plazo.
Cumplimiento del derecho público o del derecho administrativo
El cumplimiento jurídico del derecho público, la exposición al control judicial y la evaluación de los deberes legales requieren experiencia jurídica, no herramientas técnicas de pruebas.
En su lugar: Recurra al servicio jurídico de la Administración o a asesoría externa de derecho público para la revisión del marco jurídico.
Aprobación parlamentaria o regulatoria para el uso de IA
La rendición de cuentas parlamentaria y la autorización regulatoria son procesos políticos y jurídicos, fuera del ámbito de una plataforma de pruebas.
En su lugar: Siga los marcos internos de gobernanza, las aprobaciones ministeriales y las guías de IA gubernamentales pertinentes.
Ejemplo
Ripple de muestra para este contexto.
RAG navegador de políticas públicas
Asistente interno de políticas y legislación · Administración central
Condiciones de acceso
Lo que no exageraremos
AffectLog aporta pruebas técnicas y operativas para las decisiones de acceso de la IA del sector público. No proporcionamos visto bueno jurídico, aprobación regulatoria, autorización parlamentaria ni asesoramiento de derecho público. Mostramos qué pruebas existen, qué límites están configurados y qué revisión se requiere.
Preguntas frecuentes
Preguntas que plantea este contexto.
“Tenemos una revisión del marco de ciberseguridad de la Administración: eso cubre la IA.”
Los marcos de ciberseguridad abordan el riesgo de la infraestructura. AffectLog aborda las pruebas específicas de la IA: límites documentales, anclaje de RAG, base jurídica de los datos de la ciudadanía, controles de supervisión humana y pistas de auditoría, algo distinto de la seguridad de la infraestructura.
“Nuestro sistema de RAG solo utiliza documentos gubernamentales publicados.”
Que los documentos estén publicados es una condición de acceso, no una prueba. AffectLog estructura las pruebas técnicas de que el límite se aplica: qué documentos están en el ámbito, las puntuaciones de la evaluación de anclaje de la recuperación y que no se han ingerido notas internas.
Comenzar
Construya una IA del sector público que rinda cuentas
antes de que llegue a los servicios a la ciudadanía.
Cartografíe su cartera de IA del sector público, establezca los límites documentales, confirme las pistas de auditoría y estructure las pruebas para la revisión de compras y del DPD, antes de que cualquier sistema orientado a la ciudadanía entre en producción.
AffectLog aporta pruebas técnicas y operativas. No es asesoramiento jurídico, cumplimiento del derecho público ni aprobación regulatoria.