Se le pide firmar para sistemas de IA que alcanzan a pacientes, solicitantes y menores.
Para DPD y CISO
Firme contra pruebas,
no contra garantías.
Categorías de datos, base jurídica, examen de sesgos del Art. 10, diseño de la supervisión humana del Art. 14, diseño del registro de eventos del Art. 12, límites de herramientas de los agentes y resultados de diagnóstico - reunidos por sistema, dirigidos al rol que deberá defender la decisión.
Una firma que no puede reconstruir es una firma que no puede defender.
Cuando una autoridad de control pregunte por qué se autorizó este modelo para estos pacientes, la respuesta tiene que ser un registro: qué se probó, con qué diagnóstico, frente a qué artículo, en qué versión del modelo y quién lo aceptó. No un recuerdo, ni el PDF de un proveedor.
El pasaporte, leído frente a los artículos de los que usted responde.
La IA sanitaria se rige por el GDPR Art. 9 y, como producto, por el MDR. La IA financiera se rige por el Art. 22 y DORA. Todo lo que un menor puede alcanzar se rige por el Art. 8 y el DSA Art. 28. El pasaporte está estructurado en torno a esas obligaciones - en ese orden.
“¿Qué sistemas tratan datos de categoría especial o de menores - y en qué condición?”
Cada pasaporte registra las categorías de datos con la base del GDPR Art. 6, la condición del Art. 9, el Art. 8 cuando puede alcanzarse a un menor y el Art. 22 cuando la decisión es automatizada. Atlas le permite filtrar todo el parque por exposición, no por nombre de proveedor.
“¿Existe una DPIA conforme al Art. 35 - y describe el sistema que realmente está en funcionamiento?”
El estado de la DPIA es un campo obligatorio, vinculado a la versión del modelo para la que se redactó. Un cambio de modelo o de proveedor es motivo para volver a revisar: regístrelo, y la DPIA y las pruebas de exactitud se revisan de nuevo antes de renovar los visados afectados.
“¿Se examinó el sesgo o solo se negó?”
El AI Act Art. 10 exige el examen de posibles sesgos. Un Ripple porta un Registro de pruebas de disparidad entre grupos - incluido si un atributo protegido eliminado se reconstruye a partir del código postal, la clase de dispositivo o la vía de derivación.
“¿Puedo entregar a una autoridad competente un único registro estructurado?”
Un Wake: una exportación de pruebas que porta identidad, base, DPIA, examen de sesgos, diseño de la supervisión, resultados de diagnóstico y el registro de la decisión - reunido una vez, leído sin volver a ejecutar nada.
El visado, concedido antes de la primera llamada del agente.
Un agente llama a herramientas, posee credenciales y escribe en sistemas. Un Droplet declara qué puede hacer, en qué contexto, hasta cuándo - y decae salvo que una nueva decisión lo renueve.
“¿Qué agentes poseen credenciales y qué pueden llamar?”
Un Droplet declara la lista de herramientas permitidas, los sistemas en alcance y si la credencial es de lectura o de escritura - antes de la primera llamada del agente. Todo lo que quede fuera de la lista queda fuera de la autorización registrada.
“¿Puede un documento recuperado dar instrucciones a nuestro asistente?”
Trate el corpus RAG como entrada no confiable, porque lo es. El visado lo registra como tal, y su tratamiento se valida antes de la concesión - una instrucción inyectada hereda el acceso a datos del agente, no el del atacante.
“¿Se registra cada llamada a herramienta?”
El AI Act Art. 12 exige el registro automático de eventos durante toda la vida del sistema. El pasaporte registra cómo registra eventos el sistema: qué se captura, dónde se conserva y si un humano autorizó el acto. Un sistema que no puede demostrarlo sigue sin estar probado.
“¿Puedo retirar ahora mismo la autorización de un agente?”
Un agente puede marcarse como revocado en una sola acción, y la revocación se registra con actor y marca de tiempo. Detener al propio agente se hace en sus propios sistemas; el registro muestra quién lo decidió y cuándo.
Modos de fallo frente a los que se escribe un visado
Flujo de revisión
Del expediente abierto a la decisión registrada.
El expediente se abre
Currents nombra el sistema, sus categorías de datos y su clasificación provisional conforme al Annex III.
El pasaporte se emite
El proveedor completa el Ripple; los resultados de diagnóstico registran las pruebas de sesgo, exactitud y exposición.
La cola dirige
El DPD toma la base, la DPIA y el sesgo. El CISO toma las herramientas, las credenciales, la salida de datos y el registro. Ninguno revisa lo del otro.
Las lagunas se nombran
Las secciones no probadas bloquean la decisión. La ausencia de pruebas no pasa por defecto a permitir.
El visado se concede o se rechaza
Un contexto, condiciones declaradas, una fecha de caducidad - registrado con actor, rol, motivación y hora en un registro de auditoría encadenado por hash.
La diferencia
La revisión, con y sin el registro.
Firmar sobre garantías
- Base jurídica afirmada en prosa a lo largo de cuatro documentos
- Sesgo «abordado» - sin prueba, sin resultado, sin población
- Supervisión descrita; el supervisor no tiene nada que objetar
- Llamadas a herramientas del agente sin registrar e irreconstruibles
- Exactitud citada de una validación de hace dos versiones del modelo
- Una autorización que nunca caduca y no puede retirarse
Firmar sobre pruebas
- Base Art. 6 / 9 / 22 y DPIA Art. 35 como campos obligatorios y versionados
- Resultado de disparidad entre grupos del Art. 10 registrado como Registro de pruebas
- Actos del Art. 14 nombrados, con el humano que puede anular
- Diseño del registro de eventos del Art. 12 registrado y revisado por el CISO
- Pruebas de exactitud del Art. 15 revisadas frente a la población que tiene delante
- Un visado con fecha de caducidad; la renovación es una nueva decisión
Abordado
Cómo encaja esto en el rol que ya ocupa.
“Ya usamos Microsoft Purview o una herramienta de privacidad equivalente.”
La clasificación de datos le dice dónde están los datos sensibles. No le dice si este modelo de triaje se validó sobre una población parecida a sus pacientes, si su agente puede escribir en la historia, ni si su corpus de recuperación se ha comprobado alguna vez en busca de instrucciones inyectadas. Esas son las preguntas para las que se le pide firmar.
“No podemos subir datos en bruto, prompts ni modelos para la recopilación de pruebas.”
No hace falta. Nunca se solicitan registros en bruto, prompts, corpus ni pesos de modelo. Usted aporta pruebas - documentos, resúmenes, resultados - y se registran frente al sistema.
“Nuestro proceso de revisión ya está establecido.”
AL360° Oceans no lo sustituye. Aporta las pruebas que su proceso hoy da por existentes: el examen de sesgos del Art. 10 que nunca se realizó, el diseño de la supervisión del Art. 14 que es un botón de aprobar, y la cifra de exactitud del Art. 15 anterior al modelo actual.
“Conforme a DORA y al MDR ya registramos las dependencias de terceros.”
El registro anota la dependencia. No anota que la dependencia cambió en silencio. Un pasaporte vincula las pruebas a la versión del modelo para la que se produjeron, de modo que un cambio de modelo registrado devuelve el expediente a revisión en la puerta, en lugar de dejarlo en silencio en el registro.
Paso 1 - el escaneo
Sepa para qué se le pide firmar
antes de que se le pida firmar.
Un escaneo nombra cada sistema de IA que alcanza datos sanitarios, financieros o de menores, lo clasifica conforme al Annex III y le entrega una cola de revisión con las lagunas ya nombradas.
AffectLog proporciona pruebas técnicas y operativas para apoyar las revisiones de acceso a la IA, riesgo de proveedores, seguridad, privacidad y gobernanza. No es asesoramiento jurídico, certificación, evaluación de la conformidad por organismo notificado ni aprobación regulatoria.