Se le pide firmar para sistemas de IA que alcanzan a pacientes, solicitantes y menores.
Para DPD y CISO
Firme contra pruebas,
no contra garantías.
Categorías de datos, base jurídica, examen de sesgos del Art. 10, diseño de la supervisión humana del Art. 14, registros de eventos del Art. 12, límites de herramientas de los agentes y diagnósticos sellados - reunidos por sistema, dirigidos al rol que deberá defender la decisión.
Una firma que no puede reconstruir es una firma que no puede defender.
Cuando una autoridad de control pregunte por qué se autorizó este modelo para estos pacientes, la respuesta tiene que ser un registro: qué se probó, con qué diagnóstico, frente a qué artículo, en qué versión del modelo y quién lo aceptó. No un recuerdo, ni el PDF de un proveedor.
El pasaporte, leído frente a los artículos de los que usted responde.
La IA sanitaria se rige por el GDPR Art. 9 y, como producto, por el MDR. La IA financiera se rige por el Art. 22 y DORA. Todo lo que un menor puede alcanzar se rige por el Art. 8 y el DSA Art. 28. El pasaporte está estructurado en torno a esas obligaciones - en ese orden.
“¿Qué sistemas tratan datos de categoría especial o de menores - y en qué condición?”
Cada pasaporte registra las categorías de datos con la base del GDPR Art. 6, la condición del Art. 9, el Art. 8 cuando puede alcanzarse a un menor y el Art. 22 cuando la decisión es automatizada. Atlas le permite filtrar todo el parque por exposición, no por nombre de proveedor.
“¿Existe una DPIA conforme al Art. 35 - y describe el sistema que realmente está en funcionamiento?”
El estado de la DPIA es un campo obligatorio, vinculado a la versión del modelo para la que se redactó. Cuando el proveedor sustituye el modelo detrás del punto de conexión, la DPIA y las pruebas de exactitud vuelven a estado no probado y los visados afectados se suspenden.
“¿Se examinó el sesgo o solo se negó?”
El AI Act Art. 10 exige el examen de posibles sesgos. Un Ripple porta un Registro de pruebas sellado de disparidad entre grupos - incluido si un atributo protegido eliminado se reconstruye a partir del código postal, la clase de dispositivo o la vía de derivación.
“¿Puedo entregar a una autoridad competente algo que vaya a aceptar?”
Un Wake: una exportación de pruebas estampada y sellada que porta identidad, base, DPIA, examen de sesgos, diseño de la supervisión, diagnósticos sellados y el registro de la decisión - reunido una vez, leído sin volver a ejecutar nada.
El visado, concedido antes de la primera llamada del agente.
Un agente llama a herramientas, posee credenciales y escribe en sistemas. Un Droplet declara qué puede hacer, en qué contexto, hasta cuándo - y lo detiene en una sola acción en cuanto eso deja de ser cierto.
“¿Qué agentes poseen credenciales y qué pueden llamar?”
Un Droplet declara la lista de herramientas permitidas, los sistemas en alcance y si la credencial es de lectura o de escritura - antes de la primera llamada del agente. Todo lo que quede fuera de la lista se rechaza y se registra como anomalía.
“¿Puede un documento recuperado dar instrucciones a nuestro asistente?”
Trate el corpus RAG como entrada no confiable, porque lo es. Se comprueba la integridad del corpus y las instrucciones inyectadas se elevan como anomalías - una instrucción inyectada hereda el acceso a datos del agente, no el del atacante.
“¿Se registra cada llamada a herramienta?”
El AI Act Art. 12 exige el registro automático de eventos durante toda la vida del sistema. Cada llamada se convierte en un Registro de pruebas: herramienta, marca de tiempo, contexto de entrada, acción y si un humano lo autorizó.
“¿Puedo detener a un agente ahora mismo?”
Una sola acción revoca el visado. El agente se detiene en su siguiente llamada, y la revocación se registra con actor y marca de tiempo. Una deriva, una sustitución de modelo o un diagnóstico fallido hacen lo mismo automáticamente.
Modos de fallo frente a los que se escribe un visado
Flujo de revisión
Del expediente abierto a la decisión sellada.
El expediente se abre
Currents nombra el sistema, sus categorías de datos y su clasificación provisional conforme al Annex III.
El pasaporte se emite
El proveedor completa el Ripple; los diagnósticos sellan las pruebas de sesgo, exactitud y exposición.
La cola dirige
El DPD toma la base, la DPIA y el sesgo. El CISO toma las herramientas, las credenciales, la salida de datos y el registro. Ninguno revisa lo del otro.
Las lagunas se nombran
Las secciones no probadas bloquean la decisión. La ausencia de pruebas no pasa por defecto a permitir.
El visado se concede o se rechaza
Un contexto, condiciones declaradas, una fecha de caducidad - registrado bajo sello con actor y motivación.
La diferencia
La revisión, con y sin el registro.
Firmar sobre garantías
- Base jurídica afirmada en prosa a lo largo de cuatro documentos
- Sesgo «abordado» - sin prueba, sin resultado, sin población
- Supervisión descrita; el supervisor no tiene nada que objetar
- Llamadas a herramientas del agente sin registrar e irreconstruibles
- Exactitud citada de una validación de hace dos versiones del modelo
- Una autorización que nunca caduca y no puede retirarse
Firmar sobre pruebas
- Base Art. 6 / 9 / 22 y DPIA Art. 35 como campos obligatorios y versionados
- Resultado de disparidad entre grupos del Art. 10 sellado como Registro de pruebas
- Barreras del Art. 14 que detienen el acto para un humano nombrado que puede anular
- Registro de eventos del Art. 12 - cada llamada a herramienta registrada con actor y contexto
- Exactitud del Art. 15 reevaluada frente a la población que tiene delante
- Un visado con fecha de caducidad, revocable en una acción, efectivo en la siguiente llamada
Abordado
Cómo encaja esto en el rol que ya ocupa.
“Ya usamos Microsoft Purview o una herramienta de privacidad equivalente.”
La clasificación de datos le dice dónde están los datos sensibles. No le dice si este modelo de triaje se validó sobre una población parecida a sus pacientes, si su agente puede escribir en la historia, ni si su corpus de recuperación se ha comprobado alguna vez en busca de instrucciones inyectadas. Esas son las preguntas para las que se le pide firmar.
“No podemos subir datos en bruto, prompts ni modelos para la recopilación de pruebas.”
No hace falta. Los diagnósticos se ejecutan en su perímetro - en las instalaciones, en su VPC o aislado - y solo exportan un Registro de pruebas firmado: el hallazgo, nunca la historia, el corpus, el prompt ni los pesos. La clave de firma nunca sale de su infraestructura.
“Nuestro proceso de revisión ya está establecido.”
AL360° Oceans no lo sustituye. Aporta las pruebas que su proceso hoy da por existentes: el examen de sesgos del Art. 10 que nunca se realizó, el diseño de la supervisión del Art. 14 que es un botón de aprobar, y la cifra de exactitud del Art. 15 anterior al modelo actual.
“Conforme a DORA y al MDR ya registramos las dependencias de terceros.”
El registro anota la dependencia. No anota que la dependencia cambió en silencio. Un pasaporte vincula las pruebas a la versión del modelo para la que se produjeron - de modo que una sustitución invalida el expediente de forma ruidosa, en la puerta, en lugar de silenciosa, en el registro.
Paso 1 - el escaneo
Sepa para qué se le pide firmar
antes de que se le pida firmar.
Un escaneo nombra cada sistema de IA que alcanza datos sanitarios, financieros o de menores, lo clasifica conforme al Annex III y le entrega una cola de revisión con las lagunas ya nombradas.
AffectLog proporciona pruebas técnicas y operativas para apoyar las revisiones de acceso a la IA, riesgo de proveedores, seguridad, privacidad y gobernanza. No es asesoramiento jurídico, certificación, evaluación de la conformidad por organismo notificado ni aprobación regulatoria.