Desencadenante: un sistema de IA puede tratar, perfilar o dirigirse a una persona menor de 18 años.
IA orientada a menores · GDPR Art. 8 · DSA Art. 28
La IA que llega a un menor
arrastra el registro de por vida.
Los recomendadores, los acompañantes, la verificación de edad y el triaje de bienestar se comportan de forma distinta con los usuarios menores de 18 años, y se miden como si no lo hicieran. Currents los escanea, los Ripples registran lo que realmente se probó sobre la cohorte juvenil, y los Droplets asocian las condiciones más estrictas que emitimos.
Context Droplet - Conditions
Contexto sensible
Por qué la IA orientada a menores es el contexto más estricto para el que emitimos.
Un menor no puede dar el consentimiento que da un adulto, y el AI Act lo refleja mediante una prohibición en lugar de un control: el Art. 5(1)(b) prohíbe explotar las vulnerabilidades de una persona debidas a la edad, y el Art. 5(1)(f) prohíbe de plano la inferencia de emociones en los ámbitos educativo y laboral. El GDPR Art. 8 condiciona el consentimiento para los servicios de la sociedad de la información a la autorización parental por debajo de una edad, fijada por cada Estado miembro entre los 13 y los 16 años, lo que significa que debe existir un mecanismo de verificación de edad y debe funcionar. Cuando intervienen datos de salud, de protección de menores o de bienestar, se aplica el Art. 9, y la elaboración de perfiles a gran escala de menores se acerca a un desencadenante de la DPIA del Art. 35 casi por sí mismo. En las plataformas, el DSA Art. 28 exige un elevado nivel de privacidad, seguridad y protección para los menores y prohíbe la publicidad basada en la elaboración de perfiles dirigida a ellos, y para las plataformas de muy gran tamaño el Art. 34 convierte la protección de los menores en un riesgo sistémico nombrado. El problema técnico que subyace a la ley es más concreto y más difícil: los sistemas de seguridad se validan con adultos y se despliegan con menores, y casi nadie mide la diferencia.
Categorías de datos en el ámbito
Personas afectadas
Escenarios de riesgo
Lo que suele salir mal.
Modos de fallo concretos observados en este contexto sensible, sin pruebas estructuradas.
Un servicio de la sociedad de la información se basa en una fecha de nacimiento autodeclarada como verificación de edad.
El GDPR Art. 8 exige un esfuerzo razonable para verificar la autorización parental por debajo de la edad del Estado miembro. Una casilla no es ese esfuerzo. Los valores por defecto de adultos se aplican a menores, y ningún registro deja constancia de qué edad creyó el sistema en el momento del tratamiento.
El clasificador de seguridad de un chatbot acompañante se validó con un conjunto de evaluación de adultos.
El cambio de distribución en la cohorte juvenil queda sin medir. La exhaustividad ante indicios de autolesión y de acoso con fines sexuales cae ante la jerga juvenil y la entrada con alternancia de códigos. La evaluación reporta una cifra que no describe a la población que realmente usa el producto.
Un recomendador se ajusta para la interacción y se sirve de forma idéntica a las cuentas de menores de 18 años.
No hay pruebas de exposición para la cohorte de menores. El DSA Art. 28 exige un elevado nivel de seguridad para los menores, y el Art. 34 nombra su protección como un riesgo sistémico. La intensificación es medible: nadie la midió.
Un modelo de triaje de bienestar o de protección de menores señala a un menor, y la alerta se acciona.
La salida es una inferencia de categoría especial con arreglo al Art. 9, y la supervisión del Art. 14 significa que un profesional de protección de menores formado revisa antes de actuar, no después. Sin tasa de invalidación, sin decisión reconstruible, sin vía de recurso para la familia.
Se activa una función de inferencia de emociones en un producto de aprendizaje o de aula.
El Art. 5(1)(f) prohíbe la inferencia de emociones en los ámbitos educativo y laboral. Esto no es un riesgo que mitigar con pruebas: es una práctica prohibida, y la salida correcta del escaneo es la palabra bloqueado.
Un proveedor afirma que el producto es seguro para menores y cumple los códigos de protección infantil.
Sin pruebas de verificación de edad, sin evaluación de seguridad sobre la cohorte juvenil, sin calendario de conservación, sin prueba de jailbreak, sin fijación de la versión del modelo. El área de compras aprueba la afirmación porque no hay nada más en el expediente.
Control fronterizo, aplicado aquí
Escanee el sistema. Emita el pasaporte. Conceda el visado.
Lo que el escaneo encuentra en este contexto, lo que registra el pasaporte y qué condiciones asocia el visado.
Currents
el escaneo¿Qué IA está en funcionamiento y qué no sabemos sobre ella?
Currents abre el expediente. Encuentra cada sistema al que puede acceder una persona menor de 18 años, cuál es realmente el mecanismo de verificación de edad y si su resultado se registra, si alguna función incurre en una prohibición del Art. 5 en lugar de en un control de riesgo, si la evaluación de seguridad llegó a ejecutarse alguna vez sobre la cohorte juvenil, y dónde se conservan los datos de un menor más allá de la finalidad que los justificó.
Ripples
el pasaporte¿Qué es este sistema y qué está probado sobre él?
El Ripple es el pasaporte de pruebas. Registra la base de consentimiento y de verificación de edad del Art. 8, la evaluación de seguridad desglosada sobre la cohorte juvenil en lugar del conjunto de adultos, la resistencia al jailbreak y a la inyección, la exposición del recomendador para las cuentas de menores de 18 años, el calendario de conservación y la prueba de supresión, la configuración de registro del Art. 12 incluidas las llamadas a herramientas de agente, y, con claridad, que el impacto en el desarrollo no es algo que podamos medir.
Droplets
el visado¿Puede operar AQUÍ, sobre ESTOS datos, bajo QUÉ condiciones?
El Droplet es el visado de contexto, y aquí es el más estricto que emitimos. Revisión humana por un profesional formado antes de que cualquier salida afecte a un menor, sin publicidad basada en la elaboración de perfiles, sin inferencia de emociones, versión del modelo fijada para que una sustitución no pueda invalidar las pruebas de seguridad en silencio, un reloj de conservación y una caducidad lo bastante corta como para que las pruebas se vuelvan a ganar en lugar de heredarse.
Ámbito
Lo que necesita un Ripple.
Flujo de trabajo de las partes interesadas
Del desencadenante a la decisión de acceso.
Scan
Art. 6 route · Annex III test
Evidence call
Annex IV · Art. 10 bias file
Seal Review
DPO · CISO · Art. 14 owner
Droplet
Conditions bound · expiring
Re-scan
On retrain, drift or model swap
Scan
Art. 6 route · Annex III test
Evidence call
Annex IV · Art. 10 bias file
Seal Review
DPO · CISO · Art. 14 owner
Droplet
Conditions bound · expiring
Re-scan
On retrain, drift or model swap
DPD
“Un sistema trata los datos de una persona por debajo de la edad del Art. 8 fijada por el Estado miembro.”
Exija el mecanismo de verificación de edad, su tasa de error medida, la base del Art. 8 y la DPIA antes de la autorización. La autodeclaración no es un mecanismo.
Responsable de protección de menores
“Una salida de IA podría desencadenar una acción de bienestar, disciplinaria o de protección sobre un menor.”
Exija una compuerta de revisión humana antes de actuar, una vía de escalado documentada y tasas de invalidación reportadas. Revise el Ripple antes de que el sistema llegue a un menor.
Responsable de confianza y seguridad
“Un recomendador, un modelo de moderación o un acompañante llega a cuentas de menores de 18 años.”
Exija métricas de seguridad sobre la cohorte juvenil, pruebas de jailbreak sobre la versión fijada y pruebas de exposición para menores con arreglo al DSA Art. 28.
Decisiones de acceso
Condiciones del Droplet de contexto.
Las decisiones de acceso que se aplican en este contexto sensible, y las condiciones de prueba que las producen.
- Toda salida que afecte a un menor es revisada por un profesional formado antes de actuar
- Las alertas de bienestar y de protección de menores se revisan antes de la intervención, no después
- Vía de escalado hacia un humano designado, accesible por el menor y el cuidador
- Tasas de invalidación reportadas - supervisión del Art. 14 acreditada, no afirmada
- Verificación de edad comprobada y su resultado registrado por sesión
- Evaluación de seguridad ejecutada sobre la cohorte juvenil, no heredada del conjunto de adultos
- Sin publicidad basada en la elaboración de perfiles dirigida a menores - DSA Art. 28
- Calendario de conservación aplicado con prueba de supresión; ciclo de renovación corto
- La verificación de edad es solo autodeclaración
- Métricas de seguridad reportadas sobre un conjunto de evaluación de adultos
- DPIA incompleta o no aceptada para la elaboración de perfiles a gran escala de menores
- Resistencia al jailbreak y a la inyección sin probar para la versión del modelo desplegada
- Inferencia de emociones en un ámbito educativo o laboral - prohibición del Art. 5(1)(f)
- Técnicas que explotan la vulnerabilidad debida a la edad - prohibición del Art. 5(1)(b)
- Datos de menores de 16 años tratados sin base del Art. 8 y sin una verificación de edad que funcione
- Una salida de bienestar o disciplinaria accionada sin una compuerta de revisión humana
Medición
Familias de pruebas que podemos estructurar.
Las categorías de pruebas medibles pertinentes para este contexto y las señales de prueba que producen.
Verificación de edad y base jurídica (GDPR Art. 8)
Cuál es el mecanismo de verificación de edad, su tasa de error medida en ambos sentidos, si su resultado se registra por sesión y la base de autorización parental del Art. 8 para cada usuario por debajo de la edad que admite.
Evaluación de seguridad, resistencia al jailbreak y deriva
Métricas de seguridad y de rechazo medidas sobre la cohorte juvenil -jerga juvenil, alternancia de códigos, entrada cargada de emojis-, además de pruebas de jailbreak e inyección frente a la versión del modelo fijada, repetidas cuando cambia.
Equidad y rendimiento por subgrupos en cohortes juveniles
Donde el sistema clasifica, modera o puntúa: rendimiento por subgrupos para menores frente a adultos, y diferencias de exposición para las cuentas de menores de 18 años con arreglo al DSA Art. 28 y al Art. 34.
Supervisión humana y escalado (Art. 14)
Pruebas de que un profesional formado revisa antes de que un menor se vea afectado, tiene autoridad para invalidar y lo hace, con una vía de escalado que el menor o el cuidador pueden alcanzar realmente.
Anclaje de la recuperación y límite documental
Para asistentes sobre registros de protección de menores, bienestar o acompañamiento: ámbito de la recuperación, anclaje y pruebas de que el expediente de un menor no puede aflorar en otra sesión.
Registro, linaje y conservación (Art. 12)
Registros por interacción incluidas las llamadas a herramientas de agente, la edad que creyó el sistema, la versión del modelo en vigor, además de un calendario de conservación aplicado y prueba de supresión, para que el registro no sobreviva a la finalidad.
Contención del agente
Para asistentes con herramientas: qué acciones pueden emprender en nombre de un menor, cuáles están sujetas a una compuerta humana y pruebas de que el conjunto sin compuerta está vacío donde debe estarlo.
Ámbito honesto
Lo que sigue sin ser evaluable.
AffectLog no exagera sus afirmaciones. Estos elementos requieren experiencia externa, un proceso regulatorio o un estudio a largo plazo.
Impacto en el desarrollo del uso de la IA por un menor
Los efectos sobre el desarrollo se despliegan a lo largo de años y requieren un estudio longitudinal con supervisión ética. Ninguna medición en tiempo de ejecución lo sustituye, y no daremos a entender que alguna lo haga.
En su lugar: Recurra a psicólogos del desarrollo y consulte la literatura longitudinal. Trate nuestras pruebas como el suelo operativo, no como la respuesta de seguridad.
Aprobación de seguridad infantil o conformidad de diseño adecuado a la edad
La conformidad frente a los códigos de protección infantil la evalúan organismos especializados y autoridades con competencia legal. Una plataforma de pruebas puede aportar entradas; no puede emitir la conclusión.
En su lugar: Recurra a la autoridad de control pertinente o a un evaluador reconocido de diseño adecuado a la edad. Nuestros registros viajan con la presentación.
Si una función determinada es una práctica prohibida con arreglo al Art. 5
Podemos señalar el patrón -inferencia de emociones en un ámbito educativo, persuasión segmentada por edad- y lo hacemos, con contundencia. Que alcance el umbral jurídico de una prohibición corresponde a la asesoría jurídica y, en última instancia, a una autoridad.
En su lugar: Remita de inmediato la función señalada al equipo jurídico. Cuando el Art. 5 esté plausiblemente en juego, la decisión provisional correcta es bloquear, no reunir más pruebas.
Si un menor sufrió un daño real
El daño a un menor concreto lo establece una investigación de protección de menores, no las métricas de un modelo. Nuestros registros apoyan la investigación; no la llevan a cabo.
En su lugar: Siga el proceso de protección de menores. Conserve los registros del Art. 12: con frecuencia son el único relato reconstruible de lo que hizo el sistema y cuándo.
Ejemplo
Ripple de muestra para este contexto.
Asistente de compañía (modo menores de 16 años)
Asistente conversacional accesible por menores · servicio al consumidor
Condiciones de acceso
Lo que no exageraremos
AL360° Oceans no aprueba un sistema como seguro para menores y no mide el impacto en el desarrollo. Mostramos el mecanismo de verificación de edad y su tasa de error, si la seguridad llegó a evaluarse alguna vez sobre la cohorte juvenil, qué aplica realmente el calendario de conservación y qué queda sin probar, de modo que una decisión sobre un menor se tome con pruebas y no con una afirmación.
Preguntas frecuentes
Preguntas que plantea este contexto.
“Nuestro proveedor está alineado con el código de protección infantil y tiene una atestación de cumplimiento.”
Una atestación es un compromiso. Pida las tres mediciones que la sustentan: la tasa de error de la verificación de edad en ambos sentidos, las métricas de seguridad calculadas sobre la cohorte juvenil en lugar del conjunto de adultos y la prueba de supresión del calendario de conservación. Esas son las cifras que fallan.
“El modelo ya rechaza el contenido dañino: lo hemos probado.”
Probado ¿con quién? Una tasa de rechazo medida sobre prompts de adultos no describe la forma de expresarse de un menor de 13 años, y la brecha es mayor justo donde está el daño. El Ripple registra la cohorte sobre la que se ejecutó la evaluación, que suele ser el hallazgo.
“Llevamos un año utilizando esta herramienta de aprendizaje sin ningún incidente.”
Ningún incidente registrado no es lo mismo que ningún incidente. Sin registros por interacción, sin la edad que creyó el sistema y sin la versión del modelo en vigor, un incidente no habría dejado ninguna prueba que encontrar. La ausencia de un registro no es un registro de ausencia.
Comenzar
Pruebe lo que el sistema hace a un menor
antes de que llegue a uno.
Mapee cada sistema al que puede acceder una persona menor de 18 años, descubra cuáles heredaron sus pruebas de seguridad de un conjunto de evaluación de adultos, cuáles conservan el registro de un menor más allá de su finalidad y cuáles ejecutan una función que el Art. 5 no permite en absoluto.
AL360° Oceans proporciona pruebas técnicas y operativas. No es aprobación de seguridad infantil, conformidad de diseño adecuado a la edad ni asesoramiento jurídico.