Desencadenante: la IA puede afectar a decisiones de contratación, cribado o de personal.
Ripple de pruebas para IA de RR. HH.
La IA de personal debe ser revisable
antes de decidir.
Señales de equidad, explicabilidad y condiciones de supervisión humana para la IA que criba, clasifica o evalúa a candidatos y empleados.
Contexto sensible
Por qué la IA de RR. HH. es uno de los contextos de IA de mayor trascendencia.
Las herramientas de IA que criban currículos, clasifican candidatos, puntúan grabaciones de entrevistas o influyen en decisiones de promoción tienen consecuencias directas para el sustento y las oportunidades de las personas. Las salidas sin explicar, las disparidades demográficas y la puntuación opaca menoscaban la equidad, la dignidad y las obligaciones legales.
Categorías de datos en el ámbito
Personas afectadas
Escenarios de riesgo
Lo que suele salir mal.
Modos de fallo concretos observados en este contexto sensible, sin pruebas estructuradas.
Un modelo de cribado de currículos clasifica más bajo a los candidatos con lagunas laborales sin ninguna justificación documentada.
Sin explicabilidad. Sin revisión de equidad. Impacto adverso sobre candidatos de grupos con características protegidas sin examinar. Exposición ante los tribunales de lo social.
Una IA de análisis de entrevistas puntúa a los candidatos según la 'confianza' derivada de características del audio.
Sin validación metodológica. Posibles variables sustitutivas de características protegidas en las características de la voz. Sin pruebas de invalidación humana. GDPR Art. 22 sin abordar.
Un modelo de reducción de plantilla identifica puestos en riesgo sin ningún análisis de disparidad demográfica.
Sin registros de pruebas de análisis de disparidad de grupos. Impacto adverso sobre los trabajadores de mayor edad o los grupos protegidos sin documentar. Exposición legal tras el despido.
Una IA de gestión del desempeño señala a empleados para planes de mejora del desempeño.
Sin pruebas de atribución de características. Sin compuerta de revisión humana. Los empleados no pueden recibir una explicación significativa. Una solicitud de acceso del interesado con arreglo al GDPR no revela ninguna salida interpretable.
Control fronterizo, aplicado aquí
Escanee el sistema. Emita el pasaporte. Conceda el visado.
Lo que el escaneo encuentra en este contexto, lo que registra el pasaporte y qué condiciones asocia el visado.
Currents
el escaneo¿Qué IA está en funcionamiento y qué no sabemos sobre ella?
Currents abre el expediente: cada modelo que criba, clasifica, puntúa o deprioriza a una persona -incluidos los modelos de primer filtro que nadie llama una decisión-, además de cuáles de ellos son usos de empleo del Annex III y cuáles producen un resultado del que ningún candidato podría recibir jamás una razón.
Ripples
el pasaporte¿Qué es este sistema y qué está probado sobre él?
El Ripple registra la medición del impacto adverso entre características protegidas, el análisis de variables sustitutivas para los atributos que se eliminaron pero no se suprimieron, la atribución por decisión conservada en el momento de la decisión, la deriva a medida que cambia el conjunto de solicitantes y la tasa real de invalidación del revisor humano.
Droplets
el visado¿Puede operar AQUÍ, sobre ESTOS datos, bajo QUÉ condiciones?
El Droplet autoriza el modelo para un proceso: esta familia de puestos, esta fase, sin rechazo automatizado, un humano que ve la atribución y puede invalidarla, umbrales de disparidad que revocan la autorización ante un incumplimiento, y una caducidad anual que obliga a volver a ganar las pruebas de equidad.
Ámbito
Lo que necesita un Ripple.
Flujo de trabajo de las partes interesadas
Del desencadenante a la decisión de acceso.
Scan
Art. 6 route · Annex III test
Evidence call
Annex IV · Art. 10 bias file
Seal Review
DPO · CISO · Art. 14 owner
Droplet
Conditions bound · expiring
Re-scan
On retrain, drift or model swap
Scan
Art. 6 route · Annex III test
Evidence call
Annex IV · Art. 10 bias file
Seal Review
DPO · CISO · Art. 14 owner
Droplet
Conditions bound · expiring
Re-scan
On retrain, drift or model swap
Director de RR. HH. (CHRO)
“Se está usando IA en decisiones de contratación, evaluación o de personal.”
Exija un Ripple para cada sistema de IA de RR. HH. La compuerta de supervisión humana y las señales de equidad son obligatorias antes de la aprobación.
DPD
“Un modelo de IA trata datos personales de candidatos o empleados.”
Confirme la base jurídica del GDPR, el DPA y el estado de decisión automatizada del Art. 22. Bloquee la autorización hasta que se confirme.
Asesoría jurídica / laboral
“Un sistema de IA puede influir en resultados de despido, promoción o disciplinarios.”
Revise la sección de equidad del Ripple. Documente la exposición antes de comunicar cualquier resultado a los empleados.
Decisiones de acceso
Condiciones del Droplet de contexto.
Las decisiones de acceso que se aplican en este contexto sensible, y las condiciones de prueba que las producen.
- La IA influye en decisiones de contratación, promoción o despido
- Un profesional humano de RR. HH. debe revisar antes de registrar la decisión
- Derecho a explicación del candidato o empleado documentado
- Registros de pruebas de equidad ausentes o desactualizados
- Explicabilidad no configurada para las decisiones desfavorables
- Riesgo de variables sustitutivas de características protegidas no evaluado
- Revisión de equidad completa con desglose por subgrupos
- Pruebas de atribución de características disponibles por decisión
- Compuerta de revisión humana activa para todas las decisiones sobre personas
- Revisión anual de equidad exigida
- Disparidad demográfica por encima del umbral sin remediación
- Sin explicabilidad para decisiones sujetas a impugnación del empleado
- Datos brutos de características protegidas en las características del modelo sin base jurídica
Medición
Familias de pruebas que podemos estructurar.
Las categorías de pruebas medibles pertinentes para este contexto y las señales de prueba que producen.
Equidad e impacto adverso
Paridad demográfica, igualdad de probabilidades y ratio de impacto dispar entre características protegidas, incluidos género, etnia, edad y discapacidad.
Explicabilidad
Importancia de las características y explicaciones de predicción para decisiones individuales sobre candidatos o empleados, en apoyo del derecho a explicación del empleado.
Rendimiento y deriva
Pruebas de exactitud del modelo y de deriva de datos, que aseguran que el modelo se comporta de forma coherente a medida que cambia el conjunto de solicitantes con el tiempo.
Privacidad
Base jurídica del GDPR para el tratamiento de datos de solicitud y de empleados, estado del DPA y confirmación de la minimización de datos.
Supervisión humana
Pruebas de que profesionales humanos de RR. HH. revisan las salidas de la IA antes de registrar las decisiones que afectan a candidatos o empleados.
Control de acceso
Política como código que limita qué roles de RR. HH. pueden invocar qué sistemas de IA y restringe el acceso a las características del modelo.
Ámbito honesto
Lo que sigue sin ser evaluable.
AffectLog no exagera sus afirmaciones. Estos elementos requieren experiencia externa, un proceso regulatorio o un estudio a largo plazo.
Conclusión jurídica de discriminación ilegal
Las determinaciones jurídicas de discriminación requieren la adjudicación de un tribunal de lo social o de un juzgado, no una plataforma de pruebas.
En su lugar: Remita las disparidades medidas y las pruebas a abogados laboralistas para su interpretación jurídica.
Validez de la IA de entrevistas para predecir la calidad de contratación
La validez predictiva de las herramientas de IA de RR. HH. para el desempeño laboral requiere una evaluación de psicología industrial/organizacional y un estudio longitudinal.
En su lugar: Encargue un estudio de validación de psicología industrial/organizacional antes de usar IA de entrevistas para decisiones de alto impacto.
Cumplimiento del GDPR del proceso de RR. HH. en su conjunto
La licitud del proceso completo de RR. HH. requiere una revisión jurídica de RR. HH.: AffectLog cubre la capa de pruebas técnicas específicas de la IA.
En su lugar: Recurra a asesoría jurídica de RR. HH. o a un especialista en derecho laboral para la revisión completa de cumplimiento del GDPR.
Ejemplo
Ripple de muestra para este contexto.
Modelo de preselección HiringLens
Clasificación y preselección de currículos de solicitantes · RR. HH. / captación de talento
Condiciones de acceso
Lo que no exageraremos
AffectLog no afirma que un sistema sea no discriminatorio ni que cumpla legalmente el derecho laboral. Mostramos las disparidades medidas, las limitaciones de los datos, las pruebas de explicabilidad y las condiciones de supervisión humana exigidas, de modo que los equipos de RR. HH. y jurídico dispongan de pruebas en lugar de afirmaciones del proveedor.
Preguntas frecuentes
Preguntas que plantea este contexto.
“Nuestro proveedor de IA de RR. HH. dice que su modelo está libre de sesgos.”
'Libre de sesgos' no es una afirmación verificable sin pruebas. AffectLog estructura la medición concreta: registros de pruebas de análisis de disparidad de grupos, ratios de paridad demográfica, desgloses de rendimiento por subgrupos y análisis de variables sustitutivas de características protegidas, por modelo.
“Usamos la IA solo como primer filtro: los humanos toman todas las decisiones finales.”
La IA de primer filtro sigue afectando a quién llega a la revisión humana. El impacto dispar puede producirse en la fase de filtrado aunque la decisión final sea humana. Los registros de pruebas de equidad en la fase de filtro son tan importantes como en la fase de decisión.
Comenzar
Base la IA de RR. HH. en pruebas
antes de que influya en la próxima contratación.
Mapee qué herramientas de IA hay en su flujo de trabajo de RR. HH., identifique cuáles necesitan revisiones de equidad y establezca condiciones de supervisión humana antes de que cualquier sistema afecte a candidatos o empleados.
AffectLog proporciona pruebas técnicas y operativas. No es asesoramiento en derecho laboral, certificación de no discriminación ni cumplimiento regulatorio.