Utlösare: AI kan påverka beslut om anställning, screening eller arbetskraft.
Bevis-Ripple för HR-AI
AI i arbetslivet måste vara granskningsbar
innan den beslutar.
Rättvisesignaler, förklarbarhet och villkor för mänsklig tillsyn för AI som screenar, rankar eller bedömer kandidater och anställda.
Känsligt sammanhang
Varför HR-AI är ett av de mest följdriktiga AI-sammanhangen.
AI-verktyg som screenar CV:n, rankar kandidater, poängsätter intervjuinspelningar eller påverkar befordringsbeslut har direkta följder för människors försörjning och möjligheter. Oförklarade utdata, demografiska dispariteter och ogenomskinlig poängsättning undergräver rättvisa, värdighet och rättsliga skyldigheter.
Datakategorier inom omfattningen
Berörda personer
Riskscenarier
Vad som vanligtvis går fel.
Specifika felmoder som ses i detta känsliga sammanhang - utan strukturerade bevis.
En CV-screeningmodell rankar kandidater med luckor i CV:t lägre utan någon dokumenterad motivering.
Ingen förklarbarhet. Ingen rättviserevision. Negativ påverkan på kandidater från grupper med skyddade egenskaper ogranskad. Exponering mot arbetsdomstol.
En AI för intervjuanalys poängsätter kandidater på "självförtroende" härlett ur ljudegenskaper.
Ingen metodologisk validering. Proxyer för skyddade egenskaper möjliga i röstegenskaper. Inga bevis på mänskligt åsidosättande. GDPR Art. 22 obeaktad.
En modell för personalminskning identifierar utsatta roller utan någon analys av demografisk disparitet.
Inga bevisposter från gruppdisparitetsanalys. Negativ påverkan på äldre arbetstagare eller skyddade grupper odokumenterad. Rättslig exponering efter uppsägning.
En AI för prestationshantering flaggar anställda för åtgärdsplaner för prestation.
Inga bevis på egenskapsattribution. Ingen grind för mänsklig granskning. Anställda kan inte få en meningsfull förklaring. En begäran om registerutdrag enligt GDPR avslöjar inget tolkbart utdata.
Gränskontroll, tillämpad här
Skanna systemet. Utfärda passet. Bevilja visumet.
Vad skanningen finner i detta sammanhang, vad passet registrerar och vilka villkor visumet fäster.
Currents
skanningenVilken AI körs, och vad vet vi inte om den?
Currents öppnar akten: varje modell som screenar, rankar, poängsätter eller nedprioriterar en person - inklusive de förstafiltermodeller som ingen kallar ett beslut - plus vilka av dem som är Annex III-användningar inom anställning, och vilka som producerar ett utfall som ingen kandidat någonsin kunde ges en anledning till.
Ripples
passetVad är detta system, och vad är bevisat om det?
En Ripple registrerar mätning av negativ påverkan över skyddade egenskaper, proxyanalys för de egenskaper som togs bort men inte avlägsnades, attribution per beslut som behållits vid beslutstillfället, drift när sökandepoolen förändras, och den mänskliga granskarens verkliga åsidosättningsfrekvens.
Droplets
visumetFår det köras HÄR, på DESSA data, under VILKA villkor?
En Droplet klarerar modellen för en process: denna rollfamilj, detta steg, inget automatiserat avslag, en människa som ser attributionen och kan åsidosätta den, disparitetströsklar som återkallar klareringen vid överträdelse, och ett årligt förfallodatum som tvingar rättvisebevisen att förtjänas på nytt.
Omfattning
Vad som behöver en Ripple.
Arbetsflöde för intressenter
Från utlösare till åtkomstbeslut.
Scan
Art. 6 route · Annex III test
Evidence call
Annex IV · Art. 10 bias file
Seal Review
DPO · CISO · Art. 14 owner
Droplet
Conditions bound · expiring
Re-scan
On retrain, drift or model swap
Scan
Art. 6 route · Annex III test
Evidence call
Annex IV · Art. 10 bias file
Seal Review
DPO · CISO · Art. 14 owner
Droplet
Conditions bound · expiring
Re-scan
On retrain, drift or model swap
CHRO / HR-direktör
“AI används vid beslut om anställning, bedömning eller arbetskraft.”
Kräv en Ripple för varje HR-AI-system. Grind för mänsklig tillsyn och rättvisesignaler är obligatoriska före godkännande.
DPO
“Personuppgifter om kandidater eller anställda behandlas av en AI-modell.”
Bekräfta rättslig grund enligt GDPR, DPA, och status för automatiserat beslutsfattande enligt Art. 22. Blockera klarering tills det är bekräftat.
Juridik / Arbetsrättslig rådgivning
“Ett AI-system kan påverka utfall för uppsägning, befordran eller disciplin.”
Granska rättviseavsnittet i en Ripple. Dokumentera exponeringen innan något utfall kommuniceras till anställda.
Åtkomstbeslut
Villkor för kontext-Droplet.
De åtkomstbeslut som gäller i detta känsliga sammanhang - och de bevisvillkor som ger upphov till dem.
- AI påverkar beslut om anställning, befordran eller uppsägning
- En mänsklig HR-yrkesperson måste granska innan beslutet registreras
- Kandidatens eller den anställdes rätt till förklaring dokumenterad
- Bevisposter för rättvisa saknas eller är inaktuella
- Förklarbarhet inte konfigurerad för negativa beslut
- Proxyrisk för skyddade egenskaper inte bedömd
- Rättviserevision fullständig med uppdelning per undergrupp
- Bevis på egenskapsattribution tillgängligt per beslut
- Grind för mänsklig granskning aktiv för alla beslut om människor
- Årlig rättvisegranskning krävs
- Demografisk disparitet över tröskel utan åtgärd
- Ingen förklarbarhet för beslut som är föremål för anställds bestridande
- Rådata om skyddade egenskaper i modellegenskaper utan rättslig grund
Mätning
Bevisfamiljer vi kan strukturera.
De mätbara beviskategorier som är relevanta för detta sammanhang och de bevissignaler de ger upphov till.
Rättvisa och negativ påverkan
Demografisk paritet, utjämnade odds, kvot för disparat påverkan över skyddade egenskaper inklusive kön, etnicitet, ålder och funktionsnedsättning.
Förklarbarhet
Egenskapsvikt och prediktionsförklaringar för enskilda beslut om kandidater eller anställda - som stöd för den anställdes rätt till förklaring.
Prestanda och drift
Bevis på modellens träffsäkerhet och datadrift - som säkerställer att modellen beter sig konsekvent när sökandepoolen förändras över tid.
Integritet
Rättslig grund enligt GDPR för behandling av ansöknings- och anställningsdata, DPA-status, och bekräftelse på uppgiftsminimering.
Mänsklig tillsyn
Bevis på att mänskliga HR-yrkespersoner granskar AI-utdata innan beslut som påverkar kandidater eller anställda registreras.
Åtkomstkontroll
Policy-som-kod som begränsar vilka HR-roller som kan anropa vilka AI-system och som begränsar åtkomsten till modellegenskaper.
Ärlig omfattning
Vad som fortfarande inte kan bedömas.
AffectLog överdriver inte. Dessa punkter kräver extern expertis, regulatorisk process eller långsiktig studie.
Rättslig slutsats om olaglig diskriminering
Rättsliga fastställanden av diskriminering kräver prövning i arbetsdomstol eller domstol - inte en bevisplattform.
I stället: Hänvisa uppmätta dispariteter och bevis till arbetsrättsjurister för rättslig tolkning.
Validiteten hos intervju-AI för prediktion av rekryteringskvalitet
Prediktiv validitet hos HR-AI-verktyg för arbetsprestation kräver utvärdering inom arbets- och organisationspsykologi och longitudinell studie.
I stället: Beställ en valideringsstudie inom arbets- och organisationspsykologi innan intervju-AI används för beslut med höga insatser.
GDPR-efterlevnad för HR-processen som helhet
Lagligheten hos den fullständiga HR-processen kräver en juridisk HR-granskning - AffectLog täcker det AI-specifika tekniska bevislagret.
I stället: Involvera juridisk HR-rådgivning eller en arbetsrättsspecialist för den fullständiga GDPR-efterlevnadsgranskningen.
Exempel
Exempel på Ripple för detta sammanhang.
HiringLens Screeningmodell
Rankning och gallring av sökandes CV:n · HR / Kompetensförsörjning
Åtkomstvillkor
Vad vi inte kommer att överdriva
AffectLog hävdar inte att ett system är icke-diskriminerande eller rättsligt förenligt med arbetsrätten. Vi visar uppmätta dispariteter, databegränsningar, bevis på förklarbarhet, och nödvändiga villkor för mänsklig tillsyn - så att HR- och juridikteam har bevis snarare än leverantörspåståenden.
Vanliga frågor
Frågor som detta sammanhang väcker.
“Vår HR-AI-leverantör säger att deras modell är bias-fri.”
"Bias-fri" är inte ett verifierbart påstående utan bevis. AffectLog strukturerar den specifika mätningen: bevisposter från gruppdisparitetsanalys, kvoter för demografisk paritet, uppdelningar av prestanda per undergrupp, och proxyanalys för skyddade egenskaper - per modell.
“Vi använder AI endast som ett förstafilter - människor fattar alla slutliga beslut.”
Förstafilter-AI påverkar ändå vem som når mänsklig granskning. Disparat påverkan kan uppstå i filtreringssteget även om det slutliga beslutet är mänskligt. Bevisposter för rättvisa i filtersteget är lika viktiga som i beslutssteget.
Kom igång
Gör HR-AI bevisbaserad
innan den påverkar nästa rekrytering.
Kartlägg vilka AI-verktyg som finns i ert HR-arbetsflöde, identifiera vilka som behöver rättviserevisioner, och fastställ villkor för mänsklig tillsyn innan något system påverkar kandidater eller anställda.
AffectLog tillhandahåller tekniska och operativa bevis. Inte arbetsrättslig rådgivning, certifiering av icke-diskriminering eller regulatorisk efterlevnad.