Utlösare: ett AI-system kan läsa patientdata eller påverka ett kliniskt beslut.
Hälso-AI · AI Act Art. 6(1) · MDR Rule 11
Hälso-AI behöver bevis
innan den når en patient.
Två olika vägar gör hälso-AI till hög risk, och de flesta driftsättningar kan inte säga vilken av dem de befinner sig på. Beslutsstöds- och diagnostikprogramvara når hög risk via Art. 6(1) som säkerhetskomponent i en MDR-produkt - Rule 11, Class IIa eller högre, anmält organ. Akut patienttriage namnges direkt i Annex III 5(d). Båda behandlar data enligt Art. 9. Currents skannar inuti den kliniska perimetern, Ripples registrerar vad som är bevisat, och en Droplet klarerar en kohort, en plats, en modellversion - och förfaller sedan.
Data boundary - nothing identifiable crosses
Notes · imaging · vitals
stay on the clinical network
Evidence Records
signed metric + hash only
Arbetsflödet, inspelat
Se en kardiologimodell gå från oskannad till godkänd.
En leverantörs modell för sammanfattning av anteckningar dyker upp inuti den kliniska perimetern utan bevis i akten, tilldelas en bevis-Ripple som dess leverantör måste fylla i, granskas under åtskillnad av arbetsuppgifter, och godkänns för en enda kohort - sammanfattningar inom öppenvårdskardiologi - med akut-, barn- och forskningsanvändning avslagen och tillståndet inställt på att upphöra vid nästa modellversion. Råa patientjournaler lämnar aldrig perimetern; endast bevisen gör det.
Inspelat mot den verkliga produkten. Det kliniska scenariot är illustrativt och märks som sådant genomgående; klinisk validitet är inte bedömd.
Känsligt sammanhang
Varför hälso-AI är det svåraste bevisproblemet i förordningen.
Patientnära AI är hög risk via en av två distinkta vägar, och skillnaden är inte kosmetisk. Programvara med ett medicinskt syfte - beslutsstöd, diagnos, försämringsprediktion - utgör hög risk enligt Art. 6(1), eftersom AI:n är en säkerhetskomponent i en produkt som redan regleras av MDR 2017/745. Enligt Rule 11 är det normalt Class IIa eller högre: ett anmält organ, inte en egen försäkran. Akut patienttriage är annorlunda - den namnges direkt i Annex III punkt 5(d) och når hög risk enligt Art. 6(2) utan någon produktklassificering alls. Båda vägarna medför samma skyldigheter: ett riskhanteringssystem över livscykeln (Art. 9), datastyrning och representativitet för varje tränings-, validerings- och testdatamängd (Art. 10), automatisk händelseloggning under systemets livstid (Art. 12), mänsklig tillsyn av någon som är kompetent att åsidosätta (Art. 14), samt deklarerad träffsäkerhet och robusthet som fortfarande måste gälla i den population där systemet driftsätts (Art. 15). GDPR löper parallellt: hälsodata är en särskild kategori (Art. 9), storskalig behandling kräver en DPIA (Art. 35), och ett nästan automatiskt utdata aktualiserar Art. 22. De flesta driftsättningar vi skannar kan ännu inte säga vilken väg de är på - och en leverantör som inte kan besvara den frågan har inte påbörjat sin bedömning av överensstämmelse.
Datakategorier inom omfattningen
Berörda personer
Riskscenarier
Vad som vanligtvis går fel.
Specifika felmoder som ses i detta känsliga sammanhang - utan strukturerade bevis.
En försämringspoäng driftsätts på en andra plats med en annan casemix och utan omvalidering.
Fördelningsskiftet är omätt. Art. 15 kräver träffsäkerhet och robusthet i det avsedda sammanhanget - det deklarerade måttet beskriver endast den första kohorten. Ingen uppdelning per undergrupp finns, så försämring hos populationen utanför kohorten är osynlig fram till en incident.
En ambient scribe behandlar konsultationsljud via ett API till en modell för allmänna ändamål.
Särskild kategori av data enligt Art. 9 GDPR lämnar perimetern utan något bekräftat villkor för behandling, ingen DPIA enligt Art. 35, ingen bekräftelse på att transkript utesluts från träning, och ingen flagga för råexport synlig för DPO.
En klinisk RAG-assistent gör hämtningar över riktlinjer, protokoll och inskannade patientdokument i ett enda index.
Ingen dokumentgräns och inga bevis på injektionsmotstånd. Den hämtade kontexten är obegränsad, förankringen är omätt, och ett förgiftat dokument ändrar svaret utan spår i loggen.
En copilot med skrivbehörighet till journalsystemet utfärdar ordinationer och uppdateringar via agentverktygsanrop.
Loggningen enligt Art. 12 täcker inte verktygsanropslagret. Prompten, den hämtade kontexten, det anropade verktyget och det mänskliga beslut som följde kan inte rekonstrueras för en enskild vårdkontakt. Revisionen faller på första frågan.
Bildleverantören uppgraderar modellen bakom samma slutpunkt mitt under avtalstiden.
Ingen versionslåsning och ingen klausul om ändringsavisering. Bevisen i akten - träffsäkerhet, prestanda per undergrupp, robusthet - beskriver ett system som inte längre körs. Inget återkallat, inget omgranskat.
En leverantör hävdar NHS DSPT- och GDPR-anpassning och erbjuder ett DPA som bevis.
Inköp kan inte skilja ett åtagande från en mätning. Ingen proveniens enligt Art. 10, inga mått per undergrupp enligt Art. 15, ingen loggkonfiguration enligt Art. 12, ingen MDR-klassificering. Åtkomstbeslutet fattas på förtroende.
Gränskontroll, tillämpad här
Skanna systemet. Utfärda passet. Bevilja visumet.
Vad skanningen finner i detta sammanhang, vad passet registrerar och vilka villkor visumet fäster.
Currents
skanningenVilken AI körs, och vad vet vi inte om den?
Currents öppnar akten. Den finner varje AI-system som berör klinisk data, dess klassificering enligt Art. 6, om det bär ett medicinskt syfte enligt MDR/IVDR, vilka modellversioner som faktiskt är i produktion bakom varje slutpunkt, var rå patientdata korsar perimetern, och vilka av skyldigheterna enligt Art. 9, 10, 12, 14 och 15 som för närvarande helt saknar bevis bakom sig.
Ripples
passetVad är detta system, och vad är bevisat om det?
En Ripple är bevispasset. Den registrerar det deklarerade avsedda syftet och den validerade kohorten, tränings- och testproveniens enligt Art. 10, träffsäkerhet och robusthet per undergrupp enligt Art. 15, loggkonfigurationen enligt Art. 12, den namngivna kliniska tillsynsansvariga och dennes åsidosättningsfrekvens enligt Art. 14, villkoret enligt Art. 9 och DPIA-status enligt GDPR - och, i samma post, den kliniska validitet som inte är bevisad.
Droplets
visumetFår det köras HÄR, på DESSA data, under VILKA villkor?
En Droplet är kontextvisumet. Den klarerar detta system för en kohort, en plats, en låst modellversion: inferens endast lokalt, klinikergranskning innan någon patientpåverkan, tröskelvärden för drift och undergrupper som automatiskt återkallar klareringen vid överträdelse, och ett förfallodatum som infaller oavsett om någon minns det eller inte.
Omfattning
Vad som behöver en Ripple.
Arbetsflöde för intressenter
Från utlösare till åtkomstbeslut.
Scan
Art. 6 route · Annex III test
Evidence call
Annex IV · Art. 10 bias file
Seal Review
DPO · CISO · Art. 14 owner
Droplet
Conditions bound · expiring
Re-scan
On retrain, drift or model swap
Scan
Art. 6 route · Annex III test
Evidence call
Annex IV · Art. 10 bias file
Seal Review
DPO · CISO · Art. 14 owner
Droplet
Conditions bound · expiring
Re-scan
On retrain, drift or model swap
DPO
“Ett AI-system kan behandla hälsodata enligt Art. 9, eller producera ett nästan automatiskt utdata om en patient.”
Kräv en Ripple före godkännande: villkor enligt Art. 9, DPIA-godkännande, analys enligt Art. 22, underbiträden och flaggan för råexport.
Klinisk säkerhetsansvarig
“En modell kommer att påverka triage, diagnos eller behandling för en aktiv kohort.”
Kräv den validerade kohorten, mått per undergrupp enligt Art. 15, och bevis på åsidosättande enligt Art. 14 innan det kliniska säkerhetsunderlaget undertecknas.
CISO
“En leverantör har inte låst en modellversion eller bekräftat dataplacering.”
Kräv att flaggan för råexport är av, att modellversionen är låst, och en avtalad utlösare för ändringsavisering som upphäver den Droplet som gäller vid ett tyst byte.
Åtkomstbeslut
Villkor för kontext-Droplet.
De åtkomstbeslut som gäller i detta känsliga sammanhang - och de bevisvillkor som ger upphov till dem.
- Inferens körs lokalt eller inuti det kliniska nätverket
- Ingen rå patientdata korsar perimetern - endast signerade bevisposter lämnar
- Modellversionen är låst; ett leverantörsbyte upphäver klareringen
- Loggar enligt Art. 12 behålls inom förtroendegränsen
- En namngiven kliniker granskar innan någon patientpåverkande utdata
- Tillsyn enligt Art. 14 styrks av åsidosättningsfrekvenser, inte bara av förmågan att åsidosätta
- Varje vårdkontakt kan rekonstrueras: indata, modellversion, hämtad kontext, beslut
- Åtgärder mot automationsbias är dokumenterade och granskade
- Endast validerad kohort - användning utanför kohorten utesluts genom policy
- Träffsäkerhet per undergrupp inom deklarerade gränser enligt Art. 15
- DPIA accepterad av DPO; villkor enligt Art. 9 registrerat
- Förnyelse om 12 månader; en driftöverträdelse utlöser tidigare granskning
- Ingen proveniens enligt Art. 10 för tränings- eller testdatamängden
- Prestanda per undergrupp inte uppdelad - endast aggregerad träffsäkerhet
- Modellversionen är olåst eller så saknas leverantörens ändringsavisering
- DPIA eller villkor enligt Art. 9 saknas
- Rå klinisk data lämnar perimetern utan bekräftat villkor enligt Art. 9
- Medicinskt syfte utan MDR/IVDR-klassificering eller CE-märkning
- Ingen väg för mänskligt åsidosättande vid en patientpåverkande utdata
- Agentverktygsanrop in i journalen utan någon loggrad enligt Art. 12
Mätning
Bevisfamiljer vi kan strukturera.
De mätbara beviskategorier som är relevanta för detta sammanhang och de bevissignaler de ger upphov till.
Datastyrning och representativitet (Art. 10)
Proveniens för tränings-, validerings- och testdatamängder; vilka kohorter som finns med och vilka som saknas; klassbalans för sällsynta sjukdomsbilder; och den granskning av bias som Art. 10(2)(f) kräver.
Prestanda, drift och robusthet (Art. 15)
Deklarerade mått med konfidensintervall, uppdelning per undergrupp efter ålder, kön, etnicitet, samsjuklighet, plats och utrustningsleverantör, samt beteende vid indata utanför fördelningen och kontinuerlig driftövervakning mot den deklarerade driftpunkten.
Loggning, härkomst och spårbarhet (Art. 12)
Automatiska händelseloggar under systemets livstid: indata, modellversion, hämtad kontext, agentverktygsanrop och det mänskliga beslut som följde - rekonstruerbara per vårdkontakt.
Mänsklig tillsyn och automationsbias (Art. 14)
Bevis på att den namngivna kliniska tillsynsansvariga kan tolka utdata, har befogenhet att åsidosätta och gör det - uppmätta åsidosättningsfrekvenser, eskaleringsvägar och dokumenterade åtgärder mot automationsbias.
Integritet och rättslig grund (GDPR Art. 9 · 22 · 35)
Det villkor enligt Art. 9 som åberopas, DPIA-status och DPO-godkännande, analys enligt Art. 22 där utdata är nästan automatiskt, underbiträden, dataplacering och flaggan för råexport.
Förankring av hämtning och injektionsmotstånd
För klinisk RAG: dokumentgräns, hämtningens trohet och motstånd mot injicerade instruktioner inuti inmatade dokument - uppmätt utan att korpusen exporteras.
Modellens leveranskedja och datagräns
Versionslåsning, leverantörens ändringsavisering, stacken av underbiträden, och bevis på att ett tyst modellbyte utlöser omgranskning i stället för att passera obemärkt.
Ärlig omfattning
Vad som fortfarande inte kan bedömas.
AffectLog överdriver inte. Dessa punkter kräver extern expertis, regulatorisk process eller långsiktig studie.
Klinisk validitet och diagnostisk träffsäkerhet i din population
Klinisk effektivitet fastställs genom prospektiv klinisk utvärdering mot utfall, inte genom styrningsverktyg. Vi kan visa vad leverantören mätte och på vilka; vi kan inte visa att det fungerar på dina patienter.
I stället: Beställ en klinisk prövning eller lokal valideringsstudie. Hänvisa till den kliniska utvärderingsrapporten, CE-märkning enligt MDR/IVDR, och data från klinisk uppföljning efter marknadsintroduktion.
MDR/IVDR-klassificering och bedömning av överensstämmelse
Klassificering av medicintekniska produkter och bedömning av överensstämmelse är regulatoriska processer som kräver ett anmält organ. En bevisplattform kan inte utföra eller ersätta den vägen.
I stället: Involvera regulatorisk expertis och ett anmält organ. Programvara med ett diagnostiskt eller terapeutiskt syfte når vanligtvis Class IIa eller högre enligt Rule 11.
Huruvida en grundmodells träningskorpus innehöll patientdata
Frånvaro kan inte bevisas utifrån ett slutet träningskorpus. Tester för medlemskapsinferens och extraktion väcker misstanke; de fastställer aldrig det negativa.
I stället: Kräv leverantörens redogörelse för träningsdata och en avtalad garanti. Vi registrerar det som redovisas och markerar återstoden som ej verifierad snarare än ren.
Huruvida systemet är säkert att driftsätta
Driftsättningssäkerhet är ett kliniskt säkerhetsunderlag som ägs av klinisk styrning - faroanalys, riskreducering och acceptans av restrisk under en namngiven klinisk säkerhetsansvarig.
I stället: Genomför det kliniska säkerhetsunderlaget (till exempel DCB0129/DCB0160 inom NHS). Våra bevis är ett underlag till det, aldrig en ersättning för det.
Exempel
Exempel på Ripple för detta sammanhang.
Försämringsriskpoäng v4.2
Prediktion av försämring hos slutenvårdspatienter · MDR Rule 11 Class IIa · AI Act Art. 6(1)
Åtkomstvillkor
Vad vi inte kommer att överdriva
AL360° Oceans strukturerar tekniska och operativa bevis för åtkomstbeslut om hälso-AI. Vi hävdar inte klinisk validitet, överensstämmelse för medicintekniska produkter eller regulatoriskt godkännande, och vi undertecknar inte något kliniskt säkerhetsunderlag. Vi visar vad som är bevisat, vad som är uppmätt, vad som endast påstås av leverantören, och vad som fortfarande inte kan bedömas.
Vanliga frågor
Frågor som detta sammanhang väcker.
“Vår leverantör följer GDPR - vi har deras DPA.”
Ett DPA är ett avtal om behandling, inte en mätning av en modell. Det säger ingenting om proveniens enligt Art. 10, träffsäkerhet per undergrupp enligt Art. 15, loggning enligt Art. 12, eller vilken modellversion som faktiskt ligger bakom slutpunkten idag. Det är de frågor en behörig myndighet ställer i andra hand.
“Vi kan inte skicka patientdata till något externt verktyg för att bedöma det.”
Det gör ni inte. Den lokala köraren utför diagnostiken inuti det kliniska nätverket. Endast signerade bevisposter lämnar - aldrig journaler, prompter, bilder eller klinisk text. Det är hela poängen med en Droplet som är endast lokal.
“Det är bara ett pilotprojekt - formella bevis kan vänta till uppskalning.”
Ett pilotprojekt som berör faktiska patientdata är ett aktivt system med en mindre nämnare. Klassificering enligt Art. 6 beror inte på kohortens storlek. Bevis som samlas in i pilotskedet är det billigaste de någonsin kommer att bli.
“Modellen är CE-märkt, så bevisen finns redan.”
CE-märkning enligt MDR omfattar påståendet om medicinteknisk produkt för det avsedda syfte som tillverkaren deklarerade. Den omfattar inte din kohort, din drift, din loggkonfiguration eller din tillsyn enligt Art. 14 i praktiken. En Ripple registrerar bådadera och markerar gränsen mellan dem.
Kom igång
Håll hälso-AI innanför perimetern
tills bevisen låter den resa.
Skanna beståndet, se vilka system som är Annex III och inte kan bevisa det, och vilka leverantörer som fortfarande är skyldiga dig proveniens enligt Art. 10 och prestanda per undergrupp enligt Art. 15. Bestäm sedan vad som får nå en patient, och under vilka villkor.
AL360° Oceans tillhandahåller tekniska och operativa bevis som stöd för åtkomstbeslut. Inte klinisk validering, bedömning av överensstämmelse för medicintekniska produkter eller juridisk rådgivning.