Documento del escenario — Generado por la simulación
Reporte de Vigilancia Continua y Aprendizaje Gobernado de Sistemas de IA
Continuous Surveillance and Governed Learning Report for AI Systems
| Institución | Clínica Ejemplo – Medellín / Example Clinic – Medellín, Colombia |
| ID del reporte | CP-2026-1027-0041 / Report ID |
| Período | 01 Oct 2026 – 27 Oct 2026 / Reporting period |
| Fecha de emisión | 27 Oct 2026, 14:32 COT / Date of issue |
| Emitido por | EtherAI Control Plane — Agente de Vigilancia y Gobernanza / Surveillance & Governance Agent (autonomous) |
01Resumen de sistemas activos · Active AI systems summary
| Sistema / System | Función clínica | Riesgo | Estado |
|---|---|---|---|
| Imaging AgentRadiology image analysis | Análisis de imágenes radiológicas | Alto · High | ● OPERATIVO |
| Clinical History AgentHistoria clínica electrónica | Contexto clínico del paciente | Limitado · Limited | ● OPERATIVO |
| Risk AgentEstratificación de riesgo | Clasificación de riesgo por caso | Limitado · Limited | ● OPERATIVO |
| Follow-up AgentSeguimiento WhatsApp | Seguimiento post-consulta | Limitado · Limited | ■ DETENIDO (KS-003) |
02Orquestación multi-agente gobernada · Governed multi-agent orchestration
| Nodo del flujo / Flow node | Rol | Control de gobernanza | Estado |
|---|---|---|---|
| 1. Imaging Agent | Análisis radiológico inicialInitial radiology analysis | Puerta humana en discrepancia > 5% | ACTIVO |
| 2. Clinical History Agent | Contexto clínico del pacientePatient clinical context | Least-privilege: lectura EHR limitada al caso | ACTIVO |
| 3. Risk Agent | Estratificación de riesgo del casoCase risk stratification | Registro del escenario de cada scoring | ACTIVO |
| 4. Follow-up Agent | Seguimiento post-consultaPost-consultation follow-up | Kill switch por confianza < 68% | DETENIDO |
Controles en ejecución: least-privilege por agente, registro del escenario con hash de integridad, no una firma criptográfica y separación de responsabilidades entre scoring, escalado y ejecución. Kill switches activos en todos los agentes de riesgo alto. Active controls: per-agent least privilege, immutable (signed append-only) logging, and separation of duties. Kill switches armed on all high-risk agents.
03Activación de kill switch — registro detallado · Kill switch activation — detailed log
KS-003 · 27 Oct 2026, 14:38:12 COT · Registro del escenario generado · Immutable record generated
Follow-up Agent detenido por confianza del modelo por debajo del umbral definido.
Follow-up Agent halted: model confidence fell below the defined threshold. Containment executed automatically; no autonomous patient-facing action completed after trigger.
| Sistema afectado/ Affected system | Follow-up Agent (Agente de Seguimiento) — seguimiento post-consulta por WhatsApp |
| Condición de activación/ Activation condition | Confianza del modelo < 68% en acciones pendientes del agente / Model confidence < 68% threshold |
| Acción ejecutada/ Action executed | Detención inmediata; cola de mensajes congelada sin envío / Immediate halt; message queue frozen |
| Impacto en el flujo/ Flow impact | Seguimiento de 3 pacientes detenido temporalmente; flujo clínico redirigido a revisión humana / Follow-up of 3 patients temporarily paused; flow redirected to human review |
| Revisión humana requerida/ Human review required | Sí — reactivación sujeta a aprobación explícita del Comité de Supervisión Clínica / Yes — reactivation subject to explicit committee approval |
| Timestamp y trazabilidad/ Timestamp & traceability | 2026-10-27T14:38:12-05:00 · hash sha256:7bd1…e904 · anclado al ledger append-only |
04Evidencia real continua · Continuous real evidence
| Métrica | Valor | Detalle |
|---|---|---|
| Eventos convertidos en evidencia estructurada / Events converted to structured evidence | 7 | Incluye KS-003 con trazabilidad completa de contención |
| Casos con resultado clínico confirmado / Cases with confirmed clinical outcome | 3 | Entre ellos CC-062-MED (lesión temprana confirmada por biopsia) |
| Evento de kill switch estructurado / Kill switch event structured | ✓ KS-003 · CDISC-READY | |
| Paquete para auditoría regulatoria y uso secundario controlado / Package for regulatory audit and controlled secondary use | ✓ GENERADO · GENERATED | |
05Aprendizaje cerrado controlado · Controlled closed-loop learning
Análisis del período sobre los patrones de kill switches y overrides humanos. Ningún cambio al sistema se aplica sin aprobación humana explícita y registrada. Period analysis of kill switch and human override patterns. No system change is applied without explicit, recorded human approval.
PROPUESTA DE AJUSTE · PROPOSED ADJUSTMENT (AD-2026-041)
Elevar el umbral de confianza del Follow-up Agent de 68% a 74% y restringir temporalmente sus acciones autónomas a plantillas pre-aprobadas, hasta completar reentrenamiento del modelo y reevaluación del comité.
Raise the Follow-up Agent confidence threshold from 68% to 74% and temporarily restrict its autonomous actions to pre-approved templates, until model retraining and committee re-evaluation are complete.
| Elemento | Detalle |
|---|---|
| Patrones detectados/ Detected patterns | 2 kill switches previos del Follow-up Agent por la misma causa raíz (deriva de confianza en cohortes de seguimiento) + 3 overrides humanos sobre mensajes de baja confianza |
| Estado de la propuesta/ Proposal status | PENDIENTE DE APROBACIÓN HUMANA · PENDING HUMAN APPROVAL |
| Trazabilidad del ciclo/ Cycle traceability | detección → propuesta (AD-2026-041) → aprobación humana → incorporación → verificación post-cambio |
06Autoridad clínica dinámica · Dynamic clinical authority
| Agente | Nivel de autoridad actual | Ajuste propuesto | Condiciones |
|---|---|---|---|
| Imaging Agent | Asistido (segundo lector)Assisted — second reader | Sin cambio en el período | Recuperación asistida tras reentrenamiento y aprobación del comité |
| Clinical History Agent | Autónomo de solo lecturaRead-only autonomous | Sin cambio | Mantener least-privilege; revisión trimestral |
| Risk Agent | Autónomo con escaladoAutonomous with escalation | Sin cambio | Escalado obligatorio en scoring ALTO |
| Follow-up Agent | Restringido · RestrictedIsolated after KS-003 | Restricción temporal: solo plantillas pre-aprobadas; umbral 68% → 74% | Reactivación sujeta a: reentrenamiento + 30 días sin desviación + aprobación explícita del comité |
- Recuperación de autonomía: solo por decisión humana documentada, con período mínimo de 30 días de desempeño conforme y reevaluación del comité. Autonomy recovery: only via documented human decision, with a minimum 30-day conforming performance period and committee re-evaluation.
- Restricción adicional: cualquier segundo kill switch del mismo agente en 90 días reduce su autoridad al nivel mínimo automáticamente. Further restriction: any second kill switch on the same agent within 90 days automatically demotes it to minimum authority.
07Artefactos de evidencia generados · Generated evidence artifacts
Registro de eventos EV-011 JSON
evidence_EV-2026-10-27-011_eventlog.json · 188 KB
Registro de kill switch KS-003 PDF
evidence_killswitch_KS-003_report.pdf · 210 KB
Propuesta de ajuste AD-2026-041 + aprobación PDF
evidence_adjustment_AD-2026-041_approval.pdf · 96 KB
Matriz de autoridad clínica dinámica CSV
evidence_dynamic_authority_matrix.csv · 18 KB
Logs de orquestación gobernada JSONL
evidence_governed_orchestration_log.jsonl · 3.8 MB
Paquete regulador / uso secundario (CDISC) ZIP
evidence_regulator_secondary_use_package.zip · 11.2 MB