Dos obligaciones, un enfoque integrado
El EU AI Act impone dos requisitos que se complementan
Las empresas que usan IA deben garantizar que las personas responsables de su supervisión cuenten con competencias suficientes en alfabetización en IA.
Ver programa de formaciónLos sistemas IA de alto riesgo deben permitir a los supervisores humanos comprender sus capacidades, detectar anomalías e intervenir o detener el sistema cuando sea necesario.
Este documento explica cómo lo cumplimos ↓La clave: no basta con tener la tecnología supervisable — el equipo humano que la supervisa también debe estar formado (Art. 4). Por eso ofrecemos ambas cosas: agentes con gobernanza integrada y el programa de alfabetización para que tu equipo sepa cómo supervisarlos.
Las 3 capas de supervisión humana
Cada agente que desplegamos opera bajo estas tres capas simultáneamente. Son parte de la arquitectura, no opciones adicionales.
Supervisión Preventiva
Diseñamos el riesgo fuera del sistema, antes de que ocurra
Antes de desplegar cualquier agente, realizamos un análisis de riesgos completo y establecemos reglas de operación que el agente no puede sobrepasar. El ser humano define los límites; la IA opera dentro de ellos.
Mecanismos incluidos
- Análisis de riesgos previo al despliegue (Art. 9 EU AI Act)
- Definición explícita de límites de actuación del agente
- Whitelists de acciones permitidas y blacklists de acciones prohibidas
- Umbrales de confianza configurables: el agente no actúa si la confianza es baja
- Revisión humana obligatoria de la configuración inicial
Supervisión Activa
Visibilidad total en tiempo real con capacidad de intervención inmediata
Durante la operación, el agente genera trazabilidad completa de cada acción. El responsable humano tiene visibilidad total y puede pausar, redirigir o detener el agente en cualquier momento con un solo clic.
Mecanismos incluidos
- Dashboard de monitorización en tiempo real (Art. 14)
- Log de auditoría inmutable de cada decisión y acción del agente
- Alertas automáticas ante comportamientos anómalos o de baja confianza
- Kill-switch global: detención inmediata de todos los agentes en caso de incidencia
- Control granular por lead/prospecto: pausar el agente individualmente
- Modo Zero Data: el agente no almacena historial para leads que lo soliciten
Supervisión Correctiva
Aprendizaje continuo con validación humana explícita de cada cambio
Cuando el agente comete un error o el contexto cambia, el sistema documenta la incidencia, requiere validación humana explícita antes de aplicar cualquier corrección, y genera un informe de mejora auditado.
Mecanismos incluidos
- Registro de incidencias con clasificación de nivel de riesgo
- Toda corrección de parámetros requiere validación humana explícita (Art. 14)
- Informe mensual de gobernanza con métricas de supervisión
- Tasa de intervención humana monitoreada como KPI de cumplimiento
- Histórico de versiones del agente para auditoría retroactiva
KPIs de cumplimiento que monitorizamos
El cumplimiento no es un estado puntual, es una métrica continua. Estos son los indicadores que incluimos en el informe mensual de gobernanza.
Tasa de intervención humana
% de acciones revisadas por un humano antes de ejecutarse
Tiempo de respuesta al kill-switch
Detención total del agente en < 3 segundos
Cobertura del log de auditoría
100% de acciones trazadas e inmutables
Alertas de anomalía atendidas
SLA de respuesta < 24h para incidencias críticas
Nota importante sobre el ámbito de aplicación
El EU AI Act establece requisitos proporcionales al nivel de riesgo del sistema IA. No todos los agentes están clasificados como "alto riesgo", pero adoptamos estas salvaguardas de forma proactiva en todos nuestros despliegues porque son una buena práctica de ingeniería y porque generan la confianza que merecen tus clientes y tu equipo. Nuestros agentes no realizan en ningún caso puntuación financiera automatizada, análisis crediticio ni decisiones con impacto legal directo sobre personas físicas.