Por qué el enfoque human-at-the-helm está sustituyendo al modelo human-in-the-loop
La expresión human-in-the-loop, que se remonta y los sistemas de ingeniería y de control de mediados del siglo XX, se adoptó en el ámbito del machine learning y la IA para referirse a la revisión o corrección humana de los resultados de dichos sistemas durante su entrenamiento e implementación. Este concepto resultaba oportuno para una generación diferente de IA, donde los sistemas eran limitados, reactivos y estaban sujetos a puntos de control claramente definidos. Sin embargo, el enfoque human-in-the-loop ha dejado de ser adecuado cuando la IA agentiva es capaz de planificar, actuar y adaptarse de manera autónoma, lo que rompe con los supuestos tradicionales de este modelo y convierte las aprobaciones puntuales en cuellos de botella.
El enfoque human-at-the-helm replantea la supervisión en esta nueva realidad: las personas establecen los objetivos, definen los guardarraíles, monitorizan el rendimiento y siguen siendo responsables de los resultados sin necesidad de ejercer un control excesivo sobre cada paso. Este cambio no surgió por el deseo de adoptar una expresión más moderna, sino como respuesta operativa a la realidad actual en la que se está implementando la IA.
Los sistemas de IA agentiva pueden iniciar tareas, utilizar herramientas, iterar y escalar. Son capacidades que ya no se limitan solo a los laboratorios, sino que también están presentes en el software empresarial, las plataformas para desarrolladores y los copilotos. Un modelo de gobernanza que adopte la aprobación de un revisor en cada acción no será escalable. El enfoque human-at-the-helm sí escala porque eleva el papel del ser humano hasta la capitanía: dirigir hacia dónde va el sistema, decidir su velocidad y determinar cuándo cambiar de rumbo. La responsabilidad sobre la dirección, el objetivo y la seguridad se mantiene donde corresponde: en las personas.
Los organismos internacionales de regulación y normalización están convergiendo hacia esta idea en la práctica, aunque utilicen terminologías diferentes. La Ley de IA de la UE, ya en vigor, codifica la supervisión humana junto a los requisitos basados en el riesgo a lo largo de todo el proceso de desarrollo y despliegue, y reafirma que la responsabilidad por los impactos significativos no puede delegarse en la automatización. El Marco de Gestión de Riesgos de IA del Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST AI RMF) hace hincapié en estructuras que encajan de forma natural con un enfoque operativo human-at-the-helm, en el que el ser humano lleva las riendas: gobernanza, evaluación y gestión continua a lo largo de todo el ciclo de vida de la IA.
Requisitos de gobernanza para la IA agentiva: confianza, escalado y velocidad
Las organizaciones se enfrentan a un desafío triple:
- Confianza. Los modelos son más capaces y fiables en dominios específicos que hace unos años, pero el impacto potencial de los fallos ha ido creciendo a medida que la IA va integrándose cada vez más en flujos de trabajo críticos.
- Escalado. Revisar cada decisión no es viable cuando los sistemas de IA agentiva ejecutan cientos de acciones en cuestión de minutos.
- Velocidad. Los equipos necesitan ofrecer resultados más rápido mientras refuerzan el control, y no mientras lo debilitan.
El modelo human-at-the-helm aborda estas tensiones a través de funciones y responsabilidades explícitas: definir qué se considera un buen resultado para cada tarea, establecer límites mediante guardarraíles, instrumentar el proceso con vigilancias y registros o logs, e intervenir cuando surjan riesgos, incertidumbres o excepciones.
Varios marcos globales de gobernanza de IA reflejan este cambio, como, por ejemplo: Las directrices actualizadas de Japón sobre IA para 2026 abordan explícitamente los agentes autónomos, exigiendo que los sistemas capaces de actuar de forma independiente permanezcan sujetos a la toma de decisiones, autoridad y los mecanismos de escalado llevados a cabo por humanos. Esto refuerza un modelo de supervisión basado en una gestión continua, en lugar de una aprobación paso a paso.
En este sentido, el NIST AI RMF proporciona una estructura útil: Gobernar, Asignar, Medir y Gestionar. En la práctica, esto implica desarrollar políticas y cultura (Gobernar), definir el contexto y el uso previsto (Asignar), aplicar métricas y evaluaciones (Medir), y ejecutar mitigaciones priorizadas y mejora continua a lo largo del ciclo de vida de la IA (Gestionar).
La Ley de IA de la UE ha introducido requisitos de forma escalonada desde 2025, incluyendo obligaciones específicas para proveedores y usuarios de sistemas de alto riesgo: documentación, registro de actividad (logging), transparencia para los usuarios y supervisión humana. Esta arquitectura presupone que alguien está pilotando el sistema, en lugar de limitarse a validar automáticamente cada paso.
Human-at-the-Helm en la práctica: Convertir los principios en sistemas operativos
Una vez establecido el «por qué», la siguiente pregunta es el «cómo»: ¿cómo hacer tangible el enfoque human-at-the-helm sin ralentizar a tus equipos ni ahogarlos en ciclos de revisión?
- Empieza por la intención. Dota a cada sistema de IA de una declaración de objetivos bien definida: para qué sirve, dónde debe generar valor y cómo sabrás que ha tenido éxito. Esa intención sustenta las decisiones de diseño que siguen: elegibilidad de los datos, acceso a las herramientas, alcance de las decisiones y rutas de escalado. Cuando el objetivo es difuso, la responsabilidad también se vuelve poco clara.
- Convierte la intención en límites. Define lo que el sistema puede hacer, lo que no debe hacer y las condiciones en las que debe detenerse y pedir ayuda. No se trata de un manual de políticas abandonado en una estantería; se aplica en la configuración del sistema. En concreto, eso implica límites explícitos sobre las acciones y los datos, guardarraíles para cuando aumenta la incertidumbre y «vías de salida» de gestión humana para casos excepcionales.
- Cambia la supervisión: de la microgestión a la instrumentación. En lugar de aprobar cada acción, observa los indicadores que importan: rendimiento frente a la tarea, signos de desviación o sesgo, patrones de error, señales de seguridad y comportamiento de los costes. Estás creando una «cabina de mando» fiable: alertas, logs o registros y paneles de control que permiten al responsable ver cómo se comporta el sistema e intervenir con rapidez.
- Evalúa el realismo, no solo las condiciones ideales. Comprueba periódicamente cómo responde el sistema ante entradas caóticas, indicaciones ambiguas y casos extremos. Averigua dónde es frágil y con qué facilidad pueden saltarse las medidas de seguridad tanto los nuevos usuarios como los más experimentados. Comprender los modos de fallo te muestra dónde debes reforzar los controles y dónde puedes ampliar la autonomía con seguridad.
- Mantén la documentación y la trazabilidad controladas. Cuando algo falla, necesitas reconstruir qué hizo el sistema, por qué y quién fue el responsable del resultado. Los registros claros de las decisiones de diseño, los cambios relevantes y las acciones significativas no son burocracia; son la base de la explicabilidad y la confianza.
El enfoque human-at-the-helm no consiste en poner barreras a la IA, sino en garantizar que avanza rápidamente en la dirección correcta, con guardarraíles claros y bajo un control humano visible. Esto te permite escalar capacidades sin renunciar a la responsabilidad.
Cuándo no delegar y cómo delegar de forma responsable
Antes de decidir qué tareas confiar a la IA, es igual de importante decidir cuáles deben seguir estando bajo control humano. Algunas decisiones requieren un contexto, un juicio ético o una responsabilidad directa que no pueden transferirse a un sistema de forma deliberada. La gestión de estos riesgos exige un diseño ético, una supervisión institucional y una responsabilidad humana continua. En estos casos, la IA puede servir de apoyo en el trabajo aportando ideas o planteando opciones, pero no debería actuar de forma independiente. Tratar la delegación como algo predeterminado en lugar de como una elección deliberada es una de las formas más rápidas de introducir riesgos innecesarios.
Una forma práctica de tomar esta decisión:
- Empieza por el impacto. Si una decisión puede afectar de manera significativa a clientes, socios, mercados o a los derechos de las personas, sube el listón de la autonomía. Cuanto mayor sea lo que está en juego, más justificado estará el juicio humano en el momento de la decisión.
- Ten en cuenta la fiabilidad en condiciones reales. Incluso los sistemas muy avanzados pueden comportarse de forma irregular. Conoce en qué es fuerte un modelo, dónde es frágil y cómo responde bajo presión. Si no entiendes sus límites, no estás delegando; estás renunciando a tu responsabilidad.
- Cuando decidas delegar, hazlo de forma deliberada. Limita el sistema a lo que la tarea requiere y a nada más. Define claramente los umbrales de escalado y las señales que deben activar la intervención humana. Asegúrate de que, en esos casos, el sistema no continúe avanzando y que un humano pueda intervenir de forma rápida y decisiva.
- Mantén una visibilidad continua. Delegar cambia la forma de supervisar; no la elimina. En lugar de revisar cada resultado, presta atención a los cambios de patrones, las anomalías y las señales tempranas que indiquen que el sistema se encuentra fuera de su zona de confort. No confíes en que el propio sistema se supervise a sí mismo. Así es como se mantiene la velocidad sin perder el control.
- Mantén la responsabilidad inequívoca. La IA no es responsable de los resultados; lo son los equipos. Una responsabilidad clara acelera la respuesta ante incidentes y garantiza que el aprendizaje de un caso mejore la siguiente iteración.
Este criterio (qué automatizar, dónde fijar los límites y cómo supervisar) es la esencia del enfoque human-at-the-helm. Así es como las organizaciones aprovechan las ventajas de la IA agentiva a la vez que protegen la confianza.
Qué significa human-at-the-helm en Dun & Bradstreet
Así es como Dun & Bradstreet pone en práctica este modelo de gobernanza de IA agentiva:
La responsabilidad recae en las personas
No tratamos la IA como un atajo o una caja negra. Los responsables de producto y de riesgos son quienes asumen la responsabilidad de los resultados. Diseñamos y documentamos con criterios de explicabilidad y trazabilidad, para que las decisiones puedan entenderse, auditarse y mejorarse.
La gobernanza es intencional desde el primer día
Partimos de los objetivos y los límites, no de controles a posteriori. Se analiza cada caso de uso en cuanto a valor y riesgo, y luego se implementan los mecanismos necesarios para una supervisión continua. Esto nos permite actuar con rapidez y mantener la visibilidad.
Nuestra plataforma central de IA, D&B AIBE, incorpora una supervisión con control humano de forma intencional, lo que permite que la IA agentiva se desarrolle dentro de los límites definidos. La gobernanza está centralizada, la autonomía se limita a tareas específicas y se preservan la visibilidad y la auditabilidad en todas las fases.
La evaluación está integrada en el ciclo de vida
Probamos tanto la capacidad como los modos de fallo, incluyendo cómo se comporta el sistema ante la ambigüedad y con qué facilidad pueden eludirse las medidas de seguridad. Estos conocimientos determinan el nivel de autonomía y las condiciones de escalado.
La delegación es deliberada, no automática
Utilizamos la IA donde acelera los resultados: redacción, resumen, clasificación y detección de anomalías. Dejamos que los humanos tomen las decisiones que tienen un impacto significativo. El alcance se ajusta a la tarea, con vías de salida claramente definidas.
Por ejemplo, en nuestra solución D&B® Risk Analytics, la IA agentiva gestiona los flujos de trabajo de riesgo de forma autónoma bajo políticas explícitas, mientras que los humanos conservan la capacidad de decisión y la autoridad de escalado. Cada acción es completamente rastreable, auditable y cumple con los requisitos regulatorios.
La confianza se construye mediante el diseño y las operaciones
Nuestros clientes utilizan nuestros datos y análisis para tomar decisiones significativas. La supervisión con control humano nos ayuda a innovar sin comprometer la confianza que depositan en nosotros. Garantiza que, a medida que la IA se vuelve más capaz y se integra cada vez más en los flujos de trabajo de las empresas, la responsabilidad siga siendo clara y el rendimiento permanezca visible.
El objetivo no ha cambiado: tomar mejores decisiones, más rápido. El enfoque human-at-the-helm es la forma de lograrlo: manteniendo a las personas responsables al timón mientras la IA rema con rapidez y coherencia dentro de unos límites bien definidos.
