Introducción
La inteligencia artificial ya dejó de ser una herramienta exclusivamente analítica o de soporte. En muchas organizaciones, y especialmente en el sector financiero, la evolución está llevando hacia un nuevo nivel: sistemas de IA capaces no solo de responder preguntas o generar contenido, sino también de planificar acciones, ejecutar tareas, interactuar con sistemas y tomar decisiones operativas con menor intervención humana.
Ese salto cambia radicalmente el perfil de riesgo.
La banca ya no enfrenta únicamente el reto de gobernar modelos que generar riesgos crediticios o de mercado. Ahora empieza a enfrentar el reto de gobernar agentes de IA que actúan y que pueden generar otra tipología de riesgos..
Este cambio es estratégico. Un sistema de IA que resume documentos, propone textos o clasifica incidentes tiene un nivel de exposición. Pero un sistema que prioriza alertas, escala eventos, reconfigura flujos, aprueba operaciones bajo criterios predefinidos o interactúa con clientes y sistemas core se convierte en un componente operativo con impacto directo en riesgo operacional, cumplimiento, privacidad, ciberseguridad, continuidad y gobierno corporativo.
En otras palabras, el riesgo ya no está solo en lo que la IA “dice”. El riesgo está en lo que la IA hace.
De la IA generativa a la IA agentica
La mayoría de las organizaciones se familiarizó primero con la IA generativa: herramientas que redactan, sintetizan, analizan o responden. Su riesgo principal estaba vinculado a errores de contenido, sesgos, fuga de información o uso no autorizado.
Sin embargo, la siguiente fase es más compleja. La Agentic AI o IA agentica incorpora capacidades adicionales:
- interpreta objetivos;
- descompone tareas;
- prioriza acciones;
- interactúa con múltiples aplicaciones;
- decide entre rutas posibles;
- ejecuta secuencias sin supervisión permanente;
- aprende de la interacción operativa.
En banca, esto puede traducirse en casos como:
- priorización automática de alertas antifraude;
- interacción con clientes en procesos de soporte;
- preparación y envío de respuestas regulatorias preliminares;
- seguimiento automatizado de remediaciones;
- clasificación y escalamiento de incidentes operacionales;
- coordinación de tareas de continuidad o recuperación;
- apoyo a evaluaciones de terceros o controles.
La oportunidad de eficiencia es enorme. Pero también lo es la exposición.
¿Por qué este tema es crítico para la banca?
La banca opera sobre un principio básico: confianza más control.
Cualquier capacidad tecnológica que influya sobre clientes, operaciones, decisiones o cumplimiento debe tener niveles proporcionales de gobierno, trazabilidad y supervisión. El problema es que muchas organizaciones pueden empezar a usar capacidades agentic AI sin haber actualizado su marco de riesgo, sus controles o su modelo de gobierno. Esto genera una brecha crítica entre innovación y control.
En la práctica, el riesgo aparece cuando:
- la IA ejecuta acciones que nadie supervisa adecuadamente;
- no existe claridad sobre los límites de actuación del agente;
- no se sabe qué datos usa para decidir;
- no se puede reconstruir cómo llegó a un resultado;
- no está definido quién responde por sus decisiones;
- no existe mecanismo claro para detenerla, limitarla o revertirla.
Ese punto es especialmente relevante en entornos regulados, donde la organización debe poder demostrar:
- responsabilidad;
- trazabilidad;
- proporcionalidad de controles;
- integridad de los datos;
- supervisión humana;
- capacidad de intervención;
- cumplimiento normativo.
Riesgos clave de la Agentic AI en banca
1. Riesgos por decisiones no suficientemente gobernadas
Cuando la IA empieza a ejecutar acciones, el control deja de ser opcional. Un agente puede priorizar eventos, activar respuestas, escalar decisiones o modificar flujos operativos. Si eso ocurre sin reglas claras, la entidad puede terminar aceptando decisiones que no fueron adecuadamente aprobadas ni entendidas.
2. Riesgo operacional amplificado
La IA puede mejorar productividad, pero también puede escalar errores. Una lógica equivocada, un dato defectuoso o un criterio mal parametrizado puede replicarse a gran velocidad. A diferencia del error humano aislado, el error automatizado puede convertirse en un evento masivo.
3. Riesgo por incumplimiento
Si un agente utiliza criterios opacos o no validados en procesos vinculados con clientes, fraude, cumplimiento, reclamos o decisiones sensibles, la entidad puede enfrentar observaciones regulatorias, incumplimientos normativos o problemas de rendición de cuentas.
4. Riesgo de pérdida de privacidad y uso indebido de datos
Los agentes necesitan contexto y datos para operar. Si la organización no define límites sobre el tipo de información que el sistema puede acceder, procesar o compartir, la exposición sobre datos personales, información financiera o datos sensibles puede incrementarse significativamente.
5. Riesgo reputacional
Cuando la IA actúa, la organización no solo debe preocuparse por la calidad técnica del sistema, sino también por la percepción del cliente y del mercado. Una acción errónea, una decisión injusta, una respuesta inadecuada o un comportamiento automatizado no previsto puede erosionar rápidamente la confianza.
6. Riesgos por dependencia tecnológica
Una vez integrados en procesos críticos, los agentes de IA pueden convertirse en componentes clave de la operación. Si la organización no define mecanismos de contingencia, reversión o sustitución, puede crear una nueva dependencia difícil de gestionar.
El gran error: tratar la Agentic AI como si fuera solo otra herramienta digital
Uno de los errores más relevantes es gestionar la IA agente con la misma lógica que una herramienta tradicional de automatización o una simple aplicación de productividad.
No es lo mismo automatizar tareas fijas bajo reglas cerradas que operar con agentes capaces de evaluar contexto, elegir rutas y ejecutar acciones. La diferencia de riesgo es sustancial.
Por eso, el gobierno de Agentic AI no puede quedar solo en Tecnología.
Debe involucrar a:
- Riesgos;
- Cumplimiento;
- Seguridad de la Información;
- Privacidad;
- Auditoría Interna;
- Continuidad del Negocio;
- Alta Gerencia;
- Dueños del proceso de negocio.
Elementos mínimos de gobierno para IA agente
Si una entidad financiera quiere incorporar Agentic AI de forma responsable, debería construir al menos los siguientes componentes:
1. Inventario de agentes y casos de uso
La organización debe saber qué agentes existen, qué hacen, en qué procesos participan, qué decisiones apoyan y qué datos utilizan.
2. Clasificación por criticidad
No todos los agentes tienen el mismo nivel de riesgo. Deben clasificarse según impacto potencial en clientes, cumplimiento, datos, continuidad, reputación y operación.
3. Límites de actuación
Debe definirse claramente hasta dónde puede actuar el agente, qué decisiones puede ejecutar, cuáles requieren revisión humana y cuáles están prohibidas.
4. Supervisión humana significativa
La IA puede asistir e incluso ejecutar ciertas tareas, pero la responsabilidad final debe permanecer claramente asignada. La supervisión humana no debe ser decorativa; debe ser efectiva.
5. Trazabilidad y evidencia
La organización debe poder reconstruir:
- qué hizo el agente;
- con qué datos;
- bajo qué reglas;
- qué resultado generó;
- quién revisó;
- qué acción se ejecutó finalmente.
6. Controles de datos y privacidad
El acceso a información debe estar acotado y protegido. El uso de datos sensibles debe estar justificado, monitoreado y alineado con regulación y políticas internas.
7. Mecanismo de intervención o apagado
Todo agente crítico debe tener capacidad de ser detenido, limitado o revertido. Si la organización no puede frenar una solución de IA, no la está gobernando adecuadamente.
8. Monitoreo continuo
El comportamiento del agente debe monitorearse, especialmente en precisión, desvíos, sesgos, incidencias, acciones ejecutadas, excepciones y eventos fuera de tolerancia.
Conclusión
La Agentic AI representa uno de los cambios más profundos en la relación entre tecnología, operación y riesgo.
Su potencial es claro: eficiencia, velocidad, escalabilidad y automatización inteligente. Pero su exposición también lo es: más autonomía implica más exigencia de gobierno.
La banca no puede permitirse adoptar agentes de IA como si fueran simples herramientas auxiliares. Debe tratarlos como componentes críticos del ecosistema de riesgo, control y continuidad.
En esta nueva etapa, la pregunta clave ya no es si la IA está ayudando.
La pregunta clave es: ¿está actuando dentro de límites, controles y responsabilidades claramente definidos?
Porque cuando la IA deja de asistir y empieza a decidir, el gobierno ya no es una buena práctica. Se convierte en una necesidad estratégica.