Las grandes instituciones financieras han invertido tiempo y presupuesto en comités de IA, principios de responsabilidad y marcos de gobernanza aprobados por sus consejos. El problema, según Lev Yatsemyrskyi, director de tecnología cuantitativa en Qube Research & Technologies, es que esa arquitectura documental no responde la pregunta que importa: ¿puede la organización reconstruir, meses después y ante un regulador exigente, qué decidió su sistema de IA, sobre qué datos y con qué lógica?
Yatsemyrskyi, quien lideró infraestructura con IA en un operador de mercados financieros en Estados Unidos, argumenta que el enfoque habitual está invertido. «Tratamos la gobernanza como un ejercicio de política —principios, comités, aprobaciones—», escribe. «Pero lo que realmente limita la gobernanza en un entorno regulado no es la calidad de la política. Es si puedes ver lo que hacen tus sistemas con suficiente detalle para aplicar esa política».
En finanzas reguladas, la consecuencia es concreta. Cuando un regulador pregunta por qué se marcó una posición de riesgo o por qué se autorizó una transacción, la respuesta no puede ser «nuestra política exige supervisión humana». La respuesta es el rastro de la decisión: los insumos, el estado del modelo, la ruta lógica, el punto donde intervino una persona. Ese rastro es un artefacto de observabilidad. O se captura en el momento en que ocurre la decisión, o no existe.
El autor identifica tres brechas recurrentes. La primera: las organizaciones asignan un responsable humano para las decisiones de IA pero nunca construyen la trazabilidad que haría real esa responsabilidad. La segunda, y la más peligrosa según su experiencia: los tableros de gobernanza muestran métricas agregadas —precisión, tasas de error, indicadores de equidad— mientras decisiones individuales se desvían silenciosamente de la política. «Un tablero puede mostrar verde durante meses mientras las decisiones individuales se alejan tranquilamente del marco», advierte. La tercera: la política se escribe una vez y se revisa trimestralmente, pero el sistema que gobierna cambia cada semana —modelos reentrenados, fuentes de datos sustituidas, agentes con nuevas acciones—. Para la próxima revisión, el documento describe un sistema que ya no existe.
La solución que propone no pasa por más comités ni documentos más largos. Exige tres cambios operativos: trazabilidad a nivel de decisión como condición de funcionamiento, no como opción de auditoría; monitoreo diseñado para detectar la decisión individual que se salió del marco, no para esperar que el agregado lo admita; y reconciliación continua entre política y sistema, con alertas automáticas cuando el comportamiento real diverge del documentado.
---
El argumento de Yatsemyrskyi ilumina una tensión que el sector financiero global aún no ha resuelto: la brecha entre el aparato regulatorio visible —políticas, comités, certificaciones— y la capacidad real de rendir cuentas. Las instituciones que tratan la observabilidad como infraestructura de primer nivel, y no como un reporte que se genera después del incidente, construyen un activo concreto: la posibilidad de demostrar que merecen confianza, en lugar de solo declararlo.
Para el capital privado, la señal es clara. En industrias reguladas, la gobernanza de IA que no puede ser auditada decisión a decisión es un pasivo contingente, no una ventaja competitiva. El mercado, tarde o temprano, distinguirá entre quienes gobiernan sistemas que pueden ver y quienes administran documentos sobre sistemas que no controlan.