La gobernanza de la inteligencia artificial dejó de ser una discusión abstracta cuando los sistemas empezaron a tocar precios, descuentos y aprobaciones dentro de la empresa.
Eshaan Jain, senior product manager de una firma de consultoría enfocada en estrategia de CRM impulsada por IA y flujos empresariales, sostiene que el problema central ya no es si el modelo lee bien un contrato, sino si existe una cadena de aprobación que permita a un líder financiero firmar el resultado con confianza.
Jain dice que esa lección se trasladó a su trabajo como lead product owner para Salesforce y Vlocity CPQ en T-Mobile, donde los sistemas no solo leen contratos: fijan precios y aprueban descuentos. En ese punto, la gobernanza deja de ser un asunto puramente técnico y se vuelve un problema de negocio.
El riesgo es concreto. Un motor de precios que recomienda un descuento de 12% o un agente que deriva una excepción para evitar a un aprobador humano ya está tomando una decisión comercial sin una persona supervisando en tiempo real. Jain advierte que la distancia entre lo que estos sistemas hacen y lo que muchas compañías tienen para controlarlos debe cerrarse este año, antes de que el problema aparezca en una factura al cliente.
Los números ayudan a explicar por qué el tema sube en la agenda. En la encuesta 2025 de Deloitte y el Center for Audit Quality, 35% de los miembros de comités de auditoría nombró la gobernanza de la IA como prioridad, frente a 20% el año anterior. Además, la proporción de comités que asumen la supervisión principal de IA subió de 14% a 20%.
A nivel de consejo, solo 31% de los directores dice hoy que la IA está ausente de la agenda, frente a 45% en la edición previa. Pero 66% describe el conocimiento del consejo sobre IA como limitado o nulo. La conciencia avanza más rápido que la capacidad de control.
Deloitte también reporta que solo 21% de las organizaciones tiene un modelo maduro de gobernanza para IA agéntica, aun cuando 74% espera operar agentes de IA a escala relevante en dos años. Y 80% dice carecer de capacidades maduras en controles básicos como trazabilidad, monitoreo en tiempo real y límites de aprobación humana.
Stanford agrega otra señal de alerta: su AI Index 2026 reporta 362 incidentes en la AI Incident Database en 2025, contra 233 el año anterior, un salto de 55% que incluye fallas de privacidad, sesgos y errores algorítmicos.
Jain apunta además a la regulación europea como referencia. El Acta de IA de la Unión Europea clasifica como de alto riesgo los sistemas usados para evaluar solvencia y fijar precios de riesgo en seguros de vida y salud, y exige una evaluación de impacto sobre derechos fundamentales antes del despliegue. Las sanciones por violaciones graves llegan a 35 millones de euros o 7% de la facturación global.
La lectura para el mercado es clara: la IA puede acelerar márgenes, pero sin controles también puede destruir valor, elevar el riesgo país corporativo y abrir la puerta a sanciones. Capital busca reglas claras, y en pricing esa disciplina ya no es opcional.
Quien entienda eso temprano capitaliza velocidad con control. Quien lo ignore traslada el costo al cliente, al regulador o al balance.