La conversación sobre gobernanza de IA se queda corta cuando solo mira al modelo, advierte Tony Grout, chief product and technology officer de M-Files. A su juicio, esas preguntas siguen siendo relevantes —si son seguros, si están sesgados—, pero ya no alcanzan en una etapa en la que las organizaciones pasan de asistentes a agentes capaces de tomar decisiones importantes.
El eje, dice, es otro: la IA confiable no empieza con el modelo, sino con los datos confiables. Si una empresa no hace ese salto, corre el riesgo de dejar que un sistema autónomo actúe con información incompleta, desconectada o poco confiable. En ese escenario, la automatización deja de ser una palanca de productividad y puede convertirse en una fuente de errores muy costosos.
Grout pone como ejemplo la noción de «contexto», cada vez más central en el software empresarial. Antes, los trabajadores debían buscar manualmente dónde estaba cada documento, cuál era la versión más reciente y cómo se relacionaban las piezas de información. Ahora, la IA puede encontrar el dato correcto según la situación, pero solo si ese contexto está bien protegido y validado.
La diferencia no es menor. Un contrato, explica, no es solo un documento: está conectado con clientes, proveedores, productos, regulaciones e información financiera. Según Grout, los modelos de lenguaje no están diseñados para entender de forma inherente esas relaciones interconectadas; si se los deja solos, infieren conexiones a partir de patrones lingüísticos y a veces responden con aparente confianza aunque estén equivocados. Eso, remarca, no es gobernanza, sino adivinación.
Su crítica apunta también a una idea extendida: que alimentar al modelo con más documentos garantiza mejores decisiones. En realidad, sostiene que la IA es mucho más confiable cuando se apoya en relaciones de negocio validadas y no cuando intenta reconstruirlas desde cero. Por eso, plantea que las empresas deberían exponer directamente sus relaciones ya verificadas en sistemas como ERP, CRM, aplicaciones financieras o repositorios gobernados.
La metáfora que propone es clara: en lugar de pedirle a la IA que dibuje un mapa, hay que darle uno. Si un empleado formula una consulta sobre una línea de negocio, la respuesta no debería depender de una suposición del modelo sobre miles de páginas, sino de relaciones validadas entre contratos, componentes, proveedores e instalaciones que ya existen dentro de sistemas gobernados.
El punto más delicado llega con los agentes. A medida que ganan autonomía, la gobernanza ya no puede ser un marco estático. Debe evolucionar al mismo ritmo que los sistemas que supervisa. Grout advierte que, si un agente está mal configurado, puede exponer información sensible, enviar comunicaciones incorrectas o ejecutar acciones que generen riesgos de cumplimiento, y hacerlo a una escala imposible para una persona.
Para las empresas, la señal es inequívoca: la disciplina importa más que la novedad. Grout sostiene que la confianza exige medir de forma continua si la IA produce resultados confiables, validar recomendaciones contra datos de negocio confiables y corregir sistemas con retroalimentación real. Sin eso, la promesa de la IA se queda en entusiasmo.
El mercado ya votó: no alcanza con adoptar IA por moda. Capital busca reglas claras, trazabilidad y responsabilidad. En la era de los agentes, la ventaja competitiva no la da el modelo más llamativo, sino la infraestructura de datos que reduce riesgo y protege el margen. Quien trate la gobernanza como un trámite burocrático terminará pagando el costo en errores, compliance y productividad perdida.