Los líderes empresariales suelen ver el lanzamiento de un sistema de inteligencia artificial como la meta final. Pero Klaudia Zaika, directora ejecutiva de Apriorit, advierte que los fallos críticos suelen empezar después de la salida a producción, cuando el sistema se enfrenta a datos reales y usos imprevistos.
Zaika señala que incluso una IA que rindió bien al estrenarse puede degradarse con el tiempo y desviarse de los datos con los que fue entrenada. También menciona que las sesiones largas y los agentes de IA pueden deteriorarse, y cita un estudio de 2026 que encontró que el desempeño del modelo abierto Qwen2.5-7B se derrumbaba cuando alcanzaba cerca de 40-50% de su ventana máxima de contexto.
La detección de esa degradación, añade, suele ser silenciosa y difícil. Para frenarla, recomienda técnicas como el índice de estabilidad poblacional y la comparación con tráfico en sombra. En observabilidad, dice que el sector suele medir métricas básicas y llamadas a herramientas, pero no la calidad real de las salidas.
En su visión, las empresas deberían vigilar métricas específicas de IA como deriva de datos, alucinaciones, bucles de razonamiento y consumo de tokens. También propone definir desde el inicio el caso de uso central y qué debe considerarse una salida correcta, para comparar luego los resultados en vivo y ajustar el modelo.
El frente legal es igual de delicado. Zaika afirma que una sola política, precio o regla de reembolso inventada por una IA basta para crear un problema legal. Recuerda que en 2024 Air Canada fue obligada a honrar un descuento por duelo alucinado por su chatbot, y que en 2026 un tribunal alemán determinó que Google es directamente responsable por declaraciones falsas sobre terceros identificables hechas por Google Search AI Overviews.
Además, menciona que el Reglamento de IA de la Unión Europea exige a los proveedores de sistemas de alto riesgo monitorearlos continuamente después del lanzamiento y reportar incidentes graves. Ante eso, recomienda identificar qué respuestas no puede equivocarse una empresa y asignar un responsable humano a cada una, además de conservar registros de monitoreo bien documentados.
Zaika también subraya un riesgo de seguridad: por defecto, un modelo de IA no distingue de forma confiable entre instrucciones legítimas y prompts maliciosos ocultos en los datos. OWASP, dice, identifica la inyección de prompts como una de las principales causas de fallas en sistemas agenticos en producción.
En la parte operativa, recuerda que la adopción y el mantenimiento de IA suelen traer gastos extra no previstos. Gartner prevé que para fines de 2027 más de 40% de los proyectos de IA agente serán cancelados, y atribuye ese desenlace a costos crecientes y valor de negocio poco claro. Entre los costos ocultos que enumera están el contexto sobredimensionado y los bucles infinitos entre agentes, capaces de consumir tokens por miles de dólares en horas.
Los números primero. El mercado ya votó. Capital busca reglas claras.
La advertencia importa porque la promesa de productividad de la IA no se sostiene sola: necesita disciplina, controles y responsabilidad humana. Cuando el aparato empresarial confunde lanzamiento con madurez, termina pagando con margen, reputación y riesgo regulatorio.
También hay una lectura de incentivos. Si los costos reales aparecen después, y si además pueden derivar en litigios, la libre empresa gana cuando exige métricas, límites y rendición de cuentas antes de escalar. La improvisación tecnológica sale cara; la gobernanza seria protege capital y evita que la burocracia o el caos terminen imponiendo su factura.
