La inteligencia artificial falla en las empresas casi siempre por la misma razón. No es el modelo. No es la tecnología. Es la gobernanza, o más precisamente, su ausencia.
Esa es la conclusión del Dr. Ali Alkhafaji, CEO de APPLY, empresa global de experiencia de cliente basada en IA agéntica. En un análisis publicado en Forbes, Alkhafaji describe un patrón que se repite en las salas de juntas corporativas: el piloto funciona, la confianza crece, el alcance se expande y, en algún punto de esa expansión, la pregunta sobre quién es responsable de lo que produce el sistema queda sin responder.
La normalización del desvío
Alkhafaji recurre a un concepto de ingeniería para explicar el mecanismo: la «normalización de la desviación». Pequeñas concesiones razonables se aceptan una a una hasta que la organización opera con un nivel de riesgo que habría sido impensable al inicio. El autor señala que el mismo fenómeno contribuyó al desastre del transbordador Challenger: ninguna decisión individual parecía irrazonable en aislamiento, pero el peligro se acumuló hasta que un fallo catastrófico hizo visible el riesgo total.
Pone un ejemplo concreto: un motor de personalización en retail. En el primer trimestre recomienda productos según el historial de navegación. En el segundo, incorpora frecuencia y momento de compra. En el tercero, comienza a inferir cambios en la etapa de vida del cliente y ajusta los mensajes en consecuencia. Nadie autorizó esa inferencia. Nadie la aprobó. Se acumuló, un paso defensible a la vez, hasta que el sistema hacía algo que incomodaría a la propia dirección si un cliente les pidiera explicaciones.
Un nombre, no un comité
Las organizaciones que gestionan bien este riesgo comparten un hábito estructural: asignan a una persona concreta como responsable de cada output de IA antes de que llegue al cliente. No un comité. No un departamento. Una persona.
Según Alkhafaji, esa decisión de diseño impone un nivel de rendición de cuentas que ninguna política escrita puede replicar, porque las políticas no reciben culpas cuando algo sale mal. Las personas sí, y quienes saben que serán responsables se comportan de forma diferente.
El autor plantea tres preguntas que cualquier equipo directivo debería responder: si pueden nombrar al responsable de cada output que ven sus clientes; cuándo fue la última vez que rastrearon una pequeña concesión hasta su origen; y si la organización trata la gobernanza como una restricción a la innovación o como el fundamento que la hace confiable.
El momento importa
El análisis cobra mayor relevancia ahora que los sistemas agénticos razonan, planifican y actúan a lo largo de journeys completos de cliente, frecuentemente sin revisión humana en tiempo real. La superficie de riesgo no gobernado se ha expandido de forma significativa, según Alkhafaji, y la mayoría de las estructuras de gobernanza no han seguido el ritmo.
Desde Ágora Capital, la lectura es directa: la gobernanza no es regulación burocrática impuesta desde afuera. Es el activo que permite escalar con credibilidad. Las empresas que la tratan como fricción terminan enredadas en litigios, pérdidas de reputación o intervenciones regulatorias que cuestan más que cualquier marco de control interno. Capital busca reglas claras, y eso empieza dentro de la propia organización. Un nombre junto a cada output no es una carga administrativa; es la diferencia entre una ventaja competitiva sostenible y un pasivo acumulado esperando estallar.
