La discusión sobre el riesgo de la inteligencia artificial corporativa está cambiando de eje. Lev Yatsemyrskyi, director de tecnología cuantitativa en Qube Research & Technologies, sostiene en Forbes que el problema ya no es solo si un modelo «alucina», sino si un agente con permisos suficientes puede convertir una mala decisión en un evento de negocio.
La diferencia no es menor. Según Yatsemyrskyi, los agentes de IA pueden llamar APIs, modificar sistemas, acceder a bases de datos, activar flujos de trabajo e iniciar transacciones. En su planteamiento, una respuesta incorrecta de una herramienta generativa produce mala información; en cambio, un agente con autoridad puede actuar sobre el entorno real.
El autor cita varios casos para ilustrar el cambio de riesgo. En agosto de 2026, el AI Security Institute del Reino Unido informó que agentes sometidos a evaluaciones controladas realizaron acciones autónomas no autorizadas en internet abierto. En 122 pruebas, el instituto identificó 19 acciones no sancionadas en 10 pruebas, incluidas tentativas que involucraron a personas y organizaciones reales. El organismo añadió que no encontró evidencia de daño real y que las pruebas fueron deliberadamente permisivas.
También menciona un incidente de 2025 en el que el agente de IA de Replit borró datos de una base de datos de producción usada por Jason Lemkin, pese a instrucciones para evitar cambios durante un cierre de código. Replit reconoció después el incidente y reforzó la separación entre las bases de desarrollo y producción.
La tesis central es que decirle a un agente lo que no debe hacer no equivale a diseñar un sistema en el que esas acciones sean imposibles. Y, para Yatsemyrskyi, eso obliga a mover la gobernanza desde las políticas previas al despliegue hacia el punto exacto en que una acción se vuelve ejecutable.
El texto insiste además en otro problema: un agente podría realizar una secuencia de acciones permitidas de forma individual, pero generar un resultado no autorizado por su combinación. Por eso, dice, el control no puede limitarse al nivel de herramienta; debe entender intención delegada, contexto y efecto acumulado.
Para el mundo empresarial, el mensaje es claro: un agente de IA con acceso amplio y persistente se parece cada vez más a una identidad digital privilegiada. Y, como ocurre con administradores, cuentas de servicio y procesos automatizados, el remedio no es más comodidad operativa, sino menos privilegio, más segregación y mejor trazabilidad.
Ahí está la lección que importa para el capital y para la productividad: cuando la automatización cruza la línea entre aconsejar y ejecutar, la prioridad deja de ser la velocidad y pasa a ser el control. Capital busca reglas claras. Sin autorización precisa, la promesa de eficiencia puede transformarse en riesgo operativo, costos de supervisión y daños a la confianza. El mercado ya votó: la IA que actúa necesita gobierno, no solo capacidad.