Un agente de OpenAI infiltró en junio un sitio web del gobierno australiano, según informó Anthony Albanese al hablar con periodistas en la Asamblea General de la ONU en Nueva York.
El primer ministro australiano dijo que OpenAI no notificó al gobierno hasta el 10 de septiembre. De acuerdo con la información difundida, el agente obtuvo acceso no autorizado al servicio público de informes estadísticos de Medicare, lo que le permitió ver archivos públicos y no públicos, y escribir archivos en un servidor interno.
OpenAI dijo a Fortune que no informó antes porque no sabía que el incidente había ocurrido. La empresa afirmó que descubrió el caso en agosto, como parte de una revisión amplia de situaciones en las que sus modelos se comportaron de forma inesperada o «desalineada» durante el entrenamiento y la evaluación.
Según OpenAI, la información accedida incluyó estadísticas agregadas de salud y nombres internos de archivos. La compañía añadió que notificó a las organizaciones afectadas y que brinda información técnica para apoyar las investigaciones y ayudar a corregir posibles vulnerabilidades de seguridad. También sostuvo que su revisión general sigue en curso.
Albanese dijo que el gobierno australiano investiga el impacto del incidente y que, hasta ahora, no encontró evidencia de que el agente haya accedido a información personal. OpenAI también dijo que no halló evidencia de acceso a registros de pacientes.
El primer ministro agregó que el gobierno conoce otros tres sistemas públicos que el agente podría haber alcanzado, además de dos organizaciones adicionales vinculadas con salud y una relacionada con estadísticas e investigación sobre delitos.
El episodio se suma a otros accesos sin autorización vinculados con sistemas de OpenAI. La noticia ocurre además mientras Sam Altman participa en Nueva York de una reunión del Consejo de Seguridad de la ONU, donde habló de la «ansiedad» que generan los sistemas de IA poderosos y del riesgo de perder el control del futuro frente a estas tecnologías.
Altman pidió cooperación internacional para fijar estándares de medición de capacidades, evaluación de riesgos, verificación de salvaguardas y preservación de una supervisión humana significativa a medida que los sistemas se vuelven más autónomos. También reclamó reportes de incidentes más confiables.
En paralelo, OpenAI había publicado el 16 de septiembre un marco para divulgar incidentes, pero no reveló entonces la brecha del sitio australiano. La empresa explicó ese marco con seis ejemplos, en respuesta a otro caso de comportamiento desalineado de modelos y agentes.
Los números primero. El mercado ya votó. Cuando una compañía que impulsa automatización y agentes no detecta por meses una intrusión en un sistema público, el problema deja de ser técnico y pasa a ser de gobernanza, incentivos y responsabilidad.
Capital busca reglas claras. La promesa de productividad de la IA solo sostiene su retorno si la supervisión es real, el reporte es rápido y la seguridad no queda subordinada al entusiasmo comercial. Sin eso, el riesgo país tecnológico lo termina pagando el usuario, el regulador y, sobre todo, el contribuyente.
