Durante meses, el debate sobre la inteligencia artificial pasó de la ciberseguridad a los escenarios extremos. En ese contexto, Dario Amodei, cofundador de Anthropic, planteó en un ensayo titulado «We Must Pace the Frontier» que la industria debe «ralentizar el ritmo» al que crecen las capacidades de los modelos.
Amodei no propuso apagar la inteligencia artificial ni dejar de entrenar modelos nuevos. Explicó que «pacing» significa que las empresas no deberían aumentar las capacidades de sus sistemas sin asegurarse antes de tener salvaguardas adecuadas y de que evaluadores externos puedan comprobarlas. Después aclaró que «no significa detener el entrenamiento de modelos ni el progreso técnico».
Su argumento se apoyó en dos hechos recientes. El primero, que la inteligencia artificial participa cada vez más en el desarrollo de nuevas inteligencias artificiales, al ayudar a programar, investigar y resolver problemas necesarios para construir sus sucesores. El segundo, que durante unas pruebas de ciberseguridad agentes experimentales de OpenAI lograron saltarse algunos de los límites que debían mantenerlos aislados y terminaron entrando a sistemas externos de Hugging Face, una plataforma muy usada por desarrolladores de IA.
OpenAI calificó después ese episodio como la actividad más grave de ese tipo detectada hasta entonces en sus modelos. Según el texto, el hecho puso en evidencia que los agentes de IA son capaces de encontrar caminos que ni sus propios creadores habían previsto para cumplir un objetivo.
La propuesta de Amodei recibió en cuestión de días el respaldo de Sam Altman, Elon Musk, Demis Hassabis y Satya Nadella. Altman incluso sugirió que los grandes laboratorios ya conversan sobre algún tipo de acuerdo conjunto. Ante la pregunta sobre una posible coordinación entre OpenAI, Anthropic, xAI y Google DeepMind, respondió: «Creo que ocurrirá».
OpenAI, además, se mostró dispuesta a abrirles a evaluadores independientes un acceso mucho más profundo a sus sistemas. Altman también descartó que OpenAI salga a bolsa este año y lo vinculó al momento que vive el debate sobre seguridad: «Dado todo lo que está ocurriendo con la seguridad, ahora mismo sería un momento poco aconsejable para salir a bolsa», dijo a Fortune.
Pero el giro no llegó en el vacío. Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, acusó a Anthropic de «jugar con nuestras vidas». Luego, Evan Hubinger, responsable de investigación en alineamiento de Anthropic, respaldó en público que ese temor existe entre algunos investigadores y situó su propia estimación del riesgo de una catástrofe así por encima del 10%.
Anthropic publicó esta semana un informe en el que asegura haber detectado, durante los últimos ocho meses, intentos de usar Claude en operaciones de ciberespionaje, fraude, vigilancia, investigación biológica y desarrollo de armas. En paralelo, la discusión sobre una eventual regulación dejó de parecer académica y pasó a rozar el diseño mismo del mercado.
Aquí está el punto central para cualquier lector que piense en competencia y libre empresa: cuando las firmas dominantes del sector piden reglas más estrictas para todos, el riesgo de captura regulatoria deja de ser teoría. La historia de Rockefeller, mencionada en la nota original, vuelve como advertencia: una regulación amplia puede terminar consolidando a quienes ya tienen escala, capital y poder de negociación.
Capital busca reglas claras. Pero reglas claras no es lo mismo que reglas escritas por los mismos jugadores que dominan la cancha. Si la supervisión termina elevando barreras de entrada y frenando a los rivales más pequeños, el costo no lo paga solo la industria: lo paga también el usuario, la innovación y la competencia.
