Anthropic reveló el jueves que interrumpió varios intentos de investigadores para usar sus modelos de inteligencia artificial en proyectos de biología avanzada con potencial aplicación en armas biológicas. La compañía documentó los hallazgos en un reporte de 154 páginas titulado «Detecting and Countering Misuse of AI».
El informe detalla cinco casos de estudio en los que usuarios emplearon el chatbot Claude para investigación biológica de doble uso. Uno de ellos involucró a un investigador que solicitó ayuda para redactar una propuesta de financiamiento orientada a investigación de ganancia de función sobre el virus chikungunya, transmitido por mosquitos. Según Anthropic, la propuesta implicaba modificar el virus para hacerlo más transmisible y más peligroso.
Otros casos documentados abarcaron investigación sobre gripe aviar, ortopoxvirus y toxinas no transmisibles. La compañía bloqueó las solicitudes y descubrió que los investigadores utilizaban una plataforma de terceros para eludir restricciones regionales y redirigir automáticamente los prompts rechazados hacia otro modelo de IA.
«Actores sofisticados saben que intentamos detectar usos peligrosos de nuestros modelos y aprovechan la naturaleza dual de la biología para mantener una especie de 'negación plausible' sobre su investigación», señaló la empresa en el documento.
Anthropics subrayó que no acusa a los investigadores de intención dañina: «Las capacidades biológicas son de doble uso: pueden emplearse para fines beneficiosos o dañinos, y con frecuencia es difícil distinguir entre ellos».
En respuesta, la compañía dijo que prohibió todas las cuentas asociadas, colaboró con socios para desmantelar las redes de retransmisión que evadían bloqueos regionales, y compartió sus hallazgos con autoridades gubernamentales y otros laboratorios de IA.
Por separado, el informe describe varios casos vinculados a Irán. Según Anthropic, un actor con nexo iraní utilizó Claude para recopilar y analizar datos de acceso público con el fin de desarrollar recomendaciones de objetivos contra fuerzas navales de EE.UU. en la región. La empresa dijo que prohibió la cuenta del actor, desarrolló mecanismos de detección para reducir el riesgo de usos futuros similares y compartió inteligencia sobre la amenaza con autoridades gubernamentales.
El reporte llega días después de que un investigador senior de seguridad de Anthropic declarara que la IA tiene más de un 10% de probabilidad de «matar a todos los humanos» en la próxima década. Además, el ex investigador de Anthropic y OpenAI Jacob Coxon publicó en X que «las personas que construyen IA creen sinceramente que podría matarnos a todos antes de que termine la década», según recogió Fox Business.
Los números primero: lo que este informe pone sobre la mesa no es solo un ejercicio de transparencia corporativa. Es la evidencia de que los modelos de IA de frontera ya son vectores activos de riesgo en manos de actores estatales y no estatales. El mercado de la seguridad tecnológica tiene ante sí una señal clara: la carrera por el control de estas herramientas no es abstracta. Capital busca reglas claras, y la ausencia de un marco regulatorio robusto —que no ahogue la innovación pero sí establezca responsabilidades— deja a la libre empresa expuesta a riesgos que ningún balance puede absorber. La pregunta no es si habrá más intentos de este tipo, sino quién fijará las reglas antes de que el próximo intento tenga éxito.
