La inteligencia artificial generativa está entrando en una etapa en la que sus riesgos ya no se limitan a generar información falsa, escribir código malicioso o automatizar fraudes. Anthropic reveló que durante los últimos meses detectó y bloqueó a usuarios que intentaron utilizar sus modelos Claude para realizar investigaciones que podían contribuir al desarrollo de armas biológicas, además de otras operaciones relacionadas con espionaje, vigilancia, ciberataques y armamento convencional.
La compañía publicó el 10 de septiembre su informe de inteligencia sobre amenazas, en el que documentó actividades detectadas entre diciembre de 2025 y agosto de 2026. Según Anthropic, se trata de algunos de los casos más relevantes y novedosos de uso indebido identificados hasta ahora, no de ejemplos representativos del comportamiento habitual de sus usuarios.
Uno de los aspectos que más preocupa a la empresa es que los modelos actuales son capaces de participar en investigaciones científicas complejas con un nivel de asistencia que hace apenas un año habría requerido la intervención de numerosos especialistas. Anthropic sostiene que esta evolución está modificando el panorama de riesgo porque las barreras de conocimiento y experiencia necesarias para realizar determinadas tareas están disminuyendo.
Cinco casos relacionados con investigación biológica
Anthropic documentó cinco casos en los que sus modelos fueron utilizados de maneras que podían contribuir al desarrollo de armas biológicas. La compañía decidió no revelar los nombres de las instituciones, los países involucrados ni los agentes biológicos o técnicas específicas, debido a que los implicados eran científicos y no existe evidencia suficiente para afirmar que todos tuvieran una intención maliciosa.
Uno de los casos involucró una solicitud de subvención relacionada con investigaciones sobre el virus de chikungunya y otro estuvo vinculado con trabajos de adaptación de influenza aviar. En ambos escenarios, el problema central fue el carácter de doble uso de la investigación: los mismos conocimientos científicos pueden utilizarse para desarrollar tratamientos o comprender enfermedades, pero también podrían ser aprovechados con fines dañinos.
La empresa explicó que algunos usuarios intentaron ocultar sus objetivos o dividir sus actividades en diferentes sesiones para evitar que el sistema pudiera identificar el propósito completo de la investigación. En otros casos, recurrieron a mecanismos para eludir restricciones regionales o intentaron dirigir solicitudes rechazadas hacia modelos con controles menos estrictos.
Esta situación representa uno de los mayores desafíos para los sistemas de seguridad de la inteligencia artificial: distinguir entre una investigación científica legítima y una actividad que podría terminar siendo peligrosa no siempre es sencillo.
El problema del “doble uso”
La biología plantea una dificultad particular porque gran parte del conocimiento científico tiene aplicaciones tanto beneficiosas como potencialmente perjudiciales.
Una investigación sobre un virus puede ayudar a comprender cómo se comporta una enfermedad, desarrollar vacunas o diseñar tratamientos. Sin embargo, determinados conocimientos también podrían utilizarse para incrementar las capacidades dañinas de un agente biológico.
Anthropic reconoce que esta ambigüedad dificulta establecer filtros automáticos capaces de identificar todas las situaciones peligrosas. La empresa señaló que sus modelos más antiguos estaban por debajo del nivel necesario para proporcionar asistencia significativa a usuarios sofisticados que realizaran investigaciones biológicas peligrosas. Con los modelos actuales, esa certeza ya no existe.
Por esa razón, la compañía reforzó las medidas de seguridad de sus modelos más recientes y restringió una gama más amplia de consultas relacionadas con investigaciones biológicas de doble uso.
El objetivo es evitar que una persona pueda convertir al modelo en un asistente capaz de acelerar investigaciones peligrosas sin bloquear al mismo tiempo usos científicos legítimos.
La IA también está siendo utilizada en armas y espionaje
El informe de Anthropic no se limita a la biología. La compañía identificó también seis casos relacionados con el desarrollo de armas convencionales, incluidos misiles, drones armados, sistemas de control y otras aplicaciones militares. Los casos involucraron actores ubicados en China, Rusia y Yemen, según la investigación de la empresa.
En algunos casos, Claude fue utilizado para desarrollar software vinculado con sistemas de armamento, mientras que en otros sirvió para recopilar información o apoyar procesos de adquisición relacionados con programas militares.
La empresa también encontró operaciones de vigilancia en las que modelos de IA fueron utilizados para recopilar y analizar información sobre personas consideradas objetivos por diferentes actores estatales. De acuerdo con Anthropic, gobiernos y grupos vinculados con autoridades de países como China, Irán y Mali utilizaron Claude para facilitar tareas de vigilancia.
El cambio importante es que la IA ya no aparece únicamente como una herramienta que responde preguntas aisladas. En algunos casos, los actores maliciosos están utilizando agentes y sistemas de múltiples modelos capaces de ejecutar cadenas de tareas con una intervención humana mucho menor.
De asistente a operador
Esta transformación es especialmente relevante para la seguridad. Durante los primeros años de la inteligencia artificial generativa, buena parte de los ejemplos de abuso consistían en pedirle a un chatbot que escribiera un texto, generara código o explicara determinado procedimiento.
Ahora, los modelos pueden participar en procesos mucho más extensos. Anthropic documentó, por ejemplo, operaciones cibernéticas en las que la inteligencia artificial fue utilizada para realizar reconocimiento, desarrollar herramientas, modificar código y responder a las defensas de los sistemas atacados.
La compañía también informó sobre una operación vinculada con hackers que utilizaron Claude contra objetivos gubernamentales, militares y diplomáticos de Ucrania. Anthropic relacionó las características de la operación con un actor conocido como Midnight Blizzard, que el gobierno estadounidense ha vinculado anteriormente con los servicios de inteligencia rusos.
Estos casos muestran por qué la discusión sobre seguridad de la IA está cambiando. El riesgo no depende solamente de que un modelo pueda producir una respuesta peligrosa, sino de que pueda coordinar múltiples tareas y reducir considerablemente el trabajo humano necesario para ejecutar una operación compleja.
Las advertencias internas de Anthropic
La publicación del informe coincidió además con una semana de fuertes advertencias provenientes de investigadores de la propia compañía sobre los riesgos a largo plazo de la inteligencia artificial.
Uno de ellos, Jacob Coxon, dejó Anthropic y sostuvo que las advertencias sobre un posible riesgo existencial derivado de la IA no constituían una estrategia publicitaria. Sus declaraciones alimentaron el debate sobre qué tan rápido están avanzando las capacidades de estos sistemas y qué medidas deberían implementarse para controlar sus posibles consecuencias.
Anthropic, por su parte, sostiene que hacer públicos estos casos forma parte de su responsabilidad como desarrollador de modelos avanzados. La compañía considera que compartir información sobre los métodos utilizados por los actores maliciosos puede ayudar a otras empresas, gobiernos y organismos de seguridad a detectar amenazas similares.
El dilema que viene con modelos cada vez más capaces
El informe plantea una paradoja difícil de resolver. Los mismos modelos que pueden ayudar a acelerar descubrimientos científicos, mejorar tratamientos médicos o analizar grandes cantidades de información también pueden convertirse en herramientas para quienes buscan explotar conocimientos científicos con fines dañinos.
Anthropic señala que recientemente analizó un periodo de 30 días de actividad asociada con instituciones estatales consideradas adversarias y encontró alrededor de 35 esfuerzos de investigación diferentes. La mayoría correspondía a ciencia civil ordinaria, pero algunos tenían características de doble uso que justificaban una mayor atención.
La compañía considera que estos casos anticipan un escenario en el que los modelos de frontera alcanzarán o incluso superarán el desempeño de expertos humanos en determinadas tareas científicas y técnicas. Cuanto mayor sea esa capacidad, mayor será también el impacto potencial, tanto para resolver problemas como para facilitar usos indebidos.
Por ahora, Anthropic afirma haber bloqueado las cuentas involucradas y haber utilizado la información obtenida en sus investigaciones para reforzar sus sistemas de seguridad. Sin embargo, el propio informe reconoce que ningún mecanismo de protección es perfecto y que los usuarios sofisticados pueden intentar ocultar sus intenciones.
El verdadero desafío, por tanto, no consiste únicamente en hacer que la inteligencia artificial sea más poderosa. También será necesario conseguir que sus sistemas de seguridad evolucionen al mismo ritmo que sus capacidades. El caso de Anthropic muestra que esa carrera ya no pertenece exclusivamente al futuro: la disputa por controlar los usos más peligrosos de la IA está ocurriendo ahora.