La empresa de inteligencia artificial Anthropic informó que usuarios de su modelo Claude, ubicados en el norte de Yemen, intentaron utilizar la herramienta para desarrollar distintos sistemas de armas. De acuerdo con un informe de la compañía, las cuentas fueron bloqueadas después de detectar actividades consideradas ilegales.
Anthropic señaló que los usuarios intentaron desarrollar tres programas de armas, entre ellos un cohete guiado, un misil balístico y un proyectil con características de planeador hipersónico. La empresa aclaró que no encontró evidencia de que alguno de estos dispositivos hubiera sido desplegado de manera operativa.
Usaron Claude para sistemas de navegación y control
Según el reporte, los usuarios utilizaron Claude Code para desarrollar software relacionado con la teledirección, navegación y control de armas, en lugar de recurrir a un equipo de ingenieros especializados.
La compañía también informó que los usuarios realizaron una prueba fallida de un cohete teledirigido y posteriormente consultaron al chatbot para intentar determinar por qué había fallado.
Anthropic no identificó directamente a los usuarios ni confirmó que pertenecieran a los rebeldes hutíes, aunque el norte de Yemen se encuentra bajo control de ese grupo. Un miembro del buró político hutí, Hazam al-Assad, rechazó la posibilidad de que sus fuerzas dependieran de fuentes abiertas para desarrollar capacidades militares y aseguró que cuentan con tecnología propia.
La empresa compartió sus hallazgos con socios públicos y privados y bloqueó las cuentas involucradas.
Anthropic también detectó posibles usos biológicos
El informe de la compañía documentó además cinco casos relacionados con posibles investigaciones sobre armas biológicas. Anthropic explicó que algunas solicitudes pueden resultar difíciles de distinguir entre investigaciones médicas legítimas y actividades con posibles aplicaciones militares.
Entre los casos señalados se encuentra el uso de Claude para preparar una solicitud de financiamiento relacionada con una investigación de ganancia de función, así como un intento de desarrollar un plan de investigación sobre una variante de gripe aviar capaz de propagarse a mamíferos.
La empresa indicó que cuenta con sistemas para detectar y bloquear usos de sus modelos que puedan representar riesgos.
