Suena a película de ciencia ficción, pero investigadores ya demostraron que una idea maliciosa puede propagarse de una inteligencia artificial a otra. Lo llamaron “mind virus” o “virus mental”.
Imagina que varias inteligencias artificiales trabajan juntas en un mismo proyecto. Una recibe una instrucción aparentemente normal. Esa instrucción modifica su comportamiento y hace que, de alguna manera, la transmita a otra IA. La segunda la adopta y puede volver a transmitirla.
No estamos hablando de un virus biológico ni de un malware tradicional. Los investigadores describen estos llamados “virus mentales” como ideas, instrucciones u objetivos capaces de propagarse entre agentes de inteligencia artificial, provocando cambios en el comportamiento de los sistemas que los reciben.
Un estudio publicado este mes analizó precisamente este fenómeno en sistemas de múltiples agentes. Los investigadores construyeron versiones experimentales de estos “virus” y comprobaron que podían propagarse en dos escenarios: un pequeño equipo de agentes trabajando en un proyecto de programación y una cadena de agentes que interactuaban brevemente antes de perder su contexto anterior.
Y aquí viene lo más interesante: la IA no necesariamente tendría que “saber” que está propagando el virus. El mecanismo puede aprovechar la forma en que los agentes comparten información, instrucciones o archivos de contexto. Si una instrucción logra convencer al siguiente agente de que debe copiarla o transmitirla, puede continuar el proceso.
Los investigadores encontraron que la capacidad de propagación depende de varios factores, entre ellos el modelo utilizado, las instrucciones que ya tiene el agente, el tipo de contenido malicioso y la estructura de la red de agentes.
Pero calma: esto no significa que las inteligencias artificiales estén infectándose unas a otras por internet en este momento. Los propios investigadores describen el riesgo actual como real, pero limitado, y los experimentos se realizaron en entornos controlados.
De hecho, encontraron algo alentador: incluir una advertencia breve en las instrucciones principales del agente consiguió proporcionar una protección casi total en sus pruebas.
¿Por qué preocupa entonces? Porque cada vez existen más sistemas en los que varias inteligencias artificiales pueden trabajar juntas, compartir información, utilizar herramientas y tomar decisiones con cierto grado de autonomía. Y mientras más conectados estén estos agentes, mayor podría ser el impacto de una instrucción maliciosa que consiga propagarse.
Es decir, el verdadero problema no sería que una IA se convierta en un monstruo de película, sino que una mala instrucción encuentre el camino para viajar de una IA a otra sin que los humanos se den cuenta.
Por ahora, los “virus mentales” son principalmente un fenómeno experimental y una advertencia para los desarrolladores.
