Anthropic alerta de una IA capaz de propagarse por los electrodomésticos

William Zhou y Daniel Freeman, dos investigadores de Anthropic, han publicado en la página web de este laboratorio un artículo que con toda seguridad va a desencadenar un debate intenso. El título de su texto es muy revelador: «Los modelos de IA pueden ser capaces de autorreplicarse sin acceder a un centro de datos». Es un titular muy directo que nos invita a hacernos una pregunta evidente: si los modelos de inteligencia artificial (IA) no necesitan acceder a un centro de datos, ¿dónde podrían autorreplicarse?

Según Zhou y Freeman, algunos modelos pequeños podrían adquirir en pocos meses la capacidad de propagarse sin intervención humana utilizando el hardware de algunos dispositivos de consumo que muchos de nosotros tenemos en casa, como los televisores, los electrodomésticos u otros aparatos dotados de conexión a internet y un SoC mínimamente capaz. Suena a ciencia ficción, pero no lo es. Los dos investigadores de Anthropic aseguran que han llegado a esta conclusión después de llevar a cabo experimentos que exploran cómo estos sistemas podrían propagarse sin intervención humana.

En su artículo plantean un escenario en el que un modelo de IA lo suficientemente avanzado podría usar dispositivos económicos y poco protegidos para ejecutar su código y continuar propagándose. No le haría falta un centro de datos; solo necesitaría una red de dispositivos conectados a internet y relativamente poco protegidos. Lo más preocupante de esta posibilidad, que para Zhou y Freeman es plausible, es que un ataque a gran escala de este tipo sería muy difícil de contener.

Podrían bastar 30.000 millones de parámetros

Durante sus pruebas, estos investigadores de Anthropic no han utilizado únicamente sus propios modelos. En su artículo aseguran que han puesto a prueba GLM-5.2 en este escenario, un modelo de pesos abiertos desarrollado por el laboratorio chino Z.ai, y logró su cometido. Lo probaron en una red aislada de ocho nodos que ejecutaban un emulador de Android, y el modelo logró propagarse a los ocho nodos en cuatro de cinco pruebas y a siete de los ocho en la restante. Da escalofríos.