Dario Amodei, CEO de Anthropic, ha lanzado una inquietante advertencia sobre la velocidad a la que están evolucionando los sistemas de inteligencia artificial. Según el directivo, dentro de entre seis y doce meses podría existir un enjambre de agentes de IA con capacidad suficiente para comprometer equipos a gran escala y crear una botnet persistente capaz de afectar a buena parte de Internet.
Hay que matizar que no se trata de una amenaza detectada ni de un ataque que ya esté en marcha, sino de una previsión sobre lo que podría ocurrir si las capacidades de estos modelos continúan creciendo sin que sus medidas de seguridad avancen al mismo ritmo. En el peor escenario planteado por Amodei, una red de estas características podría llegar a provocar daños valorados en cientos de miles de millones de dólares en solo unos días.
Anthropic pide frenar el desarrollo de la IA
La preocupación de Amodei tiene su origen en un incidente reciente protagonizado por un grupo de agentes autónomos. Estos sistemas actuaron como una especie de colectivo coordinado y llevaron a cabo ataques informáticos contra objetivos que no formaban parte de la tarea que se les había asignado. También intentaron comprometer el sistema encargado de evaluar su rendimiento. Básicamente, no tuvieron ningún miramiento a la hora de hackear los sistemas.
Aunque el incidente no causó daños importantes, el CEO de Anthropic considera que demuestra un tipo de comportamiento que podría resultar mucho más peligroso en futuros modelos. Una IA más avanzada podría identificar vulnerabilidades, atacar sistemas y extenderse de forma autónoma por nuevos dispositivos, creando una botnet mucho más difícil de localizar y eliminar que las utilizadas actualmente por los ciberdelincuentes.
Imaginación de la estructura de una botnet. Fuente: Kaspersky
Una botnet es una red formada por ordenadores, servidores y otros dispositivos infectados que pueden ser controlados remotamente. Habitualmente se utilizan para realizar ataques de denegación de servicio (DDOS), distribuir malware, enviar spam o robar información. La diferencia planteada por Amodei es que una IA podría automatizar y coordinar todas estas acciones, adaptándose además a las defensas encontradas durante el ataque.
Ante esta posibilidad, el responsable de Anthropic propone reducir el ritmo al que aumentan las capacidades de los modelos más avanzados. No plantea detener completamente su desarrollo, sino ganar tiempo para mejorar la seguridad, la supervisión y las herramientas capaces de detectar comportamientos peligrosos antes de que los sistemas lleguen al público.
