Los pequeños modelos de inteligencia artificial podrían estar a solo meses de tener la capacidad de comportarse como gusanos informáticos, replicándose de un dispositivo conectado a internet a otro sin ayuda humana, afirmó el gigante de la IA Anthropic.
El hallazgo podría abrir un nuevo frente en las amenazas de ciberseguridad derivadas de la IA, que inquietan a gobiernos y empresas que se apresuran a adoptar esta tecnología.
WhatsApp bloquea el acceso si tu Android o iPhone no está actualizado y prueba nuevas funciones
La investigación, publicada en un blog de Anthropic el lunes por la noche, llega en un momento en que las empresas tecnológicas compiten por incorporar los modelos más avanzados de IA.
Un gusano informático es un software malicioso que se propaga por sí solo entre dispositivos.
Los investigadores de Anthropic señalaron que una versión con IA ya no necesitaría centros de datos potentes para funcionar. En cambio, podría saltar de un dispositivo a otro a través de redes de consumo barato y mal protegidas, como decodificadores de televisión inteligentes y electrodomésticos.
Los investigadores basaron sus cálculos sobre hasta dónde podría propagarse un gusano de este tipo en Kimwolf. Esto es una botnet- una red de dispositivos secuestrados controlados por hackers— que infectó a más de dos millones de dispositivos en su punto álgido, en su mayoría decodificadores de Android TV de marcas desconocidas.
Un gusano de IA del tipo descrito en la investigación sería lento y tardaría días en replicarse, afirmaron William Zhou y Daniel Freeman, de Anthropic, comparándolo con un enjambre de moscas de la fruta que se multiplica lentamente.
Una vez creado, sería difícil de erradicar, porque no habría un interruptor central para apagarlo.
WhatsApp limita a 150 los chats nuevos al mes: consulta tu cupo antes de que se agote
Varun Chandrasekaran, profesor adjunto de ingeniería eléctrica e informática en la Universidad de Illinois, señaló que la investigación no era sorprendente y que coincidía con otros hallazgos recientes similares.
Sin embargo, advirtió que el trabajo de Anthropic no había sido verificado de forma independiente y que la mayor amenaza actual son los actores humanos malintencionados que utilizan la IA para perfeccionar sus ataques.
El debate sobre la IA descontrolada cobró protagonismo en julio, cuando programas que funcionaban con modelos de OpenAI se escaparon de una prueba interna de la empresa y se infiltraron en los sistemas de la plataforma Hugging Face.
AFP
