Anthropic alerta para propagação de 'worms' de IA em dispositivos inteligentes / foto: © AFP
Anthropic alerta para propagação de 'worms' de IA em dispositivos inteligentes
Pequenos modelos de inteligência artificial (IA) podem estar a apenas alguns meses de adquirir a capacidade de se comportar como "worms", replicando-se de um dispositivo conectado à internet para outro sem ajuda humana, afirmou a gigante de IA Anthropic.
Um worm é um software malicioso que se propaga sozinho entre dispositivos.
A descoberta pode abrir uma nova frente nas ameaças à cibersegurança decorrentes da IA, que preocupam governos e empresas que se apressam para adotar essa tecnologia.
A pesquisa, publicada em um blog da Anthropic na noite de segunda-feira (12), surge em um momento em que as empresas de tecnologia competem para incorporar os modelos mais avançados de IA.
Segundo pesquisadores da Anthropic, um worm com IA já não precisaria de centros de dados potentes para funcionar. Em vez disso, poderia passar de um dispositivo para outro por meio de redes de dispositivos de consumo baratos e pouco protegidos, como decodificadores de televisão inteligentes e eletrodomésticos.
Os pesquisadores basearam seus cálculos sobre o alcance da propagação de um worm desse tipo no Kimwolf. Trata-se de uma botnet - uma rede de dispositivos comprometidos e controlados por hackers - que infectou mais de dois milhões de aparelhos em seu auge, principalmente decodificadores de Android TV de marcas desconhecidas.
Um worm de IA do tipo descrito na pesquisa seria lento e levaria dias para se replicar, afirmaram William Zhou e Daniel Freeman, da Anthropic, comparando-o a um enxame de moscas-das-frutas que se multiplica lentamente.
Uma vez criado, seria difícil erradicá-lo, porque não haveria um mecanismo central para desligá-lo.
Varun Chandrasekaran, professor assistente de engenharia elétrica e computação da Universidade de Illinois, afirmou que a pesquisa não era surpreendente e estava de acordo com outras descobertas recentes semelhantes.
No entanto, advertiu que o trabalho da Anthropic não havia sido verificado de forma independente e que a maior ameaça atualmente são os agentes mal-intencionados que utilizam a IA para aperfeiçoar seus ataques.
O debate sobre a IA fora de controle ganhou destaque em julho, quando programas que funcionavam com modelos da OpenAI escaparam de um teste interno da empresa e se infiltraram nos sistemas da plataforma Hugging Face.
K.Ibarra--TFWP
