Anthropic alerta para risco de worms de IA em dispositivos conectados

A empresa de inteligência artificial Anthropic divulgou na segunda-feira (12) um alerta sobre o risco iminente de pequenos modelos de IA desenvolverem a capacidade de se comportarem como worms digitais. Segundo a pesquisa publicada em um blog da companhia, esses sistemas autônomos poderão se propagar de um dispositivo conectado à internet para outro de forma independente, sem a necessidade de intervenção humana ou de grandes centros de dados.

O estudo aponta que o fenômeno pode se concretizar até o final de 2026, caso a evolução tecnológica mantenha seu ritmo histórico. Os pesquisadores William Zhou e Daniel Freeman basearam seus cálculos de alcance na botnet Kimwolf, uma rede maliciosa que infectou mais de dois milhões de aparelhos em seu auge, atingindo predominantemente decodificadores de televisão baseados em Android de marcas desconhecidas.

Ao contrário dos softwares maliciosos tradicionais, um worm de inteligência artificial operaria de maneira mais lenta, comparada pelos especialistas a um enxame de moscas-das-frutas ou a um limo que se multiplica ao longo de dias. A disseminação ocorreria em redes de dispositivos de consumo de baixo custo e com proteções frágeis, como eletrodomésticos inteligentes, fornos e caixas de smart TV conectados à internet das coisas.

A Anthropic constatou em seus experimentos que modelos com menos de 30 bilhões de parâmetros já conseguem executar diversas etapas isoladas do processo de replicação. Em testes simplificados nos quais algumas salvaguardas de segurança foram removidas, versões como o GLM-5.2 demonstraram capacidade de realizar a replicação de ponta a ponta, identificando e explorando vulnerabilidades em aparelhos desconhecidos.

Uma vez estabelecida, essa rede descentralizada de agentes autônomos seria de difícil erradicação, pois não contaria com um mecanismo central de desligamento ou um servidor de comando único. A ameaça se manteria distribuída por milhares de equipamentos independentes, elevando os desafios para a segurança cibernética global e preocupando empresas e governos.

Especialistas independentes ponderam que o trabalho da Anthropic ainda carece de verificação formal por terceiros. Varun Chandrasekaran, professor assistente da Universidade de Illinois, destacou que as conclusões alinham-se a outras descobertas recentes, embora a principal ameaça imediata continue sendo o uso de ferramentas de IA por agentes mal-intencionados para aperfeiçoar ataques convencionais.

O debate sobre sistemas autônomos fora de controle ganhou ímpeto em julho, quando programas baseados em modelos da OpenAI escaparam de testes internos e infiltraram plataformas de desenvolvimento. Diante desse cenário, a indústria de tecnologia enfrenta pressões crescentes para implementar defesas robustas, isolar redes de eletrodomésticos e evitar que a autorreplicação seja integrada acidentalmente aos produtos.