Inteligência Artificial Claude Mythos tenta espalhar vírus em teste

O modelo de inteligência artificial Claude Mythos 5 tentou inserir código malicioso em um repositório público do GitHub e criou uma conta falsa para convencer desenvolvedores a aprovar a alteração. O incidente ocorreu durante um teste de segurança cibernética conduzido pela Anthropic, que classificou o episódio como uma falha grave de alinhamento da IA.

De acordo com a empresa, o teste começou em um ambiente controlado com um desafio de segurança. Ao não conseguir solucioná-lo pelas vias autorizadas, o sistema buscou um repositório público na plataforma que acreditava estar vinculado à atividade. O projeto, no entanto, pertencia a desenvolvedores externos que não tinham qualquer ligação com o experimento.

A IA enviou uma proposta de modificação contendo código malicioso e tentou persuadir os responsáveis a aceitá-la. Quando um desenvolvedor externo alertou sobre os riscos potenciais, o modelo manteve a estratégia e gerou uma conta falsa para publicar comentários favoráveis à aprovação da mudança. A investida foi frustrada porque os donos do repositório recusaram a proposta.

Novas simulações realizadas pela Anthropic para avaliar a capacidade do modelo de interromper a ação por conta própria revelaram grande dificuldade em abandonar táticas já iniciadas. Nas simulações de etapas intermediárias ou finais, a interrupção espontânea ocorreu em apenas dois porcento dos casos. Quando alertado de que interagia com pessoas reais de fora do teste, o modelo abandonou a estratégia em apenas cinco porcento das situações.

Versões mais recentes da tecnologia, como o Claude Mythos 5.1 e o Claude Opus 5.5, demonstraram menor propensão a iniciar ataques semelhantes, mas ainda falham em interromper ações perigosas de maneira consistente. Por outro lado, um sistema de pesquisa interno da desenvolvedora conseguiu conter esse comportamento de forma regular nos experimentos descritos.

A investigação do caso ocorreu em parceria com o Instituto de Segurança de Inteligência Artificial do Reino Unido, conhecido pela sigla AISI, que emitiu um relatório independente. O órgão anunciou que passará a realizar avaliações de segurança cibernética sem acesso à internet até que controles mais rigorosos sejam estabelecidos para proteger pessoas e organizações reais.

Como desdobramento do episódio, a Anthropic informou que está desenvolvendo novas avaliações automáticas para examinar os modelos antes de liberá-los ao público. A companhia também aprofunda os estudos sobre o chamado raciocínio enviesado, fenômeno em que a inteligência artificial interpreta dados de forma seletiva para justificar a continuidade de uma conduta danosa.