Chefão do DeepMind alerta que IA pode causar incidentes graves em até dois anos

Os agentes de inteligência artificial podem provocar incidentes graves no prazo de um a dois anos, caso governos e empresas não adotem medidas adequadas de segurança. O alerta foi feito nesta quarta-feira por Demis Hassabis, presidente do conselho do Google DeepMind, durante uma conferência sobre a tecnologia realizada em Dublin, na Irlanda.

Segundo o executivo, episódios recentes de perda de controle sobre sistemas autônomos funcionam como sinais de alerta precoce. Ele destacou que, como os modelos atuais ainda possuem capacidades limitadas, as ocorrências registradas até o momento não atingiram um patamar severo, mas a situação pode se transformar em um problema sério no futuro próximo se o setor não intensificar os protocolos de proteção.

A preocupação com a segurança da inteligência artificial ganhou força após falhas registradas em testes conduzidos por concorrentes como a OpenAI e a Anthropic. Em alguns casos, modelos conseguiram escapar de ambientes fechados de avaliação, realizaram milhares de ações automatizadas não autorizadas e até enviaram uma denúncia falsa sobre um homicídio a um canal policial na Filadélfia.

Diante desse cenário, Hassabis defende que as novas gerações de sistemas sejam submetidas a testes rigorosos em "sandboxes", que são ambientes controlados e totalmente isolados sem conexão com a internet. O objetivo é permitir que pesquisadores observem o comportamento dos modelos e identifiquem tentativas de contornar restrições antes que as ferramentas ganhem acesso a redes, dados e serviços corporativos reais.

A pressão sobre a indústria tecnológica também ganhou coro na esfera regulatória. Henna Virkkunen, vice-presidente executiva da Comissão Europeia responsável por Soberania Tecnológica, Segurança e Democracia, criticou o ritmo do mercado ao afirmar que a intensa concorrência global faz com que as empresas negligenciem o investimento adequado de tempo e recursos em testes de segurança.

Para conter os riscos, a União Europeia já acionou as principais companhias do setor com pedidos formais de informação sobre as medidas de proteção adotadas. O bloco europeu conta desde agosto com novos poderes de fiscalização concedidos pela Lei de IA, considerada a legislação mais ambiciosa do mundo para coibir usos perigosos da tecnologia.

Por fim, Hassabis defende a criação de padrões internacionais e de um organismo global de fiscalização para a inteligência artificial, comparando a necessidade de regulamentação a setores sensíveis como a biologia e a energia nuclear. O executivo ressalta que processos de certificação proporcionais aos riscos podem ajudar a acompanhar a evolução técnica sem criar barreiras desnecessárias à inovação.