OpenAI e Meta alertam que deepfakes dificultam análise de provas

Representantes da OpenAI e da Meta alertaram integrantes do Judiciário dos Estados Unidos nesta quinta-feira sobre as dificuldades crescentes para identificar vídeos e áudios falsos produzidos por inteligência artificial. Segundo os especialistas, os chamados deepfakes estão se tornando tão sofisticados que será cada vez mais difícil verificar a autenticidade de provas audiovisuais apresentadas em julgamentos.

O alerta foi feito durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos. Desde 2023, o grupo discute como lidar com os riscos de conteúdos fabricados por inteligência artificial nos tribunais e quais critérios devem ser aplicados para confirmar a validade desse tipo de evidência perante a Justiça.

Shira Anderson, advogada de políticas públicas da OpenAI, afirmou que os avanços na geração de imagens por inteligência artificial tornam cada vez mais difícil desenvolver métodos científicos capazes de identificar conteúdos artificiais de forma precisa e definitiva.

As imagens de inteligência artificial estão cada vez melhores, e não há indícios de que existirá uma maneira científica totalmente garantida de detectá-las no futuro, declarou Anderson perante o comitê, ressaltando os limites atuais e futuros da tecnologia de verificação.

Por sua vez, Devin Norder, diretor de gerenciamento de produtos da Meta, destacou que os conteúdos produzidos pelos modelos mais avançados já podem ser totalmente indistinguíveis, para observadores humanos, de mídias autênticas ou de outros materiais legítimos. Norder acrescentou que o custo e o tempo necessários para criar esse tipo de material falso são extremamente baixos.

Apesar dos alertas severos emitidos pelas empresas de tecnologia, o Centro Judicial Federal dos Estados Unidos informou em março que ainda há poucos registros de disputas judiciais envolvendo deepfakes. De acordo com o levantamento, apenas 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado casos em que uma das partes contestou a apresentação de provas por suspeita de falsificação.

O juiz federal Jesse Furman, de Manhattan e presidente do comitê, afirmou que existe uma quantidade significativa de análises acadêmicas e previsões sobre o impacto da tecnologia nos tribunais, mas ressaltou que os casos concretos apresentados até o momento ainda são bastante limitados.

Empresas do setor vêm desenvolvendo ferramentas para tentar verificar a autenticidade de conteúdos visuais, e novas legislações na Califórnia e na União Europeia já exigem o uso de marcas d'água digitais. Contudo, especialistas reforçam que a ausência de um padrão universal limita a eficácia dessas medidas na rotina dos tribunais.