O Tribunal Superior Eleitoral (TSE) reafirmou sua posição de proibir o uso de deepfakes durante as campanhas eleitorais, em meio a um panorama tecnológico que torna essas fraudes cada vez mais convincentes. Especialistas da OpenAI e da Meta, em um encontro recente em Boston, destacaram que a evolução dos vídeos e áudios gerados por inteligência artificial está tornando a distinção entre o real e o falso uma tarefa cada vez mais complexa.
Durante a reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, os especialistas expressaram sua preocupação com o impacto que essa tecnologia pode ter na integridade dos processos judiciais. Shira Anderson, consultora de políticas da OpenAI, apontou que as imagens produzidas por IA estão se tornando tão sofisticadas que pode não haver um método científico eficaz para detectá-las futuramente.
Desde o início de 2023, o comitê tem se debruçado sobre a questão de como autenticar materiais que possam ser deepfakes e garantir que essas evidências tenham a mesma credibilidade que aquelas analisadas por profissionais humanos. Contudo, o número de casos reais envolvendo deepfakes nos tribunais americanos permanece baixo, com apenas uma fração dos juízes tendo enfrentado situações que envolvem a contestação de provas com base nessa tecnologia.
O juiz federal Jesse Furman, que preside o comitê, ressaltou que, embora haja um debate acadêmico crescente sobre o tema, a realidade ainda não reflete uma incidência significativa de tais questões nos tribunais. No entanto, o consenso entre especialistas é que a dificuldade em identificar deepfakes não é uma preocupação meramente teórica. Devin Norder, da Meta, enfatizou que os conteúdos gerados por modelos avançados de IA podem facilmente passar por autênticos, tanto para humanos quanto para máquinas, e a criação desse material requer apenas recursos limitados.
Frente a esse cenário, iniciativas como a implementação de marcas d’água na Califórnia e na União Europeia surgem como uma tentativa de mitigar os riscos associados a conteúdos falsificados. No entanto, Anderson alertou que, devido à diversidade de sistemas utilizados pelas empresas, a verificação da autenticidade ainda enfrenta grandes desafios e limitações. A combinação da crescente sofisticação das tecnologias de IA e a necessidade de soluções eficazes para garantir a veracidade nas evidências continua a ser uma questão premente para o futuro da justiça.
Crédito da imagem: Foto: Pixabay — aiworldexplore (pixabay)
