Tag: c3sl

Estratégias contra desinformação tem como alvo magistrados e a sociedade em geral com campanha educativa e produção de sistemas para mapeamento de vídeos

Imagine receber em seu aplicativo de mensagens um vídeo em que você aparece em situação vexatória, mas em um cenário em que você nunca esteve, e falando coisas que você nunca falou. Neste caso, você teria sido vítima de Deepfake, uma técnica de produção de imagens com criação ou sobreposição de rostos e vozes em vídeos. E se este mesmo vídeo circulasse no grupo da família, ou entre seus colegas de trabalho?  Este cenário é hipotético, mas a tecnologia de Inteligência Artificial disponível para fazer algo similar, não.

Em um contexto propício para a circulação da desinformação, como o meio político e as eleições, o uso generalizado de deepfake certamente pode deteriorar a democracia. É nesta conjuntura técnicos do Tribunal Regional Eleitoral do Paraná (TRE-PR) estiveram nesta semana no Centro de Computação Científica e Software Livre (C3SL) para debater soluções de informática no combate à ameaça do deepfake nas eleições. O objetivo é estabelecer uma parceria entre o TRE e o C3SL para desenvolver soluções de informática para detectar e prevenir a manipulação de conteúdo multimídia, como vídeos e áudios, que podem ser usados para influenciar a opinião pública e comprometer a integridade do processo eleitoral. Participaram do encontro no prédio do Departamento de Informática da UFPR (Dinf) o Secretário de Tecnologia da Informação, Gilmar José Fernandes de Deus, e o Secretário Administrativo do TRE, Iuri Camargo Kisovec, e os pesquisadores do C3SL, Marcos Alexandre Castilho, Luis Carlos Erpen de Bona, André Ricardo Abed Grégio e Paulo Ricardo Lisboa de Almeida

Com a crescente popularidade da tecnologia e a preocupação do órgão no uso em campanhas ou no cenário das eleições, além de traçar estratégias de formação educacional para a sociedade, o TRE busca na proposta de parceria com o C3SL uma solução que dê suporte aos magistrados no julgamento de casos que envolvam circulação de deepfake. De acordo com o secretário de tecnologia da informação do TER, Gilmar José Fernandes de Deus, uma grande dificuldade no julgamento de processos eleitorais, é aumentar a assertividade dos magistrados na identificação de conteúdos falsos criados digitalmente.  

“Na justiça eleitoral, em diversos momentos ao longo das eleições nos deparamos com situações litigiosas em que é preciso analisar casos envolvendo denúncias de desinformação. O grande problema é conseguir identificar de forma célere, se, por exemplo, de acordo com uma denúncia, o vídeo ou outro material é ou não é um deepfake, se é uma montagem feita por um candidato querendo prejudicar o outro. Hoje, muitas vezes, o magistrado que tem que tomar essa decisão de forma manual, o que envolve um grande risco no processo de julgamento. O que nós queremos é melhorar essa assertividade, e fornecer uma ferramenta ao magistrado dentro de processo jurídico, onde ele consiga ter mais embasamento para tomada de decisão”, afirma Gilmar de Deus.

Para o pesquisador do C3SL, André Ricardo Abed Grégio, uma ação junto ao TRE de combate ao deepfake deve prever ações de curto, médio e longo prazo, considerando a agenda de eleições, e tendo em vista a complexidade de desenvolvimento de uma ferramenta que busca marcas de uso de IA em vídeos. Mirando as eleições que se aproximam, em que os cidadãos de 399 municípios paranaenses seguem para as urnas para escolha de vereadores e prefeitos, Grégio propõe ações de educação focada na população e para os magistrados. A partir do uso de aplicações que demonstram de forma prática os tipos de deepfake, a campanha teria uma proposta educacional permitindo aos magistrados e a sociedade em geral conhecer a partir de vídeos as marcas que ajudariam a identificar se um material pode ou não ser falso. “Dentre os tipos de deepfake, existem as que usam sincronização de lábios, sintetização de áudio, injeção de rosto, criação de uma visão total de vídeo artificial. Uma campanha didática, poderia partir do desenvolvimento de ferramentas que possam servir para ilustrar estes tipos de deepfake”, aponta o pesquisador.

Segundo o pesquisador do C3SL, Paulo Ricardo Lisboa de Almeida, especialista em Machine Learning, a campanha inicial também contaria com vídeos e demais materiais de conscientização. “Usando técnicas de sobreposição de vídeo e som, é possível criar uma campanha educacional ilustrativa em que podemos explicar o que é deepfake, como é formada e reforçando a necessidade de cuidados no compartilhamento de conteúdos nas eleições”, diz Almeida. Para ele, uma outra solução a curto prazo seria a criação de um repositório com os vídeos de campanha criados pelos candidatos. A partir do repositório, é possível comparar novos vídeos em circulação para verificar se não foram gerados a partir dos materiais de campanha, o que agiliza o processo de análise dos conteúdos.

Para os pesquisadores do C3SL, a constituição do repositório aliado ao processo de geração de sistemas que ajudem a criar tipos de diferentes de deepfake fazem parte das medidas de médio e longo prazo, em que é necessário um volume significativo de dados para treinar os modelos na leitura e identificação de marcas de IA nos vídeos. “Para cada tipo de deepfake é necessária uma solução que identifique o padrão usado. Os tipos vão do mais simples, como o lipsync, em que se usa um vídeo existente e síncrona a parte da boca do personagem com um conteúdo vocal diferente; tem o de injeção de rosto, em que se aplica o rosto de um personagem em um outro vídeo; e tem os mais elaborados, como os de IA Generativas, em que os fakes são gerados inteiramente por inteligência artificial”, explica Grégio.

O pesquisador Paulo Almeida complementa que em cada um destes tipos, é preciso um modelo que aprenda as marcas da IA que produziu o vídeo, para gerar resultados de identificação se o conteúdo foi criado por inteligência artificial ou se é autêntico. “Um sistema que indique se um conteúdo é originário de inteligência artificial demanda muitos dados e capacidade de processamento. Em um deepfake totalmente gerado por IA, a gente teria que descobrir como é que a IA generativa está gerando os vídeos e detectar traços ali dentro. Neste caso, seria preciso gerar um monte de vídeos falsos para treinar os nossos modelos. Teria que ter uma rede neural, uma inteligência artificial gerando vídeos, e a gente treinando uma outra inteligência artificial para ficar observando e aprende aí como é que ela gera.

Considerando o crescente cenário de uso de deepfake nas eleições, a parceria entre o TSE e o C3SL no combate à desinformação resultaria em um passo importante para garantir a integridade do processo eleitoral brasileiro. Com a tecnologia do deepfake se tornando cada vez mais popular, é fundamental que os órgãos responsáveis pelo processo eleitoral desenvolvam estratégias para detectar e prevenir a manipulação de conteúdo multimídia.