Eleições 2024: SC tem três casos de deepfakes em investigação

A Justiça Eleitoral de Santa Catarina registrou dois casos de deepfakes na campanha eleitoral em Florianópolis, e mais um caso em Araquari, no Norte do Estado. Os casos chegam à Justiça Eleitoral via denúncia, onde são analisados localmente e depois são tomadas as demais providências.

Clique aqui para receber as notícias do NSC Total pelo Canal do WhatsApp

Nos dois casos de Florianópolis, a Justiça Eleitoral estadual solicitou a abertura de um inquérito pela Polícia Federal para investigar a situação como crime eleitoral. A Polícia Federal, entretanto, afirma que ainda não recebeu o pedido de abertura de inquérito e, por isso, os casos não foram repassados ao setor responsável pela apuração de crimes eleitorais.

A deepfake consiste em criar ou alterar fotos, vídeos ou áudios através do uso de inteligência artificial. Na pena para o uso de “conteúdo fabricado ou manipulado” na propaganda eleitoral está a cassação de registro ou do mandato, assim como apuração de responsabilidades.

Áudio que simula conversa entre autoridades

Um dos processos no cartório da 100ª Zona Eleitoral de Florianópolis foi aberto no dia 7 de setembro. A coligação “Pra frente minha gente” (PSD/PL/MDB/PODEMOS/NOVO/REPUBLICANOS), junto ao candidato Topázio Neto (PSD), e ao secretário chefe da Casa Civil de Florianópolis, Carlos Eduardo de Souza Neves, pediram quebra de sigilo de dados cadastrais.

A petição civil apresentada à Justiça Eleitoral argumenta que uma deepfake que simula conversas entre o governador Jorginho Mello, Topázio e Carlos Eduardo estaria circulando em aplicativos de mensagens.

Os áudios, que segundo o relato dos envolvidos à Justiça Eleitoral catarinense, simulam conversa com desinformação, conseguem reproduzir semelhança com as vozes desses representantes, na intenção de “enganar” quem ouve e fazer o eleitor crer que essa conversa de fato ocorreu.

Apuração das Eleições 2024 em tempo real no NSC Total

O pedido foi para que a operadora de telefonia fornecesse dados cadastrais do número responsável por disseminar esse conteúdo. O Ministério Público se manifestou favorável ao pedido no dia 10 de setembro.

O juiz eleitoral Marcelo Volpato de Souza destacou em decisão dessa terça-feira (24) que em consulta rápida a internet constatou que a suposta titular da linha teria 74 anos e receberia benefício de prestação continuada, “o que evidencia a fraude na contratação e torna inócua sua intimação para se manifestar nos autos”, aponta o documento.

No mesmo dia, o juiz determinou que seja requisitada à Polícia Federal a abertura de inquérito policial para apurar eventual crime eleitoral, como previsto no art. 323 e 326 do Código Eleitoral.

Deepfake envolvendo Ed Pereira

Já no dia 11 de setembro foi feito o pedido de quebra de sigilo de dados cadastrais pela coligação “Pra frente minha gente” (PSD/PL/MDB/PODEMOS/NOVO/REPUBLICANOS) e por Topázio Neto (PSD). Nesse segundo caso, uma deep fake que circulava por aplicativos de mensagens estaria simulando conversas entre o prefeito de Florianópolis, o profissional de marketing Fábio Veiga e Ed Pereira, ex-secretário de Turismo, Cultura e Esporte da capital, preso na operação Presságio.

Os áudios teriam conteúdo de desinformação e conseguiam reproduzir vozes semelhantes a dos nomes citados. O pedido foi para que a operadora de telefone forneça dados cadastrais do número responsável por disseminar esse conteúdo.

O Ministério Público se manifestou favorável ao requerimento. O juiz eleitoral Marcelo Volpato de Souza alegou que, em consulta na internet, conseguiu identificar que a suposta titular da linha seria beneficiária de programa social em Rondônia. O juiz indicou que esse fato “evidencia fraude na contratação e torna inócua sua intimação para se manifestar nos autos”.

Já nessa terça-feira, o juiz determinou que seja requisitado à Polícia Federal abertura de inquérito policial para apurar eventual crime eleitoral nesse caso também.

Caso no Norte de SC

Outro caso em que uma deepfake teria sido utilizada nas eleições 2024 ocorreu em Araquari, no Norte do Estado. A imagem modificada teria sido usada durante uma propaganda eleitoral antecipada, aponta a sentença do juiz eleitoral Walter Santin Junior.

A imagem de uma criança com uma faixa em apoio a um dos então pré-candidatos ao pleito, Gordo Jasper (PSD), teve os dizeres trocados para fingir apoio a seu adversário Zando, Elisandro de Souza (PL). A decisão do juiz da 27ª Zona Eleitoral de São Francisco do Sul, em 6 de agosto, reconheceu que a imagem manipulada propagava informações falsas, mas não foi provado que o candidato citado na imagem tinha conhecimento da postagem.

Ainda, a manipulação do conteúdo foi considerada ilegal, mas não houve penalidades para Elizandro, por não haver evidências claras de quando o conteúdo foi publicado e nem como provar que ele teve conhecimento da publicação.

O PSD, partido do candidato Gordo Jasper, recorreu da decisão, alegando que ainda que tenha sido reconhecida a ilegalidade da deepfake, não foi aplicada multa pela propaganda antecipada.

O processo foi para a segunda instância e passou por sessão no Tribunal Regional Eleitoral de Santa Catarina (TRE-SC) no dia 29 de agosto, onde os juízes decidiram por negar o recurso.

Eleições 2024 e deepfake

De acordo com o Tribunal Regional Eleitoral de Santa Catarina (TRE-SC), até o momento existem três processos relacionados a deepfake registrados no Processo Judicial Eletrônico (PJe).

Além dos dois casos de Florianópolis, e do caso registrado na 27ª Zona Eleitoral de São Francisco do Sul, o TRE-SC ainda destaca a possibilidade de o tema deepfake permear outros processos, que não tenham sido identificados dessa forma no objeto, já que somente estes três processos aparecem no sistema quando buscado pelo tema.

O que é deepfake?

A deepfake é a criação ou alteração de fotos, vídeos ou áudios com o uso de inteligência artificial. Assim, é possível, por exemplo, trocar o rosto de uma pessoa em um vídeo pelo rosto de outra, ou modificar a fala, trocando o áudio. Aplicativos feitos especificamente para essa finalidade fazem com que o resultado final se assemelhe com um vídeo ou áudio real, confundindo quem vê ou assiste o material pela semelhança.

O Tribunal Superior Eleitoral editou resolução específica que aborda a questão das deepfakes. O art. 9º-C, §1º, da Resolução TSE 23.610/19, prevê:

§1º É proibido o uso, para prejudicar ou para favorecer candidatura, de conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia (deep fake). (Incluído pela Resolução nº 23.732/2024)

A resolução do TSE ainda determina obrigação de aviso sobre o uso de IA na propaganda eleitoral; restrição do emprego de robôs para intermediar contato com o eleitor; e responsabilização das big techs que não retirarem do ar, imediatamente, conteúdos com desinformação, discurso de ódio, ideologia nazista e fascista, além dos antidemocráticos, racistas e homofóbicos.

De acordo com o TSE, o artigo 9º-C proíbe a utilização, na propaganda eleitoral, “de conteúdo fabricado ou manipulado para difundir fatos notoriamente inverídicos ou descontextualizados com potencial para causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral”,

A proibição ocorre sob pena de caracterizar abuso de utilização dos meios de comunicação, acarretando cassação do registro ou do mandato, bem como apuração das responsabilidades, nos termos do artigo 323 do Código Eleitoral.

O artigo 9º-E, por sua vez, estabelece a responsabilização solidária dos provedores, de forma civil e administrativa, caso não retirem do ar, imediatamente, determinados conteúdos e contas, durante o período eleitoral.

Apuração ao vivo das Eleições 2024

O NSC Total faz apuração em tempo real das Eleições 2024 em 6 de outubro. A ferramenta atualiza a disputa voto a voto em todas as cidades de Santa Catarina e do Brasil assim que dados são computados pelo Tribunal Superior Eleitoral (TSE). A página traz ainda os números de todos os candidatos e informações completas de todos os concorrentes nas eleições municipais. 

Leia também

VÍDEO: Como foi o debate entre os candidatos a prefeito de Balneário Camboriú

Jair Renan Bolsonaro, o “candidato mudo” a vereador em Balneário Camboriú