— Os progressos técnico-científicos, que permitem exercer um controle inédito sobre a realidade, colocam nas mãos do homem um vasto leque de possibilidades, algumas das quais podem constituir um risco para a sobrevivência humana — escreveu Francisco, em 1º de janeiro de 2024.

As imagens falsas do Papa são fruto de um tipo específico de IA, a generativa, uma estrutura de algoritmos capaz de criar conteúdos inteiramente novos, como textos, músicas e imagens. Desde 2023, quando a imagem artificial do religioso foi criada, as IAs generativas se tornaram ainda mais acessíveis e intuitivas, permitindo que vídeos inteiros sejam roteirizados e gerados a partir de comandos de texto.

Durante o processo eleitoral americano deste ano, viralizou um vídeo gerado por IA no qual os candidatos Kamala Harris e Donald Trump caminham juntos na praia, trocam carícias e celebram a chegada de um herdeiro. A composição, sabidamente irreal, denunciava a falsidade do conteúdo. Contudo, em roteiros menos absurdos, as imagens falsas tendem a enganar parte dos eleitores.

— Se eu estou vendo com meus olhos, como vou duvidar? Isso contribui muito para fortalecer a desinformação porque geralmente a informação falsa vem com viés confirmatório, isto é, um conteúdo que a pessoa quer receber. Isso acaba fazendo com que as pessoas passem adiante o material — analisou Bruno Sartori, um dos mais famosos produtores brasileiros de vídeos de humor político gerados por IA.

Os conteúdos de alta qualidade, parcial ou totalmente forjados, são conhecidos como deepfake (falsificação profunda, em tradução livre). O termo busca diferenciar as antigas fake news, que já causavam grande impacto social, das novas formas mais elaboradas de produção de mentiras. Com a IA generativa, é possível, por exemplo, trocar o rosto de uma pessoa pelo de outra, mudar o conteúdo de uma fala ou mesmo fabricar situações inteiras em imagens.

O que é permitido

Preocupado com o uso massivo da ferramenta, o Tribunal Superior Eleitoral (TSE) regulamentou pela primeira vez em 2024 o uso de IA para a propaganda de partidos, coligações, federações, candidatas e candidatos. As novas regras estão descritas na resolução 23.732/2024 do TSE.

— Que essa tecnologia não seja usada para desservir à democracia, aos eleitores e às garantias das liberdades — destacou a presidente do TSE, ministra Cármen Lúcia, durante a formatação da norma.

De forma geral, as novas normas eleitorais:

• Proíbem o uso de deepfakes;
• Obrigam o aviso de uso de IA na propaganda eleitoral;
• Restringem o emprego de robôs para intermediar o contato com o eleitor.

— É obrigação dos candidatos informar de modo explícito que aquele conteúdo foi produzido com inteligência artificial. A ideia é que os eleitores sejam informados quando há propaganda eleitoral com IA — explicou o coordenador do Gabinete de Assessoramento Eleitoral do Ministério Público do RS, promotor Rodrigo Zilio.

Resumidamente, a Justiça Eleitoral obriga o alerta de conteúdo produzido via IA. No entanto, alguns materiais políticos, mesmo se rotulados, seguem proibidos: fake news e manipulação de imagens de pessoas vivas, mortas e fictícias.

Em outro trecho da resolução, o TSE proibiu as campanhas de simularem qualquer diálogo com os eleitores, seja por texto, voz ou vídeo.

— Existe uma vedação também com relação à simulação de interlocução de pessoa candidata com o eleitor, que seriam os chatbots, que são muito utilizados. Então, para que o eleitor não entre no site, numa rede social do candidato e converse com um robô como se estivesse conversando com o candidato. A Justiça Eleitoral considera que essa simulação de conversa poderia manipular a vontade do eleitor — acrescenta a advogada eleitoral.

Fonte: GZh