Pedro Doria - IA que vale nas eleições?

O Globo

Pode usar inteligência artificial, sim. O que não pode é usar para enganar o eleitor, para falsear a História

Há uma ambiguidade proposital nas regras criadas pelo Tribunal Superior Eleitoral para uso de inteligência artificial nas eleições municipais deste ano. Por um lado, deepfakes são terminantemente proibidas. Por outro, o uso de IA generativa é permitido, desde que esteja registrado que aquela imagem, aquele texto, foi produzido usando a tecnologia.

Para o observador habituado ao debate sobre o meio digital, a regra parece incoerente. Afinal, qual é a diferença? Deepfakes são vídeos modificados usando IA para substituir um rosto. Candidato ao governo de São Paulo em 2018, o então tucano João Doria foi vítima de um. Seu rosto foi posto no corpo de um ator que compartilhava a cama de um motel com três mulheres. Esse tipo de falsificação pode fazer parecer que alguém falou algo, esteve numa determinada situação. Constrói uma mentira crível. É como se o TSE dissesse que pode usar IA, mas que não pode. Toda IA cria, afinal, uma situação que jamais existiu. Ao criar a distinção entre IA e deepfakes no texto, a Corte põe ali algo que é ambíguo.

Tudo indica que a OpenAI, empresa responsável pelo ChatGPT, botará no ar sua ferramenta generativa de vídeos ainda neste semestre. O que só complica a coisa.

Mas, por trás da aparente ambiguidade, o Tribunal transmite uma mensagem a todas as campanhas. Pode usar inteligência artificial, sim. O que não pode é usar para enganar o eleitor, para falsear a História. Criar um vídeo mostrando como uma obra ficará, gerar uma imagem ou um texto que ajudem na compreensão de um projeto, isso pode. Basta informar que uma IA foi usada na produção daquele material. Agora, botar numa reunião quem nunca esteve ou tirar o adversário de hoje da foto de quando eram aliados, isso não pode. Haverá uma zona cinzenta, por certo. E nela estará o trabalho da Corte durante as eleições.

No segundo turno da campanha presidencial argentina, os peronistas usaram IA para criar um filmete de campanha. Nele, a premiê britânica Margaret Thatcher, de forma um tanto caricatural, dava ordens para o torpedeamento de um navio argentino durante a Guerra das Malvinas. Era quase uma animação, ninguém confundiria com a realidade. O filme era usado para lembrar aos eleitores que uma heroína declarada do então candidato Javier Milei foi inimiga em guerra dos argentinos. E esse é o típico caso em que a coisa fica ambígua. Ninguém está sendo enganado, a cena não é realista. Mas é a dramatização meio hiperbólica de um fato histórico. O TSE julgaria como?

Talvez não seja um risco que muitos candidatos estejam dispostos a correr. Não à toa: a pena para quem for considerado culpado de gerar uma deepfake é a cassação da candidatura ou, caso eleito, do mandato. Usos originais e perfeitamente legítimos serão coibidos só pelo medo da rigidez da Corte.

O ideal era que o Congresso Nacional tivesse criado essas regras. O debate é mais transparente que no Judiciário, há mais chance de quem é do ramo, na sociedade, intervir. Mas, enquanto os parlamentares se queixam de ingerência dos tribunais, eles próprios não se mexem. Não legislam. E os problemas não deixam de aparecer porque deputados federais e senadores são incapazes de chegar a algum acordo sobre o que devem votar.

Inteligência artificial está aí e avançará muito até a campanha começar. Se o TSE não agisse, cada juiz eleitoral, em cada canto do Brasil, teria de reagir sozinho. O caos.