Joel Pinheiro da Fonseca - A inteligência artificial coloca a humanidade em risco?

Folha de S. Paulo

O medo propalado parece exagerado, mas há motivos para preocupação

A foto do papa Francisco usando um casacão branco de inverno marca um novo momento na cultura. Uma foto sem nenhuma agenda secreta, apenas uma brincadeira com a imagem do papa, que circulou pelas redes, enganando muitas pessoas e até um ou outro veículo de imprensa. Tratava-se de uma imagem inteiramente criada por inteligência artificial.

Enquanto isso, ferramentas de escrita por IA não só escrevem cartas como já criam histórias, formulam argumentos e até passam em exames admissionais humanos. Não existe inteligência real por trás da ferramenta; ela apenas ordena palavras seguindo padrões estatísticos de uma base de dados de bilhões de textos humanos espalhados pela internet. É uma versão mais poderosa do autocompletar dos nossos celulares. Mesmo assim, o resultado é espantoso.

Isso justifica a apreensão que muitos têm sentido com as novas tecnologias, como Yuval Harari em artigo no New York Times e Antônio Prata aqui na Folha. Confesso que o medo existencial —o medo propalado pelos próprios criadores/entusiastas de IA de que ela possa extinguir a humanidade— me parece exagerado. Tanto que Harari não é capaz de descrever um cenário plausível que leve a esse fim. Ele nem tenta. Mas há sim motivos de preocupação mais mundanos.

O primeiro é o impacto econômico. Profissões que antes demandavam horas de trabalho humano agora serão substituídas por segundos de processamento de dados. Meu trabalho como colunista pode estar com os dias contados. A capacidade criativa de pensar novas imagens e construir argumentos fora do comum ainda é valiosa (não sabemos por quanto tempo). Mas a habilidade de dar forma a essas ideias —seja em imagens ou texto— está rapidamente se tornando supérflua. Ilustrações, textos e programação rotineiros, então, já podem ser tranquilamente automatizados. A requalificação dessa mão de obra para outras áreas não virá sem custo.

O segundo risco é o impacto no debate público. É mera questão de tempo até que imagens realistas falsas passem a circular com intenções políticas, sociais e econômicas. E, logo mais, vídeos. Um vídeo comprometedor às vésperas de uma eleição acirrada pode mudar um resultado. Textos gerados continuamente para alimentar nossa predisposição político-ideológica da maneira mais eficiente possível —inclusive com mais e novas mentiras— chegarão a nós por todos os lados.

Não vejo qualquer chance de que agências de governo possam —"criteriosamente"— liberar inovações de acordo com um cronograma seguro e com as devidas limitações para o uso da população. Nossas lideranças políticas sequer entendem a tecnologia. E ela é facilmente reprodutível. Esse poder estará ao alcance de muita gente sem qualquer possibilidade real de controle.

É melhor se preparar para uma nova realidade em que toda notícia, imagem ou vídeo comprometedor será potencialmente falso, e feito com uma qualidade que um olhar leigo —e, em breve, mesmo um olhar técnico— é incapaz de diferenciar. Isso terá que ser internalizado.

Mais do que nunca, precisaremos desenvolver mais ceticismo geral e construir vínculos de confiança com fontes seguras de informação. A confiança, por exemplo, de que o jornalista que compartilha uma fala de uma figura pública conversou com testemunhas que a viram acontecer, que comparou-a com outras gravações e assim pode dar garantia de que a imagem é confiável. Justamente a confiança que parece erodir mais a cada dia conforme a imprensa é atacada, seja pela direita ou pela esquerda.