A civilização, na hipótese da extinção por Inteligência Artificial, desaparecerá aos poucos, num suspiro longo
O filósofo Adauto Novaes, com sua fala
mineira, sem atropelos ou turbulências, gosta de lembrar uma frase do poeta
francês Paul Valéry: “Nós, civilizações, sabemos agora que somos mortais”.
Lembrança pertinente. Com essas palavras, Valéry faz a abertura de seu ensaio
célebre A crise do espírito, publicado na França no ano de 1919, lá se vão mais
de cem anos.
Eram tempos traumáticos. O desafio do pensamento era reconhecer que a utopia iluminista, com a sua promessa de que a ciência libertaria a humanidade da peste, da fome e das guerras, dava sinais de fadiga. O morticínio gerado pela Primeira Grande Guerra era a prova irrefutável desse fato. O que se viu foi a distopia. Cientistas desenvolveram gases tóxicos para dizimar adolescentes confinados nas trincheiras. Aviões se convertiam em armas letais. O poder era o crime perfeito. Ficava mais do que evidente que a civilização, impulsionada pelas mais estonteantes invenções da técnica, era capaz de matar, inclusive a si mesma.
Depois do veredicto de Valéry, as coisas
pioraram. Vieram o Holocausto, a bomba atômica e o aquecimento global. Além das
civilizações, a própria humanidade se descobriu mortal. Cães raivosos não
alcançam essa ideia, mas assim é.
Anteontem, o jornal The New York Times
noticiou que um grupo que reúne os principais pesquisadores e executivos dos
maiores centros de inovação tecnológica no mundo lançou uma advertência: o
crescimento indiscriminado da Inteligência Artificial (ou simplesmente IA), outra
conquista do gênio humano, pode empurrar a nossa espécie para a “extinção”.
Não, a palavra não é exagerada. O texto do Times, assinado pelo colunista de
tecnologia Kevin Rose, não envereda por firulas especulativas. Vai aos nós
objetivos do problema.
Enorme problema. Para começar, as
ferramentas baseadas em IA vão devorar milhões e milhões de empregos hoje
ocupados por pessoas feitas de átomos de carbono. Essas pessoas cederão seu
lugar para traquitanas que levam átomos de silício em sua composição e serão
expulsas do mundo do trabalho. Os laços sociais serão convulsionados.
Em outra frente, dispositivos atrelados a
algoritmos inteligentes vêm desempenhando um papel tenebroso nas campanhas de
ódio e disseminação das mentiras mais destrambelhadas. As multidões, presas
fáceis, se aglomeram em tropas de fúria e fanatismo, o que corrói as
instituições encarregadas de verificação da verdade factual, como a imprensa, a
ciência e a justiça. Ato contínuo, os alicerces das instituições democráticas
se desestruturam.
Diante disso, alguém levanta a mão para
fazer a pergunta inevitável: mas essas mesmas tecnologias não podem ser usadas
“para o bem”? Podem, sim, é lógico. O veneno de cobra e a arma de fogo também
podem ser usados “para o bem”. O livro de Adolf Hitler, Minha Luta, quando
estudado por historiadores ou pensadores comprometidos com a democracia e os
direitos humanos, pode servir a bons propósitos, como o de nos ajudar a impedir
uma recidiva no nazismo. Em tese, tudo pode servir “para o bem”. O cianureto, o
pernilongo e a música brega podem ser utilizados “para o bem”. No entanto, não
é bem esse “bem” que se projeta como tendência quando o tema é IA. Os que mais
entendem do assunto estão assustados. Ouçamos o que eles dizem.
“Debelar o risco de extinção representado
pela IA deve ser uma prioridade global ao lado de outros riscos de escala
social, como pandemias e guerra nuclear”, afirma o manifesto de uma única frase
assinado por cerca de 350 cientistas e dirigentes de empresas. Entre os
signatários estão Sam Altman, presidente executivo da OpenAI, e Demis Hassabis,
presidente executivo do Google DeepMind, além de Geoffrey Hinton e Yoshua
Bengio, ganhadores do Prêmio Alan Turing, uma espécie de Nobel da tecnologia.
O risco da extinção de que eles falam não
deve ser entendido como o risco de uma catástrofe nuclear. Não é que alguém vá
lá, ligue o computador e, num estrondo, as populações de todos os países
partirão desta para uma pior. Não será assim. A civilização, nesta hipótese da
extinção por IA, desaparecerá aos poucos, num suspiro longo.
As ferramentas de IA vão aos poucos tomando
posse dos protocolos discursivos que, desde sempre, orientam as condutas
humanas. O jargão jurídico é um desses protocolos. O método científico é outro.
A atividade dos médicos é um terceiro tipo. As religiões também têm os seus,
que não se confundem com os anteriores. Todos esses protocolos têm um traço
comum: eles são construídos na linguagem. Quando a IA aprende a falar, como se
fosse gente, ela se apropria dos protocolos que formatam comportamentos
individuais e sociais e, a partir daí, tudo muda de figura.
Como resultado, o ser humano perderá
relevância, enquanto os protocolos desumanizados se expandirão. Da nossa
irrelevância brotará o ciclo vicioso que vai nos escantear e, depois, nos
extinguir. A menos que a democracia tome providências. Segundo o grupo seleto
que assinou o manifesto de uma única frase, ainda há tempo.
*Jornalista, é professor da ECA-USP
Um comentário:
Cruzes!
Postar um comentário