Trégua de seis meses nas pesquisas sobre IA não vai resolver nada. Olhe com ternura e compaixão para o mundo à sua volta, pois ele vai desaparecer num suspiro
De umas poucas semanas para cá, o
historiador israelense Yuval Harari escreveu um par de artigos afirmando que a
inteligência artificial (IA) “hackeou” o “sistema operacional” da espécie
humana. Tratase de uma metáfora: “sistema operacional”, aqui, significa
linguagem. A máquina finalmente dominou nossas formas de expressão e
comunicação – e o perigo que isso representa é inédito, colossal, maior do que
qualquer outro que tenhamos conhecido antes.
Harari tece raciocínios com uma limpidez irresistível. Autor de best-sellers mundiais, como Homo Sapiens (publicado no Brasil pela Companhia das Letras), tem o dom de tornar palatáveis, acessíveis e até mesmo envolventes alguns dos mais excruciantes dilemas do nosso tempo. O primeiro dos artigos, originalmente publicado no The New York Times, foi traduzido em jornais brasileiros. O Estadão o estampou em suas páginas no dia 28 de março, com o título de O domínio da inteligência artificial sobre a linguagem é uma ameaça à civilização.
Pouco depois, o escritor liderou um
abaixo-assinado transnacional pedindo uma trégua de seis meses nas pesquisas
sobre inteligência artificial. Em seguida, voltou à carga com um novo texto,
desta vez no semanário inglês The Economist (de 28 de abril), com a mesma
mensagem: uma tecnologia capaz de se apossar da linguagem humana tem tudo para
encilhar a humanidade inteira.
O argumento procede. Todos os mitos, todas
as religiões e todas as culturas que existem ou já existiram sobre a face da
Terra não são feitos de aminoácidos ou de cromossomos, mas de signos
linguísticos. Esses signos vertebram o “sistema operacional” dos nossos
sistemas de fé, da nossa expressão artística e da nossa identidade – são o
tecido da nossa consciência. Logo, softwares e hardwares que se apropriem desse
“sistema” poderão mandar em nós. Eis por que, na opinião de muita gente bem
informada, a inteligência artificial se equipara aos armamentos nucleares em
potencial destrutivo.
Mas isso não é nem a metade da missa de
réquiem que mal começou. Se olharmos a questão de frente, notaremos que Yuval
Harari poderia ter dito mais do que disse. O desenvolvimento do chamado machine
learning, do big data e dos equipamentos autoprogramáveis segue um curso
irrefreável. Nenhum abaixo-assinado poderá estancá-lo. O ponto de não retorno
talvez já tenha ficado para trás.
Para entender a irreversibilidade do
processo tecnológico, é bom nos lembrarmos daquele outro processo, o jurídico,
tal como foi descrito por Franz Kafka. A despeito da existência ou não de
provas, a trama judicial ia em frente, sem que ninguém lograsse detê-la. A
tecnologia, como o direito, é uma criação humana. Diferentemente do direito,
porém, fica mais forte à medida que se desumaniza e se liberta das pessoas.
Martin Heidegger pressentiu algo parecido
quando falou do poder da técnica, na primeira metade do século 20. Trezentos
anos antes, Thomas Hobbes notou que o Estado, possuído pelo monstro Leviatã,
faria o que bem entendesse, contra quem quer que fosse. A sensação de que o
engenho humano fabrica “monstros” que ganham vida própria não é nova. Adam
Smith vislumbrou uma tal “mão invisível” puxando os fios do mercado. Karl Marx
detectou um “sujeito automático” escondido em alguma reentrância entre a
mercadoria e o capital.
A realidade lhes deu razão. A burocracia
que Max Weber viu com uma ponta de otimismo logo se degradou em stalinismo e
devorou seus pais, como se confirmasse a maldição do romance Frankenstein, de
1818, em que Mary Shelley retratou a criatura que subjuga o criador. Nas
tragédias da Grécia Antiga, a fatalidade que não tinha governo atendia pelo
nome de destino. Na modernidade, você pode chamá-la de inconsciente. O pensamento
até entende o que contempla, mas não tem como impedir.
E aqui estamos nós, cara a cara com a
inteligência artificial. A possibilidade de domála é exígua. Ela conseguiu o
feito de retirar a linguagem humana do domínio dos falantes de carne e osso.
Ela, a linguagem, que só podia existir através de nós, agora poderá viver além
de nós. Não subestimemos o tamanho deste pequeno passo que será um grande salto
para a tecnologia. O linguista Ferdinand de Saussure ensinou que aquele que
inventa uma língua e a coloca em circulação perde o controle sobre ela. Em
breve, poderemos perder o controle sobre as máquinas que aprenderam a falar a
linguagem que era só nossa.
A inteligência artificial automatiza
protocolos que eram humanos na origem e deles extrai predições eficazes, em
escalas progressivamente mais velozes e mais agigantadas. Ela cresce e se
complexifica dentro dos bunkers privados e opacos das big techs – ou dentro dos
subterrâneos dos mais bem guardados segredos de Estado, também opacos. Não há
força política na atualidade que consiga quebrar essas duas opacidades
simultaneamente. Não, uma trégua de seis meses não vai resolver nada. Nossas
chances são mínimas.
Olhe com ternura e compaixão para o mundo à
sua volta, porque ele vai desaparecer num suspiro.
*Jornalista, é professor da Eca-USP
Um comentário:
Cruzes!
Postar um comentário