Sim, o incômodo com a técnica é antigo, bem antigo, mas a escala do que ela vem aprontando é absolutamente inédita
É razoável e sensato temer a inteligência
artificial? Em seus arranjos mais complexos, que conjugam centenas de bilhões
de parâmetros em frações de segundos, ela ameaça o lugar dos seres humanos em
governos, empresas, na ciência e na guerra?
Ou esse tipo de preocupação não passa de
paranoia infantil? Pensemos um pouco. Será que as máquinas ditas inteligentes
são apenas ferramentas anódinas, mais ou menos como as pontes sobre os rios, as
brocas de dentista, as colheres de pau, os gravadores de voz ou os estetoscópios?
Os computadores que falam sozinhos, escrevem, leem e até conversam com os
mortais em qualquer idioma não oferecem nenhum perigo? São inofensivos?
Até aqui, há opiniões para todo gosto. Uns são “apocalípticos”, para usar o adjetivo popularizado por Umberto Eco. Outros, mais do que “integrados”, desfilam esfuziantes e deslumbradérrimos com seus óculos de realidade ampliada. Estamos no meio de um imenso tecnoflaflu. A questão, no entanto, é mais séria que um embate entre torcidas.
Para começar a entendê-la, é bom lembrar
que, desde sempre, desde muito antes da invenção do chip, a técnica fascina e
assusta a humanidade. A descoberta do domínio do fogo trouxe maravilhamentos e
assombros mitológicos para a turma de Prometeu. As chamas, uma vez domesticadas,
poderiam aquecer ou queimar a pele humana. Poderiam curar e matar, alimentar e
envenenar. O fogo seria sempre obediente? Ou fugiria de controle?
Em 2001, uma Odisseia no Espaço, de Stanley
Kubrick, um porrete de pau, atirado ao céu, vira nave espacial. Nessa tomada,
uma das mais citadas de toda a história do cinema, Kubrick retratou o
itinerário pelo qual um instrumento primitivo, qualquer que seja, adquire
moto-próprio e se converte em monstros que se voltam contra nós.
Desde sempre, a técnica esconde riscos, e
quem pensa sabe. É possível que Sócrates, quando levantou senões sobre a
escrita, estivesse dando ouvidos a uma intuição poderosa. Ele desconfiou. Achou
que alguma coisa não era tão boa assim nas letras manuscritas. Aos olhos dele,
os signos que representam e armazenam ideias abstratas são também um problema,
não apenas uma solução.
“Uma vez escrito, um discurso sai a vagar
por toda parte, e nunca se pode dizer para quem serve e para quem não serve”,
comentou Sócrates (no Fedro, de Platão). Em seu raciocínio, ele argumenta que a
escrita promove um divórcio entre a palavra de seu autor. Além disso,
enfraqueceria a memória de todo mundo, enfraquecendo também a inteligência. As
pessoas passariam a confiar nos registros postos nos livros, e não teriam de se
lembrar de mais nada.
Bem sabemos que Sócrates não condenou nem
amaldiçoou o alfabeto (aliás – e aqui não vai nenhuma ironia –, só temos acesso
ao que ele falou porque seus discípulos tomavam notas sem parar). O que ele
fez, e com razão, foi apontar no texto escrito o perigo de uma técnica que faz
as ideias andarem sozinhas, mais ou menos como o pedaço de pau voou sozinho e
virou espaçonave no filme de Kubrick.
O que é um rolo de pergaminho, se não um
instrumento ou um artefato técnico? O códice e o incunábulo, o que são, se não
aparelhos em que os pensamentos se acendem como lâmpadas no exato instante em
que são lidos? Isso é técnica – e essa técnica, embora boa, esconde perigos
diferentes daqueles que estavam presentes na fala.
Pensemos agora na escrita usada pelos
programadores de softwares. Também ela guarda perigos novos, diferentes
daqueles que estão nas brochuras impressas. Não duvide. Há dois dias, este
jornal publicou uma reportagem de Stephen Ornes com um título nada banal:
Inteligência artificial já executa tarefas para as quais não foi programada
(Estado, 27/6, B6). Para surpresa dos cientistas, os modelos amplos de
linguagem (LLMs, na sigla em inglês) de alta complexidade conseguem identificar
problemas que não faziam parte de suas programações originais e os resolvem sem
que os estudiosos encontrem uma explicação para isso. Aparentemente, a
inteligência artificial está se movendo por si mesma, ao menos um pouquinho.
Nesse caso, o que assusta as equipes de pesquisa é a imprevisibilidade desse
comportamento das máquinas. Incerteza. Não há cálculo que dê conta desta nova
indefinição da cibernética.
Sim, o incômodo com a técnica é antigo, bem
antigo, mas a escala do que ela vem aprontando é absolutamente inédita. Num
intervalo de poucos dias, um desses inventos engolfa bilhões de “usuários”
(como se convencionou chamar as vítimas). Essa velocidade, nesse volume e nesse
grau de irreversibilidade, nunca se viu igual.
E aí? O que fazer? Ora, valorizemos as
coisas boas. Hoje nós não precisamos mais guardar de cabeça os números de
telefone de parentes e amigos. A máquina faz isso para nós. Não é o máximo? Que
prodígio, não é mesmo? Finalmente, a nossa memória ficou livre das tarefas
chatas, e agora pode se dedicar a atividades mais criativas, prazerosas e
transcendentes. Como, por exemplo: “Ai, Cacilda, onde foi que eu deixei o meu
celular?”.
*JORNALISTA, É PROFESSOR DA ECA-USP
Um comentário:
Muito bom!
Postar um comentário