Eugênio Bucci* - Inteligência artificial: isso deve nos assustar?

O Estado de S. Paulo

Sim, o incômodo com a técnica é antigo, bem antigo, mas a escala do que ela vem aprontando é absolutamente inédita

É razoável e sensato temer a inteligência artificial? Em seus arranjos mais complexos, que conjugam centenas de bilhões de parâmetros em frações de segundos, ela ameaça o lugar dos seres humanos em governos, empresas, na ciência e na guerra?

Ou esse tipo de preocupação não passa de paranoia infantil? Pensemos um pouco. Será que as máquinas ditas inteligentes são apenas ferramentas anódinas, mais ou menos como as pontes sobre os rios, as brocas de dentista, as colheres de pau, os gravadores de voz ou os estetoscópios? Os computadores que falam sozinhos, escrevem, leem e até conversam com os mortais em qualquer idioma não oferecem nenhum perigo? São inofensivos?

Até aqui, há opiniões para todo gosto. Uns são “apocalípticos”, para usar o adjetivo popularizado por Umberto Eco. Outros, mais do que “integrados”, desfilam esfuziantes e deslumbradérrimos com seus óculos de realidade ampliada. Estamos no meio de um imenso tecnoflaflu. A questão, no entanto, é mais séria que um embate entre torcidas.

Para começar a entendê-la, é bom lembrar que, desde sempre, desde muito antes da invenção do chip, a técnica fascina e assusta a humanidade. A descoberta do domínio do fogo trouxe maravilhamentos e assombros mitológicos para a turma de Prometeu. As chamas, uma vez domesticadas, poderiam aquecer ou queimar a pele humana. Poderiam curar e matar, alimentar e envenenar. O fogo seria sempre obediente? Ou fugiria de controle?

Em 2001, uma Odisseia no Espaço, de Stanley Kubrick, um porrete de pau, atirado ao céu, vira nave espacial. Nessa tomada, uma das mais citadas de toda a história do cinema, Kubrick retratou o itinerário pelo qual um instrumento primitivo, qualquer que seja, adquire moto-próprio e se converte em monstros que se voltam contra nós.

Desde sempre, a técnica esconde riscos, e quem pensa sabe. É possível que Sócrates, quando levantou senões sobre a escrita, estivesse dando ouvidos a uma intuição poderosa. Ele desconfiou. Achou que alguma coisa não era tão boa assim nas letras manuscritas. Aos olhos dele, os signos que representam e armazenam ideias abstratas são também um problema, não apenas uma solução.

“Uma vez escrito, um discurso sai a vagar por toda parte, e nunca se pode dizer para quem serve e para quem não serve”, comentou Sócrates (no Fedro, de Platão). Em seu raciocínio, ele argumenta que a escrita promove um divórcio entre a palavra de seu autor. Além disso, enfraqueceria a memória de todo mundo, enfraquecendo também a inteligência. As pessoas passariam a confiar nos registros postos nos livros, e não teriam de se lembrar de mais nada.

Bem sabemos que Sócrates não condenou nem amaldiçoou o alfabeto (aliás – e aqui não vai nenhuma ironia –, só temos acesso ao que ele falou porque seus discípulos tomavam notas sem parar). O que ele fez, e com razão, foi apontar no texto escrito o perigo de uma técnica que faz as ideias andarem sozinhas, mais ou menos como o pedaço de pau voou sozinho e virou espaçonave no filme de Kubrick.

O que é um rolo de pergaminho, se não um instrumento ou um artefato técnico? O códice e o incunábulo, o que são, se não aparelhos em que os pensamentos se acendem como lâmpadas no exato instante em que são lidos? Isso é técnica – e essa técnica, embora boa, esconde perigos diferentes daqueles que estavam presentes na fala.

Pensemos agora na escrita usada pelos programadores de softwares. Também ela guarda perigos novos, diferentes daqueles que estão nas brochuras impressas. Não duvide. Há dois dias, este jornal publicou uma reportagem de Stephen Ornes com um título nada banal: Inteligência artificial já executa tarefas para as quais não foi programada (Estado, 27/6, B6). Para surpresa dos cientistas, os modelos amplos de linguagem (LLMs, na sigla em inglês) de alta complexidade conseguem identificar problemas que não faziam parte de suas programações originais e os resolvem sem que os estudiosos encontrem uma explicação para isso. Aparentemente, a inteligência artificial está se movendo por si mesma, ao menos um pouquinho. Nesse caso, o que assusta as equipes de pesquisa é a imprevisibilidade desse comportamento das máquinas. Incerteza. Não há cálculo que dê conta desta nova indefinição da cibernética.

Sim, o incômodo com a técnica é antigo, bem antigo, mas a escala do que ela vem aprontando é absolutamente inédita. Num intervalo de poucos dias, um desses inventos engolfa bilhões de “usuários” (como se convencionou chamar as vítimas). Essa velocidade, nesse volume e nesse grau de irreversibilidade, nunca se viu igual.

E aí? O que fazer? Ora, valorizemos as coisas boas. Hoje nós não precisamos mais guardar de cabeça os números de telefone de parentes e amigos. A máquina faz isso para nós. Não é o máximo? Que prodígio, não é mesmo? Finalmente, a nossa memória ficou livre das tarefas chatas, e agora pode se dedicar a atividades mais criativas, prazerosas e transcendentes. Como, por exemplo: “Ai, Cacilda, onde foi que eu deixei o meu celular?”.

*JORNALISTA, É PROFESSOR DA ECA-USP