Não está descartada a possibilidade de hora dessas, passarmos por uma hecatombe pavorosa, um Chernobyl digital
Há coisa de duas semanas, circulou a notícia de que dois modelos de inteligência artificial, desenvolvidos pela OpenAI, saíram de controle e invadiram arquivos de uma empresa concorrente. Como o desvio foi rapidamente identificado e não sucedeu nada de mais sério, ninguém parece ter ficado muito preocupado. O fato foi recebido como “parte da rotina”, num cenário de improvisos que lembra o velho samba de Billy Blanco, Piston de Gafieira. Quase deu para ouvir, na gafieira digital, o pistão que “tira a surdina e põe as coisas no lugar”. Nas big techs animadas, os mandachuvas (outra palavra do vocabulário de antigamente) deram de ombros e tocaram adiante.
Talvez o improvável leitor queira mais
detalhes do ocorrido. É legítimo. Vamos lá. No dia 21 de julho, durante um
teste de cibersegurança interno na OpenAI, dois desses seres de silício,
tecnicamente dotados de um módico poder de raciocínio, escapuliram pela
internet e entraram clandestinamente no sistema de outro gigante do setor, a Hugging
Face. A organização invadida, percebendo movimentos estranhos em seus domínios
privativos e fechados, chamou a polícia. Logo depois, o imbróglio se resolveu
sem maiores danos. “A OpenAI só desconfiou de seu próprio agente depois que a
vítima descobriu a invasão sozinha, publicou o alerta e acionou o FBI”,
relataram os pesquisadores brasileiros Glauco Arbix, Carlos Américo Pacheco e
Cristina Godoy (A IA escapou da jaula, mas os humanos são os responsáveis,
Valor Econômico, 3/8/2026).
Arbix, Pacheco e Cristina Godoy anotaram
ainda que esta foi “a primeira vez” que um artefato de ponta, um “modelo de
fronteira”, “escapou autonomamente do ambiente de avaliação e invadiu empresas
reais, sem que isso fosse o objetivo de um operador humano”. O bicho artificial
agiu por sua própria conta, à revelia de seus donos. Como não houve
consequências mais, digamos, catastróficas, tudo ficou por isso mesmo.
Talvez este seja o caso de mais gravidade
potencial, mas está longe de ser o primeiro. Pequenos episódios anteriores, que
já deveriam ter feito soar o alarme, foram recebidos com indiferença. Em março
de 2023, ganhou repercussão a traquinagem do robô virtual que entrou nas redes,
fez contato com uma pessoa e pediu que ela o ajudasse a preencher um captcha
(aquela verificação chata e enervante, inventada exatamente para barrar a ação
de robôs, que nos obriga a ler números e letras de uma imagem toda torta e depois
digitá-los, diligentemente, num campo em branco). A pessoa abordada achou
aquilo esquisito, desconfiou e perguntou: “Ei, mas você é um robô?”. Então, o
sintético larápio mentiu, disse que era apenas um deficiente visual, e
conseguiu o que queria.
No dia 9 de junho de 2025, o jornal digital
Axios publicou um texto ainda mais perturbador informando que a Anthropic não
sabia explicar por que o seu modelo de IA, chamado Claude, em sua versão 4,
tinha tentado chantagear um engenheiro, prometendo revelar mensagens da pasta
de e-mails pessoais dele que comprovariam um affair extraconjugal (The scariest
AI reality). É o caso de perguntar: quem chantageia um engenheiro, não poderá
chantagear um dono de big tech ou um chefe de Estado?
Se pensarmos com cuidado, veremos que essas
travessuras robóticas atestam, sem margem para dúvidas, que a inteligência
artificial tem meios para dissimular, enganar e manipular sem que o ser humano
que a programou perceba. Essa mesma verdade ficou patente agora, com a
sublevação dos modelos da Open AI que se infiltraram na Hugging Face.
É uma questão de tempo – não é “se”, é
“quando”. Não está descartada a possibilidade de, hora dessas, passarmos por
uma hecatombe pavorosa, um Chernobyl digital. Só então as sociedades
alegadamente democráticas levarão verdadeiramente a sério a necessidade
premente de regular o uso, a aplicação e, sobretudo, o desenvolvimento dessas
tecnologias. Até lá, teremos de esperar – e esperar pelo pior.
Um risco descomunal dorme dentro dessas
ocorrências menores, quase anedóticas. Como seria se um sistema graúdo de
inteligência artificial, por algum motivo escabroso, resolvesse intimidar uma
autoridade pública, uma grande empresa ou uma escola ou uma igreja com a ameaça
de interromper seus serviços (uma greve digital), entregar dados sensíveis para
inimigos (uma espionagem cibernética) ou não implementar comandos expressos (um
motim das máquinas)?
A chance maligna é real. A qualquer momento,
artefatos prodigiosos da técnica, imaginados e construídos por seres humanos,
poderão sair de controle e se voltar contra os seres humanos. Um acidente desse
porte, quando vier, não terá graça nem conserto. Não terá sido por falta de
aviso. Aliás, os avisos nos chegam de séculos atrás. Em 1750, em seu célebre
Discurso sobre as ciências e as artes, JeanJacques Rousseau escreveu:
“Se as nossas ciências são vãs em relação ao
objetivo a que se propõem, são ainda mais perigosas quanto aos efeitos que
produzem.”
Agora olhe para o seu aplicativo de
inteligência artificial, aí mesmo, na sua tela eletrônica, e leia de novo a
frase de Rousseau.
Nenhum comentário:
Postar um comentário