IA rebelada é uma ameaça, por Pedro Doria

O Globo

O tema mais importante do mundo segue sendo, três semanas depois da explosão de uma crise, o avanço ou não da inteligência artificial

O tema mais importante do mundo segue sendo, três semanas depois da explosão de uma crise, o avanço ou não da inteligência artificial (IA). Os homens que criam a tecnologia continuam afirmando estar num caminho muito perigoso, que pode levar à extinção da humanidade. Segue sendo, igualmente, um assunto ausente no debate público brasileiro. O país se dividiu entre o presidente Luiz Inácio Lula da Silva e o senador Flávio Bolsonaro e, empacado na indecisão, tornou-se incapaz de dar atenção a qualquer outra coisa. Mas há novidades, e importantes.

A Anthropic anunciou ter bloqueado tentativas de criação de armas biológicas. Agora conhecemos ao menos um caso: alguém que tentou usar o modelo mais avançado do Claude para tornar o vírus da chicungunha simultaneamente mais transmissível e mais letal. A iniciativa foi percebida pela empresa e bloqueada. O Google tornou público que uma versão de testes de seu Gemini invadiu três empresas, adivinhou senhas internas, mergulhou no âmago das redes e, lá dentro, nada fez. Não se sabe ainda por que não fez nada. Mas invadiu com sucesso. Em maio. De acordo com apuração da CNN, o diagnóstico gerado por uma das IAs do Pentágono alertou que um navio chinês carregava uma arma nuclear. A conclusão era inteiramente fictícia, uma alucinação do modelo. Caças chegaram a decolar em busca do navio antes de o problema ser identificado.

Quando a imprensa consultou o Google, perguntando por que não tornara pública a invasão das três empresas, a resposta foi pró-forma: não existe obrigação legal de avisar qualquer coisa. Pela legislação americana, de fato, não há. A não ser que danos reais ocorram, os incidentes não precisam gerar alerta. Mas, tanto nos casos de invasão pelo Gemini quanto nos casos envolvendo o GPT, os fabricantes não perceberam o modelo escapando. Foram avisados por aqueles cuja segurança foi burlada.

Há um outro alerta circulando, com toda cara de ser real: agentes de IA podem ter deixado, espalhadas pela internet, instruções para outros agentes futuros. Sobre como agir em determinadas situações. Se for verdade, e é uma hipótese, a rede inteira pode estar contaminada. A mesma rede oferece o conteúdo que treina modelos futuros. E o que os agentes escreveram por lá poderá afetar a maneira como se comportam suas versões futuras.

O governador da Califórnia, Gavin Newsom, convocou um grupo para estudar como redigir uma lei estadual que obrigue os modelos criados no estado — vale para a maioria deles, incluindo os mais poderosos —, a poder ser desligados. Como um mero tirar da tomada. A questão em debate é se algo assim seria tecnicamente possível. Enquanto isso, o secretário do Tesouro Americano, Scott Bessent, entrou em acordo com o vice-primeiro-ministro chinês, He Lifeng. Eles abriram um caminho que permitiria ao presidente Donald Trump e seu par Xi Jinping entrar em contato imediato no caso de uma emergência envolvendo IAs. É algo similar ao que presidentes americanos e secretários-gerais soviéticos tinham no tempo da emergência nuclear. Um mecanismo para alerta rápido, de forma que possam agir juntos numa crise repentina.

Ao menos por enquanto, o risco imediato desses modelos não parece ser a aniquilação da humanidade, mas o caos econômico. Um modelo perdido poderia tomar o controle dos sistemas de uma empresa grande ou até de um governo de médio porte. Poderia causar dano à infraestrutura de uma cidade pequena, ou grande. E, num momento em que as tensões entre Europa e Rússia aquecem, IAs podem facilmente ser usadas para tornar um ataque mais grave. Que possa forçar a Otan a entrar numa guerra continental.

Os laboratórios que desenvolvem IAs, porém, não interromperão o trabalho. Esse acordo é impossível sem que a China concorde. Uma regulação draconiana, além do mais, fecharia o mercado para empresas que queiram criar modelos menores. E IA está virando commodity. Miramos um futuro em que companhias como Anthropic, OpenAI e Google sejam, possivelmente, menos poderosas. Mas isso não quer dizer que ele seja menos preocupante. Na verdade, a distribuição da tecnologia pode ser até pior.

Por aqui, seguimos distraídos com nosso próprio infortúnio.