O tema mais importante do mundo segue sendo,
três semanas depois da explosão de uma crise, o avanço ou não da inteligência
artificial
O tema mais importante do mundo segue sendo, três semanas depois da explosão de uma crise, o avanço ou não da inteligência artificial (IA). Os homens que criam a tecnologia continuam afirmando estar num caminho muito perigoso, que pode levar à extinção da humanidade. Segue sendo, igualmente, um assunto ausente no debate público brasileiro. O país se dividiu entre o presidente Luiz Inácio Lula da Silva e o senador Flávio Bolsonaro e, empacado na indecisão, tornou-se incapaz de dar atenção a qualquer outra coisa. Mas há novidades, e importantes.
A Anthropic anunciou ter bloqueado tentativas
de criação de armas biológicas. Agora conhecemos ao menos um caso: alguém que
tentou usar o modelo mais avançado do Claude para tornar o vírus da chicungunha
simultaneamente mais transmissível e mais letal. A iniciativa foi percebida
pela empresa e bloqueada. O Google tornou
público que uma versão de testes de seu Gemini invadiu três empresas, adivinhou
senhas internas, mergulhou no âmago das redes e, lá dentro, nada fez. Não se
sabe ainda por que não fez nada. Mas invadiu com sucesso. Em maio. De acordo com
apuração da CNN, o
diagnóstico gerado por uma das IAs do Pentágono alertou que um navio chinês
carregava uma arma nuclear. A conclusão era inteiramente fictícia, uma
alucinação do modelo. Caças chegaram a decolar em busca do navio antes de o
problema ser identificado.
Quando a imprensa consultou o Google,
perguntando por que não tornara pública a invasão das três empresas, a resposta
foi pró-forma: não existe obrigação legal de avisar qualquer coisa. Pela
legislação americana, de fato, não há. A não ser que danos reais ocorram, os
incidentes não precisam gerar alerta. Mas, tanto nos casos de invasão pelo
Gemini quanto nos casos envolvendo o GPT, os fabricantes não perceberam o
modelo escapando. Foram avisados por aqueles cuja segurança foi burlada.
Há um outro alerta circulando, com toda cara
de ser real: agentes de IA podem ter deixado, espalhadas pela internet,
instruções para outros agentes futuros. Sobre como agir em determinadas
situações. Se for verdade, e é uma hipótese, a rede inteira pode estar
contaminada. A mesma rede oferece o conteúdo que treina modelos futuros. E o
que os agentes escreveram por lá poderá afetar a maneira como se comportam suas
versões futuras.
O governador da Califórnia, Gavin Newsom,
convocou um grupo para estudar como redigir uma lei estadual que obrigue os
modelos criados no estado — vale para a maioria deles, incluindo os mais
poderosos —, a poder ser desligados. Como um mero tirar da tomada. A questão em
debate é se algo assim seria tecnicamente possível. Enquanto isso, o secretário
do Tesouro Americano, Scott Bessent, entrou em acordo com o
vice-primeiro-ministro chinês, He Lifeng. Eles abriram um caminho que
permitiria ao presidente Donald Trump
e seu par Xi
Jinping entrar em contato imediato no caso de uma emergência envolvendo
IAs. É algo similar ao que presidentes americanos e secretários-gerais
soviéticos tinham no tempo da emergência nuclear. Um mecanismo para alerta
rápido, de forma que possam agir juntos numa crise repentina.
Ao menos por enquanto, o risco imediato
desses modelos não parece ser a aniquilação da humanidade, mas o caos
econômico. Um modelo perdido poderia tomar o controle dos sistemas de uma
empresa grande ou até de um governo de médio porte. Poderia causar dano à
infraestrutura de uma cidade pequena, ou grande. E, num momento em que as
tensões entre Europa e Rússia
aquecem, IAs podem facilmente ser usadas para tornar um ataque mais grave. Que possa
forçar a Otan
a entrar numa guerra continental.
Os laboratórios que desenvolvem IAs, porém,
não interromperão o trabalho. Esse acordo é impossível sem que a China concorde.
Uma regulação draconiana, além do mais, fecharia o mercado para empresas que
queiram criar modelos menores. E IA está virando commodity. Miramos um futuro
em que companhias como Anthropic, OpenAI e Google sejam, possivelmente, menos
poderosas. Mas isso não quer dizer que ele seja menos preocupante. Na verdade,
a distribuição da tecnologia pode ser até pior.
Por aqui, seguimos distraídos com nosso
próprio infortúnio.
Nenhum comentário:
Postar um comentário