Tiros contra a IA, por Pedro Doria

O Globo

Estamos perdidos em guerras tribais enquanto o futuro se constrói

Foi uma semana atribulada no Vale do Silício. Começou com a Anthropic soltando para a concorrência, e não para o público, seu novo modelo de inteligência artificial. Terminou na madrugada de domingo, quando um jovem casal disparou tiros contra a casa do CEO da OpenAI, Sam Altman. Foi o segundo ataque à casa. Na sexta-feira, também de madrugada, um coquetel molotov havia sido atirado contra o muro da entrada.

Altman vive com o marido e o filho, um bebê de 1 ano, em Russian Hill, bairro de classe média alta em San Francisco onde algumas casas, em geral mais antigas, são bem luxuosas. É o caso da residência do CEO, que não tem fachada na rua, como é mais comum na cidade. A construção é um pouco mais afastada. No fim de semana, ele publicou em seu blog um texto longo sobre o primeiro ataque. De cara, pôs a foto do marido com o filho. Era para lembrar que ele não é uma entidade, e sim uma pessoa, com família. Seguiu explicando que compreende perfeitamente que este é um momento em que a ansiedade a respeito de IA começa a crescer.

O motivo que levou a Anthropic a divulgar a nova versão do Claude para a concorrência tem tudo a ver com isso. Segundo a equipe da companhia, ao testar melhor o modelo, os engenheiros descobriram que ele é tão bom em escrever códigos e compreender programas que saiu achando fragilidades em toda sorte de software. Portas escancaradas para ataques de hackers. Acharam melhor abrir o sistema para Google, Microsoft, Apple, Fundação Linux e diversos outros grandes negócios da tecnologia. O objetivo é dar um tempo para que todos mapeiem onde seus sistemas são vulneráveis e consertem os problemas, antes de o Claude Mythos ir ao ar.

O gesto da Anthropic é também boa propaganda. Não é a primeira vez que Dario Amodei, CEO da empresa, apronta. Quando ainda estava na OpenAI e comandou o projeto do GPT 2.0, alegou a mesma coisa. Modelo inteligente demais, perigoso para se tornar público. Não, não era. O GPT 5 está no ar faz um ano e não quebrou nada por enquanto. Mas o Claude atual, versão 4.6, é o modelo mais formidável em circulação, se tornou o favorito de programadores, e é inteiramente plausível que a nova edição seja mesmo um ás em descobrir problemas nos sistemas existentes.

Existe outra tese circulando no Vale: a Anthropic roubou muitos clientes da OpenAI e do ChatGPT, nos últimos três meses. E sentiu o peso. Quem usa muito o Claude percebe que há horas do dia em que ele fica mais lento, não aguenta o tranco. Para no meio, interrompe um processo sem terminar. Isso quer dizer que, mesmo Mythos já estando pronto, talvez a companhia precise antes expandir seus data centers para oferecê-lo aos clientes. Todas as versões podem ser verdade ao mesmo tempo. A Anthropic não tem estrutura para liberar o novo modelo, ele descobriu vulnerabilidades reais em sistemas e é propaganda das suas qualidades.

É nesse momento que empresas começam concretamente a perceber o que ganham com IA. Está muito mais fácil escrever programas. Muitas das plataformas de que companhias dependem para gerenciar estoque, folha de pagamentos e fornecedores poderão ser escritas dentro de casa por equipes pequenas. Nos departamentos jurídicos, também lá a IA começa a entrar, redigindo e relendo contratos. O que ainda não era nítido em termos de transformação começa a ser. E a ansiedade aparece.

Na edição da semana passada da New Yorker, a principal reportagem foi sobre Altman. O repórter Ronan Farrow, famoso por denunciar o magnata de Hollywood Harvey Weinstein, passou 18 meses na cola do executivo. Descobriu que ele enganou profissionais que contratava e ocultou informação do Conselho da OpenAI. Altman tem um perfil que escolhe seletivamente o que dizer a quem, de acordo com seus objetivos.

Na postagem que publicou, ele não negou nada. Seu tom foi de que “não é um homem perfeito”, “não se orgulha de tudo o que fez”. E fez um aceno: ele é uma das pessoas no comando da maior revolução tecnológica de nossa vida. Não é missão trivial. As conversas sobre IA, e que IA queremos, e como ela se apresentará na sociedade, precisam acontecer. Democraticamente. Ele não é contra esse debate. Pede que o debate aconteça. Como, aliás, Dario Amodei também pede. São rivais, não se dão, há um mês se encontraram num palco na Índia e nem sequer se cumprimentaram.

Mas ambos, sempre que podem, batem nessa tecla. As coisas começarão a acontecer rápido. E as sociedades estão com o foco desregulado. Estamos perdidos em guerras tribais enquanto o futuro se constrói sem que prestemos atenção.