Bill Gates afirmou que os modelos em
desenvolvimento já cruzaram inúmeros limiares de risco
No último dia 26, agosto já terminando, Bill Gates publicou em seu site pessoal um longo ensaio a respeito de inteligência artificial. Afirmou que os modelos em desenvolvimento já cruzaram inúmeros limiares de risco. Já são capazes de desenvolver bioarmamento, quebrar cibersegurança, manipular psicologicamente pessoas, destruir empregos. Ainda assim, não temos qualquer conversa organizada sobre como gerenciar quaisquer riscos. Pois Gates publicou o ensaio, passou o dia na TV dando entrevistas. E aí nada aconteceu. No dia 11 agora, sexta-feira passada, foi a vez de Yoshua Bengio se manifestar num ensaio. Ele é um dos três padrinhos da IA. Pediu que o ritmo de atualização fosse mais lento. Que as empresas desacelerassem. No sábado, veio Dario Amodei com seu ensaio. O CEO da Anthropic e criador do Claude diz que há risco existencial para a humanidade. Quando chegou domingo agora, se manifestaram concordando com Gates, Bengio e Amodei tanto Sam Altman, da OpenAI (GPT), quanto Elon Musk, da x/AI (Grok).
Quando os homens que mais ganharam com uma
tecnologia até aqui dizem que o cenário está perigoso, no mínimo deveríamos
prestar atenção. Se a mensagem é que a inteligência artificial, no ritmo que é
desenvolvida, impõe riscos que podem levar ao extermínio da humanidade, talvez
esse seja o tema mais relevante em debate no momento.
É claro que passa em branco por aqui. Hoje o
Supremo Tribunal Federal mergulhará numa sessão histórica. Pela primeira vez,
um ministro pode vir a ser investigado com autorização da Corte. A briga tem
impacto imenso na eleição. Mas, enquanto o Brasil discute seu futuro imediato,
também escolhe ausentar-se de um debate com impacto imensamente maior.
O alerta de Gates, Amodei, Altman e Musk não
é unânime. No início de agosto, Mark Zuckerberg, da Meta, disse que a ameaça da
IA vem de monopólios. Não da tecnologia. Na Casa Branca de Donald Trump,
o alerta foi encarado com ceticismo. David Sacks, ex-czar de IA do governo, foi
além. Diz que se trata de um estratagema das empresas para suspender as regras
antitruste e criar um cartel. Hoje, empresas de um mesmo setor não podem se
juntar para decidir como rumarão, juntas, na direção do futuro. Sua tese não é
absurda.
Arvind Narayanan e Sayash Kapoor, da
Universidade de Princeton, vão além. Argumentam que IAs vêm sendo descritas
como entidades quase vivas, capazes de autonomia e vontade própria. Mas a autonomia,
dizem, é concedida. IAs não são como vírus cibernéticos, e nós, humanos, não
somos deuses que criamos uma espécie. O que criamos foi uma tecnologia
imensamente capaz de repetir padrões que lhe são ensinados. Ela é capaz de
refazer aquilo que é replicável. Faz o que aprendeu a fazer. Não é capaz de
criar do zero. Acelera nosso trabalho de inventar, não inventa ela própria.
Para eles, o risco está na ausência de regulação técnica. É preciso garantir
legalmente que a tecnologia seja implementada com controles, e a sociedade é
que deve ditar estes controles. Não as empresas.
Há outra tese circulando. O problema do setor
não é a ameaça de extinção da humanidade. É outro: treinar modelos de ponta é
muito, muito caro. O valor está na casa dos US$ 700 milhões —e subindo. Mas,
muito em virtude da aceleração da própria tecnologia, treinar um modelo de uma
ou duas gerações atrás sai por até US$ 10 milhões. A diferença é absurda. Quem
disputa a fronteira da tecnologia paga mais de dez vezes o que os concorrentes
logo atrás custeiam. Em essência, o que se cria por quase US$ 1 bilhão hoje
vira commodity em menos de um ano.
Se empresas como OpenAI e Anthropic pararem
agora, os chineses as alcançarão em seis meses e, depois, as ultrapassarão. Não
podem parar. E bateram no limite da capacidade de financiar o desenvolvimento
constante da tecnologia. Estar na frente não compensa como negócio. E, como são
empresas de capital fechado, se acaso quebrarem, o impacto será sentido por um
número pequeno de investidores. O que precisam é de uma história boa para
contar, que justifique desacelerar até que abram o capital. Tanto uma como a outra
pretendem entrar na Bolsa nos próximos meses.
Mas eles é que estão criando a mais estupenda
tecnologia que já vimos. E se estiverem certos?
Perfeito.
ResponderExcluir