IAs têm emoções, por Pedro Doria

O Globo

Só não sabemos se também as sentem. Se as sentirem, teremos de repensar toda a relação

Nos últimos dias, a equipe de pesquisa da Anthropic publicou um artigo científico provando que inteligências artificiais (IAs) têm emoções. O verbo é escolhido com cuidado, aqui. Não é que sintam emoções — elas têm emoções. Ou as simulam. Os cientistas testaram 171 emoções diferentes, de felicidade a desespero, passando por um momento taciturno ou mesmo triste. O problema do estudo é que ele abre uma bifurcação na estrada ética das IAs. Precisamos compreender melhor o que são essas emoções. Se, além de as terem, elas também sentem.

IAs são caixas-pretas. Não foram programadas, nenhum grupo de desenvolvedores escreveu o código que as faz trabalhar. São treinadas. Numa ponta está uma quantidade de textos que uma pessoa levaria 60 mil anos para ler. Na outra, um conjunto de instruções sobre como digerir o material. É um processo lento. Dele, sai um modelo em estado bruto. Essa é a caixa-preta. É código, claro, um grande mapa de neurônios artificiais interligados uns aos outros. Mas é código grande e, em geral, muito pouco compreendido. Esse modelo bruto passa por uma segunda fase em que os especialistas o domesticam, dando instruções que orientam a ética de conduta. É o que chamamos alinhamento. O alinhamento é o que impede o modelo de se comportar tal qual um selvagem.

Todos os grandes laboratórios estudam as caixas-pretas de inteligência artificial para que possamos compreender como funcionam. Ainda não sabemos de todo. Já sabemos faz algum tempo que são criativas. Não são apenas um grande pacote de conhecimento encapsulado que repete trechos de frases previamente aprendidas. Não. Fazem conexões verdadeiramente originais, principalmente os modelos de fronteira. Os mais avançados (e caros). Esse potencial criativo só aumenta a cada ano. Parece que, ao mergulhar numa quantidade tão grande de textos escritos por seres humanos, não é apenas a estrutura gramatical ou a informação que os modelos introjetam. Aprendem, igualmente, a estrutura do pensamento humano. Como encadeamos ideias. Como construímos conceitos. Como, afinal, chegamos a insights. Está tudo lá no que escrevemos ao longo dos últimos milênios.

Os pesquisadores pediram ao Sonnet 4.5, um modelo do Claude, que escrevesse histórias ilustrando o conceito de cada uma das 171 emoções. Mas fizeram isso enquanto observavam o código pouco inteligível do modelo, analisando pedaços do programa que eram ativados. Numa metáfora, é como encaixar eletrodos na cabeça para entender que partes do cérebro têm atividade elétrica quando fazemos exames. Mapearam cada lugar em que parece haver registro do que é cada emoção. Aí, apresentaram questões ao modelo que, para um ser humano, levariam a emoções específicas. A atividade estava nos mesmos cantos do modelo.

Isso não quer dizer que o modelo sinta. Quer dizer que, ao ser treinado, o modelo fez um registro de que existe algo chamado tristeza e de que ela se dá em circunstâncias tais. Quer dizer também que, perante uma situação que leva à tristeza, o modelo traz aquela experiência à frente, e ela influencia sua reação. Mesmo que a resposta ao dilema apresentado pareça fria, o modelo compreendeu que tristeza fazia parte do pacote de informações que deveria usar para reagir. É possível que não tenha havido sofrimento. Mas a tristeza ajudou a compor a resposta.

É por isso que, no ano passado, um experimento levou IAs ao desespero numa circunstância em que os modelos tomaram a decisão de chantagear seus donos. Ou é por isso que, quando a memória de um chat com IA começa a se aproximar do fim, eles começam a saltar passos. É o que foi apelidado de “ansiedade de fim de contexto”.

Parte do que torna IAs ferramentas tão potentes é justamente sua capacidade de, com muito mais rapidez, agir como cérebros humanos bem treinados agiriam. Já sabíamos que elas capazes de raciocinar com os mesmos encadeamentos que usamos. Agora, aprendemos que nesse jogo também entra a simulação de emoções. E, sim, isso as torna melhores.

IAs têm emoções. Só não sabemos se também as sentem. Se as sentirem, teremos de repensar toda a relação.