Papa Francisco manifesta grave preocupação de que essa nova maravilha da tecnologia venha a ser colocada a serviço da guerra
A inteligência artificial, nova maravilha da
ciência e da tecnologia, está cada vez mais presente na vida pública e privada.
Não há como não reconhecer que a chegada da inteligência artificial representa
o início de uma nova etapa no desenvolvimento da humanidade.
Porém, já são muitas as discussões, em diversos níveis de responsabilidade, sobre a inteligência artificial, e ainda não se chegou a definir certos parâmetros mínimos e básicos que sejam aceitos por todos os interessados na sua produção e uso. É inevitável constatar, pela experiência da humanidade, que as melhores invenções humanas acabaram sempre sendo utilizadas com finalidades opostas: para promover o que é bom, ou para promover o mal. Com a inteligência artificial, que traz um potencial enorme de aplicações, o risco de mau uso também é enorme.
Na sua recente mensagem ao mundo no Dia
Mundial da Paz, que a Igreja Católica comemora no dia de Ano-Novo, o papa
Francisco abordou a questão do ponto de vista da promoção da paz: como a
inteligência artificial pode contribuir para a paz no mundo? Francisco
manifesta apreço pela ciência e pela tecnologia, atividades que já ajudaram a
comunidade humana a desvendar tantos segredos da natureza e a encontrar a
solução para inúmeros e grandes desafios na vida cotidiana. Ao mesmo tempo, a
ciência e a tecnologia permitem ao homem estabelecer um controle nunca visto
antes sobre a natureza e também sobre a convivência humana.
No entanto, a ciência e as inovações da
tecnologia, enquanto atividades humanas, não são neutras, mas condicionadas
pela cultura, por interesses e intenções na sua produção e no seu uso. A
dimensão ética está presente em toda atividade humana, ligada intimamente às
decisões e intenções de quem produz e de quem aplica e usa os conhecimentos
conquistados. Não é diferente com as diferentes formas e usos da inteligência
artificial, capaz de imitar, reproduzir e até criar ações típicas do homem. Mas
é preciso lembrar que ela não deixa de ser um mecanismo que executa comandos
dados pelo homem. Mesmo que sejam comandos implícitos, frutos de combinação de
algoritmos. A máquina não tem senso ético, nem executa ações com
responsabilidade subjetiva. A dimensão ética é do sujeito “real” e humano, e
não da inteligência “artificial”.
Surgem daí algumas preocupações com o uso da
inteligência artificial. Deixaremos que o mundo seja governado por máquinas,
com base em cálculos e previsões que os algoritmos vão produzindo? São elas
capazes de captar a realidade complexa do mundo das coisas e de as relacionar
entre si com base em critérios de liberdade, vontade, decisão, compaixão,
arrependimento, amor, solidariedade? Até onde a aplicação da inteligência
artificial deve entrar na privacidade das pessoas e interferir nas suas
escolhas livres? Seremos nós os futuros autômatos, enquanto as máquinas
comandam nossa vida?
Parecem perguntas sem maior importância, mas
elas trazem à reflexão questões humanas cruciais, que se referem à dignidade da
nossa condição humana. A inteligência artificial poderá, certamente, melhorar
muito o grau de eficiência nos processos e sistemas práticos; mas, tratando-se
da pessoa humana, até que ponto pode ser privilegiado o critério da eficiência
sem que a dignidade da pessoa humana seja ferida? Além disso, a convivência
democrática e pacífica pode ser colocada em risco pelo emprego de critérios
nada claros, subjacentes a certas escolhas que interessam a toda a coletividade
humana.
Francisco manifesta grave preocupação de que
essa nova maravilha da tecnologia venha a ser colocada a serviço da guerra e da
produção de armamentos sempre mais sofisticados, capazes da promover a
destruição e a morte a distância, como se fosse um espetáculo de cinema para
ser assistido. E recorda que os sujeitos moralmente responsáveis não são os
sistemas autônomos. A responsabilidade é sempre de quem decide sobre as armas
(cf. n.° 6). O papa faz um forte apelo à comunidade internacional para que se
estabeleçam limites para o uso da inteligência artificial na produção de
armamentos e na guerra. Há também o risco de que tais armas venham a cair em
mãos erradas, fora de qualquer controle.
A inteligência artificial precisa ser
empregada na promoção da paz e do desenvolvimento humano integral, na superação
da fome e da pobreza, das doenças, na proteção do ambiente e na produção de
alimentos, no desenvolvimento de sistemas que favoreçam a superação da pobreza
e o melhor acesso aos recursos necessários à vida com dignidade. Que o uso da
inteligência artificial não aumente ainda mais as desigualdades sociais e
econômicas entre os povos e os cidadãos. “O objetivo da regulamentação da
inteligência artificial não deveria ser apenas a prevenção de más aplicações,
mas também o incentivo às boas aplicações” (cf. n.º 8). A inteligência
artificial não deve ser vista apenas como uma preocupação, mas também como uma
promessa esperançosa. Dependerá de como a usarmos.
*Cardeal-Arcebispo de São Paulo
Nenhum comentário:
Postar um comentário