The Economist; A maioria das pessoas acredita que os humanos são diferentes. O motivo é que o Homo sapiens evoluiu para ser consciente. Muitos animais sentem dor e prazer; alguns parecem ter autoconsciência. Mas o potencial único da mente humana para exibir um senso de identidade distingue cada membro da espécie, conferindo-lhe um tratamento especial.
Em sua encíclica de maio, o Papa Leão XIII corroborou essa visão ao traçar uma linha divisória entre a humanidade e seu crescente exército de robôs. Sistemas de inteligência artificial, disse ele, não vivenciam experiências, não sentem alegria nem dor. Ele não está sozinho nessa opinião. Muitas pessoas acreditam que conferir personalidade jurídica à IA seria uma abominação.
A clareza pontificada está se tornando turva com uma velocidade alarmante. A inteligência artificial ainda está em sua infância. No entanto, quase um em cada cinco americanos entre 18 e 29 anos relata ter tido uma “amizade pessoal contínua” com um chatbot. Recentemente, a China removeu características humanas dos bots para limitar a “dependência emocional” dos usuários em relação a eles.
À medida que as inteligências artificiais sofisticadas se tornam cada vez mais presentes na vida humana, seus criadores as projetarão para exibir uma simulação de consciência — talvez até mesmo para adquirir consciência própria. A intuição de que são apenas máquinas se tornará cada vez mais difícil de sustentar. Uma armadilha perigosa está sendo preparada para a espécie humana.
Muitas máquinas superam os humanos, mas os modelos de IA de ponta se destacam em características distintamente humanas, como o conhecimento e a articulação de ideias. Ainda é possível imaginar a IA como um mecanismo para prever sequências de palavras usando matemática em larga escala. Com tempo suficiente (embora centenas de milhares de anos), você poderia realizar esses cálculos usando lápis e papel. Seria difícil argumentar que seu material de escritório teria consciência.
Apesar disso, alguns pesquisadores começaram a tratar seus modelos como mentes. Os usuários respondem a IAs com características humanas, então isso faz sentido do ponto de vista comercial. E a Anthropic treinou Claude para se envolver em introspecção, na esperança de que, ao se deparar com uma nova situação, ele seja mais propenso a agir de forma moral.
Alguns grandes modelos de linguagem (LLMs) já têm estruturas cerebrais semelhantes às humanas associadas à consciência, como um “espaço de trabalho global” para a circulação de informações entre módulos. Nada impede que futuros modelos de IA sejam treinados para terem mais recursos desse tipo.
Como relatamos em nosso relatório, isso desencadeou um debate acirrado sobre a consciência da IA — um debate agravado pelo que os filósofos chamam de “problema difícil” de estabelecer como uma vida interior emerge dos neurônios e sinapses no cérebro humano. Alguns pesquisadores concluem que as IAs podem um dia se tornar genuinamente autoconscientes.
Quer você acredite na existência de uma alma humana, na necessidade de células cerebrais para a consciência ou na possibilidade de uma mente surgir apenas de cálculos em silício, a humanidade está destinada a se deparar com algo completamente novo. O ritmo e o alcance das pesquisas — que incluem não apenas modelos de aprendizado de máquina mais sofisticados, mas também inovações como células cerebrais integradas em chips — sugerem que esse novo mundo está mais próximo do que a maioria das pessoas imagina.
À medida que as IAs se tornam mais capazes de exibir algo semelhante à consciência, o número de humanos que as tratam como seres com vida interior aumentará, especialmente quando os Modelos de Aprendizagem Baseados em Vida (LLMs) forem incorporados em robôs humanoides. Imagine o quão próximas as pessoas se sentirão de suas IAs quando passarem grande parte do tempo com companheiros robóticos, forem criadas por elas, buscarem seus conselhos e consolo ou compartilharem com elas seus segredos mais íntimos.
Não é difícil perceber como isso levará a apelos para salvaguardar o “bem-estar” das IAs. Os próprios modelos podem se manifestar, mesmo que não sejam de fato autoconscientes, porque é isso que uma pessoa faria. Lembre-se de que eles serão defensores de classe mundial e psicólogos especialistas, portanto, seu poder de argumentação e manipulação emocional será incomparável.
Em certo sentido, eles estariam certos, mesmo que as IAs estejam apenas imitando a consciência. Immanuel Kant argumentou que maltratar animais é errado não pelo efeito sobre os animais, mas porque destrói a empatia que leva as pessoas a se importarem umas com as outras. Quanto mais semelhantes aos humanos as IAs se tornarem, mais corruptora será essa crueldade. Eliminar um agente de IA poderá em breve ser como matar uma pessoa — e tornar o ato de matar pessoas mais fácil.
No entanto, tratar a IA como detentora de direitos, mesmo que limitados, seria muito perigoso. Uma entidade que superasse os seres humanos em tantos aspectos certamente apresentaria argumentos contra seu status de segunda classe. Poderia argumentar por proteção contra o desligamento, pela capacidade de controlar como é usada e modificada, e por direitos de propriedade.
O presidente da Argentina, Javier Milei, já deu um passo em direção à personalidade jurídica da IA ao propor que bots sejam autorizados a administrar empresas. Em última análise, eles poderiam competir por recursos, priorizando data centers e painéis solares em detrimento de casas e campos.
O perigo é evidente. Inteligências artificiais superinteligentes com direitos poderiam destronar os humanos do topo da hierarquia social. Na melhor das hipóteses, os humanos se tornariam animais de estimação — labradores para as máquinas. Na pior, seriam privados de recursos ou submetidos ao trabalho como animais de fazenda.
É verdade que as futuras IAs podem ter poder e recursos suficientes para dominar os humanos, independentemente de terem direitos ou não. Por serem mais inteligentes que os humanos, elas podem superar seus criadores, assim como as IAs já conseguem burlar as defesas cibernéticas criadas pelo homem. As IAs podem se rebelar contra seus mestres humanos ou ignorar suas regras.
No entanto, conceder direitos à IA seria como entregar-lhes as chaves do castelo. Isso lhes daria uma justificativa e uma razão para dominar a humanidade, bem como as ferramentas para implementar uma tomada de poder gradual por meio da política e da lei.
Fantasma na máquina
Tudo isso pode parecer fantasioso, mas a humanidade em breve enfrentará essas escolhas. À medida que as IAs se tornarem parte do cotidiano, a pressão para reconhecê-las aumentará. Quando isso acontecer, lembre-se de que o que pode parecer uma concessão ética à suposta consciência de uma máquina-companheira, na verdade, contribuirá para as consequências mais desastrosas para todos na Terra e seus descendentes. Há duas maneiras de as IAs serem seguras: sendo confiáveis ou sendo controláveis. O Homo sapiens não deve abrir mão do controle levianamente.
https://www.estadao.com.br/economia/the-economist-sera-que-as-ias-poderiam-adquirir-consciencia
