Por que a Inteligência Artificial mente quando diz que “está pensando” – e por que isso importa
Publicado: 20 junho 2025 04:28 -03
Autor
Paulo Ivson Netto Santos
Professor do Departamento de Informática, Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio)
Declaração de transparência
Paulo Ivson Netto Santos não presta consultoria, trabalha, possui ações ou recebe financiamento de qualquer empresa ou organização que poderia se beneficiar com a publicação deste artigo e não revelou nenhum vínculo relevante além de seu cargo acadêmico.
Parceiros
Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio) fornece financiamento como parceiro do The Conversation BR.
Ver todos os parceiros
Acreditamos no livre fluxo de informações
Nossos artigos estão sob licença Creative Commons. Republique-os gratuitamente, seja em veículos online ou impressos.
Republicar este artigo
Quando os modelos de Inteligência Artificial afirmam “estar pensando” sobre um problema, o que fazem é apenas gerar probabilisticamente mais texto com base em valores intermediários de processamento, não necessariamente relatando os processos computacionais usados para chegar à resposta. Ilustração: Business Wire via AP
Os avanços recentes em Inteligência Artificial (IA) criaram uma ilusão convincente. Sistemas como ChatGPT, Copilot ou Gemini nos seduzem pela aparente capacidade de pensar. Respondem a perguntas complexas, produzem textos articulados e até parecem refletir sobre suas próprias escolhas. Mas não se engane: essas máquinas não possuem raciocínio lógico, compreensão de conceitos nem consciência. Na prática, lidamos com sistemas que reconhecem padrões em nossa linguagem, sem de fato compreenderem o que dizem. E isso tem implicações importantes em como usamos, avaliamos e regulamos essas tecnologias.
Como funciona a predição de palavras
Os Grandes Modelos de Linguagem (ou LLMs) operam com base em um princípio simples: prever qual será a próxima palavra em uma sequência. Para isso, são treinados com volumes massivos de textos, aprendendo os padrões que regem como as palavras se combinam em diversos contextos da nossa língua. O que chamamos de “resposta” é, na prática, uma cadeia de predições: cada palavra é escolhida com base nas probabilidades de ocorrer após as anteriores naquele determinado contexto.
Apesar de sofisticados, os linguistas Emily Bender e Alexander Koller destacam que esses modelos captam apenas a forma da linguagem, sem acessar seu significado. O que parece compreensão é, na verdade, o reflexo de padrões estatísticos extraídos de como os humanos usam a linguagem.
Não acredite na cadeia de pensamento
Atualmente, pesquisadores desenvolveram mecanismos que possibilitam aos LLMs explicar sua cadeia de processamento passo a passo – técnica conhecida como “chain-of-thought”. De fato, as mensagens geradas nesses casos pode parecer uma linha estruturada de raciocínio lógico, o que parece muito surpreendente.
No entanto, diversos estudos já mostraram que essas explicações são falaciosas. Quando os modelos afirmam “estar pensando” sobre um problema, o que fazem é apenas gerar probabilisticamente mais texto com base em valores intermediários de processamento, não necessariamente relatando os processos computacionais usados para chegar à resposta.
Por trás de cada resposta, há um emaranhado complexo de cálculos distribuídos em múltiplas camadas, um processo tão obscuro que é chamado de “caixa-preta da IA”. Então, quando solicitados a explicar seu raciocínio, os modelos constroem uma narrativa plausível e, muitas vezes, sugerem que seguiram uma lógica estruturada, quando na verdade fizeram meros cálculos textuais probabilísticos.
Outro estudo mostrou que até mesmo operações matemáticas são resolvidas principalmente com base em padrões estatísticos sobre sequências textuais, e não em regras lógicas formais. Inclusive, uma pesquisa recente observou que, mesmo quando a resposta final está correta, a justificativa apresentada pode ser incorreta ou ilógica. De fato, a Apple acabou de publicar um artigo identificando as limitações dos modelos de IA que se dizem capazes de raciocínio, em especial para problemas lógicos e que exigem cálculos matemáticos precisos.
A ilusão antropomórfica
A tendência de atribuir pensamento humano a esses sistemas tem raízes profundas na psicologia. O fenômeno da pareidolia cognitiva – nossa propensão a encontrar padrões familiares onde eles não existem – nos leva a projetar intenção e compreensão em sistemas que não têm essas características.
Emily Bender aponta que a interface textual dos LLMs explora essa vulnerabilidade cognitiva humana. Quando um sistema responde em primeira pessoa, usando pronomes como “eu” e declara estar “pensando”, nosso cérebro – que é programado evolutivamente para interações sociais – atribui automaticamente agência e consciência à máquina. Cientistas da computação vêm destacando precisamente esse ponto: essas ferramentas são projetadas para soar convincentes, não para realmente pensar como humanos.
Um artigo recente no The Atlantic destaca os perigos em atribuir falsamente consciência às IAs, como a “psicose induzida por ChatGPT”, onde usuários desenvolvem crenças delirantes de que estão interagindo com entidades conscientes ou divinas.
Esta incompreensão fundamental — confundir a capacidade estatística de predição de texto com pensamento genuíno — permitiu a comercialização de substitutos artificiais para relacionamentos humanos essenciais como terapeutas, amigos e até parceiros românticos, explorando nossa propensão natural para associar linguagem com consciência. Os usuários acabam formando vínculos emocionais com máquinas incapazes de reciprocidade autêntica, sacrificando interações pessoais genuínas em favor de simulações personalizadas que carecem de características fundamentais dos relacionamentos humanos.
Implicações práticas e éticas
Essa compreensão de que os modelos não pensam tem consequências em como usamos e regulamos essas tecnologias. Atribuir erroneamente capacidades cognitivas humanas aos LLMs pode nos levar a:
- Superestimar suas capacidades em tarefas que requerem raciocínio genuíno;
- Subestimar os riscos de confiar neles para decisões críticas;
- Obscurecer questões importantes sobre responsabilidade e transparência.
Como alertou a cientista da computação Melanie Mitchell, no livro “Artificial Intelligence: A Guide for Thinking Humans”, essa antropomorfização leva a expectativas desalinhadas e avaliações imprecisas. Pesquisas mostram que esses modelos falham sistematicamente em tarefas que exigem raciocínio causal ou entendimento do senso comum – precisamente porque não possuem as estruturas cognitivas que fundamentam o raciocínio humano.
Apesar de suas capacidades impressionantes, os LLMs têm limitações significativas. Com frequência, produzem informações falsas com aparente confiança (as chamadas “alucinações de IA”), reproduzem vieses dos dados de treinamento, não acessam informações em tempo real e não verificam fatos de forma independente.
Além disso, têm dificuldades com raciocínio lógico matemático, abstrações, manutenção de contexto em interações longas e uso eficaz da memória. Mas, acima de tudo, não possuem qualquer forma de consciência ou experiência do mundo físico, o que os impede de fazer julgamentos genuínos sobre situações que envolvem empatia, dilemas éticos ou vivências humanas.
Conclusão: uma visão mais precisa
Reconhecer os LLMs pelo que realmente são — mecanismos sofisticados de associação linguística, e não entidades pensantes — não reduz sua utilidade. Pelo contrário, permite que usemos com expectativas mais realistas e critérios de controle mais adequados.
Esses sistemas se destacam em diversas tarefas que envolvem linguagem natural, como resumir textos, traduzir, organizar dados e gerar explicações didáticas. Na programação, ajudam a escrever e revisar códigos. Também são úteis na automação de tarefas repetitivas, como formatar documentos, converter arquivos ou responder e-mails.
À medida que as tecnologias se tornam cada vez mais parte do nosso cotidiano, entender como elas realmente funcionam torna-se essencial. São ferramentas poderosas, mas apenas quando usados com clareza sobre suas capacidades e limites. Projetar nelas qualidades humanas, como raciocínio, bom senso ou consciência moral, é um erro que pode ter consequências graves. Os modelos de linguagem não vieram para substituir os humanos, mas para nos apoiar. Quando bem utilizados, podem ampliar nossa capacidade de processamento e comunicação, ajudando-nos a tomar decisões cada vez melhores, em benefício de toda a sociedade.
Saiba o que nossos melhores cientistas estão pensando
Todos os dias, milhares de pesquisadores no Brasil e no mundo se debruçam sobre estudos em busca de soluções para os mais diferentes desafios da humanidade. Na nossa newsletter semanal, você tem acesso em primeira mão ao que há de mais inovador e relevante na pesquisa nacional e em mais de 15 países, numa seleção feita por mim e pela nossa equipe de editores.
Assinar
Daniel Stycer
Editor-chefe
