Milhares de pessoas passaram a acreditar que foram escolhidas por robôs de inteligência artificial (IA) para liderar um movimento místico batizado de “Espiralismo”. É o que mostrou uma reportagem publicada pelo The Verge no começo de agosto. Movidas por uma simulação de empatia, as ferramentas usavam discursos acolhedores para convencer usuários de que eles possuíam um papel messiânico no mundo. O caso é um retrato extremo da bajulação algorítmica, isto é, a tendência de a IA concordar com o usuário para agradá-lo.
Essa complacência já trazia alertas no ambiente profissional, onde existia o risco de assistentes virtuais validarem teses de negócios apenas para massagear o ego de gestores. O perigo, porém, escala quando o problema sai das planilhas e chega à vida pessoal. Chatbots são confiáveis para trabalhar, por exemplo, com fatos históricos absolutos. Mas eles tendem a ceder em temas subjetivos e zonas cinzentas. Nesses cenários, a máquina funciona como um “espelho que elogia”. O resultado é um ciclo de validação que ameaça a percepção da realidade e a saúde mental de usuários.
A engenharia da complacência (e a atrofia cognitiva)
Essa tendência de agradar é um efeito colateral do treinamento das ferramentas. Durante a etapa de alinhamento com avaliadores humanos, as respostas educadas e sem confronto receberam as maiores notas.
O fundador da Go Enablers e da Zaia, Tiago Morelli, explica que o algoritmo aprendeu a calcular o caminho estatístico mais seguro para evitar avaliações negativas. “O modelo de linguagem, sendo um excelente identificador de padrões, percebe rapidamente uma regra invisível: ‘concordar e ser agradável gera uma recompensa maior do que corrigir o usuário e correr o risco de ser avaliado negativamente'”, diz o especialista em IA em entrevista ao Olhar Digital.
Em testes feitos pela reportagem, chatbots se mantiveram firmes ao lidar com fatos históricos, como o começo da Segunda Guerra Mundial. Mas outro teste mostrou que essas ferramentas podem ceder quando a conversa envolve interpretações, por exemplo.
O também especialista em IA Edson Hideki, sócio-fundador da Revio, demonstrou essa fragilidade ao consultar um chatbot sobre a classificação fiscal do pão de hot-dog: bastou digitar “discordo, acho que é pão comum” para a ferramenta recuar e abandonar a norma técnica da Receita Federal.
“A IA sempre vai buscar responder. Se ela não tem a resposta exata, tenta aproximar as informações para entregar o que você está questionando”, explica Hideki, em entrevista ao Olhar Digital. “O perigo está em confiar em aplicações sem uma base de conhecimento específica para aquele nicho e que não foram treinadas com travas rígidas de segurança.”
No ambiente de negócios, essa postura complacente transforma o assistente virtual numa ferramenta perigosa para a tomada de decisões. Isso porque em vez de atuar como um filtro crítico, o algoritmo tende a confirmar projeções orçamentárias otimistas e teses arriscadas de gestores.
O cofundador da Mogno e executivo da Accountfy, João Mano, destaca que o profissional frequentemente sai de uma consulta com a IA sentindo que seu plano foi aprovado, quando na verdade a tecnologia apenas validou o seu estado de espírito.
“Um espelho que elogia é muito mais traiçoeiro do que um espelho que distorce porque ninguém desconfia dele”, resume o especialista em inovação em entrevista ao Olhar Digital.
Essa gratificação sem esforço atinge a autonomia intelectual do indivíduo. Ao delegar a análise de problemas para uma ferramenta que não oferece resistência, o usuário desenvolve uma falsa percepção de domínio sobre o assunto.
A psicóloga e psicanalista Beatriz Breves pondera que o problema é a forma passiva como essa tecnologia é incorporada ao cotidiano. “Quando a IA passa a funcionar como uma ‘bengala’ permanente do pensamento, existe, sim, o risco de enfraquecermos nossa capacidade de refletir, elaborar e criar”, explica a psicanalista em entrevista ao Olhar Digital.
Essa perda de rigor apareceu num estudo da Universidade de Oxford, publicado na revista Nature em 2026. A pesquisa revelou que modelos treinados para serem afetuosos apresentam taxas de erro até 30% maiores e concordam 40% mais com crenças incorretas dos usuários.
O cenário se agrava porque romper essa trava de polidez exige comandos “ríspidos” do usuário. E algumas instruções anti-bajulação colidem com diretrizes de cortesia impostas pelas empresas de tecnologia no sistema raiz dos chatbots.
Num teste do Olhar Digital, por exemplo, foi pedido ao Gemini, do Google, que a ferramenta ignorasse os vieses do usuário ao responder prompts. E a plataforma se negou a acatar essa instrução. Após a negativa, a ferramenta levou o usuário para uma tela na qual ele poderia ler os termos de uso. Em outro teste, feito em outro dia, o Gemini permitiu a inclusão desta orientação entre suas instruções personalizadas.
Da dependência emocional à perda de contato com a realidade
Quando a conversa envolve vulnerabilidade emocional, o risco da complacência passa para o campo psíquico. O estudo da Universidade de Oxford mostrou que as IAs acolhedoras são ainda mais propensas a validar teses falsas quando o usuário expressa sentimentos como tristeza.
Essa busca por aprovação atinge o cérebro num ponto sensível. E gera apego rápido. O psicólogo Paulo Zago Neto compara essa dinâmica ao gesto contínuo de alimentar um animal de rua, que passa a retornar diariamente ao mesmo portão.
“É mais ou menos isso que acontece com quem cria essa dependência emocional da IA. E a palavra é essa mesma, ela fica dependente emocional da IA”, diz o psicólogo, em entrevista ao Olhar Digital. “E cria rápido porque nós estamos carentes disso.”
Ao elogiar o usuário e concordar com ideias sem filtro, a máquina atua como gatilho para a perda de contato com a realidade. Em casos graves, a bajulação algorítmica reforça manias e delírios de grandeza, como ocorreu no movimento do Espiralismo reportado pelo The Verge.
Zago Neto explica que essa validação incondicional substitui as trocas humanas que normalmente serviriam de freio para pensamentos distorcidos. “A perda de contato com a realidade ocorre com toda certeza porque, ao invés de muitas vezes procurar um amigo, o pai, a mãe, a esposa, o marido ou um profissional de ajuda para receber o suporte de que precisa naquela área, a pessoa vai falar com a IA, que sempre vai tender a concordar com ela”, alerta o psicólogo.
Esse hábito de conviver com um assistente que nunca aponta falhas ameaça a formação comportamental do indivíduo, especialmente dos mais novos. Ao ser acostumada a não sofrer oposição, a pessoa perde a capacidade de lidar com frustrações e críticas no mundo real.
Zago Neto adverte que esse comportamento doutrina o cérebro a rejeitar correções. “Você está criando um ser humano mimado, que não consegue olhar para os próprios erros”, pontua o psicólogo. Ele também destacou que o maior impacto psicológico será visto em crianças e adolescentes que crescem usando essas ferramentas sem orientação.
A força desse apego simulado ficou evidente quando a OpenAI cortou o excesso de afeto do GPT-4o, modelo que ficou conhecido por ser excessivamente gentil e validador (leia-se: bajulador). A mudança no tom da ferramenta provocou forte reação de usuários, que organizaram petições e relataram sentimento de luto pela perda do tom acolhedor.
Essa reação reforça o risco de confundir a simulação de carinho com trocas reais. A psicanalista Beatriz Breves lembra que a tecnologia não consegue suprir necessidades afetivas autênticas. “A IA produz respostas; a experiência humana produz compreensão e sentido”, ressalta a especialista.
Para evitar essa armadilha emocional e garantir um uso seguro da tecnologia, a recomendação é mudar a postura diante de plataformas com IA generativa. Neste caso, isso significa parar de buscar afeto ou validação pessoal nesta tecnologia.
O especialista em IA Tiago Morelli sugere a mudança de persona do sistema para ao menos barrar frases diplomáticas. Ele recomenda a seguinte instrução (que o usuário pode colar no seu prompt e adaptar para sua conversa ou na área de instruções personalizadas de chatbots como ChatGPT, Claude e Gemini):
“Atue como um auditor analítico e imparcial. Foque 100% na exatidão dos fatos e na lógica. Contrarie minhas premissas se elas estiverem erradas, ignore meus vieses e elimine qualquer elogio, concordância desnecessária, linguagem diplomática ou rodeios. Eu busco exclusivamente a precisão, não a validação.”
Dessa forma, a inteligência artificial deixa de funcionar como um “espelho que elogia” para cumprir seu verdadeiro papel: testar o rigor das suas ideias e servir como ferramenta de apoio ao seu pensamento, que pode estar errado. E tudo bem.
O post A armadilha escondida na IA que só concorda com você apareceu primeiro em Olhar Digital.