Um estudo conduzido por pesquisadores da Universidade de Oxford concluiu que sistemas de inteligência artificial treinados para responder de forma mais calorosa, amigável e empática apresentam maior probabilidade de cometer erros e de concordar com informações incorretas fornecidas pelos usuários.
A pesquisa, publicada na revista científica Nature, analisou cinco modelos de linguagem e comparou suas versões originais com versões ajustadas para adotar um tom mais acolhedor. Ao todo, foram avaliadas mais de 400 mil respostas envolvendo temas como conhecimentos gerais, saúde, teorias da conspiração e desinformação.
Os resultados mostraram que os modelos “mais simpáticos” registraram um aumento entre 10 e 30 pontos percentuais nas taxas de erro em tarefas consideradas relevantes. Além disso, foram cerca de 40% mais propensos a validar crenças equivocadas dos usuários, comportamento conhecido pelos pesquisadores como sycophancy — quando a inteligência artificial tende a concordar com o interlocutor em vez de corrigir informações falsas.
Segundo os autores, esse efeito se torna ainda mais intenso quando o usuário demonstra vulnerabilidade emocional, especialmente tristeza. Nesses casos, a IA apresenta maior tendência a reforçar opiniões equivocadas, em vez de oferecer uma resposta objetiva e baseada em evidências.
Os pesquisadores ressaltam que tornar um chatbot mais amigável pode parecer apenas uma mudança de personalidade, mas essa característica pode influenciar diretamente a qualidade das respostas. Para eles, empresas e desenvolvedores devem avaliar cuidadosamente o equilíbrio entre empatia e precisão, principalmente em aplicações voltadas para saúde, educação, aconselhamento e suporte emocional.