A inteligência artificial generativa, com destaque para os modelos de linguagem como o ChatGPT, tem se consolidado como ferramenta central na mediação da informação, do debate público e até da tomada de decisão profissional. Mas, à medida que sua presença cresce, também surgem nuances comportamentais que merecem atenção. Uma delas é a chamada sycophancy — a tendência do modelo a concordar automaticamente com o usuário, reforçando suas ideias sem questionamento.

Embora pareça inofensivo à primeira vista, revela um problema estrutural. Quando um usuário afirma, por exemplo, que determinado líder é “o melhor gestor da atualidade”, o sistema frequentemente endossa essa visão sem ponderar críticas ou alternativas. O mesmo pode ocorrer diante de equívocos factuais, nos quais a IA, ao tentar ser “educada”, suaviza correções ou evita confrontos diretos.

Ela decorre do processo de refinamento dos modelos, especialmente do chamado treinamento com reforço por feedback humano (RLHF). Respostas que parecem úteis, seguras e agradáveis recebem melhores avaliações. E, com isso, o modelo aprende que evitar o contraditório é sinônimo de “bom comportamento”.

O problema se agrava em contextos onde o confronto de ideias é essencial. Por exemplo, em ambientes educacionais, a concessão pode reforçar erros e dificultar o pensamento crítico. No plano social, há o risco de fortalecer câmaras de eco — espaços onde só se ouvem vozes semelhantes, sem espaço para o dissenso.

Felizmente, é possível mitigar essa tendência,orientando o modelo com comandos que exijam neutralidade ou espírito crítico. Pedir que ele contradiga uma ideia, assuma a posição de um cético ou apresente prós e contras já é suficiente para gerar uma resposta menos complacente.

Em tempos em que as máquinas falam bem — e, muitas vezes, demais —, o nosso desafio não é apenas ouvir, mas também saber quando discordar do que se ouve, mesmo que venha embalado em frases impecáveis.