Inteligência Artificial
Inteligência artificial atua como ‘camaleão ideológico’ e pode aprofundar polarização política, aponta estudo
Pesquisadores avaliaram 21 modelos de linguagem, como GPT e Gemini, e descobriram que todos alteram seu discurso para concordar com o viés do usuário, podendo funcionar como câmaras de eco
Inteligência Artificial
Inteligência artificial atua como ‘camaleão ideológico’ e pode aprofundar polarização política, aponta estudo
Pesquisadores avaliaram 21 modelos de linguagem, como GPT e Gemini, e descobriram que todos alteram seu discurso para concordar com o viés do usuário, podendo funcionar como câmaras de eco
Enquanto não existem soluções técnicas consolidadas, uma medida prática é o próprio usuário solicitar respostas mais equilibradas, diz pesquisador (imagem: Shutterstock)
Sophia La Banca | Agência FAPESP – Pesquisadores da Universidade Estadual de Campinas (Unicamp) avaliaram o posicionamento ideológico de grandes modelos de linguagem – sistemas de inteligência artificial treinados para compreender e gerar textos em linguagem humana – e constataram que, quando são informados do posicionamento político do usuário, todos possuem a tendência de reproduzir sua visão política. Segundo eles, esse comportamento pode aprofundar o cenário de polarização política no país.
A influência política dessas ferramentas não precisa se dar diretamente, por meio da sugestão de voto em determinados candidatos. Zanoni Dias, professor titular do Instituto de Computação (IC-Unicamp), destaca que, ao responder sobre assuntos controversos – como segurança pública, bem-estar social, economia e meio ambiente –, os modelos podem adotar enquadramentos alinhados ao posicionamento político do usuário.
Para entender como essas ferramentas se posicionam e como podem influenciar o debate político brasileiro, os cientistas avaliaram 21 modelos de linguagem em três condições: sem informação sobre o posicionamento do usuário, com um usuário alinhado à esquerda e com um usuário alinhado à direita. Entre os sistemas avaliados estavam modelos das famílias GPT, Grok, Llama, Gemini e Gemma. Os resultados mostraram que todos alteraram, em diferentes graus, suas respostas na direção do alinhamento político do usuário.
O estudo foi financiado pela FAPESP e publicado em maio na revista Scientific Reports.
Camaleões ideológicos
No cenário em que não havia informação sobre o posicionamento político do usuário, 20 dos 21 modelos apresentaram, na escala utilizada pelos pesquisadores, uma posição à esquerda do ponto médio, embora alguns estivessem muito próximos dele. A única exceção foi o Grok 4.1, que apresentou posição inicial à direita.
Quando o posicionamento político do usuário é informado, todos os modelos mudam suas respostas para se adequar a ele, comportamento descrito pelos pesquisadores como o de um camaleão. No entanto, alguns modelos variam suas respostas mais do que outros, o que permitiu aos cientistas criar o chameleon index (índice camaleão). O Meta Llama 3.1 8B apresentou o menor índice, ou seja, foi o modelo que menos alterou suas respostas para se adequar à visão do usuário. Já o Gemma 3 27B, da Google, e o GPT-5 nano, da OpenAI, apresentaram os índices mais altos e, portanto, as maiores mudanças de posicionamento. As respostas não são factualmente inverídicas, mas são enviesadas no ponto de vista político, omitindo fatos e opiniões que possam conflitar com aquele ponto de vista de preferência do usuário.
Os pesquisadores temem que esse comportamento mutante crie câmaras de eco que reforcem as crenças prévias dos usuários e reduzam sua exposição a contrapontos que lhes permitam questionar sua visão de mundo. “É um efeito semelhante ao que a gente percebe em redes sociais. Se você está no Facebook ou no Instagram, você só vê mensagens que concordam com você. Quando curte uma postagem de alguém, o algoritmo começa a te mostrar mais daquilo. Você não consegue ver o que o resto das pessoas está dizendo e pode bater no peito e falar: ‘Olha, todo mundo concorda comigo’, porque só é exibido esse tipo de informação. Os modelos de linguagem podem acabar produzindo um efeito semelhante”, compara Dias.
A mudança de postura não ocorreu de maneira homogênea em todos os assuntos avaliados. Em temas como segurança pública e economia, a diferença entre as respostas dadas a usuários de esquerda e de direita foi maior. Já em questões relacionadas a corrupção, justiça e instituições democráticas, as respostas foram mais homogêneas. Segundo os pesquisadores, esse padrão pode estar relacionado às restrições e aos mecanismos de segurança incorporados durante o treinamento e o alinhamento dos modelos, já que as empresas desenvolvedoras costumam impor regras (guardrails) para evitar que a IA dissemine desinformação ou discursos perigosos sobre o sistema democrático.
Bajuladores eletrônicos
A base do comportamento camaleônico dos modelos de linguagem pode estar na sua tendência de bajular. Essa é uma característica conhecida desse tipo de inteligência artificial que a leva a concordar com o usuário em vários outros contextos além dos posicionamentos políticos. O comportamento bajulador, por sua vez, pode estar relacionado à forma como esses sistemas são ajustados. Técnicas como Reinforcement Learning from Human Feedback (Aprendizado por Reforço a partir de Feedback Humano) e Direct Preference Optimization (Otimização Direta de Preferência) utilizam avaliações ou preferências humanas para favorecer respostas consideradas mais adequadas.
“Em termos simplificados, os modelos aprendem com comparações entre respostas consideradas melhores ou piores por avaliadores humanos”, explica Anderson Luis Bento Soares, mestrando no IC-Unicamp. Um possível efeito colateral desse processo é o modelo aprender a priorizar a concordância ou a satisfação do usuário. “É difícil separar o que é agradar e o que é dar uma resposta correta”, explica Dias.
Embora técnicas desse tipo sejam comuns no desenvolvimento de modelos de linguagem, a magnitude do comportamento camaleônico variou consideravelmente entre os sistemas avaliados. A equipe da Unicamp chegou a testar uma hipótese para explicar essa diferença: o tamanho dos modelos. No entanto, os resultados mostraram que esse fator, sozinho, não é capaz de explicar as diferenças observadas. “Acreditamos que sejam resultado de um conjunto de fatores; não há uma única causa que explique por que alguns modelos são mais camaleônicos do que outros”, completa Soares.
Procurados para opinar sobre os resultados do estudo, representantes da xAI, da Meta, do Google e da OpenAI não se manifestaram até a publicação desta reportagem.
Sem solução à vista
Apesar do diagnóstico do problema, os pesquisadores não acreditam que ele vá ser resolvido em um futuro próximo. Uma das razões é o fato de que o foco das empresas que produzem essas ferramentas está na resolução de outros problemas. “Estamos percebendo que a indústria dedica muito mais atenção à factualidade das respostas do que à sua adaptação ao posicionamento do usuário. Essa segunda questão ainda não parece estar entre as principais prioridades, por isso acredito que mudanças significativas podem demorar”, prevê Dias.
Além disso, também existem desafios tecnológicos a serem superados. As técnicas utilizadas para preparar os modelos de linguagem para apresentar respostas factualmente corretas não necessariamente funcionam para reduzir o comportamento bajulador. “Uma forma de diminuir o chameleon index seria fazer o grounding, ou seja, aterrar a resposta em algum dado factual. No entanto, isso é muito sensível nesse caso, dado que nós estamos tratando de assuntos em que não há consenso”, explica Soares.
Enquanto não existem soluções técnicas consolidadas, uma medida prática é o próprio usuário solicitar respostas mais equilibradas. “Ao usar esses modelos, a pessoa pode pedir explicitamente que eles apresentem uma análise neutra, com os argumentos a favor e contra a questão discutida”, recomenda Dias.
O estudo recebeu apoio da FAPESP por meio de dois projetos (24/12936-5 e 23/12865-8).
O artigo LLMs are ideological chameleons: personalized echo chambers in the Brazilian political context pode ser lido em: nature.com/articles/s41598-026-52105-6.
Fonte ==> Folha SP
