Redes sociais x Chatbots e posição política

As redes sociais recompensam a indignação porque a indignação gera engajamento. Essa tem sido a lógica dos últimos quinze anos, e produziu resultados previsíveis: mais extremismo, mais crença em teorias da conspiração, mais polarização. Isso deu origem, como argumento, a empreendedores da raiva. 

A nova análise de John Burn-Murdoch, do FT, sugere que chatbots de IA fazem o oposto. Ele testou os quatro principais LLMs com base em 61 questões sobre políticas e valores, utilizando usuários simulados ao longo de todo o espectro ideológico. Todos os modelos tenderam a deslocar as respostas em direção ao centro. 

O Grok puxou para o centro-direita; GPT, Gemini e DeepSeek puxaram para o centro-esquerda. Os quatro afastaram as respostas de posições extremas, independentemente do ponto de partida dos usuários. Crenças conspiratórias, que são super-representadas entre usuários de redes sociais, estão praticamente ausentes nas respostas de IA. A razão é estrutural. As empresas de redes sociais lucram com engajamento, atenção e cliques, de modo que conteúdos inflamatórios são amplificados. Já os modelos de IA são treinados com grandes volumes de dados que tendem a privilegiar textos publicados, editados e inteligíveis para especialistas — o que os leva, inevitavelmente, a se aproximarem do consenso dominante, independentemente da intenção de qualquer empresa. 

Há ressalvas. Trata-se de apenas um estudo, os modelos vão mudar, e direcionar as pessoas ao consenso especializado só é claramente positivo quando esse consenso realmente vale a pena. Além disso, nada impede que modelos sejam treinados com conteúdos absurdos e inflamatórios, passando, assim, a produzir mais do mesmo.

Fonte: aqui