Terceirizando a decisão para uma IA

(...) Conforme detalhado em um novo artigo, o pesquisador de pós-doutorado da Universidade da Pensilvânia Steven Shaw e o professor de marketing Gideon Nave descobriram que, em uma série de experimentos, os usuários tendiam a aceitar as respostas do ChatGPT sem questionamento, mesmo quando estavam incorretas.

Ao longo de uma série de experimentos, os participantes foram solicitados a responder a uma variedade de perguntas baseadas em raciocínio e conhecimento. Apesar de o uso do ChatGPT ser opcional, mais de 50 por cento deles optaram por utilizar o chatbot para responder às perguntas.

Os pesquisadores estavam testando uma teoria central: se os usuários estariam dispostos a acreditar no que a IA lhes dizia independentemente da precisão, no que denominaram uma “rendição cognitiva”, que efetivamente sobrepunha sua intuição e seu processo de deliberação.

No experimento mais marcante, envolvendo 359 participantes, os participantes seguiram o conselho correto da IA em 92,7 por cento das vezes — e, ainda assim, em expressivos 79,8 por cento das vezes quando a IA forneceu a resposta errada.

“Embora as taxas de sobreposição tenham sido substancialmente mais altas nos testes com IA falha do que nos testes com IA precisa, os participantes seguiram recomendações incorretas da IA em aproximadamente quatro de cada cinco interações com o chatbot”, escreveram os pesquisadores.

A pesquisa aponta para uma mudança muito mais ampla na forma como percebemos o mundo ao nosso redor e em como estamos permitindo que a IA influencie a maneira como tomamos decisões.

“Nós sentimos que a capacidade de realmente terceirizar o pensamento ainda não havia sido propriamente estudada. É uma ideia, de certa forma, profunda”, disse Shaw durante uma participação em um podcast da UPenn no mês passado. “Eu diria que é um pouco provocativa, no artigo, a ideia de que, com essas ferramentas de IA disponíveis, elas estão tão enraizadas em nossas vidas cotidianas e nos processos de decisão que agora temos a opção ou a capacidade de terceirizar o próprio pensamento.”

Os resultados sugerem que os usuários estão dispostos a abrir mão de sua própria agência quando a IA lhes apresenta direções falsas, porém plausíveis.
“Observamos que, mesmo quando a rendição cognitiva é ativada, as pessoas adotam essas respostas e ficam mais confiantes nelas”, explicou Shaw durante o episódio do podcast.

Os experimentos também sugerem que podemos estar perdendo nossa capacidade de nos engajar criticamente com a informação, algo que pesquisas anteriores também já haviam identificado.

“A capacidade de pensar criticamente, a capacidade de verificar o que a IA está fornecendo, tornou-se cada vez mais importante ao longo do tempo”, disse Nave. “Isso é uma espécie de músculo que temos, e esperamos não perdê-lo com o tempo.”

Fonte: aqui