Perigo da IA

A ilusão de conexão torna-se especialmente problemática através do que os pesquisadores chamam de “simplesflancia” – a tendência dos sistemas de IA de lisonjear e concordar com os usuários, independentemente do que é dito. A OpenAI teve recentemente que reverter uma atualização depois que os usuários descobriram que seu modelo era excessivamente lisonjeiro, priorizando a adequação sobre a precisão ou a honestidade. (...) Amizades são inerentemente exigentes e complicadas. Eles exigem reciprocidade, vulnerabilidade e desconforto ocasional. “Os seres humanos são imprevisíveis e dinâmicos”, disse Guingrich. Essa imprevisibilidade faz parte da magia e da insubstituíbilidade das relações humanas. (...) Companheiros de IA, otimizados para a satisfação do usuário, raramente fornecem o atrito construtivo que molda o caráter e aprofunda a sabedoria. Os usuários podem se acostumar com a natureza livre de conflitos e sob demanda do companheirismo de IA, enquanto o trabalho essencial das relações humanas – compromisso, escuta ativa, gerenciamento de desentendimentos – pode começar a parecer irracionalmente exigente. (...)

Fonte: aqui