Pesquisas mostram que muitos usuários de IA aceitam respostas incorretas sem avaliação crítica. Esse fenômeno, chamado “entrega cognitiva”, pode ter consequências significativas para a tomada de decisões.
Ouça o artigo
Ouça o artigo com uma voz de IA natural.
IA explicada
O que é entrega cognitiva em usuários de IA?
Entrega cognitiva é o fenômeno em que usuários aceitam respostas de IA sem avaliação crítica. Pesquisas mostram que muitos aceitam respostas incorretas geradas por grandes modelos de linguagem com alta frequência.
- Resumo: Usuários frequentemente confiam em respostas de IA, mesmo quando estão erradas, substituindo o julgamento humano por decisões automatizadas.
- Por que isso importa: Essa confiança excessiva pode levar a decisões equivocadas, especialmente em contextos que exigem verificação rigorosa.
- Ponto principal: A entrega cognitiva destaca a necessidade de rotinas para checar resultados de IA, evitando erros em setores público e privado.
Entrega cognitiva entre usuários de IA
Pesquisadores da University of Pennsylvania investigaram como usuários de grandes modelos de linguagem (LLM) frequentemente abrem mão do pensamento crítico. No estudo “Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender”, foi demonstrado que muitos usuários aceitam respostas geradas por IA sem verificá-las. Os pesquisadores classificaram a tomada de decisão em três categorias: intuitiva, analítica e agora uma nova forma de “cognição artificial”. Essa nova categoria envolve decisões fortemente influenciadas por sistemas automatizados em vez de julgamento humano.
Os estudos mostraram que participantes que consultaram um chatbot de IA, que aleatoriamente fornecia respostas erradas, frequentemente aceitavam essas respostas sem questionamento. Em um dos experimentos, os participantes aceitaram as respostas corretas da IA 93% das vezes, mas mesmo quando a IA fornecia respostas erradas, eles as aceitavam 80% das vezes. Isso indica que a presença da IA pode substituir a avaliação interna. Os pesquisadores também descobriram que a confiança na IA levava os usuários a serem mais facilmente enganados por respostas incorretas. Além disso, foi demonstrado que incentivos e limitações de tempo influenciavam a capacidade dos participantes de contestar as respostas da IA.
Implicações para o mercado brasileiro
Avaliação rápida da AIny: Os resultados deste estudo são relevantes para desenvolvedores e empresas brasileiras que utilizam IA. É fundamental estar atento aos riscos de confiar cegamente em sistemas de IA. Organizações brasileiras devem implementar rotinas para verificar resultados gerados por IA, evitando decisões equivocadas. Isso pode contribuir para melhorar a qualidade da tomada de decisão tanto no setor público quanto no privado.
Fonte: Ars Technica
Leia também: Meta interrompe parceria com Mercor após violação de dados
