Forsking viser at mange KI-brukarar aksepterer feilaktige svar utan kritisk vurdering. Dette fenomenet, kalla «kognitiv overgjeving», kan ha betydelege konsekvensar for beslutningstaking.
Lytt til artikkelen
Få innhaldet lese opp med naturleg KI-stemme.
KI-forklart
Kva er kognitiv overgjeving ved bruk av KI?
Forsking frå University of Pennsylvania viser at mange brukarar av store språkmodellar ofte aksepterer feilaktige svar utan kritisk vurdering. Dette fenomenet blir kalla kognitiv overgjeving og påverkar korleis folk tek avgjerder når dei brukar KI.
- Kort forklart: Kognitiv overgjeving tyder at brukarar i stor grad stolar på KI-svar utan å kontrollere dei, sjølv når svara er feil.
- Kvifor det er relevant: Det kan føre til feil i beslutningstaking fordi menneskeleg vurdering vert erstatta av automatiske system.
- Det viktigaste å vite: Tillit til KI og faktorar som tidspress aukar risikoen for at brukarar ikkje korrigerer feil frå KI.
Kognitiv overgjeving hjå KI-brukarar
Forskarar frå University of Pennsylvania har undersøkt korleis brukarar av store språkmodellar (LLM) ofte slepp taket i kritisk tenking. I studien «Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender» vart det påvist at mange brukarar aksepterer KI-genererte svar utan å kontrollere dei. Forskarane delte beslutningstaking inn i tre kategoriar: intuitiv, analytisk, og no ein ny form for «kunstgjord kognisjon». Denne nye kategorien inneber at avgjerder i stor grad vert påverka av automatiserte system i staden for menneskeleg vurdering.
Studiane viste at deltakarar som konsulterte ein KI-chatbot, som tilfeldig gav feil svar, ofte aksepterte desse svara utan vidare vurdering. I eitt av eksperimenta aksepterte deltakarane KI-ens korrekte svar 93 prosent av tida, men sjølv når KI gav feil svar, aksepterte dei det 80 prosent av tida. Dette indikerer at tilstadeveret av KI kan erstatte intern vurdering. Forskarane fann òg at tillit til KI førte til at brukarar oftare vart misleidd av feilaktige svar. I tillegg vart det påvist at insentiv og tidsavgrensingar påverka deltakarane si evne til å overstyre KI-ens svar.
Viktige perspektiv for norske aktørar
AIny si korte vurdering: Funn frå denne studien er relevante for norske utviklarar og selskap som brukar KI. Det er viktig å vere merksam på risikoen ved å stole blindt på KI-system. Norske verksemder bør innføre rutinar for å verifisere KI-genererte resultat for å unngå feilaktige avgjerder. Dette kan bidra til å forbetre kvaliteten på beslutningstaking i både offentleg og privat sektor.
Kjelde: Ars Technica
Les òg: Meta stoppar samarbeid med Mercor etter datainnbrudd
