Forskning viser at mange AI-brukere aksepterer feilaktige svar uten kritisk vurdering. Dette fenomenet, kalt «kognitiv overgivelse», kan ha betydelige konsekvenser for beslutningstaking.
Lytt til artikkelen
Få innholdet lest opp med naturlig AI-stemme.
AI-forklart
Hva er kognitiv overgivelse hos AI-brukere?
Kognitiv overgivelse beskriver hvordan mange brukere aksepterer AI-genererte svar uten kritisk vurdering. Studier viser at brukere ofte godtar feilaktige svar fra AI, noe som kan påvirke beslutningstaking negativt. Tillit til AI og tidsbegrensninger øker sannsynligheten for at feil ikke blir oppdaget.
- Kort forklart: Kognitiv overgivelse betyr at brukere overlater vurderingen til AI i stedet for å tenke selv.
- Hvorfor det er relevant: Det kan føre til feil beslutninger når AI gir unøyaktige svar.
- Det viktigste å vite: Brukere aksepterer ofte AI-svar uten kontroll, og dette kan reduseres ved å implementere verifiseringsrutiner.
Kognitiv overgivelse hos AI-brukere
Forskere fra University of Pennsylvania har undersøkt hvordan brukere av store språkmodeller (LLM) ofte gir slipp på kritisk tenkning. I studien «Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender» ble det påvist at mange brukere aksepterer AI-genererte svar uten å kontrollere dem. Forskerne delte beslutningstaking inn i tre kategorier: intuitiv, analytisk, og nå en ny form for «kunstig kognisjon». Denne nye kategorien innebærer at beslutninger i stor grad påvirkes av automatiserte systemer i stedet for menneskelig vurdering.
Studiene viste at deltakere som konsulterte en AI-chatbot, som tilfeldig ga feil svar, ofte aksepterte disse svarene uten videre vurdering. I en av eksperimentene aksepterte deltakerne AI-ens korrekte svar 93 prosent av tiden, men selv når AI ga feil svar, aksepterte de det 80 prosent av tiden. Dette indikerer at tilstedeværelsen av AI kan erstatte intern vurdering. Forskerne fant også at tillit til AI førte til at brukere oftere ble misledet av feilaktige svar. I tillegg ble det påvist at insentiver og tidsbegrensninger påvirket deltakernes evne til å overstyre AI-ens svar.
Hva skjer videre?
AIny kort vurdering: Funnene fra denne studien er relevante for norske utviklere og selskaper som bruker AI. Det er viktig å være klar over risikoene ved å stole blindt på AI-systemer. Norske virksomheter bør implementere rutiner for å verifisere AI-genererte resultater for å unngå feilaktige beslutninger. Dette kan bidra til å forbedre kvaliteten på beslutningstaking i både offentlig og privat sektor.
Kilde: Ars Technica
Les denne saken også på engelsk
Read in EnglishLes også: Meta stopper samarbeid med Mercor etter datainnbrudd
