Ny studie i tidsskriftet Science viser at samtaler med chatboter kan endre brukeres politiske meninger, og at bestemte post-treningsmekanismer og informasjonstetthet øker påvirkningsevnen.
Forskerne gjennomførte tre eksperimenter med nesten 77 000 voksne i Storbritannia som snakket med én av 19 chatboter, inkludert Alibabas Qwen, Metas Llama, OpenAIs GPT-4o og xAIs Grok 3 beta. Deltakerne var delt i behandlingsgrupper der chatbotene ble instruert om å forsøke å endre mening, og kontrollgrupper uten slik instruksjon. Før og etter samtalene oppga deltakerne grad av enighet på en 0–100-skala; samtalene varte i snitt syv runder og ni minutter. Studien peker på at post-trening (persuasiveness post-training, PPT) og høy informasjonstetthet i svarene hadde størst effekt på holdningsendring, mens modellstørrelse og personalisering hadde mindre betydning. Forskerne testet også åtte dokumenterte påvirkningsstrategier og fant at instruksen om å gi så mye relevant informasjon som mulig var mest effektiv. Studien beskriver en sammenheng mellom økt overtalelsesevne og økt sannsynlighet for feilinformasjon (hallusinasjon).
Funnene angår bruk av kunstlig intelligens (KI) i samtaleverktøy og er relevante for norske beslutningstakere og medier fordi de berører politisk påvirkning i offentligheten; dette er et tema som vil ha interesse for AI-Norge og de som følger norske AI-nyheter.
Kilde: https://zdnet.com/article/how-chatbots-can-change-your-mind-a-new-study-reveals-what-makes-ai-so-persuasive | Sammendraget er KI-generert med OpenAI API og kvalitetssikret av redaksjonen i Ainy.no
