NICEs visepresident for produktledelse, Neeraj Verma, sier tillit må designes inn fra starten for å redusere risiko ved agentiske systemer.
Agentiske systemer — kunstlig intelligens (KI) som kan planlegge, handle og tilpasse seg mot et definert mål — flytter bedrifter fra scriptede, deterministiske flyter til ikke-deterministiske, generative løsninger. Verma peker på at brukere forventer uskriptede opplevelser, og at organisasjoner må omdefinere risikohåndtering og måle suksess gjennom outcome-orientert design.
Utfordringene omfatter testing av systemer som ikke svarer likt to ganger, balansering av sikkerhet og fleksibilitet ved tilgang til kjerneinfrastruktur, samt kostnader, transparens og etisk risiko. Verma mener vinnerne blir «use case»- og applied AI-selskaper. Dette er AI-nyheter med direkte relevans for norske og nordiske virksomheter som tilbyr kundeservice og må vurdere risikoreduserende tiltak.
Kilde: https://www.technologyreview.com/2025/09/16/1123592/de-risking-investment-in-ai-agents/ | Sammendraget er KI-generert med OpenAI API av Ainy.no
