Forklarbar KI (XAI) bygger tillit og oppfyller krav i sektorer som finans og helse. Verktøy som SHAP og LIME viser hvilke variabler som påvirket resultatet, mens oppmerksomhetskart og saliens‑metoder brukes for nevrale nettverk. Gode «model cards» beskriver datasett, begrensninger og testresultater. For offentlige virksomheter i Norge er forklarbarhet viktig for innsyn og etterprøvbarhet.
Forklarbarhet (XAI)
Lite leksikon om AI
Metoder som gjør det mulig å forstå hvordan en KI‑modell kom frem til svaret.
