AI og rettferdighet: Kan algoritmer diskriminere?

Hva er algoritmisk diskriminering?
Man kunne tro at beslutninger tatt av algoritmer er upersonlige og helt objektive. Likevel lærer disse verktøyene av historiske data – og disse dataene inneholder ofte skjulte fordommer. Som forsker dr. Kuba Piwowar ved SWPS-universitetet påpeker, oppstår algoritmisk ekskludering når «feil utvalg av data» gjør at noen vinner, mens andre taper. Vanligvis rammer dette dem som allerede har vært marginalisert – som kvinner, skeive eller personer med mørk hudfarge. Algoritmen speiler dermed ulikheter som allerede finnes i samfunnet – og forsterker dem ofte. Dette viser at kunstig intelligens (AI) ikke alltid er så nøytral som vi liker å tro.

Vi ser det også i hverdagslige eksempler. Søker du etter ordet «fysiker» på nettet, får du mest bilder av hvite menn i laboratoriefrakker – ikke Marie Curie eller andre kvinnelige fysikere. Algoritmen viser verden slik den er representert i datagrunnlaget – dominert av menn. Det kan virke trivielt, men samme logikk påvirker viktige avgjørelser i arbeidsliv, rettsvesen og økonomi.

Eksempler på algoritmisk diskriminering

Rekruttering: Amazon testet for noen år siden en AI som skulle sile kandidater til stillinger. Algoritmen «lærte» raskt at mannlige søkere var bedre. Den nedprioriterte CV-er som inneholdt ordet «women’s» (som i «kaptein på kvinnelig sjakklubb») og ga dårligere vurdering til kandidater fra rene kvinneuniversiteter. Resultatet var at hvite menn ble favorisert – ganske enkelt fordi de dominerte i treningsdataene. Amazon måtte til slutt skrote systemet fordi det diskriminerte kvinner. Dette er et tydelig eksempel på hvordan AI i rekruttering kan forsterke eksisterende ulikheter.

Politi og rettsvesen: I USA er systemer for såkalt «predictive policing» blitt testet – altså algoritmer som forutsier hvor kriminalitet kan skje og sender patruljer dit. Men de trenes på historiske politirapporter fulle av skjevheter. Systemet PredPol brukte data som reflekterte segregering og rasistiske profileringsmønstre. Dermed ble flere patruljer sendt til bydeler med minoriteter. Det skapte en ond sirkel: mer politi i området førte til flere arrestasjoner, og systemet «lærte» at disse bydelene var ekstra kriminelle. Igjen ser vi at kunstig intelligens i rettsvesenet kan reprodusere gamle mønstre.

Bank og finans: Banker bruker statistiske modeller for å beregne kredittscore. Det virker nøytralt, men fører ofte til urettferdighet. Studier viser at slike modeller kan gi feil og skjeve avgjørelser. Dersom historiske data favoriserer bestemte grupper (for eksempel rike, hvite menn), vil algoritmen anta at andre grupper er mer risikable. Og kunden får sjelden vite hvorfor scoren er lav – eller hvilke kriterier som førte til avslaget. Også her spiller AI-systemer en rolle som kan virke diskriminerende uten at folk er klar over det.

Hvem har skylden – algoritmen eller mennesket?

Å skylde på selve maskinen blir feil – datamaskiner har verken vilje eller holdninger. Ansvar ligger hos menneskene som utvikler og setter systemene i drift. Som eksperter påpeker: «ingeniøren har ansvar for utviklingen av algoritmen … hvis han eller hun har egne fordommer, kan de lekke inn i modellen». Det er altså utvikleren eller analytikeren som velger hvilke data og kriterier modellen bygger på. Algoritmen gjør akkurat det vi ber den om – hverken mer eller mindre. Derfor handler AI-etikk ikke bare om teknologi, men også om samfunn og politikk.

Derfor må selskaper og institusjoner ta ansvar for konsekvensene. Det trengs algoritmerevisjoner som kan avdekke og rette opp skjevheter, og reguleringer som pålegger rettferdig bruk av kunstig intelligens. Dette henger tett sammen med AI personvern og EU AI Act, som setter rammer for hvordan AI skal brukes på en ansvarlig måte i Europa. Samtidig bør utviklingsteam være mangfoldige, slik at ulike perspektiver fanger opp urettferdighet tidlig. Til syvende og sist er det vi som samfunn som bestemmer hvilken rolle teknologien får i livene våre.

En invitasjon til refleksjon

Eksemplene på algoritmisk diskriminering er varsellamper – ikke dommedag. De viser hvor viktig det er å forme kunstig intelligens bevisst. Vi bør spørre oss: hvorfor tar systemet denne avgjørelsen? Selskaper må forklare hvordan algoritmene fungerer, og lovverket kan kreve åpne revisjoner. Utdanning kan gi folk kunnskap om sine rettigheter – for eksempel retten til å få en beslutning forklart.

• Åpenhet – selskaper bør være pliktige til å forklare og revidere algoritmer,
• Mangfold – utviklingsteam bør inkludere personer med ulik bakgrunn for å fange opp skjevheter,
• Reguleringer – myndigheter bør kreve kontroll av algoritmer for diskriminering,
• Folkeopplysning – innbyggerne bør lære mer om hvordan AI fungerer, slik at de kan stille krav og si ifra.

Dette temaet bør ikke ties i hjel. AI og etikk får stadig mer oppmerksomhet, og videre debatt – mellom eksperter, jurister, næringsliv og vanlige borgere – kan hjelpe oss å lage normer som beskytter alle. Her blir også spørsmålet om AI og demokrati aktuelt: kan kunstig intelligens true valgfrihet og rettferdighet? Algoritmene endrer seg ikke av seg selv – men vi kan bestemme hvordan de brukes, og sørge for at de tjener rettferdighet for alle.