Det amerikanske Cyber Crimes Center tester et verktøy som skal identifisere om overgrepsbilder er generert av kunstlig intelligens (KI).
Department of Homeland Securitys Cyber Crimes Center har tildelt et tre måneders prøveprosjekt verdt $150,000 til San Francisco-selskapet Hive AI for å bruke deres AI-deteksjonsalgoritmer for å avgjøre om bilder er AI-genererte, ifølge en offentlig, sterkt redigert melding gjengitt av MIT Technology Review. NCMEC rapporterte en økning på 1 325 % i hendelser med generativ AI i 2024.
Hive tilbyr også en Thorn-utviklet hashing-løsning for kjent CSAM, men sier at deres verktøy for å avgjøre om et bilde er AI-generert ikke er spesifikt trent på CSAM og likevel kan være ‘generaliserbar’. Regjeringens begrunnelse for direkteanskaffelsen nevner en University of Chicago-studie og en Pentagon-kontrakt. I AI-nyheter er dette relevant for norske etterforskere og plattformer som håndterer mistanke om overgrep.
Kilde: https://www.technologyreview.com/2025/09/26/1124343/us-investigators-are-using-ai-to-detect-child-abuse-images-made-by-ai/ | Sammendraget er KI-generert med OpenAI API av Ainy.no
