VaultGemma: verdens mest kapable differensielt private LLM

VaultGemma er et 1‑milliard‑parametere språkmodell trent fra bunnen med differensielt personvern i arbeid for tryggere kunstlig intelligens (KI).

Google Research og DeepMind introduserer DP‑skalalover som knytter modellstørrelse, iterasjoner og ‘noise‑batch ratio’ til ytelse, beregnekostnad og personvern. Arbeidet viser blant annet at større batchstørrelser ofte er foretrukket ved DP, og at Poisson-sampling håndteres med Scalable DP‑SGD for best mulig privatregnskap. VaultGemma er en 1‑milliard‑parametere Gemma 2‑basert modell trent fra bunnen med DP; vekter og teknisk rapport er publisert på Hugging Face og Kaggle. Relevans for Norge: personvern i KI-tjenester er viktig for norske brukere og offentlige tjenester. Dette er AI-nyheter.

Kilde: https://deepmind.google/discover/blog/vaultgemma-the-worlds-most-capable-differentially-private-llm | Sammendraget er KI-generert med OpenAI API av Ainy.no