Google har annonsert TurboQuant, en ny AI-minnekomprimeringsalgoritme som lover ekstrem kompresjon uten tap av kvalitet. Denne teknologien er utviklet for å forbedre ytelsen til AI-systemer ved å redusere minnebruken.
TurboQuant: Effektiv minnekomprimering for AI-systemer
TurboQuant er en ny algoritme fra Google Research som benytter en form for vektorquantisering for å redusere minnebruken i AI-prosesser. Dette gjør det mulig for AI å huske mer informasjon samtidig som det tar opp mindre plass og opprettholder nøyaktighet. Google planlegger å presentere sine funn på ICLR 2026-konferansen neste måned, hvor de også vil dele to metoder som muliggjør denne kompresjonen: PolarQuant og QJL.
Hvis TurboQuant blir implementert i stor skala, kan det redusere kostnadene ved å kjøre AI ved å senke den såkalte KV-cachen med minst seks ganger. Dette kan gi betydelige effektiviseringsgevinster for AI-systemer, selv om det ikke løser de bredere RAM-manglene som AI-trening krever. TurboQuant er fortsatt et laboratoriefunn og har ikke blitt bredt distribuert ennå.
Hva skjer videre?
Implementeringen av TurboQuant kan gi norske utviklere mulighet til å redusere kostnadene ved AI-prosjekter. Dette kan være spesielt nyttig for selskaper som jobber med AI-løsninger og ønsker å optimalisere ressursbruken.
Kilde: TechCrunch
Les denne saken også på engelsk
Read in EnglishLes også: Meta bruker AI for enklere shopping på Instagram
