Chroma har lansert Context-1, ein 20B parameter agentisk søkemodell som er spesialdesigna for multi-hop henting. Modellen er utvikla for å handtere komplekse førespurnader ved å finne relevante dokument og overlevere dei til ein nedstraumsmodell for endeleg svar.
Lytt til artikkelen
Få innhaldet lese opp med naturleg KI-stemme.
KI-forklart
Kva er Chroma Context-1 og korleis fungerer den?
Context-1 er ein 20 milliardar parameter stor agentisk søkemodell laga for å handtere komplekse, multi-hop førespurnader. Modellen bryt ned spørsmål i delspørsmål og søkjer effektivt i store datakjelder samtidig som den fjernar irrelevante dokument undervegs. Dette gir raskare og meir presise søk samanlikna med tradisjonelle løysingar.
- Kort forklart: Context-1 er ein Mixture of Experts-modell som bruker fleire verktøykall parallelt for å hente relevant informasjon frå store datamengder.
- Kvifor det er relevant: Modellen reduserer kostnader og ventetid ved komplekse søk, noko som er nyttig for utviklarar og selskap som treng presise svar frå store datakjelder.
- Det viktigaste å vite: Context-1 inkluderer ein mekanisme for å fjerne irrelevante dokument under søket, og er testa på komplekse oppgåver innan ulike domene som finans og patentar.
Chroma Context-1: Optimalisert for multi-hop henting
Context-1 er bygd på gpt-oss-20B, ein Mixture of Experts (MoE) arkitektur som er finjustert med Supervised Fine-Tuning (SFT) og Reinforcement Learning (RL). I motsetnad til tradisjonelle RAG-system, som ofte opplever høg latens og kostnader ved å handtere store mengder data, er Context-1 designa for å bryte ned førespurnaden i målretta delspørsmål og utføre fleire verktøykall samtidig. Dette gjer at modellen kan søkje effektivt i store datakjelder.
Eitt av dei mest merksemdsverdige funksjonane i Context-1 er Self-Editing Context, som tillèt modellen å fjerne irrelevante dokument undervegs i søket. Dette reduserer såkalla «context rot» og opprettheld høg kvalitet på henting sjølv med avgrensa kontekstvindauge. Chroma har òg utvikla eit verktøy for å generere syntetiske multi-hop oppgåver, kalla context-1-data-gen, som sikrar at modellen blir testa på komplekse resonneringsoppgåver i ulike domene som finans og patentar.
Betydinga for norske utviklarar og marknaden
AIny kort vurdering: Context-1 gir norske utviklarar moglegheit til å implementere meir effektive KI-løysingar for komplekse søk. Den reduserte kostnaden og auka hastigheita kan vere avgjerande for norske selskap som ønskjer å utnytte KI-teknologi. Med denne modellen kan ein vente meir presise resultat i datadrevne prosjekt, noko som kan styrkje konkurranseevna i det nordiske marknaden.
Kjelde: Marktechpost
Les òg: Bluesky lanserer Attie, ein KI-app for tilpassa straumar
