A Chroma lançou o Context-1, um modelo de busca agente com 20 bilhões de parâmetros, especialmente projetado para recuperação multi-hop. O modelo foi desenvolvido para lidar com consultas complexas encontrando documentos relevantes e repassando-os para um modelo downstream para a resposta final.
Ouça o artigo
Ouça o artigo com uma voz de IA natural.
IA explicada
O que é o modelo de busca agente Context-1 da Chroma?
O Context-1 é um modelo de busca agente com 20 bilhões de parâmetros, desenvolvido para recuperação multi-hop. Ele decompõe consultas complexas em subperguntas e busca documentos relevantes simultaneamente, eliminando informações irrelevantes com a função Self-Editing Context. O modelo é baseado na arquitetura Mixture of Experts e utiliza técnicas de fine-tuning supervisionado e aprendizado por reforço.
- Resumo: Context-1 é um modelo otimizado para buscas complexas, capaz de lidar com grandes volumes de dados de forma eficiente.
- Por que isso importa: Reduz latência e custos em buscas multi-hop, melhorando a precisão e velocidade na recuperação de informações.
- Ponto principal: O modelo permite buscas mais rápidas e precisas ao decompor consultas e eliminar documentos irrelevantes, beneficiando aplicações em diversos setores, inclusive no mercado brasileiro.
Chroma Context-1: Otimizado para recuperação multi-hop
O Context-1 é baseado no gpt-oss-20B, uma arquitetura Mixture of Experts (MoE) afinada com Supervised Fine-Tuning (SFT) e Reinforcement Learning (RL). Diferente dos sistemas RAG tradicionais, que frequentemente enfrentam alta latência e custos ao lidar com grandes volumes de dados, o Context-1 foi projetado para decompor a consulta em subperguntas direcionadas e executar múltiplas chamadas de ferramentas simultaneamente. Isso permite que o modelo busque de forma eficiente em grandes fontes de dados.
Uma das funcionalidades mais notáveis do Context-1 é o Self-Editing Context, que permite ao modelo eliminar documentos irrelevantes durante a busca. Isso reduz a chamada “context rot” e mantém alta qualidade na recuperação mesmo com janelas de contexto limitadas. A Chroma também desenvolveu uma ferramenta para gerar tarefas sintéticas multi-hop, chamada context-1-data-gen, garantindo que o modelo seja testado em tarefas complexas de raciocínio em diversos domínios, como finanças e patentes.
Relevância para o mercado brasileiro de IA
O lançamento do Context-1 representa uma oportunidade para desenvolvedores brasileiros implementarem soluções de IA mais eficientes para buscas complexas. A redução de custos e o aumento da velocidade são fatores importantes para empresas brasileiras que buscam aproveitar tecnologias avançadas de IA. Modelos como este podem trazer resultados mais precisos em projetos orientados a dados, fortalecendo a competitividade no mercado local.
Fonte: Marktechpost
Leia também: A-Evolve: Novo framework para desenvolvimento automatizado de IA
