Compartilhamento de tecnologia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Autor: da ElasticJoe McElroy, Aditya Tripathi

Recentemente, lançamos o Elasticsearch Playground, uma nova interface de baixo código que permite aos desenvolvedores iterar e criar aplicativos RAG de produção por meio de testes A/B LLM, prompts de ajuste e agrupamento de dados. Hoje, estamos anunciando o suporte do Amazon Bedrock para Playground, trazendo a você ainda mais opções de modelos básicos da Amazon, Anthropic e outros fornecedores líderes. Os desenvolvedores que usam o Amazon Bedrock e o Elasticsearch agora podem otimizar a recuperação de respostas usando dados privados ou proprietários (indexados em um ou mais índices do Elasticsearch).

Use o Amazon Bedrock para inferência, testes A/B de LLM e recuperação

A interface do Playground permite experimentar e testar A/B diferentes LLMs dos principais fornecedores de modelos, como Amazon e Anthropic. No entanto, escolher um modelo é apenas parte do problema. Os desenvolvedores também devem considerar como recuperar resultados de pesquisa relevantes para corresponderem ao tamanho da janela de contexto do modelo (ou seja, o número de tokens que o modelo pode manipular). A recuperação de passagens de texto maiores que a janela de contexto pode resultar em truncamento, resultando em perda de informações. Texto menor que a janela de contexto pode não ser incorporado corretamente, resultando em representação imprecisa. A próxima complexidade pode advir da necessidade de combinar recuperações de diferentes fontes de dados.

O Playground combina muitos recursos do Elasticsearch em uma interface simples, porém poderosa, para adaptar fluxos de trabalho RAG:

• Use uma lista crescente de fontes de modelos, incluindo Amazon Bedrock, para escolher o LLM que melhor atende às suas necessidades
• usar texto_semântico, ajuste a estratégia de agrupamento para se ajustar aos dados e ao tamanho da janela de contexto
• usar recuperadores Adicionar pipeline de recuperação de vários estágios (incluindo reordenação)

Após ajustar o contexto enviado ao modelo aos padrões de produção desejados, você pode exportar o código e completar sua aplicação utilizando o cliente da linguagem Python Elasticsearch ou a integração LangChain Python.

O anúncio de hoje foi aprovado API de Inferência Aberta A integração fornece acesso a modelos hospedados no Amazon Bedrock, além de utilizar o novotexto_semântico Capacidades de tipo de campo. Esperamos realmente que você aproveite esta experiência!

O Playground pega todos esses elementos combináveis ​​e oferece um verdadeiro conjunto de ferramentas de desenvolvedor para rápida iteração e desenvolvimento na velocidade que os desenvolvedores exigem.

Usar parque infantil

No Kibana (IU do Elasticsearch), navegue até "Parque infantil”. Primeiro, você precisa se conectar a um provedor de modelo que ofereça o LLM de sua escolha para concluir o modelo por meio do chat de suporte do Amazon Bedrock (por exemplo, Anthropic).

Este blog fornece etapas e instruções detalhadas para conectar e configurar a experiência do Playground.

Depois de se conectar ao LLM e selecionar um índice do Elasticsearch, você pode começar a fazer perguntas sobre as informações do índice. O LLM fornecerá respostas com base no contexto dos seus dados.

Obtenha o melhor contexto usando recuperadores e pesquisas híbridas

Elásticopesquisa híbrida Ajuda você a construir a melhor janela contextual. Janelas de contexto eficazes são construídas a partir de vários tipos de dados vetorizados e de texto simples, que podem ser distribuídos em vários índices.Os desenvolvedores agora podem aproveitar as vantagens do novorecuperadores de consulta para simplificar a criação de consultas. A partir da versão 8.14, Elastic CloudSem servidor Três novos recuperadores são fornecidos e podem ser usados ​​com apenas uma consulta unificadaRRF Pesquisa híbrida normalizada. Você pode armazenar dados vetorizados e usar recuperadores kNN ou adicionar metadados e contexto para criar consultas de pesquisa híbridas.Em breve, você também poderá adicionarReclassificação semânticapara melhorar ainda mais os resultados da pesquisa.

Use o Playground para fornecer pesquisas conversacionais rapidamente

Construir uma experiência de pesquisa conversacional pode envolver múltiplas abordagens, e as escolhas podem ser esmagadoras, especialmente dada a velocidade com que novas tecnologias de reclassificação e recuperação estão sendo inventadas, ambas adequadas para aplicações RAG.

Com nosso Playground, essas escolhas são simples e intuitivas, embora os desenvolvedores tenham acesso a diversos recursos. Nossa abordagem exclusiva é construir imediatamente a pesquisa híbrida como pilar principal, compreender intuitivamente a forma dos dados selecionados e fragmentados e expandir o acesso a vários provedores externos de LLMs.

No início deste ano, a Elastic adquiriu a AWS Prêmio de capacidade de IA generativa , essa homenagem é concedida a um número muito pequeno de parceiros da AWS que fornecem ferramentas diferenciadas de IA generativa. A abordagem da Elastic para adicionar suporte Bedrock à experiência Playground segue o mesmo princípio: trazer recursos novos e inovadores para desenvolvedores do Elastic Cloud on AWS.

Crie, teste e divirta-se com o Playground

Vá agora Documentação do parque infantil comece a usar!explorarGitHub Pesquise no Labs para aprender sobre novos manuais e integrações de fornecedores como Cohere, Anthropic, Azure OpenAI e muito mais.

Pronto para experimentar você mesmo?começarTeste grátis。
Quer obter a certificação Elastic?Saiba mais sobre a próxima ediçãoTreinamento de engenheiro ElasticsearchQuando começar!

original:Playground: Experimente com RAG usando Bedrock Anthropic Models e Elasticsearch em minutos — Elastic Search Labs