Teknologian jakaminen

Kokeilualue: Suorita RAG-kokeita minuuteissa käyttämällä Bedrock Anthropic Models -malleja ja Elasticsearchia

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Kirjailija: ElasticJoe McElroy, Aditya Tripathi

Julkaisimme äskettäin Elasticsearch Playgroundin, uuden matalan koodin käyttöliittymän, jonka avulla kehittäjät voivat iteroida ja rakentaa tuotanto-RAG-sovelluksia A/B-testauksen LLM:n, virityskehotteiden ja tietojen paloittelun avulla. Tänään ilmoitamme Amazon Bedrock -tuesta Playgroundille, mikä tuo sinulle entistä enemmän perusmallivaihtoehtoja Amazonilta, Anthropicilta ja muilta johtavilta palveluntarjoajilta. Amazon Bedrockia ja Elasticsearchia käyttävät kehittäjät voivat nyt optimoida vastausten haun käyttämällä yksityisiä tai omistusoikeudellisia tietoja (indeksoituna yhteen tai useampaan Elasticsearch-hakemistoon).

Käytä Amazon Bedrockia johtopäätösten tekemiseen, LLM:n A/B-testaukseen ja hakuun

Playground-käyttöliittymän avulla voit kokeilla ja A/B-testaa erilaisia ​​LLM:itä johtavilta mallintarjoajilta, kuten Amazon ja Anthropic. Mallin valinta on kuitenkin vain osa ongelmaa. Kehittäjien on myös pohdittava, kuinka haetaan osuvia hakutuloksia, jotta ne vastaavat tarkasti mallin kontekstiikkunan kokoa (eli mallin käsittelemien merkkien määrää). Kontekstiikkunaa pidempien tekstiosien noutaminen voi johtaa katkaisuun, mikä johtaa tietojen menetykseen. Kontekstiikkunaa pienempää tekstiä ei ehkä ole upotettu oikein, mikä johtaa epätarkkuuteen. Seuraava monimutkaisuus voi johtua siitä, että haut eri tietolähteistä on yhdistettävä.

Playground yhdistää monia Elasticsearch-ominaisuuksia yksinkertaiseksi mutta tehokkaaksi käyttöliittymäksi RAG-työnkulkujen mukauttamiseen:

  • Käytä kasvavaa luetteloa mallilähteistä, mukaan lukien Amazon Bedrock, valitaksesi tarpeisiisi parhaiten sopivan LLM:n
  • käyttää semanttinen_teksti, säädä paloittelustrategiaa datan ja kontekstiikkunan koon mukaan
  • käyttää noutajat Lisää monivaiheinen hakuputki (mukaan lukien uudelleenjärjestely)

Kun olet säätänyt malliin lähetetyn kontekstin haluttuihin tuotantostandardeihin, voit viedä koodin ja täydentää hakemuksesi Python Elasticsearch -kieliasiakkaalla tai LangChain Python -integraatiolla.

Tämänpäiväinen ilmoitus on hyväksytty Avaa Inference API Integraatio tarjoaa pääsyn Amazon Bedrockissa isännöityihin malleihin sekä uuden käytönsemanttinen_teksti Kenttätyypin ominaisuudet. Toivomme todella, että nautit tästä kokemuksesta!

Playground sisältää kaikki nämä koostettavat elementit ja tuo sinulle todellisen kehittäjätyökalusarjan nopeaan iterointiin ja kehittämiseen kehittäjien vaatimalla nopeudella.

Käytä leikkikenttää

Siirry Kibanassa (Elasticsearch UI) kohtaan "LeikkikenttäEnsin sinun on muodostettava yhteys mallin tarjoajaan, joka tarjoaa valitsemasi LLM:n Amazon Bedrock -tukikeskustelun kautta (esim.

Tämä blogi sisältää yksityiskohtaiset vaiheet ja ohjeet Playground-kokemuksen yhdistämiseen ja määrittämiseen.

Kun olet muodostanut yhteyden LLM:ään ja valinnut Elasticsearch-hakemiston, voit alkaa kysyä hakemiston tiedoista. LLM tarjoaa vastauksia tietojesi kontekstin perusteella.

Yhdistä valitut LLM- ja Elasticsearch-indeksit yksityisillä omistustiedoilla
Keskustele välittömästi datasi kanssa ja arvioi mallin vastaus (kuten tässä tapauksessa Anthropic Claude 3 Haiku)

Tarkastele ja mukauta teksti- ja noutajakyselyjä indekseille, jotka tallentavat vektori upotuksia

Hanki paras konteksti noutajien ja hybridihakujen avulla

Elastinenhybridihaku Auttaa sinua rakentamaan parhaan kontekstuaalisen ikkunan. Tehokkaat konteksti-ikkunat rakennetaan erityyppisistä vektorisoiduista ja pelkkää tekstitiedoista, jotka voidaan jakaa useille hakemistoille.Kehittäjät voivat nyt hyödyntää uuttakyselyn noutajat yksinkertaistaa kyselyn luomista. Alkaen versiosta 8.14, Elastic CloudPalvelimeton Saatavilla on kolme uutta noutajaa, joita voidaan käyttää vain yhdellä yhdistetyllä kyselylläRRF Normalisoitu hybridihaku. Voit tallentaa vektoroitua dataa ja käyttää kNN-noujia tai lisätä metatietoja ja kontekstia hybridihakukyselyiden luomiseen.Pian voit myös lisätäSemanttinen uudelleensijoitusparantaaksesi hakutuloksia entisestään.

Käytä Playgroundia nopeaan keskusteluhakuun

Keskustelevan hakukokemuksen rakentamiseen voi liittyä erilaisia ​​lähestymistapoja, ja valinnat voivat olla ylivoimaisia, varsinkin kun otetaan huomioon uusien uudelleensijoitus- ja hakutekniikoiden keksimisen nopeus, jotka molemmat sopivat RAG-sovelluksiin.

Playgroundissamme nämä valinnat ovat yksinkertaisia ​​ja intuitiivisia, vaikka kehittäjillä on pääsy useisiin ominaisuuksiin. Ainutlaatuinen lähestymistapamme on rakentaa välittömästi hybridihakuun pääpilarina, ymmärtää intuitiivisesti valitun ja lohkottujen tietojen muotoa ja laajentaa pääsyä useiden ulkoisten LLM-palveluntarjoajien käyttöön.

Aiemmin tänä vuonna Elastic osti AWS:n Generative AI Capability Award , tämä kunnia annetaan hyvin pienelle määrälle AWS-kumppaneita, jotka tarjoavat erilaisia ​​generatiivisia tekoälytyökaluja. Elasticin lähestymistapa Bedrock-tuen lisäämiseen Playground-kokemukseen noudattaa samaa periaatetta – tuo uusia ja innovatiivisia ominaisuuksia AWS-kehittäjien Elastic Cloudiin.

Rakenna, testaa ja pidä hauskaa Playgroundin avulla

Mene nyt Leikkikentän dokumentaatio ottaa käyttöön!tutkiaGitHub Hae Labsista oppiaksesi uusista pelikirjoista ja integraatioista toimittajilta, kuten Cohere, Anthropic, Azure OpenAI ja muut.

Oletko valmis kokeilemaan sitä itse?alkaaIlmainen kokeilu
Haluatko Elastic-sertifioinnin?Ota selvää seuraavasta numerostaElasticsearch-insinöörikoulutusMilloin aloittaa!

alkuperäinen:Playground: Kokeile RAG:n kanssa Bedrock Anthropic Modelsin ja Elasticsearchin avulla muutamassa minuutissa – Elastic Search Labs