技術共有

実験場: Bedrock Anthropic Models と Elasticsearch を使用して RAG 実験を数分で実施

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

著者: from Elasticジョー・マケロイ, アディティア・トリパティ

最近、Elasticsearch Playground をリリースしました。これは、開発者が A/B テスト LLM、チューニング プロンプト、データのチャンク化を通じて実稼働 RAG アプリケーションを反復して構築できるようにする新しいローコード インターフェイスです。本日、Amazon Bedrock の Playground サポートを発表し、Amazon、Anthropic、その他の主要プロバイダーからさらに基本的なモデルの選択肢を提供します。 Amazon Bedrock と Elasticsearch を使用する開発者は、プライベート データまたは独自のデータ (1 つ以上の Elasticsearch インデックスにインデックス付けされている) を使用して回答の取得を最適化できるようになりました。

LLM の推論、A/B テスト、取得に Amazon Bedrock を使用する

Playground インターフェイスを使用すると、Amazon や Anthropic などの主要なモデル プロバイダーが提供するさまざまな LLM を実験して A/B テストすることができます。ただし、モデルの選択は問題の一部にすぎません。開発者は、モデルのコンテキスト ウィンドウ サイズ (つまり、モデルが処理できるトークンの数) に厳密に一致する関連する検索結果を取得する方法も考慮する必要があります。コンテキスト ウィンドウより長いテキスト パッセージを取得すると、切り詰められ、情報が失われる可能性があります。コンテキスト ウィンドウより小さいテキストは正しく埋め込まれず、不正確な表現になる可能性があります。次の複雑さは、異なるデータ ソースからの取得を組み合わせる必要があることから発生する可能性があります。

Playground は、多くの Elasticsearch 機能を、RAG ワークフローに適応させるためのシンプルかつ強力なインターフェイスに組み合わせています。

  • Amazon Bedrock など、増え続けるモデル ソースのリストを使用して、ニーズに最適な LLM を選択します
  • 使用 セマンティックテキスト、データとコンテキスト ウィンドウのサイズに合わせてチャンク戦略を調整します。
  • 使用 レトリーバー 多段階の取得パイプラインを追加 (並べ替えを含む)

モデルに送信されたコンテキストを目的の運用標準に合わせて調整した後、コードをエクスポートし、Python Elasticsearch 言語クライアントまたは LangChain Python 統合を使用してアプリケーションを完成させることができます。

本日の発表は承認されました オープン推論API この統合により、Amazon Bedrock でホストされているモデルへのアクセスが可能になるだけでなく、新しいセマンティックテキスト フィールドタイプの機能。ぜひこの体験をお楽しみください。

Playground は、これらの構成可能な要素をすべて取り入れ、開発者が要求する速度での迅速な反復と開発のための真の開発者ツールセットを提供します。

遊び場を使用する

Kibana (Elasticsearch UI) で、「」に移動します。遊び場まず、選択した LLM を提供するモデルプロバイダーに接続する必要があります。Playground は、Amazon Bedrock サポート チャット (例: Anthropic) を介してモデルを完成させます。

このブログでは、Playground エクスペリエンスを接続して構成するための詳細な手順と手順を説明します。

LLM に接続し、Elasticsearch インデックスを選択したら、インデックス内の情報について質問を開始できます。 LLM は、データのコンテキストに基づいて回答を提供します。

選択した LLM および Elasticsearch インデックスを非公開の独自情報と接続します。
データと即座にチャットし、モデル (この場合は Anthropic Claude 3 Haiku など) の応答を評価します。

ベクトル埋め込みを格納するインデックスのテキストおよび取得クエリを確認およびカスタマイズする

レトリーバーとハイブリッド検索を使用して最適なコンテキストを取得する

弾性のあるハイブリッド検索最適なコンテキスト ウィンドウの構築に役立ちます。効果的なコンテキスト ウィンドウは、さまざまな種類のベクトル化されたプレーン テキスト データから構築され、複数のインデックスに分散できます。開発者は新しい機能を利用できるようになりました。 クエリリトリーバー クエリの作成を簡素化します。バージョン 8.14 以降、Elastic Cloudサーバーレス 3 つの新しい取得者が提供され、1 つの統合クエリだけで使用できます。ロシア連邦 正規化されたハイブリッド検索。ベクトル化されたデータを保存して kNN レトリーバーを使用したり、メタデータとコンテキストを追加してハイブリッド検索クエリを作成したりできます。まもなく、次のことも追加できるようになりますセマンティックな再ランキング検索結果をさらに改善します。

Playground を使用して会話型検索を迅速に提供する

会話型検索エクスペリエンスの構築にはさまざまなアプローチが含まれる可能性があり、特に RAG アプリケーションに適した新しい再ランキングおよび検索テクノロジが発明されるスピードを考慮すると、選択肢は膨大になる可能性があります。

Playground では、開発者が複数の機能にアクセスできるにもかかわらず、これらの選択はシンプルかつ直感的です。私たちのユニークなアプローチは、主な柱としてハイブリッド検索を即座に構築し、選択されたチャンク化されたデータの形状を直感的に理解し、LLM の複数の外部プロバイダーへのアクセスを拡張することです。

今年初め、Elastic は AWS を買収しました 生成 AI 能力賞 、この栄誉は、差別化された生成 AI ツールを提供するごく少数の AWS パートナーに与えられます。 Playground エクスペリエンスに Bedrock サポートを追加する Elastic のアプローチも同じ原則に従っており、Elastic Cloud on AWS 開発者に新しい革新的な機能をもたらします。

Playground を構築、テストし、楽しみましょう

今行く 遊び場のドキュメント使い始めてください!探検する GitHub ラボを検索して、Cohere、Anthropic、Azure OpenAI などのプロバイダーによる新しいプレイブックや統合について学びましょう。

自分で試してみる準備はできましたか?始める無料トライアル
Elastic 認定を取得したいですか?次の問題について調べるElasticsearchエンジニアトレーニングいつ始めるか!

オリジナル:プレイグラウンド: Bedrock Anthropic Models と Elasticsearch を使用して RAG を数分で試す — Elastic Search Labs