Обмен технологиями

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Автор: из ElasticДжо МакЭлрой, Адитья Трипати

Недавно мы выпустили Elasticsearch Playground, новый интерфейс с низким кодом, который позволяет разработчикам выполнять итерацию и создавать рабочие приложения RAG с помощью A/B-тестирования LLM, подсказок по настройке и фрагментирования данных. Сегодня мы объявляем о поддержке Amazon Bedrock для Playground, предоставляя вам еще больше базовых моделей от Amazon, Anthropic и других ведущих поставщиков. Разработчики, использующие Amazon Bedrock и Elasticsearch, теперь могут оптимизировать поиск ответов, используя частные или собственные данные (индексированные в один или несколько индексов Elasticsearch).

Используйте Amazon Bedrock для вывода, A/B-тестирования LLM и поиска данных.

Интерфейс Playground позволяет экспериментировать и проводить A/B-тестирование различных LLM от ведущих поставщиков моделей, таких как Amazon и Anthropic. Однако выбор модели – это только часть проблемы. Разработчики также должны подумать о том, как получить релевантные результаты поиска, чтобы они точно соответствовали размеру контекстного окна модели (т. е. количеству токенов, которые может обрабатывать модель). Получение фрагментов текста, длина которых превышает контекстное окно, может привести к усечению и потере информации. Текст, размер которого меньше контекстного окна, может быть встроен неправильно, что приведет к неточному представлению. Следующая сложность может возникнуть из-за необходимости объединения результатов из разных источников данных.

Playground объединяет множество функций Elasticsearch в простой, но мощный интерфейс для адаптации рабочих процессов RAG:

• Используйте растущий список источников моделей, включая Amazon Bedrock, чтобы выбрать LLM, который лучше всего соответствует вашим потребностям.
• использовать семантический_текст, настройте стратегию фрагментирования в соответствии с размером окна данных и контекста.
• использовать ретриверы Добавить многоэтапный конвейер поиска (включая изменение порядка)

После настройки контекста, отправленного в модель, в соответствии с желаемыми производственными стандартами, вы можете экспортировать код и завершить свое приложение с помощью языкового клиента Python Elasticsearch или интеграции LangChain с Python.

Сегодняшнее объявление одобрено Открытый API вывода Интеграция обеспечивает доступ к моделям, размещенным на Amazon Bedrock, а также использование новогосемантический_текст Возможности типа поля. Мы очень надеемся, что вам понравится этот опыт!

Playground объединяет все эти компонуемые элементы и предоставляет вам настоящий набор инструментов разработчика для быстрой итерации и разработки со скоростью, необходимой разработчикам.

Используйте игровую площадку

В Kibana (пользовательский интерфейс Elasticsearch) перейдите к «Детская площадка«Во-первых, вам необходимо подключиться к поставщику моделей, предлагающем LLM по вашему выбору. Playground завершает создание модели через чат поддержки Amazon Bedrock (например, Anthropic).

В этом блоге представлены подробные инструкции и инструкции по подключению и настройке Playground.

После подключения к LLM и выбора индекса Elasticsearch вы можете начать задавать вопросы об информации в индексе. LLM предоставит ответы в зависимости от контекста ваших данных.

Получите лучший контекст с помощью ретриверов и гибридного поиска.

Эластичныйгибридный поиск Помогает вам создать лучшее контекстное окно. Эффективные контекстные окна создаются из различных типов векторизованных и простых текстовых данных, которые можно распределять по нескольким индексам.Теперь разработчики могут воспользоваться преимуществами новогопоисковики запросов для упрощения создания запроса. Начиная с версии 8.14, Elastic CloudБезсерверный Предоставляются три новых средства извлечения, которые можно использовать только с одним унифицированным запросом.РРФ Нормализованный гибридный поиск. Вы можете хранить векторизованные данные и использовать средства извлечения kNN или добавлять метаданные и контекст для создания гибридных поисковых запросов.Вскоре вы также сможете добавитьСемантическое переранжированиедля дальнейшего улучшения результатов поиска.

Используйте Playground для быстрого выполнения диалогового поиска.

Создание интерактивного поиска может включать в себя множество подходов, и выбор может быть огромным, особенно с учетом скорости, с которой изобретаются новые технологии переранжирования и поиска, обе из которых подходят для приложений RAG.

С нашей игровой площадкой этот выбор прост и интуитивно понятен, хотя у разработчиков есть доступ к множеству функций. Наш уникальный подход заключается в том, чтобы сразу же использовать гибридный поиск в качестве основной основы, интуитивно понимать форму выбранных и фрагментированных данных и расширять доступ к множеству внешних поставщиков LLM.

Ранее в этом году Elastic приобрела AWS. Премия за возможности генеративного искусственного интеллекта Эта честь удостоена очень небольшого числа партнеров AWS, которые предоставляют дифференцированные инструменты генеративного искусственного интеллекта. Подход Elastic к добавлению поддержки Bedrock в Playground следует тому же принципу — предоставление новых и инновационных возможностей разработчикам Elastic Cloud on AWS.

Создавайте, тестируйте и получайте удовольствие от Playground

Иди сейчас Документация детской площадки начните использовать!исследоватьGitHub Найдите в лабораториях информацию о новых сборниках сценариев и интеграциях от таких поставщиков, как Cohere, Anthropic, Azure OpenAI и других.

Готовы попробовать сами?начинатьБесплатная пробная версия。
Хотите получить сертификацию Elastic?Узнайте о следующем выпускеОбучение инженеров ElasticsearchКогда начать!

оригинал:Игровая площадка: экспериментируйте с RAG, используя Bedrock Anthropic Models и Elasticsearch за считанные минуты — Elastic Search Labs