기술나눔

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

작성자: Elastic에서조 맥엘로이, 아디티아 트리파티

우리는 최근 개발자가 A/B 테스트 LLM, 프롬프트 조정 및 데이터 청크를 통해 프로덕션 RAG 애플리케이션을 반복하고 구축할 수 있는 새로운 로우 코드 인터페이스인 Elasticsearch Playground를 출시했습니다. 오늘 우리는 Playground에 대한 Amazon Bedrock 지원을 발표하여 Amazon, Anthropic 및 기타 주요 제공업체로부터 훨씬 더 기본적인 모델을 선택할 수 있게 되었습니다. Amazon Bedrock 및 Elasticsearch를 사용하는 개발자는 이제 개인 또는 독점 데이터(하나 이상의 Elasticsearch 인덱스로 인덱싱됨)를 사용하여 답변 검색을 최적화할 수 있습니다.

추론, LLM의 A/B 테스트 및 검색에 Amazon Bedrock을 사용하십시오.

Playground 인터페이스를 사용하면 Amazon 및 Anthropic과 같은 주요 모델 제공업체의 다양한 LLM을 실험하고 A/B 테스트할 수 있습니다. 그러나 모델을 선택하는 것은 문제의 일부일 뿐입니다. 개발자는 모델의 컨텍스트 창 크기(즉, 모델이 처리할 수 있는 토큰 수)와 거의 일치하도록 관련 검색 결과를 검색하는 방법도 고려해야 합니다. 컨텍스트 창보다 긴 텍스트 구절을 검색하면 잘려서 정보가 손실될 수 있습니다. 컨텍스트 창보다 작은 텍스트는 올바르게 포함되지 않아 부정확하게 표시될 수 있습니다. 다음 복잡성은 다양한 데이터 소스의 검색을 결합해야 할 때 발생할 수 있습니다.

Playground는 RAG 워크플로우를 적용하기 위해 여러 Elasticsearch 기능을 간단하면서도 강력한 인터페이스로 결합합니다.

• Amazon Bedrock을 포함하여 점점 늘어나는 모델 소스 목록을 사용하여 요구 사항에 가장 적합한 LLM을 선택하세요.
• 사용 의미론적 텍스트, 데이터 및 컨텍스트 창 크기에 맞게 청킹 전략을 조정합니다.
• 사용 리트리버 다단계 검색 파이프라인 추가(재주문 포함)

모델에 전송된 컨텍스트를 원하는 생산 표준으로 조정한 후 Python Elasticsearch 언어 클라이언트 또는 LangChain Python 통합을 사용하여 코드를 내보내고 애플리케이션을 완료할 수 있습니다.

오늘 발표가 승인되었습니다. 오픈 인퍼런스 API 통합을 통해 Amazon Bedrock에 호스팅된 모델에 대한 액세스는 물론 새로운의미론적 텍스트 필드 유형 기능. 이 경험을 즐기시기 바랍니다!

Playground는 이러한 구성 가능한 요소를 모두 갖추고 개발자가 요구하는 속도에 맞춰 신속한 반복 및 개발을 위한 진정한 개발자 도구 세트를 제공합니다.

놀이터 이용

Kibana(Elasticsearch UI)에서 "운동장”. 먼저 선택한 LLM을 제공하는 모델 제공업체에 연결해야 합니다. Playground는 Amazon Bedrock 지원 채팅(예: Anthropic)을 통해 모델을 완성합니다.

이 블로그에서는 Playground 환경을 연결하고 구성하기 위한 자세한 단계와 지침을 제공합니다.

LLM에 연결하고 Elasticsearch 인덱스를 선택한 후 인덱스의 정보에 대한 질문을 시작할 수 있습니다. LLM은 데이터의 맥락에 따라 답변을 제공합니다.

검색기와 하이브리드 검색을 사용하여 최상의 컨텍스트를 얻으세요.

탄력있는하이브리드 검색 최상의 상황별 창을 구축하는 데 도움이 됩니다. 효과적인 컨텍스트 창은 여러 인덱스에 분산될 수 있는 다양한 유형의 벡터화된 일반 텍스트 데이터로 구축됩니다.이제 개발자는 새로운 기능을 활용할 수 있습니다.쿼리 검색기 쿼리 생성을 단순화합니다. 버전 8.14부터 Elastic Cloud서버리스 3개의 새로운 검색기가 제공되며 단 하나의 통합 쿼리로 사용할 수 있습니다.라디오 정규화된 하이브리드 검색. 벡터화된 데이터를 저장하고 kNN 검색기를 사용하거나 메타데이터 및 컨텍스트를 추가하여 하이브리드 검색 쿼리를 만들 수 있습니다.곧 추가할 수도 있습니다.의미론적 재순위검색 결과를 더욱 향상시키기 위해.

Playground를 사용하여 대화형 검색을 빠르게 제공하세요.

대화형 검색 환경을 구축하려면 다양한 접근 방식이 필요할 수 있으며, 특히 RAG 애플리케이션에 적합한 새로운 순위 재지정 및 검색 기술이 개발되는 속도를 고려할 때 선택의 폭이 넓어질 수 있습니다.

Playground를 사용하면 개발자가 여러 기능에 액세스할 수 있지만 이러한 선택은 간단하고 직관적입니다. 우리의 독특한 접근 방식은 하이브리드 검색을 주요 기둥으로 즉시 구축하고, 선택되고 청크된 데이터의 형태를 직관적으로 이해하며, LLM의 여러 외부 제공업체에 대한 액세스를 확장하는 것입니다.

올해 초 Elastic은 AWS를 인수했습니다. 생성적 AI 역량상 , 이 영예는 차별화된 생성 AI 도구를 제공하는 극소수의 AWS 파트너에게 수여됩니다. Playground 환경에 Bedrock 지원을 추가하는 Elastic의 접근 방식은 동일한 원칙을 따릅니다. 즉 AWS의 Elastic Cloud 개발자에게 새롭고 혁신적인 기능을 제공하는 것입니다.

Playground를 구축하고, 테스트하고, 재미있게 즐겨보세요.

지금 이동 놀이터 문서 사용 시작!탐구하다깃허브 Cohere, Anthropic, Azure OpenAI 등과 같은 공급자의 새로운 플레이북과 통합에 대해 알아보려면 Lab을 검색하세요.

직접 시도해 볼 준비가 되셨나요?시작무료 시험판。
Elastic 인증을 받고 싶으신가요?다음 호에 대해 알아보기Elasticsearch 엔지니어 교육언제 시작해야 할까요?

원래의:놀이터: Bedrock Anthropic Models와 Elasticsearch를 사용하여 몇 분 안에 RAG로 실험하세요 — Elastic Search Labs