Berbagi teknologi

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Penulis: dari ElasticJoe McElroy, Aditya Tripati

Kami baru-baru ini merilis Elasticsearch Playground, antarmuka kode rendah baru yang memungkinkan pengembang mengulangi dan membangun aplikasi RAG produksi melalui pengujian A/B LLM, perintah penyetelan, dan pengelompokan data. Hari ini, kami mengumumkan dukungan Amazon Bedrock untuk Playground, yang memberi Anda lebih banyak pilihan model dasar dari Amazon, Anthropic, dan penyedia terkemuka lainnya. Pengembang yang menggunakan Amazon Bedrock dan Elasticsearch kini dapat mengoptimalkan pengambilan jawaban menggunakan data pribadi atau kepemilikan (diindeks ke dalam satu atau lebih indeks Elasticsearch).

Gunakan Amazon Bedrock untuk inferensi, pengujian A/B LLM, dan pengambilan

Antarmuka Playground memungkinkan Anda bereksperimen dan menguji A/B berbagai LLM dari penyedia model terkemuka seperti Amazon dan Anthropic. Namun, pemilihan model hanyalah sebagian dari masalah. Pengembang juga harus mempertimbangkan cara mengambil hasil penelusuran yang relevan agar sesuai dengan ukuran jendela konteks model (yaitu, jumlah token yang dapat ditangani model). Mengambil bagian teks yang lebih panjang dari jendela konteks dapat mengakibatkan terpotongnya, sehingga mengakibatkan hilangnya informasi. Teks yang lebih kecil dari jendela konteks mungkin tidak disematkan dengan benar, sehingga menghasilkan representasi yang tidak akurat. Kompleksitas berikutnya mungkin timbul karena harus menggabungkan pengambilan dari sumber data yang berbeda.

Playground menggabungkan banyak fitur Elasticsearch ke dalam antarmuka yang sederhana namun kuat untuk mengadaptasi alur kerja RAG:

• Gunakan daftar sumber model yang terus bertambah, termasuk Amazon Bedrock, untuk memilih LLM yang paling sesuai dengan kebutuhan Anda
• menggunakan teks semantik, sesuaikan strategi pemotongan agar sesuai dengan data dan ukuran jendela konteks
• menggunakan anjing pemburu Tambahkan alur pengambilan multi-tahap (termasuk pemesanan ulang)

Setelah menyesuaikan konteks yang dikirim ke model dengan standar produksi yang diinginkan, Anda dapat mengekspor kode dan menyelesaikan aplikasi Anda menggunakan klien bahasa Python Elasticsearch atau integrasi LangChain Python.

Pengumuman hari ini disetujui API Inferensi Terbuka Integrasi ini memberikan akses ke model yang dihosting di Amazon Bedrock, serta menggunakan model baruteks semantik Kemampuan tipe bidang. Kami sangat berharap Anda menikmati pengalaman ini!

Playground mengambil semua elemen yang dapat disusun ini dan memberi Anda perangkat pengembang sejati untuk iterasi dan pengembangan cepat sesuai permintaan pengembang.

Gunakan Taman Bermain

Di Kibana (Elasticsearch UI), navigasikan ke "Tempat bermain”. Pertama, Anda perlu terhubung ke penyedia model yang menawarkan LLM pilihan Anda. Playground melengkapi model melalui obrolan dukungan Amazon Bedrock (misalnya Anthropic).

Blog ini memberikan langkah-langkah dan instruksi terperinci untuk menghubungkan dan mengonfigurasi pengalaman Playground.

Setelah terhubung ke LLM dan memilih indeks Elasticsearch, Anda dapat mulai mengajukan pertanyaan tentang informasi dalam indeks. LLM akan memberikan jawaban berdasarkan konteks data Anda.

Dapatkan konteks terbaik menggunakan retriever dan penelusuran hibrid

Elastispencarian hibrida Membantu Anda membangun jendela kontekstual terbaik. Jendela konteks yang efektif dibangun dari berbagai jenis data vektor dan teks biasa, yang dapat didistribusikan ke beberapa indeks.Pengembang kini dapat memanfaatkan hal baru inipengambil kueri untuk menyederhanakan pembuatan kueri. Mulai versi 8.14, Elastic CloudTanpa Server Tiga retriever baru disediakan dan dapat digunakan hanya dengan satu kueri terpaduRRF Pencarian hibrid yang dinormalisasi. Anda dapat menyimpan data vektor dan menggunakan pengambil kNN, atau menambahkan metadata dan konteks untuk membuat kueri penelusuran hibrid.Segera, Anda juga dapat menambahkanPemeringkatan ulang semantikuntuk lebih meningkatkan hasil pencarian.

Gunakan Playground untuk menyampaikan penelusuran percakapan dengan cepat

Membangun pengalaman penelusuran percakapan dapat melibatkan berbagai pendekatan, dan pilihannya bisa sangat banyak, terutama mengingat kecepatan penemuan teknologi pemeringkatan ulang dan pengambilan baru, yang keduanya cocok untuk aplikasi RAG.

Dengan Playground kami, pilihan ini sederhana dan intuitif, meskipun pengembang memiliki akses ke banyak fitur. Pendekatan unik kami adalah dengan segera membangun penelusuran hibrid sebagai pilar utama, memahami secara intuitif bentuk data yang dipilih dan dikelompokkan, serta memperluas akses ke beberapa penyedia LLM eksternal.

Awal tahun ini, Elastic mengakuisisi AWS Penghargaan Kemampuan AI Generatif , penghargaan ini diberikan kepada sejumlah kecil mitra AWS yang menyediakan alat AI generatif yang berbeda. Pendekatan Elastic untuk menambahkan dukungan Bedrock ke pengalaman Playground mengikuti prinsip yang sama - menghadirkan kemampuan baru dan inovatif untuk pengembang Elastic Cloud on AWS.

Bangun, uji, dan bersenang-senanglah dengan Playground

pergi sekarang Dokumentasi taman bermain mulai menggunakan!mengeksplorasiBahasa Indonesia: Bahasa Indonesia: GitHub Lab Pencarian untuk mempelajari tentang pedoman baru dan integrasi dari penyedia seperti Cohere, Anthropic, Azure OpenAI, dan banyak lagi.

Siap mencobanya sendiri?awalUji coba gratis。
Ingin mendapatkan sertifikasi Elastic?Cari tahu tentang edisi berikutnyaPelatihan insinyur ElasticsearchKapan memulainya!

asli:Playground: Bereksperimen dengan RAG menggunakan Bedrock Anthropic Models dan Elasticsearch dalam hitungan menit — Elastic Search Labs