Κοινή χρήση τεχνολογίας

Έδαφος απόδειξης: Διεξαγωγή πειραμάτων RAG σε λίγα λεπτά χρησιμοποιώντας τα Bedrock Anthropic Models και το Elasticsearch

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Συγγραφέας: από το ElasticΤζο ΜακΕλρόι, Aditya Tripathi

Πρόσφατα κυκλοφόρησε το Elasticsearch Playground, μια νέα διεπαφή χαμηλού κώδικα που επιτρέπει στους προγραμματιστές να επαναλάβουν και να δημιουργήσουν εφαρμογές RAG παραγωγής μέσω δοκιμών A/B LLM, εντολών συντονισμού και τμηματοποίησης δεδομένων. Σήμερα, ανακοινώνουμε την υποστήριξη του Amazon Bedrock για το Playground, παρέχοντάς σας ακόμη περισσότερες βασικές επιλογές μοντέλων από την Amazon, την Anthropic και άλλους κορυφαίους παρόχους. Οι προγραμματιστές που χρησιμοποιούν το Amazon Bedrock και το Elasticsearch μπορούν τώρα να βελτιστοποιήσουν την ανάκτηση για απαντήσεις χρησιμοποιώντας ιδιωτικά ή ιδιόκτητα δεδομένα (ευρετηριασμένα σε ένα ή περισσότερα ευρετήρια Elasticsearch).

Χρησιμοποιήστε το Amazon Bedrock για συμπεράσματα, δοκιμές A/B του LLM και ανάκτηση

Η διεπαφή Playground σάς επιτρέπει να πειραματιστείτε και να δοκιμάσετε A/B διαφορετικά LLM από κορυφαίους παρόχους μοντέλων όπως η Amazon και η Anthropic. Ωστόσο, η επιλογή ενός μοντέλου είναι μόνο ένα μέρος του προβλήματος. Οι προγραμματιστές πρέπει επίσης να εξετάσουν τον τρόπο ανάκτησης των σχετικών αποτελεσμάτων αναζήτησης ώστε να ταιριάζουν με το μέγεθος του παραθύρου περιβάλλοντος του μοντέλου (δηλαδή, τον αριθμό των διακριτικών που μπορεί να χειριστεί το μοντέλο). Η ανάκτηση αποσπασμάτων κειμένου που είναι μεγαλύτερα από το παράθυρο περιβάλλοντος μπορεί να οδηγήσει σε περικοπή, με αποτέλεσμα την απώλεια πληροφοριών. Κείμενο μικρότερο από το παράθυρο περιβάλλοντος ενδέχεται να μην ενσωματωθεί σωστά, με αποτέλεσμα την ανακριβή αναπαράσταση. Η επόμενη πολυπλοκότητα μπορεί να προέρχεται από την ανάγκη να συνδυαστούν ανακτήσεις από διαφορετικές πηγές δεδομένων.

Το Playground συνδυάζει πολλές δυνατότητες του Elasticsearch σε μια απλή αλλά ισχυρή διεπαφή για την προσαρμογή των ροών εργασίας RAG:

  • Χρησιμοποιήστε μια αυξανόμενη λίστα πηγών μοντέλων, συμπεριλαμβανομένου του Amazon Bedrock, για να επιλέξετε το LLM που ταιριάζει καλύτερα στις ανάγκες σας
  • χρήση σημασιολογικό_κείμενο, προσαρμόστε τη στρατηγική τεμαχισμού ώστε να ταιριάζει στο μέγεθος του παραθύρου δεδομένων και περιβάλλοντος
  • χρήση ριτρίβερ Προσθήκη σωλήνωσης ανάκτησης πολλαπλών σταδίων (συμπεριλαμβανομένης της αναδιάταξης)

Αφού προσαρμόσετε το περιβάλλον που αποστέλλεται στο μοντέλο στα επιθυμητά πρότυπα παραγωγής, μπορείτε να εξαγάγετε τον κώδικα και να ολοκληρώσετε την αίτησή σας χρησιμοποιώντας τον πελάτη γλώσσας Python Elasticsearch ή την ενσωμάτωση LangChain Python.

Εγκρίνεται η σημερινή ανακοίνωση Ανοίξτε το Inference API Η ενοποίηση παρέχει πρόσβαση σε μοντέλα που φιλοξενούνται στο Amazon Bedrock, καθώς και χρήση του νέουσημασιολογικό_κείμενο Δυνατότητες τύπου πεδίου. Ελπίζουμε πραγματικά να απολαύσετε αυτή την εμπειρία!

Το Playground παίρνει όλα αυτά τα συνθέσιμα στοιχεία και σας προσφέρει ένα αληθινό σύνολο εργαλείων προγραμματιστή για γρήγορη επανάληψη και ανάπτυξη με την ταχύτητα που απαιτούν οι προγραμματιστές.

Χρησιμοποιήστε την παιδική χαρά

Στο Kibana (Elasticsearch UI), μεταβείτε στο "Παιδική χαρά”.

Αυτό το ιστολόγιο παρέχει λεπτομερή βήματα και οδηγίες για τη σύνδεση και τη διαμόρφωση της εμπειρίας Playground.

Αφού συνδεθείτε στο LLM και επιλέξετε ένα ευρετήριο Elasticsearch, μπορείτε να ξεκινήσετε να κάνετε ερωτήσεις σχετικά με τις πληροφορίες στο ευρετήριο. Το LLM θα παρέχει απαντήσεις με βάση το πλαίσιο των δεδομένων σας.

Συνδέστε επιλεγμένα ευρετήρια LLM και Elasticsearch με ιδιωτικές ιδιόκτητες πληροφορίες
Συνομιλήστε άμεσα με τα δεδομένα σας και αξιολογήστε την απόκριση ενός μοντέλου (όπως το Anthropic Claude 3 Haiku σε αυτήν την περίπτωση)

Ελέγξτε και προσαρμόστε τα ερωτήματα κειμένου και retriever για ευρετήρια που αποθηκεύουν διανυσματικές ενσωματώσεις

Αποκτήστε το καλύτερο περιβάλλον χρησιμοποιώντας retriever και υβριδικές αναζητήσεις

Ελαστικόυβριδική αναζήτηση Σας βοηθά να δημιουργήσετε τα καλύτερα παράθυρα με βάση τα συμφραζόμενα. Τα αποτελεσματικά παράθυρα περιβάλλοντος δημιουργούνται από διάφορους τύπους διανυσματικών δεδομένων και δεδομένων απλού κειμένου, τα οποία μπορούν να διανεμηθούν σε πολλαπλά ευρετήρια.Οι προγραμματιστές μπορούν πλέον να επωφεληθούν από το νέοανακτητές ερωτημάτων για την απλοποίηση της δημιουργίας ερωτημάτων. Ξεκινώντας από την έκδοση 8.14, Elastic CloudΧωρίς διακομιστή Παρέχονται τρία νέα retriever και μπορούν να χρησιμοποιηθούν με ένα μόνο ενοποιημένο ερώτημαRRF Κανονοποιημένη υβριδική αναζήτηση. Μπορείτε να αποθηκεύσετε διανυσματικά δεδομένα και να χρησιμοποιήσετε kNN retriever ή να προσθέσετε μεταδεδομένα και περιβάλλον για να δημιουργήσετε υβριδικά ερωτήματα αναζήτησης.Σύντομα, μπορείτε επίσης να προσθέσετεΣημασιολογική ανακατάταξηγια περαιτέρω βελτίωση των αποτελεσμάτων αναζήτησης.

Χρησιμοποιήστε το Playground για γρήγορη παράδοση συνομιλίας

Η δημιουργία μιας συνομιλητικής εμπειρίας αναζήτησης μπορεί να περιλαμβάνει πολλαπλές προσεγγίσεις και οι επιλογές μπορεί να είναι συντριπτικές, ειδικά δεδομένης της ταχύτητας με την οποία επινοούνται νέες τεχνολογίες ανακατάταξης και ανάκτησης, οι οποίες είναι κατάλληλες για εφαρμογές RAG.

Με το Playground μας, αυτές οι επιλογές είναι απλές και εύχρηστες, παρόλο που οι προγραμματιστές έχουν πρόσβαση σε πολλές λειτουργίες. Η μοναδική προσέγγισή μας είναι να αξιοποιήσουμε αμέσως την υβριδική αναζήτηση ως τον κύριο πυλώνα, να κατανοήσουμε διαισθητικά το σχήμα των επιλεγμένων και τμηματικών δεδομένων και να επεκτείνουμε την πρόσβαση σε πολλούς εξωτερικούς παρόχους LLM.

Νωρίτερα φέτος, η Elastic απέκτησε το AWS Βραβείο Generative AI Capability , αυτή η τιμή απονέμεται σε έναν πολύ μικρό αριθμό συνεργατών AWS που παρέχουν διαφοροποιημένα εργαλεία παραγωγής τεχνητής νοημοσύνης. Η προσέγγιση της Elastic για την προσθήκη υποστήριξης Bedrock στην εμπειρία Playground ακολουθεί την ίδια αρχή - φέρνοντας νέες και καινοτόμες δυνατότητες στο Elastic Cloud σε προγραμματιστές AWS.

Κατασκευάστε, δοκιμάστε και διασκεδάστε με το Playground

ΠΗΓΑΙΝΕ τωρα Τεκμηρίωση παιδικής χαράς αρχίστε να χρησιμοποιείτε!εξερευνώGitHub Αναζητήστε στο Labs για να μάθετε για νέα βιβλία και ενσωματώσεις από παρόχους όπως Cohere, Anthropic, Azure OpenAI και άλλα.

Είστε έτοιμοι να το δοκιμάσετε μόνοι σας;αρχήΔωρεάν δοκιμή
Θέλετε να αποκτήσετε πιστοποίηση Elastic;Μάθετε για το επόμενο τεύχοςΕκπαίδευση μηχανικών ElasticsearchΠότε να ξεκινήσετε!

πρωτότυπο:Playground: Πειραματιστείτε με το RAG χρησιμοποιώντας Bedrock Anthropic Models και Elasticsearch μέσα σε λίγα λεπτά — Elastic Search Labs