Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
# Verwenden CloudFormation um die Ferninferenz für die semantische Suche einzurichten
Ab OpenSearch Version 2.9 können Sie Ferninferenz mit [ semantischer Suche verwenden, um Ihre eigenen Modelle für maschinelles Lernen (ML) ](https://opensearch.org/docs/latest/search-plugins/semantic-search/) zu hosten. Bei der Ferninferenz wird das [ ML Commons-Plugin verwendet. ](https://opensearch.org/docs/latest/ml-commons-plugin/index/)
Mit Remote Inference können Sie Ihre Modellinferenzen remote auf ML-Diensten wie Amazon SageMaker AI und Amazon Bedrock hosten und sie über ML-Konnektoren mit Amazon OpenSearch Service verbinden.
Um die Einrichtung der Ferninferenz zu vereinfachen, stellt Amazon OpenSearch Service eine [AWS CloudFormation](https://docs.aws.amazon.com/AWSCloudFormation/latest/UserGuide/Welcome.html) Vorlage in der Konsole bereit. CloudFormation ist ein Tool, AWS-Service in dem Sie Ressourcen von Drittanbietern bereitstellen AWS und verwalten können, indem Sie die Infrastruktur als Code behandeln.
Die OpenSearch CloudFormation Vorlage automatisiert den Modellbereitstellungsprozess für Sie, sodass Sie auf einfache Weise ein Modell in Ihrer OpenSearch Service-Domain erstellen und dann die Modell-ID verwenden können, um Daten aufzunehmen und neuronale Suchabfragen auszuführen.
Wenn Sie neuronale Sparse-Encoder mit OpenSearch Service Version 2.12 und höher verwenden, empfehlen wir, das Tokenizer-Modell lokal zu verwenden, anstatt es remote bereitzustellen. Weitere Informationen finden Sie in der Dokumentation unter [ Sparse-Kodierungsmodelle. ](https://opensearch.org/docs/latest/ml-commons-plugin/pretrained-models/#sparse-encoding-models) OpenSearch
**Topics**
+ [Available (Verfügbar) CloudFormation Vorlagen](#cfn-template-list)
+ [Voraussetzungen](#cfn-template-prereq)
+ [Amazon Bedrock-Vorlagen](cfn-template-bedrock.md)
+ [Konfiguration von Agentic Search mit Bedrock Claude](cfn-template-agentic-search.md)
+ [Vorlagen für die MCP-Serverintegration](cfn-template-mcp-server.md)
+ [Amazon-Vorlagen SageMaker](cfn-template-sm.md)
+ [Ferninferenz für Vorlagen zur semantischen Hervorhebung](#cfn-template-semantic-highlighting)
## Available (Verfügbar) CloudFormation Vorlagen
Die folgenden Vorlagen für AWS CloudFormation maschinelles Lernen (ML) stehen zur Verwendung zur Verfügung:[Amazon Bedrock-Vorlagen](cfn-template-bedrock.md)
**Integration von Amazon Titan Text Embeddings**
Stellt eine Verbindung zu den gehosteten ML-Modellen von Amazon Bedrock her, macht eine separate Modellbereitstellung überflüssig und verwendet vordefinierte Amazon Bedrock-Endpunkte. Weitere Informationen finden Sie unter [ Amazon Titan Text Embeddings ](https://docs.aws.amazon.com/bedrock/latest/userguide/titan-embedding-models.html) im Amazon Bedrock-Benutzerhandbuch. * *
**Integration von Cohere Embed**
Bietet Zugriff auf Cohere Embed-Modelle und ist für bestimmte Textverarbeitungs-Workflows optimiert. Weitere Informationen finden Sie unter [ Embed ](https://docs.cohere.com/docs/cohere-embed) auf der Website von * Cohere Docs*.
**Amazon Titan Multimodale Einbettungen**
Unterstützt sowohl Text- als auch Bildeinbettungen und ermöglicht multimodale Suchfunktionen. Weitere Informationen finden Sie unter [ Amazon Titan Multimodal Embeddings ](https://docs.aws.amazon.com/bedrock/latest/userguide/titan-multiemb-models.html) im Amazon Bedrock-Benutzerhandbuch. * *[Vorlagen für die MCP-Serverintegration](cfn-template-mcp-server.md)
**Integration des MCP-Servers**
Stellt eine [ Amazon Bedrock AgentCore Runtime bereit](https://docs.aws.amazon.com/bedrock-agentcore/latest/devguide/what-is-bedrock-agentcore.html), stellt einen Agenten-Endpunkt bereit, verarbeitet die eingehende und ausgehende Authentifizierung und unterstützt OAuth für die Unternehmensauthentifizierung.[Amazon-Vorlagen SageMaker](cfn-template-sm.md)
**Integration mit Modellen zur Texteinbettung über Amazon SageMaker**
Stellt Modelle zur Texteinbettung in Amazon SageMaker Runtime bereit, erstellt IAM-Rollen für den Zugriff auf Modellartefakte und richtet ML-Konnektoren für die semantische Suche ein.
**Integration mit Sparse Encoders über SageMaker**
Richtet spärliche Kodierungsmodelle für die neuronale Suche ein, erstellt AWS Lambda Funktionen für die Konnektorverwaltung und gibt Modell-IDs zur sofortigen Verwendung zurück.
## Voraussetzungen
Um eine CloudFormation Vorlage mit OpenSearch Service zu verwenden, müssen die folgenden Voraussetzungen erfüllt sein.
### Richten Sie eine OpenSearch Service-Domäne ein
Bevor Sie eine CloudFormation Vorlage verwenden können, müssen Sie eine [ Amazon OpenSearch Service-Domain ](https://docs.aws.amazon.com/opensearch-service/latest/developerguide/osis-get-started.html) einrichten, für die Version 2.9 oder höher und die fein abgestimmte Zugriffskontrolle aktiviert ist. [Erstellen Sie eine OpenSearch Service-Backend-Rolle](fgac.md#fgac-roles), um dem ML Commons-Plugin die Erlaubnis zu geben, Ihren Connector für Sie zu erstellen.
Die CloudFormation Vorlage erstellt eine Lambda-IAM-Rolle für Sie mit dem Standardnamen`LambdaInvokeOpenSearchMLCommonsRole`, den Sie überschreiben können, wenn Sie einen anderen Namen wählen möchten. Nachdem die Vorlage diese IAM-Rolle erstellt hat, müssen Sie der Lambda-Funktion die Erlaubnis erteilen, Ihre Service-Domain aufzurufen. OpenSearch Ordnen Sie dazu die [ benannte Rolle Ihrer OpenSearch Service-Backend-Rolle `ml_full_access` zu, indem Sie die folgenden Schritte ausführen: ](fgac.md#fgac-mapping)
1. Navigieren Sie zum OpenSearch Dashboards-Plugin für Ihre OpenSearch Service-Domain. Sie finden den Dashboards-Endpunkt in Ihrem Domain-Dashboard in der OpenSearch Service-Konsole.
1. Wählen Sie im Hauptmenü ** Sicherheit ****, ** Rollen und dann die Rolle ** ml\_full\_access ** aus.
1. Wählen Sie **Zugeordnete Benutzer**, **Mapping verwalten**.
1. Fügen Sie unter ** Backend-Rollen den ARN der Lambda-Rolle hinzu**, die die Berechtigung zum Aufrufen Ihrer Domain benötigt.
```
arn:aws:iam::{{account-id}}:role/{{role-name}}
```
1. Wählen Sie **Zuordnen** und bestätigen Sie, dass der Benutzer oder die Rolle unter **Zugeordnete Benutzer** angezeigt wird.
Nachdem Sie die Rolle zugeordnet haben, navigieren Sie zur Sicherheitskonfiguration Ihrer Domain und fügen Sie die Lambda-IAM-Rolle zu Ihrer Servicezugriffsrichtlinie hinzu. OpenSearch
### Aktivieren Sie die Berechtigungen für Ihre AWS-Konto
Sie AWS-Konto müssen über eine Zugriffsberechtigung CloudFormation und Lambda verfügen, zusammen mit dem, was AWS-Service Sie für Ihre Vorlage auswählen — entweder SageMaker Runtime oder Amazon Bedrock.
Wenn Sie Amazon Bedrock verwenden, müssen Sie auch Ihr Modell registrieren. Informationen zur Registrierung Ihres [ Modells finden Sie unter Modellzugriff ](https://docs.aws.amazon.com/bedrock/latest/userguide/model-access.html) im * Amazon Bedrock-Benutzerhandbuch*.
Wenn Sie Ihren eigenen Amazon S3-Bucket verwenden, um Modellartefakte bereitzustellen, müssen Sie die CloudFormation IAM-Rolle zu Ihrer S3-Zugriffsrichtlinie hinzufügen. Informationen finden Sie im Abschnitt [Hinzufügen und Entfernen von IAM-Identitätsberechtigungen](https://docs.aws.amazon.com/IAM/latest/UserGuide/access_policies_manage-attach-detach.html) im *-IAM-Benutzerhandbuch*.
## Ferninferenz für Vorlagen zur semantischen Hervorhebung
Semantische Hervorhebung ist eine erweiterte Suchfunktion, die die Ergebnisrelevanz erhöht, indem die Bedeutung und der Kontext von Abfragen analysiert werden, anstatt sich ausschließlich auf exakte Keyword-Treffer zu verlassen. Diese Funktion verwendet Modelle für maschinelles Lernen, um die semantische Ähnlichkeit zwischen Suchanfragen und Dokumentinhalten zu bewerten und die kontextrelevantesten Sätze oder Passagen in Dokumenten zu identifizieren und hervorzuheben. Im Gegensatz zu herkömmlichen Hervorhebungsmethoden, die sich auf exakte Übereinstimmungen von Begriffen konzentrieren, nutzt die semantische Hervorhebung KI-Modelle, um jeden Satz anhand von Kontextinformationen sowohl aus der Abfrage als auch aus dem umgebenden Text zu bewerten, sodass relevante Informationen auch dann angezeigt werden, wenn in den hervorgehobenen Passagen keine exakten Suchbegriffe enthalten sind. Dieser Ansatz ist besonders nützlich für AI-driven Suchimplementierungen, bei denen Benutzer der semantischen Bedeutung Vorrang vor der wörtlichen Wortsuche einräumen. Dadurch können Suchadministratoren intelligentere und kontextsensivere Sucherlebnisse bereitstellen, bei denen aussagekräftige Inhaltsbereiche hervorgehoben werden und nicht nur das Vorkommen von Schlüsselwörtern. Weitere Informationen finden Sie unter Semantische Hervorhebung verwenden. [https://docs.opensearch.org/latest/tutorials/vector-search/semantic-highlighting-tutorial/](https://docs.opensearch.org/latest/tutorials/vector-search/semantic-highlighting-tutorial/)
Gehen Sie wie folgt vor, um eine CloudFormation Vorlage zu öffnen und auszuführen, die SageMaker Amazon-Modelle automatisch für die semantische Hervorhebung konfiguriert.
**Um die Vorlage für semantische Hervorhebungen zu verwenden CloudFormation**
1. Öffnen Sie die Amazon OpenSearch Service-Konsole unter [ https://console.aws.amazon.com/aos/home](https://console.aws.amazon.com/aos/home ).
1. Wählen Sie in der linken Navigationsleiste ** Integrationen ** aus.
1. Wählen ** Sie unter Semantische Hervorhebung durch SageMaker Amazon-Integration ** aktivieren die Option Domain ** konfigurieren**, Öffentliche Domain ** konfigurieren aus. **
1. Folgen Sie der Aufforderung, um Ihr Modell einzurichten.
**Anmerkung**
OpenSearch Der Service bietet auch eine separate Vorlage zur Konfiguration der VPC-Domäne. Wenn Sie diese Vorlage verwenden, müssen Sie die VPC-ID für die Lambda-Funktion angeben.