Erfüllen Sie die Voraussetzungen für Basismodelle in Canvas SageMaker

In den folgenden Abschnitten werden die Voraussetzungen für die Interaktion mit Foundation-Modellen und die Verwendung der Dokumentabfragefunktion in Canvas beschrieben. Beim restlichen Inhalt dieser Seite wird davon ausgegangen, dass Sie die Voraussetzungen für Foundation-Modelle erfüllt haben. Für die Funktion zur Dokumentenabfrage sind zusätzliche Berechtigungen erforderlich.

Voraussetzungen für Gründungsmodelle

Die Berechtigungen, die Sie für die Interaktion mit Modellen benötigen, sind in den Berechtigungen für Ready-to-use Canvas-Modelle enthalten. Um die generativen KI-gestützten Modelle in Canvas zu verwenden, müssen Sie bei der Einrichtung Ihrer SageMaker Amazon-Domain die Konfigurationsberechtigungen für Ready-to-use Canvas-Modelle aktivieren. Weitere Informationen finden Sie unter Voraussetzungen für die Einrichtung von Amazon SageMaker Canvas. Die Konfiguration der Ready-to-use Canvas-Modelle ordnet die AmazonSageMakerCanvasAIServicesAccessRichtlinie der Ausführungsrolle Ihres Canvas-Benutzers AWS Identity and Access Management (IAM) zu. Wenn Sie Probleme mit der Vergabe von Berechtigungen haben, finden Sie weitere Informationen im Thema Behebung von Problemen bei der Erteilung von Berechtigungen über die SageMaker Konsole.

Wenn Sie Ihre Domain bereits eingerichtet haben, können Sie Ihre Domain-Einstellungen bearbeiten und die Berechtigungen aktivieren. Anweisungen zur Bearbeitung Ihrer Domain-Einstellungen finden Sie unterBearbeiten Sie die Domäneneinstellungen. Wenn Sie die Einstellungen für Ihre Domain bearbeiten, gehen Sie zu den Canvas-Einstellungen und aktivieren Sie die Option Ready-to-use Canvas-Modelle aktivieren.

Bei bestimmten JumpStart Foundation-Modellen müssen Sie außerdem eine Erhöhung des SageMaker Instanzkontingents beantragen. Canvas hostet die Modelle, mit denen Sie gerade auf diesen Instances interagieren, aber das Standardkontingent für Ihr Konto ist möglicherweise unzureichend. Wenn bei der Ausführung eines der folgenden Modelle ein Fehler auftritt, fordern Sie eine Erhöhung des Kontingents für die zugehörigen Instance-Typen an:

• Falcon-40B – ml.g5.12xlarge, ml.g5.24xlarge

• Falcon-13B – ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

• MPT-7B-Anweisung —,, ml.g5.2xlarge ml.g5.4xlarge ml.g5.8xlarge

Fordern Sie für die vorherigen Instance-Typen eine Erhöhung der Endpunktnutzungsquote von 0 auf 1 an. Weitere Informationen zum Erhöhen der Instance-Kontingente für Ihr Konto finden Sie unter Anfordern einer Kontingentserhöhung im Service Quotas-Benutzerhandbuch.

Voraussetzungen für das Abfragen von Dokumenten

Anmerkung

Die Dokumentabfrage wird in den folgenden Ländern unterstützt AWS-Regionen: USA Ost (Nord-Virginia), USA Ost (Ohio), USA West (Oregon), Europa (Irland), Asien-Pazifik (Singapur), Asien-Pazifik (Sydney), Asien-Pazifik (Tokio) und Asien-Pazifik (Mumbai).

Die Funktion zur Dokumentenabfrage setzt voraus, dass Sie bereits über einen Amazon Kendra-Index verfügen, in dem Ihre Dokumente und Dokumentmetadaten gespeichert sind. Weitere Informationen zu Amazon Kendra finden Sie im Amazon Kendra-Entwicklerhandbuch. Weitere Informationen zu den Kontingenten für die Abfrage von Indizes finden Sie unter Kontingente im Amazon Kendra-Benutzerhandbuch.

Sie müssen auch sicherstellen, dass Ihr Canvas-Benutzerprofil über die erforderlichen Berechtigungen für die Dokumentenabfrage verfügt. Die AmazonSageMakerCanvasFullAccessRichtlinie muss der AWS IAM Ausführungsrolle für die SageMaker Domäne zugewiesen werden, die Ihre Canvas-Anwendung hostet (diese Richtlinie ist standardmäßig allen neuen und vorhandenen Canvas-Benutzerprofilen zugeordnet). Sie müssen außerdem ausdrücklich Berechtigungen für die Dokumentenabfrage gewähren und den Zugriff auf einen oder mehrere Amazon Kendra-Indizes angeben.

Wenn Ihr Canvas-Administrator eine neue Domäne oder ein neues Benutzerprofil einrichtet, lassen Sie ihn die Domain einrichten, indem Sie den Anweisungen unter folgenVoraussetzungen für die Einrichtung von Amazon SageMaker Canvas. Während der Einrichtung der Domain können sie das Dokument über die Konfiguration der Ready-to-use Canvas-Modelle für die Dokumentenabfrage aktivieren.

Der Canvas-Administrator kann die Berechtigungen für die Dokumentenabfrage auch auf Benutzerprofilebene verwalten. Wenn der Administrator beispielsweise einigen Benutzerprofilen Berechtigungen für die Dokumentenabfrage gewähren, anderen jedoch Berechtigungen entziehen möchte, kann er die Berechtigungen für einen bestimmten Benutzer bearbeiten.

Nachfolgend wird gezeigt, wie Sie Berechtigungen für Dokumentabfragen für ein bestimmtes Benutzerprofil aktivieren:

1. Öffnen Sie die SageMaker Konsole unter. https://console.aws.amazon.com/sagemaker/

2. Wählen Sie im linken Navigationsbereich Admin-Konfigurationen.

3. Wählen Sie unter Admin-Konfigurationen die Option Domains aus.

4. Wählen Sie aus der Liste der Domänen die Domäne des Benutzerprofils aus.

5. Wählen Sie auf der Seite mit den Domänendetails das Benutzerprofil aus, dessen Berechtigungen Sie bearbeiten möchten.

6. Klicken Sie auf der Seite Details des Benutzers auf Bearbeiten.

7. Wählen Sie im linken Navigationsbereich die Option Canvas Einstellungen aus.

8. Aktivieren Sie im Konfigurationsbereich für Ready-to-use Canvas-Modelle die Option Dokumentabfrage mithilfe von Amazon Kendra aktivieren.

9. Wählen Sie in der Dropdown-Liste einen oder mehrere Amazon Kendra-Indizes aus, auf die Sie Zugriff gewähren möchten.

10. Wählen Sie Senden, um die Änderungen an Ihren Domain-Einstellungen zu speichern.

Sie sollten jetzt in der Lage sein, Canvas Foundation-Modelle zu verwenden, um Dokumente in den angegebenen Amazon Kendra-Indizes abzufragen.