Bereitstellungsoptionen für KI-Agentenprodukte

AWS Marketplace unterstützt mehrere Bereitstellungsoptionen für KI-Agenten, sodass Sie den Ansatz wählen können, der am besten zu Ihrer Architektur und Ihren Kundenanforderungen passt:

• API-Bereitstellungsoption — Mit der API-Bereitstellungsoption können Kunden über vom Anbieter gehostete Endpunkte auf Ihren KI-Agenten zugreifen. Diese Option ist ideal für Agenten und Agententools, die eine spezielle Infrastruktur oder proprietäre Modelle benötigen, die Sie in Ihrer eigenen Umgebung behalten möchten.

• Container-Bereitstellung — Verpacken Sie Ihren KI-Agenten und Ihre Agententools als containerisierte Anwendungen, die Kunden in ihren eigenen Umgebungen ausführen können. AWS Diese Option bietet Kunden eine bessere Kontrolle über ihre Daten und Infrastruktur.

Einzelheiten zur API-Bereitstellung

Bei der API-Bereitstellung hosten und verwalten Sie den KI-Agenten oder das KI-Tool in Ihrer eigenen Umgebung und stellen die Funktionalität über klar definierte API-Endpunkte zur Verfügung. Diese Bereitstellungsmethode unterstützt zwei Integrationsmuster, die die Kundenstartmethode bestimmen: Schnellstart, bei dem Verkäufer den AWS Marketplace Bereitstellungsservice integrieren und API-Schlüssel bei Abschluss des Abonnements direkt an die AWS Kundenkonten weitergeben; und reguläre Weiterleitung, bei der Kunden auf die Website des Verkäufers weitergeleitet werden, um API-Schlüssel oder OAuth Nutzungsanweisungen zu erhalten. Dieser Ansatz bietet mehrere Vorteile, darunter die folgenden:

• Schützen Sie proprietäre Modelle und Algorithmen

• Zentralisierte Updates und Verbesserungen

• Konsistente Leistung bei allen Kunden

• Vereinfachtes Kunden-Onboarding

Wenn Sie einen über eine API bereitgestellten Agenten auflisten, müssen Sie eine umfassende API-Dokumentation, detaillierte Nutzungsanweisungen, Authentifizierungsmethoden und Endpunktspezifikationen bereitstellen, um sicherzustellen, dass Kunden Ihren Service erfolgreich integrieren können.

Einzelheiten zur Container-Bereitstellung

Bei der Container-Bereitstellung wird Ihr KI-Agent oder -Tool als containerisierte Anwendung verpackt, die Kunden in ihren eigenen AWS Umgebungen ausführen können. Dieser Ansatz bietet die folgenden Vorteile:

• Die Daten verbleiben in der Umgebung des Kunden

• Anpassbare Bereitstellungskonfigurationen

• Integration in die bestehende Infrastruktur des Kunden

• Support für Air-Gapped- oder Hochsicherheitsumgebungen

Wenn Sie einen Agenten in Containern anbieten, geben Sie klare Bereitstellungsanweisungen, Ressourcenanforderungen und Konfigurationsoptionen an, um eine erfolgreiche Implementierung durch den Kunden sicherzustellen.

Auswahl der richtigen Bereitstellungsoption

Berücksichtigen Sie bei der Auswahl einer Bereitstellungsoption für Ihren KI-Agenten oder Ihr KI-Tool die folgenden Faktoren:

• Datensensitivität — Wenn Ihre Kunden mit hochsensiblen Daten arbeiten, die ihre Umgebung nicht verlassen können, ist der Einsatz von Containern möglicherweise die beste Option.

• Komplexität des Modells — Bei großen oder komplexen Modellen, die spezielle Hardware erfordern, ist die API-Bereitstellung möglicherweise praktischer.

• Betriebsaufwand — Berücksichtigen Sie die Ressourcen, die für die Wartung und Aktualisierung Ihrer Lösung in verschiedenen Bereitstellungsmodellen erforderlich sind.