Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Wählen Sie einen generativen KI-Service
Machen Sie den ersten Schritt
| Zweck |
Ermitteln Sie, welche AWS generativen KI-Services für Ihr Unternehmen am besten geeignet sind. |
| Letzte Aktualisierung |
14. Februar 2025 |
| Abgedeckte Dienstleistungen |
|
Einführung
Generative KI ist eine Reihe von Systemen und Modellen für künstliche Intelligenz (KI), mit denen Inhalte wie Code, Text, Bilder, Musik oder andere Datenformen generiert werden können. Diese Systeme können neue Inhalte auf der Grundlage von Mustern und Erkenntnissen erstellen, die aus vorhandenen Daten gewonnen wurden. Organisationen und Unternehmen nutzen zunehmend generative KI, um:
-
Automatisieren Sie kreative Workflows — Verwenden Sie generative KI-Dienste, um die Workflows zeitaufwändiger kreativer Prozesse wie Schreiben, Bild- oder Videoerstellung und Grafikdesign zu automatisieren.
-
Inhalte anpassen und personalisieren — Generieren Sie zielgerichtete Inhalte, Produktempfehlungen und maßgeschneiderte Angebote für einen zielgruppenspezifischen Kontext.
-
Daten erweitern — Synthetisieren Sie große Trainingsdatensätze für andere ML-Modelle, um Szenarien zu erschließen, in denen Daten, die von Menschen gekennzeichnet sind, knapp sind.
-
Kosten senken — Senken Sie potenziell die Kosten, indem Sie synthetisierte Daten, Inhalte und digitale Ressourcen verwenden.
-
Schnelleres Experimentieren — Testen und iterieren Sie mehr Inhaltsvariationen und kreative Konzepte, als dies manuell möglich wäre.
Dieser Leitfaden hilft Ihnen bei der Auswahl der AWS generativen KI-Dienste und -Tools, die am besten zu Ihren Bedürfnissen und Ihrem Unternehmen passen.
Verstehen
Amazon bietet eine Reihe generativer KI-Dienste, Anwendungen, Tools und unterstützender Infrastruktur. Welche davon Sie verwenden, hängt stark von den folgenden Faktoren ab:
-
Was versuchst du zu tun
-
Wie viel Auswahl benötigen Sie bei den von Ihnen verwendeten Foundation-Modellen
-
Der Grad der Anpassung, den Sie in Ihren generativen KI-Anwendungen benötigen
-
Das Fachwissen in Ihrer Organisation
Amazon Q Business und Amazon Q Developer — Anwendungen zur Steigerung der Produktivität
Amazon Q Business und Amazon Q Developer stehen an der Spitze des generativen KI-Stacks von Amazon und verwenden große Sprachmodelle (LLMs) und Basismodelle. Sie erfordern jedoch nicht, dass Sie explizit ein Modell auswählen. Jede dieser Anwendungen unterstützt unterschiedliche Anwendungsfälle und alle werden von Amazon Bedrock unterstützt.
Erfahren Sie mehr über die wichtigsten generativen KI-gestützten Assistenten, die derzeit verfügbar sind:
- Amazon Q Business
-
Amazon Q Business kann auf der Grundlage der Daten in Ihren Unternehmenssystemen Fragen beantworten, Zusammenfassungen bereitstellen, Inhalte generieren und Aufgaben sicher erledigen. Es unterstützt den allgemeinen Anwendungsfall der Verwendung generativer KI, um das Beste aus den Informationen in Ihrem Unternehmen herauszuholen. Mit Amazon Q Business können Sie English-language Fragen zu diesen Informationen stellen. Es bietet Antworten in einer Weise, die den Bedürfnissen Ihres Teams entspricht. Darüber hinaus können Sie im Rahmen Ihres Amazon Q Business Pro-Abonnements einfache, speziell entwickelte Amazon Q-Apps erstellen.
- Amazon Q Developer
-
Mit Amazon Q Developer können Sie Anwendungen verstehen, erstellen, erweitern und betreiben AWS . Zu den unterstützten Anwendungsfällen gehören Aufgaben, die vom Programmieren, Testen und Aktualisieren von Anwendungen bis hin zur Fehlerdiagnose, Durchführung von Sicherheitsüberprüfungen und -behebungen sowie der Optimierung von AWS Ressourcen reichen. Die fortschrittlichen, mehrstufigen Planungs- und Argumentationsfunktionen in Amazon Q Developer zielen darauf ab, den Arbeitsaufwand für allgemeine Aufgaben (wie die Durchführung von Java-Versions-Upgrades) zu reduzieren. Diese Funktionen können auch dazu beitragen, neue Funktionen zu implementieren, die aus Entwickleranfragen generiert wurden.
Amazon Q Developer-Funktionen sind als Teil Ihrer Workflows in anderen Bereichen verfügbar AWS-Services, darunter Amazon Q Developer in Chat-Anwendungen, Amazon CodeCatalyst, Amazon EC2 und VPC Reachability Analyzer. AWS Glue
Chatten Sie mit Amazon Q Developer, um Ihre AWS Infrastruktur direkt von der aus abzufragen und zu erkunden. AWS-Managementkonsole Mithilfe von Eingabeaufforderungen in natürlicher Sprache für die Interaktion mit Ihnen AWS-Konto können Sie spezifische Ressourcendetails abrufen und Fragen zu den Beziehungen zwischen Ressourcen stellen.
- Amazon Q in Quick
-
Amazon Q in Quick ist darauf ausgerichtet, die Anforderungen eines bestimmten Anwendungsfalls zu erfüllen: Sie erhalten umsetzbare Erkenntnisse aus Ihren Daten, indem Sie Amazon Q mit dem Amazon Q Quick Business Intelligence (BI) -Service verbinden. Sie können es verwenden, um Visualisierungen Ihrer Daten zu erstellen, Erkenntnisse zusammenzufassen, Datenfragen zu beantworten und Datenstorys in natürlicher Sprache zu erstellen.
- Amazon Q in Connect
-
Amazon Q in Connect kann Kundenprobleme automatisch erkennen. Es bietet Ihren Kundendienstmitarbeitern kontextbezogene Kundeninformationen sowie Vorschläge für Antworten und Maßnahmen zur schnelleren Lösung von Problemen. Es kombiniert die Funktionen des Amazon Connect Cloud Contact Center-Service mit Amazon Q. Amazon Q in Connect kann Ihre Echtzeitgespräche mit Ihren Kunden zusammen mit relevanten Unternehmensinhalten verwenden, um zu empfehlen, was zu sagen ist oder welche Maßnahmen ein Mitarbeiter ergreifen sollte, um Kunden zu unterstützen.
Amazon Bedrock — Erstellen und skalieren Sie Ihre generative KI-Anwendung mit FMs
Wenn Sie benutzerdefinierte KI-Anwendungen entwickeln, Zugriff auf mehrere Basismodelle benötigen und mehr Kontrolle über die KI-Modelle und -Ausgaben wünschen, dann könnte Amazon Bedrock der Service sein, der Ihren Anforderungen entspricht. Amazon Bedrock ist ein vollständig verwalteter Service für die Entwicklung generativer KI-Anwendungen mit Unterstützung für beliebte Basismodelle, darunter Amazon Nova, Amazon Titan, Anthropic Claude DeepSeek-R1, Cohere Command & Embed, AI21 Labs Jurassic, Meta Llama, Mistral AI und Stable Diffusion XL.
Verwenden Sie den Amazon Bedrock Marketplace, um über 100 beliebte, neue und spezialisierte FMs zu entdecken, zu testen und zu verwenden. Unterstützte FMs werden regelmäßig aktualisiert.
Darüber hinaus bietet Amazon Bedrock alles, was Sie für die Entwicklung generativer KI-Anwendungen mit Sicherheit, Datenschutz und verantwortungsvoller KI benötigen — unabhängig davon, für welches Basismodell Sie sich entscheiden. Es bietet außerdem modellunabhängigen Zugriff auf eine einzige API und die Flexibilität, verschiedene Basismodelle zu verwenden und ein Upgrade auf die neuesten Modellversionen mit minimalen Codeänderungen durchzuführen.
Erfahren Sie mehr über die wichtigsten Funktionen von Amazon Bedrock:
- Model customization
-
Die Modellanpassung kann zu differenzierten und personalisierten Benutzererlebnissen führen. Um Modelle für bestimmte Aufgaben anzupassen, können Sie FMs mithilfe Ihrer eigenen beschrifteten Datensätze privat optimieren. Zu den benutzerdefinierten Modellen gehören Funktionen wie die Feinabstimmung und das kontinuierliche Vortraining mithilfe unbeschrifteter Datensätze. Die Liste der FMs, für die Amazon Bedrock die Feinabstimmung unterstützt, umfasst Amazon Nova Micro, Lite und Pro, Anthropic Claude 3 Haiku, Cohere Command, Meta Llama 2, Amazon Titan Text Lite und Express, Amazon Titan Multimodal Embeddings und Amazon Titan Image Generator. Die Liste der unterstützten FMs wird laufend aktualisiert.
Darüber hinaus können Sie Amazon Bedrock Custom Model Import verwenden, um Ihre eigenen benutzerdefinierten Modelle mitzubringen und sie in Amazon Bedrock zu verwenden.
- Knowledge Bases
-
Amazon Bedrock Knowledge Bases ist eine vollständig verwaltete Funktion, mit der Sie den gesamten Retrieval Augmented Generation (RAG) -Workflow implementieren können — von der Erfassung über den Abruf bis hin zur sofortigen Erweiterung —, ohne benutzerdefinierte Integrationen für Datenquellen erstellen und Datenflüsse verwalten zu müssen. Das Sitzungskontextmanagement ist integriert, sodass Ihre Anwendung Konversationen mit mehreren Runden unterstützen kann. Sie können die Retrieve-API verwenden, um relevante Ergebnisse für eine Benutzerabfrage aus Wissensdatenbanken abzurufen.
Mit RAG können Sie ein Modell mit neuem Wissen oder aktuellen Informationen aus mehreren Quellen, einschließlich Dokumentablagen, Datenbanken und APIs, bereitstellen. Beispielsweise könnte das Modell RAG verwenden, um Suchergebnisse von Amazon OpenSearch Service oder Dokumente von Amazon Simple Storage Service abzurufen. Amazon Bedrock Knowledge Bases verwaltet dieses Erlebnis vollständig, indem es eine Verbindung zu Ihren privaten Datenquellen herstellt, einschließlich Amazon Aurora, Amazon OpenSearch Serverless, MongoDB, Pinecone und Redis Enterprise Cloud. Diese Liste enthält Konnektoren für Salesforce, Confluence und SharePoint (in der Vorversion), sodass Sie auf mehr Geschäftsdaten zugreifen können, um Modelle an Ihre spezifischen Bedürfnisse anzupassen.
- Agents
-
Amazon Bedrock Agents hilft Ihnen bei der Planung und Erstellung mehrstufiger Aufgaben mithilfe von Unternehmenssystemen und Datenquellen — von der Beantwortung von Kundenfragen zu Ihrer Produktverfügbarkeit bis hin zur Annahme ihrer Bestellungen. Sie können einen Agenten erstellen, indem Sie zuerst einen FM auswählen und ihm dann Zugriff auf Ihre Unternehmenssysteme, Wissensdatenbanken und AWS Lambda Funktionen gewähren, um Ihre APIs sicher auszuführen. Ein Agent analysiert die Benutzeranfrage, und eine Lambda-Funktion oder Ihre Anwendung kann automatisch die erforderlichen APIs und Datenquellen aufrufen, um die Anfrage zu erfüllen.
Agenten können das Gedächtnis über mehrere Interaktionen hinweg speichern, um sich daran zu erinnern, wo Sie zuletzt aufgehört haben, und auf der Grundlage früherer Interaktionen bessere Empfehlungen aussprechen. Agenten können Code auch interpretieren, um komplexe datengesteuerte Anwendungsfälle wie Datenanalyse, Datenvisualisierung, Textverarbeitung, Lösung von Gleichungen und Optimierungsproblemen zu bewältigen.
- Guardrails
-
Amazon Bedrock Guardrails bewertet Benutzereingaben und FM-Antworten auf der Grundlage anwendungsfallspezifischer Richtlinien und bietet eine zusätzliche Schutzebene, unabhängig vom zugrunde liegenden FM. Mithilfe einer kurzen Beschreibung in natürlicher Sprache können Sie Amazon Bedrock Guardrails verwenden, um eine Reihe von Themen zu definieren, die Sie im Kontext Ihrer Anwendung vermeiden sollten. Guardrails erkennt und blockiert Benutzereingaben und FM-Antworten, die zu den eingeschränkten Themen gehören.
Guardrails unterstützt kontextuelle Erdungsprüfungen, um Halluzinationen in Modellantworten für Anwendungen zu erkennen, die Retrieval Augmented Generation (RAG) und Zusammenfassungsanwendungen verwenden. Kontextuelle Erdungsprüfungen ergänzen den Sicherheitsschutz in Guardrails, um sicherzustellen, dass die LLM-Antwort auf den richtigen Unternehmensdaten basiert, und wertet die LLM-Antwort aus, um zu bestätigen, dass sie für die Anfrage oder Anweisung des Benutzers relevant ist. Kontextuelle Erdungsprüfungen können über 75% halluzinierter Antworten für RAG- und Zusammenfassungs-Workloads erkennen und filtern.
- Converse API
-
Verwenden Sie die Amazon Bedrock Converse-API, um Konversationsanwendungen zu erstellen, die Nachrichten an und von einem Amazon Bedrock-Modell senden und empfangen. Sie können beispielsweise einen Chatbot erstellen, der eine Konversation über viele Runden hinweg führt und eine Persona- oder Tonanpassung verwendet, die speziell auf Ihre Bedürfnisse zugeschnitten ist, z. B. einen hilfreichen Assistenten für den technischen Support.
- Tool use (function calling)
-
Durch die Verwendung von Tools (Funktionsaufruf) erhält ein Model Zugriff auf Tools, mit deren Hilfe es Antworten auf Nachrichten generieren kann, die Sie an das Model senden. Möglicherweise verfügen Sie über eine Chat-Anwendung, mit der Benutzer ermitteln können, welcher Song bei einem Radiosender am beliebtesten ist. Um eine Anfrage nach dem beliebtesten Song zu beantworten, benötigt ein Modell ein Tool, das die Titelinformationen abfragen und zurückgeben kann.
- Amazon Bedrock IDE
-
Verwenden Sie Amazon Bedrock IDE, eine Entwicklungserfahrung in Amazon SageMaker Unified Studio (in der Vorversion), mit der Sie Amazon Bedrock-Modelle entdecken und generative KI-Apps erstellen können, die Amazon Bedrock-Modelle und -Funktionen verwenden. Sie können beispielsweise einen Chat-Spielplatz verwenden, um eine Eingabeaufforderung mit einem Anthropic Claude-Modell auszuprobieren, ohne Code schreiben zu müssen. Später können Sie Amazon Bedrock IDE verwenden, um eine generative KI-App zu erstellen, die wiederum ein Amazon Bedrock-Modell und Funktionen wie eine Wissensdatenbank oder eine Leitplanke verwendet, ohne Code schreiben zu müssen.
- Prompt management
-
Verwenden Sie Amazon Bedrock, um mithilfe der Prompt-Verwaltung Ihre eigenen Eingabeaufforderungen zu erstellen und zu speichern, sodass Sie Zeit sparen können, indem Sie dieselbe Aufforderung auf verschiedene Workflows anwenden. Wenn Sie einen Prompt erstellen, können Sie ein Modell auswählen, für das Inferenz ausgeführt werden soll, und die zu verwendenden Inferenzparameter ändern. Sie können Variablen in den Prompt aufnehmen, sodass Sie den Prompt an verschiedene Anwendungsfälle anpassen können.
- Prompt flows
-
Prompt Flows für Amazon Bedrock bietet Ihnen die Möglichkeit, unterstützte FMs zum Erstellen von Workflows zu verwenden, indem Sie Prompts, grundlegende Modelle und andere Elemente miteinander verknüpfen, um umfassende Lösungen zu erstellen. AWS-Services
Mit Prompt-Flows können Sie mithilfe eines visuellen Builders schnell komplexe generative KI-Workflows erstellen. Sie können Amazon Bedrock-Angebote wie FMs, Wissensdatenbanken und andere AWS-Services integrieren, AWS Lambda indem Sie Daten zwischen ihnen übertragen. Sie können auch unveränderliche Workflows bereitstellen, um mit wenigen Klicks vom Testen zur Produktion überzugehen.
Amazon SageMaker AI (ehemals Amazon SageMaker) — Erstellen Sie benutzerdefinierte Modelle und kontrollieren Sie den gesamten ML-Lebenszyklus, von der Datenaufbereitung bis hin zur Modellbereitstellung und Überwachung
Mit Amazon SageMaker AI können Sie Modelle für maschinelles Lernen, einschließlich FMs, in großem Maßstab erstellen, trainieren und bereitstellen. Ziehen Sie diese Option in Betracht, wenn Sie Anwendungsfälle haben, die von einer umfassenden Schulung, Feinabstimmung und Anpassung der Basismodelle profitieren können. Es vereinfacht auch die manchmal schwierige Aufgabe, herauszufinden, welches FM für Ihren Anwendungsfall am besten geeignet ist.
Amazon SageMaker AI bietet auch Infrastruktur und speziell entwickelte Tools für den Einsatz während des gesamten ML-Lebenszyklus, darunter integrierte Entwicklungsumgebungen (IDEs), verteilte Trainingsinfrastruktur, Governance-Tools, Tools für maschinelles Lernen (MLOps), Inferenzoptionen und Empfehlungen sowie Modellevaluierung.
Verwenden Sie Amazon SageMaker Partner AI Apps, um auf Entwicklungsanwendungen für generative KI und maschinelles Lernen (ML) zuzugreifen, die von branchenführenden Anwendungsanbietern erstellt, veröffentlicht und vertrieben werden. Die KI-Apps von Partnern sind für die Ausführung auf SageMaker KI zertifiziert. Mit KI-Apps von Partnern können Sie die Art und Weise verbessern, wie Sie Lösungen auf der Grundlage von Fundamentmodellen (FM) und klassischen ML-Modellen erstellen, ohne die Sicherheit Ihrer sensiblen Daten zu gefährden. Die Daten bleiben vollständig innerhalb Ihrer vertrauenswürdigen Sicherheitskonfiguration und werden niemals an Dritte weitergegeben.
SageMaker KI ist Teil der nächsten Generation von Amazon SageMaker, zu der gehören:
-
Amazon SageMaker Unified Studio (in der Vorversion), ein einheitliches Entwicklungserlebnis, das Dienste für AWS
Daten, Analysen, künstliche Intelligenz (KI) und maschinelles Lernen (ML) vereint.
-
AWS Tools für komplette Entwicklungsabläufe, einschließlich Modellentwicklung, generativer KI-App-Entwicklung, Datenverarbeitung und SQL-Analysen, in einer einzigen verwalteten Umgebung. Erstellen Sie Projekte oder treten Sie ihnen bei, um mit Ihren Teams zusammenzuarbeiten, KI- und Analytics-Artefakte sicher auszutauschen und über Amazon SageMaker Lakehouse auf Ihre in Amazon Simple Storage Service (Amazon S3), Amazon Redshift und weiteren Datenquellen gespeicherten Daten zuzugreifen.
Lernen Sie die wichtigsten Funktionen von SageMaker KI kennen, anhand derer Sie entscheiden können, wann Sie sie verwenden sollten:
- Amazon SageMaker JumpStart
-
Amazon SageMaker JumpStart ist ein ML-Hub, der Zugriff auf öffentlich verfügbare Basismodelle bietet. Zu diesen Modellen gehören Mistral, Llama 3 und CodeLlama Falcon 2. Sie können mit fortschrittlichen Feinabstimmungs- und Einsatztechniken wie Parameter Efficient Fine-Tuning (PEFT) und Adaptation (LoRa) angepasst werden. Low-Rank
Der folgende Screenshot zeigt einige der bei Amazon SageMaker JumpStart verfügbaren Modelle in der. AWS-Managementkonsole
- Amazon SageMaker Clarify
-
Amazon SageMaker Clarify befasst sich mit der äußerst wichtigen Entscheidung, welches Basismodell verwendet werden soll. Verwenden Sie Amazon SageMaker Clarify, um Aufträge zur Modellbewertung zu erstellen. Bei einer Modellevaluierung werden die Kennzahlen zur Modellqualität und -verantwortung für textbasierte Basismodelle von bewertet und verglichen. JumpStart Bei der Modellevaluierung wird auch die Verwendung von JumpStart Modellen unterstützt, die bereits an einem Endpunkt bereitgestellt wurden.
- Amazon SageMaker Canvas
-
Mit Amazon SageMaker Canvas können Sie maschinelles Lernen verwenden, um Vorhersagen zu generieren, ohne Code schreiben zu müssen. Sie können Amazon SageMaker Canvas auch in Zusammenarbeit mit Amazon Bedrock verwenden, um Sprachmodelle zu optimieren und bereitzustellen.
In diesem Blogbeitrag wird beschrieben, wie Sie sie verwenden können, um die Kundeninteraktion zu optimieren, indem Sie mit Ihren eigenen Datensätzen (z. B. Ihren häufig gestellten Fragen zu Produkten) in Amazon Bedrock und Amazon arbeiten. SageMaker JumpStart Das folgende Diagramm aus diesem Blogbeitrag zeigt, wie Amazon SageMaker Canvas und Amazon Bedrock zusammen zur Feinabstimmung und Bereitstellung von Sprachmodellen verwendet werden können.
- Amazon SageMaker Studio
-
Amazon SageMaker Studio ist ein webbasiertes Erlebnis für die Ausführung von ML-Workflows. Studio bietet eine Suite integrierter Entwicklungsumgebungen (IDEs). Dazu gehören der Code-Editor Code-OSS, der auf Visual Studio Code — Open Source, einer neuen JupyterLab Anwendung, RStudio und Amazon SageMaker Studio Classic basiert. Weitere Informationen finden Sie unter In Amazon SageMaker Studio unterstützte Anwendungen.
Die webbasierte Benutzeroberfläche in Studio bietet Zugriff auf alle SageMaker KI-Ressourcen, einschließlich Jobs und Endpunkten, in einer Oberfläche. ML-Anwender können auch ihre bevorzugte IDE auswählen, um die ML-Entwicklung zu beschleunigen. Ein Datenwissenschaftler kann sie verwenden JupyterLab , um Daten zu untersuchen und Modelle zu optimieren. Darüber hinaus kann ein MLOps-Ingenieur (Machine Learning Operations) den Code Editor mit dem Pipeline-Tool in Studio verwenden, um Modelle in der Produktion bereitzustellen und zu überwachen.
Amazon SageMaker Studio beinhaltet generative KI-Unterstützung, die von Amazon Q Developer direkt in Ihrer JupyterLab integrierten Entwicklungsumgebung (IDE) unterstützt wird. Mit Q Developer können Sie auf fachkundige Anleitungen zu SageMaker KI-Funktionen, Codegenerierung und Fehlerbehebung zugreifen.
Infrastruktur zum Erstellen und Trainieren von KI-Modellen
AWS bietet spezialisierte, beschleunigte Hardware für leistungsstarkes ML-Training und Inferenz.
-
AWS
Trainium2-powered Amazon EC2 Trn2-Instances und Trn2 UltraServers bieten die höchste Leistung für KI-Training und Inferenz. AWS
-
AWS Trainiumist der ML-Beschleuniger der zweiten Generation, der speziell für das AWS Deep-Learning-Training (DL) von über 100 B Parametermodellen entwickelt wurde.
-
AWS Inferentia 2-basierte Amazon EC2 Inf2-Instances sind so konzipiert, dass sie in Amazon EC2 eine hohe Leistung zu den niedrigsten Kosten für Ihre DL- und generativen KI-Inferenzanwendungen bieten.
-
Amazon EC2 P5- und P5e-Instances, unterstützt von NVIDIA H100- und NVIDIA H200 Tensor Core-GPUs, die sich sowohl für Schulungs- als auch für Inferenzaufgaben im Bereich maschinelles Lernen gut eignen.
-
Amazon EC2 G6e-Instances verfügen über bis zu 8 NVIDIA L40S Tensor Core-GPUs und AMD EPYC-Prozessoren der dritten Generation für eine Vielzahl von grafikintensiven Anwendungsfällen und maschinellem Lernen.
Überlegen Sie
Nachdem Sie sich für einen generativen KI-Service entschieden haben, wählen Sie das Foundation-Modell (FM), das Ihnen für Ihren Anwendungsfall die besten Ergebnisse liefert.
Amazon Bedrock verfügt über eine Funktion zur Modellevaluierung, die Sie bei der Bewertung, dem Vergleich und der Auswahl der besten FMs für Ihren Anwendungsfall unterstützen kann.
Hier sind einige wichtige Faktoren, die Sie bei der Auswahl eines geeigneten FM für Ihren Anwendungsfall berücksichtigen sollten:
- Modality
-
Identifizieren Sie die Verwendung cases/modality
Was es ist: Modalität bezieht sich auf die Art der Daten, die das Modell verarbeitet: Text, Bilder (Vision) oder Einbettungen.
Warum das wichtig ist: Die Wahl der Modalität sollte sich an den Daten orientieren, mit denen Sie arbeiten. Wenn Ihr Projekt beispielsweise die Verarbeitung natürlicher Sprache beinhaltet, ist ein textbasiertes Modell wie Claude, Llama 3.1 oder Titan Text G1 geeignet. Wenn Sie Einbettungen erstellen möchten, können Sie ein Modell wie Titan Embeddings G1 verwenden. In ähnlicher Weise sind Modelle wie Stable Diffusion XL und Titan Image Generator v2 für bildbezogene Aufgaben besser geeignet. Ihr Anwendungsfall könnte auch die Berücksichtigung Ihrer Datenquelle und der Unterstützung von Datenquellen-Konnektoren beinhalten, wie sie beispielsweise in Amazon Q Business bereitgestellt werden.
- Model size
-
Größe des Modells
Was es ist: Dieses Kriterium bezieht sich auf die Anzahl der Parameter in einem Modell. Ein Parameter ist eine modellinterne Konfigurationsvariable. Ihre Werte können während der Trainingsphase anhand der gegebenen Trainingsdaten geschätzt (trainiert) werden. Parameter sind entscheidend, da sie direkt die Fähigkeit des Modells definieren, aus Daten zu lernen. Große Modelle haben oft mehr als 50 Milliarden Parameter.
Warum das wichtig ist: Die Anzahl der Parameter ist ein wichtiger Indikator für die Komplexität des Modells. Mehr Parameter bedeuten, dass das Modell komplexere Muster und Nuancen in den Daten erfassen kann, was im Allgemeinen zu einer besseren Leistung führt. Diese Modelle sind jedoch nicht nur teuer zu trainieren, sondern erfordern auch mehr Rechenressourcen für ihren Betrieb.
- Inference latency
-
Inferenz (Latenz)
Was es ist: Die Inferenzgeschwindigkeit oder Latenz ist die Zeit, die ein Modell benötigt, um Eingaben (oft in Token gemessen) zu verarbeiten und eine Ausgabe zurückzugeben. Diese Verarbeitungszeit ist entscheidend, wenn die Antworten des Modells Teil eines interaktiven Systems sind, wie z. B. ein Amazon Q-Entwickler in Chat-Anwendungen.
Warum das wichtig ist: Schnelle Reaktionszeiten sind für Echtzeitanwendungen wie interaktive Chatbots oder Sofortübersetzungsdienste unerlässlich. Diese Anwendungen hängen von der Fähigkeit des Modells ab, Aufforderungen schnell zu verarbeiten und darauf zu reagieren, um eine reibungslose Benutzererfahrung zu gewährleisten. Obwohl größere FMs in der Regel detailliertere und genauere Antworten bieten, können ihre komplexen Architekturen zu langsameren Inferenzgeschwindigkeiten führen. Diese langsamere Verarbeitung könnte Benutzer frustrieren, die eine sofortige Interaktion erwarten.
Um dieser Herausforderung zu begegnen, können Sie Modelle wählen, die für schnellere Antworten optimiert sind, auch wenn dies zu Abstrichen bei der Tiefe oder Genauigkeit der Antworten führen muss.
- Context window
-
Das Kontextfenster wird maximiert
Was es ist: Das Kontextfenster eines großen Sprachmodells gibt die Textmenge (in Tokens) an, die das Modell bei der Generierung von Antworten zu einem beliebigen Zeitpunkt berücksichtigen kann.
Warum das wichtig ist: Größere Kontextfenster ermöglichen es dem Modell, sich mehr Informationen in einem einzigen Durchlauf zu merken und zu verarbeiten. Diese Fähigkeit ist besonders nützlich bei komplexen Aufgaben wie dem Verstehen langer Dokumente, der Teilnahme an ausführlichen Gesprächen oder der Generierung kontextgenauer Texte über größere Zeiträume.
Beispielsweise kann sich ein Modell mit einem größeren Kontextfenster in einer Konversation mehr aus dem vorherigen Gespräch merken und Antworten geben, die für die gesamte Konversation relevanter sind. Dies führt zu einer natürlicheren und befriedigenderen Benutzererfahrung, da das Modell den Diskussionsfaden aufrechterhalten kann, ohne den Kontext zu verlieren.
- Pricing
-
Überlegungen zur Preisgestaltung
Was es ist: Die Kosten für die Nutzung eines FM werden von der Komplexität des Modells und der Preisstruktur des Modellanbieters beeinflusst.
Warum das wichtig ist: Der Einsatz von Hochleistungsmodellen ist aufgrund des erhöhten Rechenaufwands oft mit hohen Kosten verbunden. Diese Modelle bieten zwar erweiterte Funktionen, ihre Betriebskosten können jedoch hoch sein, insbesondere für Start-ups oder kleinere Projekte mit knappen Budgets.
Kleinere, weniger ressourcenintensive Modelle bieten eine budgetfreundlichere Option, ohne die Leistung wesentlich zu beeinträchtigen. Wägen Sie die Kosten des Modells gegen seine Vorteile ab, um sicherzustellen, dass es den finanziellen Einschränkungen Ihres Projekts gerecht wird und Sie den besten Wert für Ihre Investition erhalten.
- Fine-tuning
-
Fine-tuning und kontinuierliche Fähigkeit zur Vorbereitung des Trainings
Was es ist: Fine-tuning ist ein spezialisierter Trainingsprozess, bei dem ein vortrainiertes Modell, das anhand eines großen, generischen Datensatzes trainiert wurde, anhand eines kleineren, spezifischen Datensatzes weiter trainiert (oder optimiert) wird. Dieser Prozess passt das Modell an die Besonderheiten der neuen Daten an und verbessert so seine Leistung bei verwandten Aufgaben. Kontinuierliches Vortraining hingegen beinhaltet die Verlängerung der anfänglichen Phase vor dem Training um zusätzliche Schulungen zu neuen, neu aufkommenden Daten, die nicht Teil des ursprünglichen Trainingssatzes waren, sodass das Modell auch dann relevant bleibt, wenn sich die Daten weiterentwickeln. Sie können auch Retrieval Augmented Generation (RAG) verwenden, um Daten von außerhalb eines FM abzurufen und Ihre Eingabeaufforderungen zu erweitern, indem Sie die relevanten abgerufenen Daten im Kontext hinzufügen.
Warum das wichtig ist: Durch die Feinabstimmung können Sie die Modellgenauigkeit erhöhen, indem Sie Ihren eigenen, aufgabenspezifisch beschrifteten Trainingsdatensatz bereitstellen und Ihre FMs weiter spezialisieren. Durch kontinuierliches Training vor dem Training können Sie Modelle mithilfe Ihrer eigenen, unbeschrifteten Daten in einer sicheren und verwalteten Umgebung trainieren. Kontinuierliches Vortraining hilft den Modellen, domänenspezifischer zu werden, da sie über das ursprüngliche Training hinaus fundiertes Wissen und Anpassungsfähigkeit erwerben.
- Data quality
-
Qualität der Daten
Die Datenqualität ist ein entscheidender Faktor für den Erfolg einer generativen KI-Anwendung. Berücksichtigen Sie die folgenden Qualitätsfaktoren:
-
Relevanz: Stellen Sie sicher, dass die Daten, die Sie für das Training Ihres generativen KI-Modells verwenden, für Ihre Anwendung relevant sind. Irrelevante oder verrauschte Daten können zu einer schlechten Modellleistung führen.
-
Genauigkeit: Die Daten sollten korrekt und fehlerfrei sein. Ungenaue Daten können Ihr Modell irreführen und zu falschen Ausgaben führen.
-
Konsistenz: Sorgen Sie für Konsistenz in Ihren Daten. Inkonsistenzen in den Daten können das Modell verwirren und seine Fähigkeit beeinträchtigen, Muster zu lernen.
-
Voreingenommenheit und Fairness: Seien Sie sich der Verzerrungen in Ihren Daten bewusst, da diese zu verzerrten Modellergebnissen führen können. Ergreifen Sie Maßnahmen, um Verzerrungen abzuschwächen und die Fairness in Ihrem generativen KI-System sicherzustellen.
-
Anmerkung und Kennzeichnung: Wenn für Ihre Anwendung beschriftete Daten erforderlich sind, stellen Sie sicher, dass die Anmerkungen oder Beschriftungen von hoher Qualität sind und von Experten erstellt wurden.
-
Datenvorverarbeitung: Bereiten Sie Ihre Daten vor, indem Sie sie bereinigen und vorverarbeiten. Dies kann die Tokenisierung von Text, die Größenänderung von Bildern oder andere datenspezifische Transformationen beinhalten, um die Daten für das Training geeignet zu machen.
- Data quantity
-
Menge der Daten
Quantität und Qualität gehen Hand in Hand. Berücksichtigen Sie die folgenden Mengenfaktoren:
-
Ausreichende Daten: In den meisten Fällen sind mehr Daten besser. Größere Datensätze ermöglichen es Ihrem Modell, ein breiteres Spektrum an Mustern zu erlernen und besser zu generalisieren. Die erforderliche Datenmenge kann jedoch je nach Komplexität Ihrer Anwendung variieren.
-
Datenerweiterung: Wenn die Menge der verfügbaren Daten begrenzt ist, sollten Sie Techniken zur Datenerweiterung in Betracht ziehen. Bei diesen Techniken werden zusätzliche Trainingsbeispiele generiert, indem Transformationen auf vorhandene Daten angewendet werden. Sie können beispielsweise Bilder drehen, zuschneiden oder spiegeln oder Text paraphrasieren, um weitere Trainingsbeispiele zu erstellen.
-
Daten ausgleichen: Stellen Sie sicher, dass Ihr Datensatz ausgewogen ist, insbesondere wenn von Ihrer generativen KI-Anwendung erwartet wird, dass sie Ergebnisse mit gleicher Repräsentation in verschiedenen Kategorien oder Klassen liefert. Unausgewogene Datensätze können zu verzerrten Modellergebnissen führen.
-
Transfer Learning: Für bestimmte Anwendungen können Sie vortrainierte Modelle verwenden. Beim Transfer Learning können Sie Modelle verwenden, die mit riesigen Datensätzen trainiert wurden, und sie mit Ihren spezifischen Daten abstimmen, wobei häufig weniger Daten für die Feinabstimmung benötigt werden.
Es ist auch wichtig, Ihren Datensatz kontinuierlich zu überwachen und zu aktualisieren, wenn sich Ihre generativen KI-Anwendungen weiterentwickeln und neue Daten verfügbar werden.
- Quality of response
-
Qualität der Antwort
Was es ist: Das wichtigste Kriterium ist die Qualität der Antwort. Hier bewerten Sie die Ergebnisse eines Modells auf der Grundlage verschiedener Qualitätskennzahlen, darunter Genauigkeit, Relevanz, Toxizität, Fairness und Robustheit gegenüber gegnerischen Angriffen.
-
Mit der Genauigkeit wird gemessen, wie oft die Antworten des Modells korrekt sind (und Sie würden dies in der Regel anhand eines vorkonfigurierten Standards oder einer Basislinie messen).
-
Mit Relevanz wird bewertet, wie angemessen die Antworten für den Kontext oder die gestellte Frage sind.
-
Bei der Toxizitätsprüfung werden die Ergebnisse des Modells auf schädliche Verzerrungen oder unangemessene Inhalte überprüft.
-
Bei Fairness wird bewertet, ob die Antworten des Modells in Bezug auf verschiedene Gruppen unvoreingenommen sind.
-
Die Robustheit gibt an, wie gut das Modell mit absichtlich irreführenden oder böswilligen Eingaben umgehen kann, die es verwirren sollen.
Warum das wichtig ist: Die Zuverlässigkeit und Sicherheit der Modellausgaben sind von größter Bedeutung, insbesondere in Anwendungen, die direkt mit Benutzern interagieren oder automatisierte Entscheidungen treffen, die sich auf das Leben von Menschen auswirken können. High-qualityAntworten sichern das Vertrauen und die Zufriedenheit der Benutzer, reduzieren das Risiko von Kommunikationsfehlern und verbessern das allgemeine Nutzererlebnis, wodurch das Vertrauen Ihrer Kunden gewonnen wird.
Klicken Sie auf
| Kategorie Generative KI |
Wofür ist sie optimiert? |
Generative KI-Dienste |
|
Amazon Q
|
Generieren Sie Code und geben Sie Antworten auf Fragen zu Geschäftsdaten, indem Sie eine Verbindung zu Unternehmensdaten-Repositorys herstellen, um die Daten logisch zusammenzufassen, Trends zu analysieren und einen Dialog über die Daten zu führen.
|
Amazon Q Business
Amazon Q Developer
|
|
Amazon Bedrock
|
Wir bieten eine Auswahl an Basismodellen an, passen Sie diese mit Ihren eigenen Daten an und erstellen Sie generative KI-Anwendungen mit den Builder-Tools, die Amazon Bedrock anbietet.
|
Amazon Bedrock
Amazon Bedrock IDE
Amazon Nova
Amazonas Titan
|
|
Amazon SageMaker KI
|
Erstellung, Schulung und Bereitstellung von Modellen für maschinelles Lernen, einschließlich Basismodellen, in großem Maßstab.
|
Amazon SageMaker KI
|
|
Infrastruktur für FM-Training und Inferenz
|
Wir bieten Dienstleistungen an, die die Preis-/Leistungsvorteile bei FM-Training und Inferenz maximieren.
|
AWS Trainium
AWS Inferentia
|
Verwenden Sie
Nachdem wir nun die Kriterien behandelt haben, die Sie bei der Auswahl eines AWS generativen KI-Dienstes anwenden müssen, können Sie auswählen, welche Dienste für Ihre Bedürfnisse optimiert sind, und herausfinden, wie Sie mit der Nutzung der einzelnen Dienste beginnen können.
- Amazon Q Business
-
Was ist Amazon Q Business?
Verschaffen Sie sich einen Überblick über Amazon Q Business mit Erläuterungen dazu, was es ist, wie es funktioniert und wie Sie damit beginnen können.
Erkunden Sie den Leitfaden
Erstellen Sie eine Amazon Q Business-Anwendung
Erfahren Sie, wie Sie Ihre erste Amazon Q Business-Anwendung entweder in der AWS-Managementkonsole oder mithilfe der Befehlszeilenschnittstelle (CLI) erstellen.
Erkunden Sie den Leitfaden
Kombinieren Sie Amazon Q Business und AWS IAM Identity Center erstellen Sie generative KI-Apps
Erstellen Sie private und sichere generative KI-Apps für Unternehmen mit Amazon Q Business und AWS IAM Identity Center.
Lesen Sie den Blogbeitrag
- Amazon Q Developer
-
Was ist Amazon Q Developer?
Verschaffen Sie sich einen Überblick über Amazon Q Developer mit Erläuterungen dazu, was es ist, wie es funktioniert und wie Sie damit beginnen können.
Erkunden Sie den Leitfaden
Grundlegendes zu den Serviceebenen für Amazon Q Developer
Lesen Sie die folgenden Informationen, um sich über die Servicestufen von Amazon Q Developer, einschließlich Amazon Q Developer Pro und Amazon Q Developer im kostenlosen Tarif, zu informieren.
Erkunden Sie den Leitfaden
Arbeiten mit agentischer KI
Verwenden Sie das Builder Center, um schnell auf wichtige Artikel, Blogbeiträge, Videos und Tipps zum Erstellen, Bereitstellen und Skalieren von KI-Agenten zuzugreifen. AWS
Erkunden Sie agentische KI im Builder Center
- Amazon Bedrock
-
Was ist Amazon Bedrock?
Erfahren Sie, wie Sie diesen vollständig verwalteten Service nutzen können, um Ihnen die Foundation-Modelle (FMs) von Amazon und Drittanbietern über eine einheitliche API zur Verfügung zu stellen.
Erkunden Sie den Leitfaden
Häufig gestellte Fragen zu Amazon Bedrock
Hier erhalten Sie Antworten auf die am häufigsten gestellten Fragen zu Amazon Bedrock, einschließlich der Verwendung von Agenten, Sicherheitsüberlegungen, Details zu Amazon Bedrock Software Development Kits (SDKs), Retrieval Augmented Generation (RAG), zur Verwendung der Modellevaluierung und zur Funktionsweise der Abrechnung.
Lesen Sie die FAQs
Anleitung zum Generieren von Produktbeschreibungen mit Amazon Bedrock
Erfahren Sie, wie Sie Amazon Bedrock als Teil einer Lösung verwenden, um Ihren Produktbewertungs- und Genehmigungsprozess für einen E-Commerce-Marktplatz oder eine Einzelhandelswebsite zu automatisieren.
Erkunden Sie die Lösung
- Amazon Bedrock in SageMaker Unified Studio
-
Amazon Bedrock IDE wurde in SageMaker Unified Studio in Amazon Bedrock umbenannt.
-
Was ist Amazon Bedrock in SageMaker Unified Studio?
Verwenden Sie diese IDE, um Amazon Bedrock-Modelle zu entdecken und generative KI-Apps zu erstellen, die Amazon Bedrock-Modelle und -Funktionen verwenden.
Erkunden Sie den Leitfaden
-
Erstellen Sie generative KI-Anwendungen mit Amazon Bedrock in SageMaker Unified Studio
In diesem Blogbeitrag wird beschrieben, wie Sie mithilfe einer Vielzahl leistungsstarker Modelle Anwendungen erstellen können. Anschließend wird erklärt, wie Sie Ihre generativen KI-Apps mit Amazon Bedrock IDE evaluieren und teilen können.
Lesen Sie den Blog
-
Erstellen Sie eine Chat-App mit Amazon Bedrock in SageMaker Unified Studio
Erstellen Sie eine Chat-Agent-App, mit der Benutzer über eine Konversationsschnittstelle mit einem Amazon Bedrock-Modell chatten können.
Erkunden Sie den Leitfaden
- Amazon SageMaker AI
-
Was ist Amazon SageMaker AI?
Erfahren Sie, wie Sie diesen vollständig verwalteten Service für maschinelles Lernen (ML) verwenden können, um ML-Modelle zu erstellen, zu trainieren und in einer produktionsbereiten gehosteten Umgebung bereitzustellen.
Erkunden Sie den Leitfaden
Beginnen Sie mit Amazon SageMaker AI
Erfahren Sie, wie Sie einer Amazon SageMaker AI-Domain beitreten und so Zugriff auf Amazon SageMaker AI Studio und RStudio on SageMaker AI erhalten.
Erkunden Sie den Leitfaden
Fangen Sie mit Amazon an SageMaker JumpStart
Entdecken Sie SageMaker JumpStart Amazon-Lösungsvorlagen, die die Infrastruktur für gängige Anwendungsfälle einrichten, sowie ausführbare Beispiel-Notebooks für maschinelles Lernen mit SageMaker KI.
Erkunden Sie den Leitfaden
- Amazon SageMaker Unified Studio
-
Was ist Amazon SageMaker Unified Studio?
Erfahren Sie, wie Sie Amazon SageMaker Unified Studio (in der Vorversion) verwenden können, um Workflows von einer einzigen Oberfläche aus zu erstellen, bereitzustellen, auszuführen und zu überwachen.
Erkunden Sie den Leitfaden
Ein integriertes Erlebnis für all Ihre Daten und KI mit Amazon SageMaker Unified Studio
Erfahren Sie mehr über das neue Amazon SageMaker Unified Studio und erfahren Sie, wie es Ihre analytischen Workloads vereinheitlicht.
Lesen Sie den Blogbeitrag
Beginnen Sie mit Amazon SageMaker Unified Studio
Erfahren Sie, wie Sie Zugriff auf Amazon SageMaker Unified Studio erhalten, ein Projekt erstellen und dann Mitglieder zum Projekt hinzufügen und mithilfe des JupyterLab Beispielnotizbuchs mit der Erstellung einer Vielzahl von Tools und Ressourcen beginnen können.
Erkunden Sie den Leitfaden
- Amazon Nova
-
Was ist Amazon Nova?
Entdecken Sie Amazon Nova, eine neue Generation von Fundamentmodellen, die auf Amazon Bedrock erhältlich sind.
Erkunden Sie den Leitfaden
Wir stellen die Amazon Nova Foundation-Modelle vor: Grenzüberschreitende Intelligenz und branchenführendes Preisleistungsverhältnis
Erfahren Sie mehr über die neuen Amazon Nova-Modelle, darunter Beispiele für die Verwendung von Amazon Nova-Modellen zur Analyse komplexer Dokumente und Videos, zum Verständnis von Diagrammen und Diagrammen, zur Generierung ansprechender Videoinhalte und zur Entwicklung anspruchsvoller KI-Agenten.
Lesen Sie den Blogbeitrag
Beginnen Sie mit Amazon Nova in der Amazon Bedrock-Konsole
Erfahren Sie, wie Sie die Playgrounds verwenden, AWS-Managementkonsole um eine Textaufforderung an Amazon Nova-Modelle zu senden und eine Text- oder Bildantwort zu generieren
Erkunden Sie den Leitfaden
- Amazon Titan
-
Amazon Titan in Amazon Bedrock im Überblick
Verschaffen Sie sich einen Überblick über die Amazon Titan Foundation-Modelle (FMs) zur Unterstützung Ihrer Anwendungsfälle.
Erkunden Sie den Leitfaden
Cost-effective Dokumentenklassifizierung mithilfe des Amazon Titan Multimodal Embeddings Model
Erfahren Sie, wie Sie dieses Modell verwenden können, um Erkenntnisse aus großen Mengen von Dokumenten verschiedener Formate zu kategorisieren und zu extrahieren. In diesem Blog wird untersucht, wie Sie es verwenden können, um je nach Art des Dokuments die nächsten zu ergreifenden Maßnahmen zu bestimmen.
Lesen Sie den Blogbeitrag
Erstellen Sie generative KI-Anwendungen mit Amazon Titan Text Premier, Amazon Bedrock und AWS CDK
In diesem Blogbeitrag erfahren Sie, wie Sie zwei Beispielanwendungen erstellen und bereitstellen, die von Amazon Titan Text Premier unterstützt werden.
Lesen Sie den Blogbeitrag
- AWS Trainium
-
Überblick über AWS Trainium
Erfahren Sie mehr über AWS Trainium den Beschleuniger für maschinelles Lernen (ML) der zweiten Generation, der AWS speziell für das Deep-Learning-Training von über 100 B Parametermodellen entwickelt wurde. Jede Amazon EC2 Trn1-Instance setzt bis zu 16 AWS Trainium Beschleuniger ein, um eine leistungsstarke, kostengünstige Lösung für Deep-Learning-Schulungen (DL) in der Cloud bereitzustellen.
Erkunden Sie den Leitfaden
Empfohlene Trainium-Instances
Erfahren Sie, wie AWS Trainium Instances so konzipiert sind, dass sie eine hohe Leistung und Kosteneffizienz für Inferenz-Workloads mit Deep-Learning-Modellen bieten.
Erkunden Sie den Leitfaden
Skalierung verteilter Schulungen mit AWS Trainium und Amazon EKS
Wenn Sie Ihre Deep-Learning-Workloads (DL) mithilfe von Amazon Elastic Kubernetes Service (Amazon EKS) bereitstellen, erfahren Sie, wie Sie von der allgemeinen Verfügbarkeit von Amazon EC2 Trn1-Instances profitieren können, die von AWS Trainium einem speziell entwickelten ML-Beschleuniger unterstützt werden, der optimiert ist, um eine leistungsstarke, kostengünstige und äußerst skalierbare Plattform für das Training von DL-Modellen in der Cloud bereitzustellen.
Lesen Sie den Blogbeitrag
- AWS Inferentia
-
Überblick über AWS Inferentia
Erfahren Sie, wie Beschleuniger so AWS konzipiert werden, dass sie für Ihre Deep-Learning-Inferenzanwendungen (DL) eine hohe Leistung zu den niedrigsten Kosten bieten.
Erkunden Sie den Leitfaden
AWS Inferentia 2 baut auf AWS Inferentia 1 auf und bietet einen viermal höheren Durchsatz und eine 10-mal geringere Latenz
Erfahren Sie, wofür AWS Inferentia 2 optimiert ist und wie es so konzipiert wurde, dass es eine höhere Leistung bietet und gleichzeitig die Kosten für LLMs und generative KI-Inferenz senkt.
Lesen Sie den Blogbeitrag
Inferenz für maschinelles Lernen mit AWS Inferentia
Erfahren Sie, wie Sie einen Amazon EKS-Cluster mit Knoten erstellen, auf denen Amazon EC2 Inf1-Instances ausgeführt werden, und optional eine Beispielanwendung bereitstellen. Amazon EC2 Inf1-Instances werden von AWS Inferentia
Chips angetrieben, die speziell von uns entwickelt wurden, AWS um leistungsstarke und kostengünstige Inferenzen in der Cloud bereitzustellen.
Erkunden Sie den Leitfaden
Erkunden
Architektur-Diagramme
Diese Referenzarchitekturdiagramme zeigen Beispiele für verwendete AWS KI- und ML-Dienste.
Erkunden Sie Architekturdiagramme
Whitepapers
Lesen Sie Whitepapers, die Ihnen den Einstieg erleichtern, und lernen Sie bewährte Methoden zur Auswahl und Verwendung von KI- und ML-Diensten kennen.
Erkunden Sie Whitepapers
AWS Lösungen
Informieren Sie sich über geprüfte Lösungen und architektonische Anleitungen für gängige Anwendungsfälle für KI- und ML-Dienste.
Entdecken Sie Lösungen
Ressourcen
Modelle öffentlicher Stiftungen
Die Modelle der unterstützten Stiftungen werden regelmäßig aktualisiert und umfassen derzeit:
Verwenden Sie Amazon Bedrock und Amazon SageMaker AI, um mit einer Vielzahl von Basismodellen zu experimentieren und sie privat mit Ihren Daten anzupassen. Um generative KI schnell zu erkunden, haben Sie auch die Möglichkeit PartyRock, einen Amazon Bedrock Playground zu verwenden. PartyRockist ein Spielplatz zum Erstellen generativer KI-Apps, mit dem Sie praxisnah mit der Technik experimentieren können.
Verwandte Blog-Beiträge
