Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Choisir un service d'IA générative
Faire le premier pas
| Objectif |
Déterminez quels services d'IA AWS générative sont les mieux adaptés à votre organisation. |
| Dernière mise à jour |
14 février 2025 |
| Services couverts |
|
Introduction
L'IA générative est un ensemble de systèmes et de modèles d'intelligence artificielle (IA) conçus pour générer du contenu tel que du code, du texte, des images, de la musique ou d'autres formes de données. Ces systèmes peuvent produire de nouveaux contenus sur la base de modèles et de connaissances tirés des données existantes. Les organisations et les entreprises utilisent de plus en plus l'IA générative pour :
-
Automatisez les flux de travail créatifs : utilisez des services d'IA génératifs pour automatiser les flux de travail liés à des processus créatifs chronophages tels que l'écriture, la création d'images ou de vidéos et la conception graphique.
-
Personnalisez et personnalisez le contenu : générez du contenu ciblé, des recommandations de produits et des offres personnalisées pour un contexte spécifique au public.
-
Augmentez les données : synthétisez de grands ensembles de données d'entraînement pour d'autres modèles de machine learning afin de débloquer des scénarios dans lesquels les données étiquetées par l'homme sont rares.
-
Réduire les coûts : réduisez potentiellement les coûts en utilisant des données, du contenu et des actifs numériques synthétisés.
-
Expérimentation plus rapide : testez et itérez sur un plus grand nombre de variantes de contenu et de concepts créatifs que ce qui serait possible manuellement.
Ce guide vous aide à sélectionner les services et outils d'IA AWS générative les mieux adaptés à vos besoins et à ceux de votre organisation.
Comprenez
Amazon propose une gamme de services d'IA génératifs, d'applications, d'outils et d'infrastructures de support. Lequel d'entre eux vous utilisez dépend en grande partie des facteurs suivants :
-
Ce que tu essaies de faire
-
Quel est le choix dont vous avez besoin dans les modèles de base que vous utilisez
-
Le degré de personnalisation dont vous avez besoin pour vos applications d'IA génératives
-
L'expertise au sein de votre organisation
Amazon Q Business et Amazon Q Developer : des applications pour améliorer la productivité
Au sommet de la pile d'IA générative d'Amazon, Amazon Q Business et Amazon Q Developer utilisent des modèles de langage étendus (LLM) et des modèles de base. Cependant, ils n'exigent pas que vous choisissiez explicitement un modèle. Chacune de ces applications prend en charge différents cas d'utilisation et toutes sont alimentées par Amazon Bedrock.
En savoir plus sur les principaux assistants génératifs alimentés par l'IA actuellement disponibles :
- Amazon Q Business
-
Amazon Q Business peut répondre aux questions, fournir des résumés, générer du contenu et effectuer des tâches en toute sécurité sur la base des données de vos systèmes d'entreprise. Il prend en charge le cas d'utilisation général de l'IA générative pour commencer à tirer le meilleur parti des informations de votre entreprise. Avec Amazon Q Business, vous pouvez poser English-language des questions sur ces informations. Il fournit des réponses adaptées aux besoins de votre équipe. En outre, vous pouvez créer des applications Amazon Q légères et spécialement conçues dans le cadre de votre abonnement Amazon Q Business Pro.
- Amazon Q Developer
-
Avec Amazon Q Developer, vous pouvez comprendre, créer, étendre et exploiter AWS des applications. Les cas d'utilisation pris en charge incluent des tâches allant du codage, des tests et de la mise à niveau des applications au diagnostic des erreurs, à l'exécution d'analyses et de correctifs de sécurité et à l'optimisation AWS des ressources. Les fonctionnalités avancées de planification et de raisonnement en plusieurs étapes d'Amazon Q Developer visent à réduire la charge de travail liée aux tâches courantes (telles que les mises à niveau des versions de Java). Ces fonctionnalités peuvent également aider à implémenter de nouvelles fonctionnalités générées à la suite des demandes des développeurs.
Les fonctionnalités d'Amazon Q Developer sont disponibles dans le cadre de vos flux de travail dans d'autres applications Services AWS, notamment Amazon Q Developer dans les applications de chat CodeCatalyst, Amazon, Amazon EC2 et VPC Reachability Analyzer. AWS Glue
Discutez avec Amazon Q Developer pour interroger et explorer votre AWS infrastructure directement depuis le Console de gestion AWS. En utilisant des instructions en langage naturel pour interagir avec votre Compte AWS, vous pouvez obtenir des informations spécifiques sur les ressources et poser des questions sur les relations entre les ressources.
- Amazon Q in Quick
-
Amazon Q in Quick vise à répondre aux besoins d'un cas d'utilisation spécifique : obtenir des informations exploitables à partir de vos données en connectant Amazon Q au service d'intelligence économique (BI) Amazon Q Quick. Vous pouvez l'utiliser pour créer des visualisations de vos données, résumer des informations, répondre à des questions sur les données et créer des histoires de données en langage naturel.
- Amazon Q in Connect
-
Amazon Q in Connect peut détecter automatiquement les problèmes des clients. Il fournit à vos agents du service client des informations contextuelles sur les clients ainsi que des suggestions de réponses et d'actions pour une résolution plus rapide des problèmes. Il associe les fonctionnalités du service de centre d'appels cloud Amazon Connect à Amazon Q. Amazon Q in Connect peut utiliser vos conversations en temps réel avec vos clients, ainsi que le contenu pertinent de l'entreprise, pour recommander ce qu'il faut dire ou les actions qu'un agent doit prendre pour aider les clients.
Amazon Bedrock — Créez et faites évoluer votre application d'IA générative avec FMs
Si vous développez des applications d'IA personnalisées, si vous avez besoin d'accéder à plusieurs modèles de base et si vous souhaitez mieux contrôler les modèles et les résultats de l'IA, Amazon Bedrock pourrait être le service qui répond à vos besoins. Amazon Bedrock est un service entièrement géré permettant de créer des applications d'IA génératives, prenant en charge les modèles de base les plus courants, notamment Amazon Nova, Amazon Titan, Anthropic Claude, Cohere Command & Embed DeepSeek-R1, AI21 Labs Jurassic, Meta Llama , Mistral AI et Stable Diffusion XL. https://aws.amazon.com/bedrock/stable-diffusion/
Utilisez la place de marché Amazon Bedrock pour découvrir, tester et utiliser plus de 100 FM populaires, émergentes et spécialisées. Les FM pris en charge sont régulièrement mis à jour.
En outre, Amazon Bedrock fournit tout ce dont vous avez besoin pour créer des applications d'IA génératives garantissant sécurité, confidentialité et responsabilité, quel que soit le modèle de base que vous choisissez. Il offre également un accès à une API unique et indépendant du modèle et la flexibilité d'utiliser différents modèles de base et de passer aux dernières versions des modèles, avec un minimum de modifications de code.
En savoir plus sur les principales fonctionnalités d'Amazon Bedrock :
- Model customization
-
La personnalisation des modèles peut offrir des expériences utilisateur différenciées et personnalisées. Pour personnaliser les modèles pour des tâches spécifiques, vous pouvez affiner en privé les FM à l'aide de vos propres ensembles de données étiquetés. Les modèles personnalisés incluent des fonctionnalités telles que la mise au point et la formation préalable continue à l'aide d'ensembles de données non étiquetés. La liste des FM pour lesquels Amazon Bedrock prend en charge le réglage fin inclut Amazon Nova Micro, Lite et Pro, Anthropic Claude 3 Haiku, Cohere Command, Meta Llama 2, Amazon Titan Text Lite and Express, Amazon Titan Multimodal Embeddings et Amazon Titan Image Generator. La liste des FM pris en charge est mise à jour en permanence.
En outre, vous pouvez utiliser Amazon Bedrock Custom Model Import pour créer vos propres modèles personnalisés et les utiliser dans Amazon Bedrock.
- Knowledge Bases
-
Amazon Bedrock Knowledge Bases est une fonctionnalité entièrement gérée que vous pouvez utiliser pour implémenter l'intégralité du flux de travail RAG (Retrieval Augmented Generation), de l'ingestion à la récupération et à l'augmentation rapide, sans avoir à créer des intégrations personnalisées aux sources de données et à gérer les flux de données. La gestion du contexte de session est intégrée, de sorte que votre application peut prendre en charge les conversations à plusieurs tours. Vous pouvez utiliser l'API Retrieve pour récupérer les résultats pertinents d'une requête utilisateur à partir de bases de connaissances.
Avec RAG, vous pouvez fournir un modèle avec de nouvelles connaissances ou des informations actualisées provenant de sources multiples, notamment des référentiels de documents, des bases de données et des API. Par exemple, le modèle peut utiliser RAG pour récupérer des résultats de recherche depuis Amazon OpenSearch Service ou des documents depuis Amazon Simple Storage Service. Amazon Bedrock Knowledge Bases gère entièrement cette expérience en se connectant à vos sources de données privées, notamment Amazon Aurora, Amazon OpenSearch Serverless, MongoDB, Pinecone et Redis Enterprise Cloud. Cette liste inclut des connecteurs pour Salesforce, Confluence et SharePoint (en version préliminaire), afin que vous puissiez accéder à davantage de données commerciales afin de personnaliser les modèles en fonction de vos besoins spécifiques.
- Agents
-
Amazon Bedrock Agents vous aide à planifier et à créer des tâches en plusieurs étapes à l'aide des systèmes et des sources de données de l'entreprise, qu'il s'agisse de répondre aux questions des clients concernant la disponibilité de vos produits ou de prendre leurs commandes. Vous pouvez créer un agent en sélectionnant d'abord un FM, puis en lui donnant accès aux systèmes, bases de connaissances et AWS Lambda fonctions de votre entreprise afin d'exécuter vos API en toute sécurité. Un agent analyse la demande de l'utilisateur et une fonction Lambda ou votre application peuvent automatiquement appeler les API et les sources de données nécessaires pour répondre à la demande.
Les agents peuvent conserver la mémoire de plusieurs interactions pour se rappeler où vous vous êtes arrêté pour la dernière fois et fournir de meilleures recommandations en fonction des interactions précédentes. Les agents peuvent également interpréter le code pour traiter des cas d'utilisation complexes basés sur les données, tels que l'analyse des données, la visualisation des données, le traitement de texte, la résolution d'équations et les problèmes d'optimisation.
- Guardrails
-
Amazon Bedrock Guardrails évalue les entrées des utilisateurs et les réponses FM en fonction de politiques spécifiques à chaque cas d'utilisation, et fournit un niveau de protection supplémentaire, quel que soit le FM sous-jacent. À l'aide d'une courte description en langage naturel, vous pouvez utiliser Amazon Bedrock Guardrails pour définir un ensemble de sujets à éviter dans le contexte de votre application. Guardrails détecte et bloque les entrées utilisateur et les réponses FM qui entrent dans les sujets restreints.
Guardrails prend en charge les vérifications d'ancrage contextuelles, afin de détecter les hallucinations dans les réponses des modèles pour les applications utilisant la génération augmentée de récupération (RAG) et des applications de synthèse. Les contrôles de mise à la terre contextuels renforcent la protection de sécurité de Guardrails pour s'assurer que la réponse LLM est basée sur les bonnes données sources de l'entreprise, et évaluent la réponse LLM pour confirmer qu'elle est pertinente par rapport à la requête ou à l'instruction de l'utilisateur. Les contrôles d'ancrage contextuels peuvent détecter et filtrer plus de 75 % des réponses hallucinées pour les charges de travail RAG et de synthèse.
- Converse API
-
Utilisez l'API Amazon Bedrock Converse pour créer des applications conversationnelles qui envoient et reçoivent des messages depuis et vers un modèle Amazon Bedrock. Par exemple, vous pouvez créer un chatbot qui maintient une conversation à plusieurs reprises et utilise une personnalisation de la personnalité ou du ton propre à vos besoins, comme un assistant de support technique utile.
- Tool use (function calling)
-
L'utilisation d'un outil (appel de fonction) permet à un modèle d'accéder à des outils qui peuvent l'aider à générer des réponses pour les messages que vous lui envoyez. Par exemple, vous pouvez avoir une application de chat qui permet aux utilisateurs de trouver la chanson la plus populaire diffusée sur une station de radio. Pour répondre à une demande concernant la chanson la plus populaire, un modèle a besoin d’un outil capable d’interroger et de renvoyer les informations relatives à la chanson.
- Amazon Bedrock IDE
-
Utilisez Amazon Bedrock IDE, une expérience de développement dans Amazon SageMaker Unified Studio (en version préliminaire), qui vous permet de découvrir les modèles Amazon Bedrock et de créer des applications d'IA génératives utilisant les modèles et les fonctionnalités d'Amazon Bedrock. Par exemple, vous pouvez utiliser un terrain de discussion pour essayer une invite avec un modèle Anthropic Claude sans avoir à écrire de code. Plus tard, vous pourrez utiliser l'IDE Amazon Bedrock pour créer une application d'IA générative qui utilise un modèle et des fonctionnalités Amazon Bedrock, telles qu'une base de connaissances ou un garde-corps, toujours sans avoir à écrire de code.
- Prompt management
-
Utilisez Amazon Bedrock pour créer et enregistrer vos propres invites à l'aide de la gestion des invites, afin de gagner du temps en appliquant la même invite à différents flux de travail. Lorsque vous créez une invite, vous pouvez sélectionner un modèle sur lequel exécuter une inférence et modifier les paramètres d’inférence à utiliser. Vous pouvez inclure des variables dans l’invite afin de pouvoir l’ajuster en fonction des différents cas d’utilisation.
- Prompt flows
-
Prompt Flows pour Amazon Bedrock vous permet d'utiliser les FM pris en charge pour créer des flux de travail en associant des invites, des modèles fondamentaux et d'autres outils Services AWS afin de créer des solutions complètes.
Grâce aux flux rapides, vous pouvez rapidement créer des flux de travail d'IA génératifs complexes à l'aide d'un générateur visuel. Vous pouvez intégrer les offres Amazon Bedrock, telles que les FM, les bases de connaissances, etc., AWS Lambda en transférant des données entre elles. Services AWS Vous pouvez également déployer des flux de travail immuables pour passer des tests à la production en quelques clics.
Amazon SageMaker AI (anciennement Amazon SageMaker) : créez des modèles personnalisés et contrôlez le cycle de vie complet du machine learning, de la préparation des données au déploiement et à la surveillance des modèles
Avec Amazon SageMaker AI, vous pouvez créer, entraîner et déployer des modèles d'apprentissage automatique, y compris des modèles FM, à grande échelle. Envisagez cette option lorsque vous avez des cas d'utilisation qui peuvent bénéficier d'une formation approfondie, d'une mise au point et d'une personnalisation des modèles de base. Cela simplifie également la tâche parfois difficile qui consiste à évaluer quelle FM convient le mieux à votre cas d'utilisation.
Amazon SageMaker AI fournit également une infrastructure et des outils spécialement conçus à utiliser tout au long du cycle de vie du machine learning, notamment des environnements de développement intégrés (IDE), une infrastructure de formation distribuée, des outils de gouvernance, des outils d'opérations d'apprentissage automatique (MLOps), des options d'inférence et des recommandations, ainsi que l'évaluation des modèles.
Utilisez les applications Amazon SageMaker Partner AI pour accéder à des applications de développement génératives d'IA et d'apprentissage automatique (ML) créées, publiées et distribuées par les principaux fournisseurs d'applications du secteur. Les applications d'IA partenaires sont certifiées pour fonctionner sur l' SageMaker IA. Avec Partner AI Apps, vous pouvez améliorer la façon dont vous créez des solutions basées sur des modèles de base (FM) et des modèles ML classiques sans compromettre la sécurité de vos données sensibles. Les données restent entièrement conformes à votre configuration de sécurité fiable et ne sont jamais partagées avec un tiers.
SageMaker L'IA fait partie de la prochaine génération d'Amazon SageMaker, qui comprend :
-
Amazon SageMaker Unified Studio (en version préliminaire), une expérience de développement unifiée qui réunit AWS
des services de données, d'analyse, d'intelligence artificielle (IA) et d'apprentissage automatique (ML).
-
AWS des outils pour des flux de développement complets, y compris le développement de modèles, le développement d'applications d'IA génératives, le traitement des données et l'analyse SQL, dans un environnement gouverné unique. Créez ou rejoignez des projets pour collaborer avec vos équipes, partager en toute sécurité des artefacts d'IA et d'analyse, et accéder à vos données stockées dans Amazon Simple Storage Service (Amazon S3), Amazon Redshift et d'autres sources de données via Amazon SageMaker Lakehouse.
Explorez les principales fonctionnalités de l' SageMaker IA qui peuvent vous aider à déterminer quand l'utiliser :
- Amazon SageMaker JumpStart
-
Amazon SageMaker JumpStart est un hub de machine learning qui donne accès à des modèles de base accessibles au public. Ces modèles incluent Mistral, Llama 3 et Falcon2. CodeLlama Ils peuvent être personnalisés à l'aide de techniques avancées de réglage et de déploiement telles que l'efficacité des paramètres Fine-Tuning (PEFT) et Low-Rank l'adaptation (LoRa).
La capture d'écran suivante montre certains des modèles disponibles sur Amazon au SageMaker JumpStart sein du Console de gestion AWS.
- Amazon SageMaker Clarify
-
Amazon SageMaker Clarify répond à la décision cruciale concernant le modèle de base à utiliser. Utilisez Amazon SageMaker Clarify pour créer des tâches d'évaluation de modèles. Une tâche d'évaluation de modèles évalue et compare les mesures de qualité et de responsabilité des modèles pour les modèles de base basés sur du texte provenant de. JumpStart Les tâches d'évaluation de modèles prennent également en charge l'utilisation de JumpStart modèles qui ont déjà été déployés sur un terminal.
- Amazon SageMaker Canvas
-
Avec Amazon SageMaker Canvas, vous pouvez utiliser l'apprentissage automatique pour générer des prédictions sans écrire de code. Vous pouvez également utiliser Amazon SageMaker Canvas en collaboration avec Amazon Bedrock pour affiner et déployer des modèles de langage.
Ce billet de blog explique comment vous pouvez les utiliser pour optimiser l'interaction avec les clients en utilisant vos propres ensembles de données (tels que les FAQ sur vos produits) dans Amazon Bedrock et Amazon. SageMaker JumpStart Le schéma suivant, extrait de ce billet de blog, montre comment Amazon SageMaker Canvas et Amazon Bedrock peuvent être utilisés ensemble pour affiner et déployer des modèles de langage.
- Amazon SageMaker Studio
-
Amazon SageMaker Studio est une expérience Web permettant d'exécuter des flux de travail de machine learning. Studio propose une suite d’environnements de développement intégrés (IDE). Il s'agit notamment de l'éditeur de code Code-OSS, basé sur Visual Studio Code - Open Source, d'une nouvelle JupyterLab application, de RStudio et d'Amazon SageMaker Studio Classic. Pour plus d'informations, consultez la section Applications prises en charge dans Amazon SageMaker Studio.
L'interface utilisateur Web de Studio permet d'accéder à toutes les ressources d' SageMaker IA, y compris les tâches et les terminaux, dans une seule interface. Les praticiens du machine learning peuvent également choisir leur IDE préféré pour accélérer le développement ML. Un data scientist peut les utiliser JupyterLab pour explorer les données et ajuster les modèles. En outre, un ingénieur des opérations de machine learning (MLOps) peut utiliser l’éditeur de code avec l’outil de pipelines de Studio pour déployer et surveiller des modèles en production.
Amazon SageMaker Studio inclut une assistance générative basée sur l'IA, optimisée par Amazon Q Developer, directement dans votre environnement de développement JupyterLab intégré (IDE). Avec Q Developer, vous pouvez accéder à des conseils d'experts sur les fonctionnalités d' SageMaker IA, la génération de code et le dépannage.
Infrastructure pour créer et entraîner des modèles d'IA
AWS propose du matériel spécialisé et accéléré pour la formation et l'inférence en machine learning de haute performance.
-
AWS
Trainium2-powered Les instances Amazon EC2 Trn2 et Trn2 UltraServers offrent les meilleures performances pour la formation et l'inférence en matière d'IA. AWS
-
AWS Trainiumest l'accélérateur de machine learning de deuxième génération spécialement AWS conçu pour l'apprentissage en profondeur (DL) de plus de 100 milliards de modèles de paramètres.
-
AWS InferentiaLes instances Amazon EC2 Inf2 basées sur 2 sont conçues pour fournir des performances élevées au moindre coût dans Amazon EC2 pour vos applications de DL et d'inférence d'IA générative.
-
Les instances Amazon EC2 P5 et P5e, alimentées par les GPU NVIDIA H100 et NVIDIA H200 Tensor Core, sont parfaitement adaptées aux tâches de formation et d'inférence dans le domaine de l'apprentissage automatique.
-
Les instances Amazon EC2 G6e intègrent jusqu'à 8 GPU NVIDIA L40S Tensor Core et des processeurs AMD EPYC de troisième génération, pour un large éventail de cas d'utilisation gourmands en ressources graphiques et en apprentissage automatique.
Considérez
Après avoir choisi un service d'IA générative, choisissez le modèle de base (FM) qui vous donne les meilleurs résultats pour votre cas d'utilisation.
Amazon Bedrock dispose d'une fonctionnalité d'évaluation des modèles qui peut vous aider à évaluer, comparer et sélectionner les meilleurs FM pour votre cas d'utilisation.
Voici quelques facteurs essentiels à prendre en compte lors du choix d'un FM adapté à votre cas d'utilisation :
- Modality
-
Identifier l'utilisation cases/modality
Définition : La modalité fait référence au type de données que le modèle traite : texte, images (vision) ou intégrations.
Pourquoi c'est important : le choix de la modalité doit correspondre aux données sur lesquelles vous travaillez. Par exemple, si votre projet implique le traitement du langage naturel, un modèle basé sur du texte tel que Claude, Llama 3.1 ou Titan Text G1 convient. Si vous souhaitez créer des intégrations, vous pouvez utiliser un modèle tel que Titan Embeddings G1. De même, pour les tâches liées à l'image, des modèles tels que Stable Diffusion XL et Titan Image Generator v2 sont plus appropriés. Votre cas d'utilisation peut également impliquer la prise en compte de votre source de données et de la prise en charge des connecteurs de source de données, tels que ceux fournis dans Amazon Q Business.
- Model size
-
Taille du modèle
Qu'est-ce que c'est : Ce critère fait référence au nombre de paramètres d'un modèle. Un paramètre est une variable de configuration interne au modèle. Ses valeurs peuvent être estimées (entraînées) pendant la phase d'entraînement à partir des données d'entraînement fournies. Les paramètres sont cruciaux car ils définissent directement la capacité du modèle à tirer des enseignements des données. Les grands modèles comportent souvent plus de 50 milliards de paramètres.
Pourquoi c'est important : le nombre de paramètres est un indicateur clé de la complexité du modèle. Un plus grand nombre de paramètres signifie que le modèle peut capturer des motifs et des nuances plus complexes dans les données, ce qui entraîne généralement de meilleures performances. Cependant, ces modèles sont non seulement coûteux à entraîner, mais ils nécessitent également davantage de ressources de calcul pour fonctionner.
- Inference latency
-
Latence d'inférence
Définition : La vitesse d'inférence, ou latence, est le temps nécessaire à un modèle pour traiter une entrée (souvent mesurée en jetons) et renvoyer une sortie. Ce temps de traitement est crucial lorsque les réponses du modèle font partie d'un système interactif, comme un développeur Amazon Q dans les applications de chat.
Pourquoi c'est important : des temps de réponse rapides sont essentiels pour les applications en temps réel telles que les chatbots interactifs ou les services de traduction instantanée. Ces applications dépendent de la capacité du modèle à traiter les demandes et à y répondre rapidement afin de maintenir une expérience utilisateur fluide. Bien que les FM plus grands offrent généralement des réponses plus détaillées et plus précises, leurs architectures complexes peuvent entraîner des vitesses d'inférence plus lentes. Ce traitement plus lent peut frustrer les utilisateurs qui s'attendent à une interaction immédiate.
Pour relever ce défi, vous pouvez choisir des modèles optimisés pour des réponses plus rapides, même si cela implique de faire des compromis sur la profondeur ou la précision des réponses.
- Context window
-
Optimisation de la fenêtre contextuelle
Description : La fenêtre contextuelle d'un grand modèle de langage correspond à la quantité de texte (en jetons) que le modèle peut prendre en compte à tout moment lors de la génération de réponses.
Pourquoi c'est important : des fenêtres contextuelles plus grandes permettent au modèle de mémoriser et de traiter davantage d'informations en une seule exécution. Cette capacité est particulièrement utile dans les tâches complexes telles que la compréhension de longs documents, la participation à des conversations détaillées ou la génération de texte contextuellement précis sur de plus grandes périodes.
Par exemple, dans une conversation, un modèle avec une fenêtre contextuelle plus grande peut mémoriser davantage le dialogue précédent et fournir des réponses plus pertinentes pour l'ensemble de la conversation. Cela conduit à une expérience utilisateur plus naturelle et plus satisfaisante, car le modèle permet de maintenir le fil de la discussion sans perdre le contexte.
- Pricing
-
Considérations relatives aux prix
Description : Le coût d'utilisation d'un FM est influencé par la complexité du modèle et par la structure tarifaire du fournisseur du modèle.
Pourquoi c'est important : le déploiement de modèles hautes performances entraîne souvent des coûts élevés en raison de besoins informatiques accrus. Bien que ces modèles offrent des fonctionnalités avancées, leurs dépenses opérationnelles peuvent être élevées, en particulier pour les startups ou les petits projets dont les budgets sont serrés.
Les modèles plus petits et consommant moins de ressources constituent une option plus économique sans compromettre de manière significative les performances. Évaluez le coût du modèle par rapport à ses avantages pour vous assurer qu'il correspond aux contraintes financières de votre projet et qu'il vous permet d'obtenir le meilleur rapport qualité-prix pour votre investissement.
- Fine-tuning
-
Fine-tuning et capacité de formation préalable continue
Il s'Fine-tuningagit d'un processus de formation spécialisé dans lequel un modèle pré-entraîné qui a été entraîné sur un grand ensemble de données générique est ensuite entraîné (ou affiné) sur un ensemble de données spécifique plus petit. Ce processus adapte le modèle aux particularités des nouvelles données, améliorant ainsi ses performances sur les tâches connexes. La formation préalable continue, quant à elle, implique de prolonger la phase initiale de pré-formation par une formation supplémentaire sur de nouvelles données émergentes qui ne faisaient pas partie de l'ensemble de formation initial, ce qui permet au modèle de rester pertinent au fur et à mesure de l'évolution des données. Vous pouvez également utiliser la génération augmentée de récupération (RAG) pour récupérer des données depuis l'extérieur d'un FM et augmenter vos invites en ajoutant les données récupérées pertinentes dans leur contexte.
Pourquoi c'est important : grâce au réglage fin, vous pouvez améliorer la précision du modèle en fournissant votre propre ensemble de données d'entraînement étiqueté spécifique à la tâche et spécialiser davantage vos FM. Grâce à une formation préalable continue, vous pouvez entraîner des modèles à l'aide de vos propres données non étiquetées dans un environnement sécurisé et géré. La formation préalable continue aide les modèles à devenir plus spécifiques au domaine en accumulant des connaissances et une capacité d'adaptation plus solides au-delà de leur formation initiale.
- Data quality
-
Qualité des données
La qualité des données est un facteur essentiel au succès d'une application d'IA générative. Tenez compte des facteurs de qualité suivants :
-
Pertinence : assurez-vous que les données que vous utilisez pour entraîner votre modèle d'IA génératif sont pertinentes pour votre application. Des données non pertinentes ou bruyantes peuvent nuire aux performances du modèle.
-
Exactitude : les données doivent être exactes et exemptes d'erreurs. Des données inexactes peuvent induire votre modèle en erreur et entraîner des sorties incorrectes.
-
Cohérence : maintenez la cohérence de vos données. Les incohérences dans les données peuvent perturber le modèle et entraver sa capacité à apprendre des modèles.
-
Biais et équité : soyez conscient des biais présents dans vos données, car ils peuvent entraîner des résultats biaisés du modèle. Prenez des mesures pour atténuer les biais et contribuer à garantir l'équité de votre système d'IA générative.
-
Annotation et étiquetage : si votre application nécessite des données étiquetées, vérifiez que les annotations ou les étiquettes sont de haute qualité et créées par des experts.
-
Prétraitement des données : préparez vos données en les nettoyant et en les prétraitant. Cela peut impliquer la tokenisation du texte, le redimensionnement de l'image ou d'autres transformations spécifiques aux données pour les adapter à la formation.
- Data quantity
-
Quantité de données
La quantité et la qualité vont de pair. Tenez compte des facteurs quantitatifs suivants :
-
Des données suffisantes : dans la plupart des cas, il vaut mieux disposer de plus de données. Des ensembles de données plus volumineux permettent à votre modèle d'apprendre un plus large éventail de modèles et de mieux les généraliser. Toutefois, la quantité de données requise peut varier en fonction de la complexité de votre demande.
-
Augmentation des données : si la quantité de données disponibles est limitée, envisagez des techniques d'augmentation des données. Ces techniques impliquent de générer des exemples d'apprentissage supplémentaires en appliquant des transformations aux données existantes. Par exemple, vous pouvez faire pivoter, recadrer ou retourner des images ou paraphraser du texte pour créer d'autres exemples d'apprentissage.
-
Équilibrage des données : assurez-vous que votre ensemble de données est équilibré, en particulier si votre application d'IA générative est censée produire des résultats avec une représentation égale entre les différentes catégories ou classes. Des ensembles de données déséquilibrés peuvent entraîner des résultats biaisés des modèles.
-
Apprentissage par transfert : pour certaines applications, vous pouvez utiliser des modèles pré-entraînés. Grâce à l'apprentissage par transfert, vous pouvez utiliser des modèles qui ont été entraînés sur des ensembles de données volumineux et les affiner en fonction de vos données spécifiques, ce qui nécessite souvent moins de données pour les affiner.
Il est également important de surveiller et de mettre à jour en permanence votre ensemble de données au fur et à mesure que vos applications génératives d'IA évoluent et que de nouvelles données deviennent disponibles.
- Quality of response
-
Qualité de la réponse
Qu'est-ce que c'est : Le critère le plus essentiel est la qualité de la réponse. C'est ici que vous évaluez le résultat d'un modèle sur la base de plusieurs indicateurs de qualité, notamment la précision, la pertinence, la toxicité, l'équité et la robustesse face aux attaques contradictoires.
-
La précision mesure la fréquence à laquelle les réponses du modèle sont correctes (et vous pouvez généralement la mesurer par rapport à une norme ou à une base de référence préconfigurée).
-
La pertinence évalue la pertinence des réponses par rapport au contexte ou à la question posée.
-
Contrôles de toxicité pour détecter les biais nuisibles ou le contenu inapproprié dans les résultats du modèle.
-
L'équité évalue si les réponses du modèle sont impartiales entre les différents groupes.
-
La robustesse indique dans quelle mesure le modèle peut gérer les entrées intentionnellement trompeuses ou malveillantes destinées à le confondre.
Pourquoi c'est important : La fiabilité et la sécurité des résultats des modèles sont primordiales, en particulier dans les applications qui interagissent directement avec les utilisateurs ou prennent des décisions automatisées susceptibles d'affecter la vie des utilisateurs. High-qualityles réponses garantissent la confiance et la satisfaction des utilisateurs, réduisent le risque de mauvaise communication et améliorent l'expérience utilisateur globale, gagnant ainsi la confiance de vos clients.
Choix
| Catégorie d'IA générative |
Pour quoi est-il optimisé ? |
Services d'IA générative |
|
Amazon Q
|
Générez du code et répondez aux questions relatives aux données commerciales en vous connectant à des référentiels de données d'entreprise pour résumer les données de manière logique, analyser les tendances et engager un dialogue sur les données.
|
Amazon Q Business
Amazon Q Developer
|
|
Amazon Bedrock
|
Vous pouvez proposer un choix de modèles de base, les personnaliser à l'aide de vos propres données et créer des applications d'IA génératives à l'aide des outils de création proposés par Amazon Bedrock.
|
Amazon Bedrock
IDE Amazon Bedrock
Amazon Nova
Amazon Titan
|
|
Amazon SageMaker AI
|
Création, formation et déploiement de modèles d'apprentissage automatique, y compris des modèles de base, à grande échelle.
|
Amazon SageMaker AI
|
|
Infrastructure pour la formation et l'inférence FM
|
Offrir des services qui maximisent les avantages en termes de rapport prix/performances en matière de formation et d'inférence FM.
|
AWS Trainium
AWS Inferentia
|
Utilisation
Maintenant que nous avons couvert les critères que vous devez appliquer pour choisir un service d'IA AWS générative, vous pouvez sélectionner les services optimisés pour vos besoins et découvrir comment vous pourriez commencer à utiliser chacun d'entre eux.
- Amazon Q Business
-
Qu'est-ce qu'Amazon Q Business ?
Découvrez Amazon Q Business, avec des explications sur ce que c'est, comment il fonctionne et comment commencer à l'utiliser.
Explorez le guide
Création d'une application Amazon Q Business
Apprenez à créer votre première application Amazon Q Business dans l'interface de ligne de commande (CLI) Console de gestion AWS ou à l'aide de l'interface de ligne de commande (CLI).
Explorez le guide
Combinez Amazon Q Business et créez AWS IAM Identity Center des applications d'IA génératives
Créez des applications d'IA génératives d'entreprise privées et sécurisées avec Amazon Q Business et AWS IAM Identity Center.
Lisez le billet de blog
- Amazon Q Developer
-
Qu'est-ce qu'Amazon Q Developer ?
Découvrez Amazon Q Developer, avec des explications sur ce que c'est, comment il fonctionne et comment commencer à l'utiliser.
Explorez le guide
Comprendre les niveaux de service pour Amazon Q Developer
Consultez les informations suivantes pour comprendre les niveaux de service d'Amazon Q Developer, notamment Amazon Q Developer Pro et Amazon Q Developer pour le niveau gratuit.
Explorez le guide
Travailler avec une IA agentique
Utilisez le Builder Center pour accéder rapidement à des articles clés, à des articles de blog, à des vidéos et à des conseils sur la création, le déploiement et la mise à l'échelle d'agents d'IA avec AWS.
Explorez l'IA agentic dans le Builder Center
- Amazon Bedrock
-
Qu'est-ce qu'Amazon Bedrock ?
Découvrez comment utiliser ce service entièrement géré pour mettre à votre disposition des modèles de base (FM) d'Amazon et de tiers via une API unifiée.
Explorez le guide
Questions fréquemment posées à propos d'Amazon Bedrock
Obtenez les réponses aux questions les plus fréquemment posées sur Amazon Bedrock, notamment sur l'utilisation des agents, les considérations de sécurité, des informations sur les kits de développement logiciel (SDK) Amazon Bedrock, la génération augmentée de récupération (RAG), l'utilisation de l'évaluation des modèles et le fonctionnement de la facturation.
Lisez les FAQs
Conseils pour générer des descriptions de produits avec Amazon Bedrock
Découvrez comment utiliser Amazon Bedrock dans le cadre d'une solution visant à automatiser le processus d'évaluation et d'approbation de vos produits pour une place de marché de commerce électronique ou un site Web de vente au détail.
Découvrez la solution
- Amazon Bedrock in SageMaker Unified Studio
-
L'IDE Amazon Bedrock est renommé Amazon Bedrock dans SageMaker Unified Studio.
-
Qu'est-ce qu'Amazon Bedrock dans SageMaker Unified Studio ?
Utilisez cet IDE pour découvrir les modèles Amazon Bedrock et créer des applications d'IA génératives qui utilisent les modèles et les fonctionnalités d'Amazon Bedrock.
Explorez le guide
-
Créez des applications d'IA génératives avec Amazon Bedrock dans SageMaker Unified Studio
Ce billet de blog explique comment créer des applications à l'aide d'un large éventail de modèles très performants. Il explique ensuite comment évaluer et partager vos applications d'IA génératives avec Amazon Bedrock IDE.
Lisez le blog
-
Création d'une application de chat avec Amazon Bedrock dans SageMaker Unified Studio
Créez une application d'agent de chat qui permet aux utilisateurs de discuter avec un modèle Amazon Bedrock via une interface conversationnelle.
Explorez le guide
- Amazon SageMaker AI
-
Qu'est-ce qu'Amazon SageMaker AI ?
Découvrez comment utiliser ce service d'apprentissage automatique (ML) entièrement géré pour créer, former et déployer des modèles ML dans un environnement hébergé prêt pour la production.
Explorez le guide
Démarrez avec Amazon SageMaker AI
Découvrez comment rejoindre un domaine Amazon SageMaker AI et accéder à Amazon SageMaker AI Studio et à RStudio on SageMaker AI.
Explorez le guide
Commencez avec Amazon SageMaker JumpStart
Explorez les modèles de SageMaker JumpStart solutions Amazon qui configurent l'infrastructure pour les cas d'utilisation courants, ainsi que des exemples de blocs-notes exécutables pour l'apprentissage automatique avec l' SageMaker IA.
Explorez le guide
- Amazon SageMaker Unified Studio
-
Qu'est-ce qu'Amazon SageMaker Unified Studio ?
Découvrez comment utiliser Amazon SageMaker Unified Studio (en version préliminaire) pour créer, déployer, exécuter et surveiller des flux de travail à partir d'une interface unique.
Explorez le guide
Une expérience intégrée pour toutes vos données et votre IA avec Amazon SageMaker Unified Studio
Découvrez le nouvel Amazon SageMaker Unified Studio et découvrez comment il unifie vos charges de travail analytiques.
Lisez le billet de blog
Démarrez avec Amazon SageMaker Unified Studio
Apprenez à accéder à Amazon SageMaker Unified Studio, à créer un projet, puis à y ajouter des membres et à utiliser l'exemple de JupyterLab bloc-notes pour commencer à créer à l'aide de divers outils et ressources.
Explorez le guide
- Amazon Nova
-
Qu'est-ce qu'Amazon Nova ?
Découvrez Amazon Nova, une nouvelle génération de modèles de fondations disponibles sur Amazon Bedrock.
Explorez le guide
Présentation des modèles Amazon Nova Foundation : une intelligence avant-gardiste et des performances tarifaires inégalées
Découvrez les nouveaux modèles Amazon Nova, notamment des exemples d'utilisation de modèles Amazon Nova pour analyser des documents et des vidéos complexes, comprendre des graphiques et des diagrammes, générer du contenu vidéo attrayant et créer des agents d'IA sophistiqués.
Lisez le billet de blog
Commencez à utiliser Amazon Nova sur la console Amazon Bedrock
Découvrez comment utiliser les aires de jeu Console de gestion AWS pour envoyer une invite textuelle aux modèles Amazon Nova et générer une réponse sous forme de texte ou d'image
Explorez le guide
- Amazon Titan
-
Présentation d'Amazon Titan dans Amazon Bedrock
Découvrez les modèles de base (FM) Amazon Titan pour étayer vos cas d'utilisation.
Explorez le guide
Cost-effective classification des documents à l'aide du modèle d'intégration multimodal Amazon Titan
Découvrez comment utiliser ce modèle pour classer et extraire des informations de grands volumes de documents de différents formats. Ce blog explique comment vous pouvez l'utiliser pour déterminer la prochaine série d'actions à entreprendre, en fonction du type de document.
Lisez le billet de blog
Créez des applications d'IA génératives avec Amazon Titan Text Premier, Amazon Bedrock et AWS CDK
Découvrez la création et le déploiement de deux exemples d'applications optimisées par Amazon Titan Text Premier dans cet article de blog.
Lisez le billet de blog
- AWS Trainium
-
Vue d'ensemble de AWS Trainium
Découvrez l'accélérateur AWS Trainium d'apprentissage automatique (ML) de deuxième génération AWS spécialement conçu pour l'apprentissage en profondeur de plus de 100 milliards de modèles de paramètres. Chaque instance Amazon EC2 Trn1 déploie jusqu'à 16 AWS Trainium accélérateurs afin de fournir une solution performante et peu coûteuse pour la formation par apprentissage profond (DL) dans le cloud.
Explorez le guide
Instances Trainium recommandées
Découvrez comment les AWS Trainium instances sont conçues pour fournir des performances et une rentabilité élevées pour les charges de travail d'inférence de modèles d'apprentissage en profondeur.
Explorez le guide
Élargir la formation distribuée avec AWS Trainium Amazon EKS
Si vous déployez vos charges de travail d'apprentissage profond (DL) à l'aide d'Amazon Elastic Kubernetes Service (Amazon EKS), découvrez comment vous pouvez bénéficier de la disponibilité générale des instances Amazon EC2 Trn1 alimentées par AWS Trainium un accélérateur de machine learning spécialement conçu et optimisé pour fournir une plateforme performante, rentable et extrêmement évolutive pour la formation de modèles DL dans le cloud.
Lisez le billet de blog
- AWS Inferentia
-
Vue d'ensemble de AWS Inferentia
Découvrez comment AWS conçoit des accélérateurs pour fournir des performances élevées au moindre coût pour vos applications d'inférence d'apprentissage en profondeur (DL).
Explorez le guide
AWS Inferentia 2 s'appuie sur AWS Inferentia 1 en offrant un débit 4 fois plus élevé et une latence 10 fois plus faible
Découvrez pourquoi AWS Inferentia 2 est optimisé et comment il a été conçu pour offrir de meilleures performances, tout en réduisant le coût des LLM et de l'inférence générative basée sur l'IA.
Lisez le billet de blog
Inférence d'apprentissage automatique à l'aide de AWS Inferentia
Apprenez à créer un cluster Amazon EKS avec des nœuds exécutant des instances Amazon EC2 Inf1 et à déployer éventuellement un exemple d'application. Les instances Amazon EC2 Inf1 sont alimentées par des AWS Inferentia
puces conçues sur mesure AWS pour fournir des inférences hautes performances et à faible coût dans le cloud.
Explorez le guide
Explorez
Schémas d'architecture
Ces diagrammes d'architecture de référence présentent des exemples de services d' AWS IA et de ML utilisés.
Explorez les diagrammes d'architecture
Livres blancs
Explorez les livres blancs pour vous aider à démarrer et découvrez les meilleures pratiques en matière de choix et d'utilisation des services d'IA et de ML.
Explorez les livres blancs
AWS solutions
Explorez des solutions approuvées et des conseils architecturaux pour les cas d'utilisation courants des services d'IA et de ML.
Explorez les solutions
Ressources
Modèles de fondations publiques
Les modèles de fondations pris en charge sont régulièrement mis à jour et incluent actuellement :
Utilisez Amazon Bedrock et Amazon SageMaker AI pour expérimenter différents modèles de base et les personnaliser en privé avec vos données. Pour explorer rapidement l'IA générative, vous avez également la possibilité d'utiliser PartyRock un Amazon Bedrock Playground. PartyRockest un terrain de jeu génératif pour la création d'applications d'IA avec lequel vous pouvez expérimenter sur le terrain grâce à une ingénierie rapide.
Articles de blog associés
