Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

# Points de terminaison d'inférence pris en charge par Amazon Bedrock
<a name="endpoints"></a>

Un point de terminaison est l'URL que votre application utilise pour envoyer des demandes [d'inférence](inference.md) à Amazon Bedrock. Amazon Bedrock fournit deux points de terminaison d'inférence. Le point de terminaison que vous choisissez détermine les API et les fonctionnalités disponibles.

Pour la plupart des nouvelles applications, utilisez le `bedrock-runtime` point de terminaison. [À utiliser `bedrock-mantle` lorsque vous avez spécifiquement besoin de fonctionnalités qui ne sont actuellement disponibles que là-bas, telles que les outils côté serveur et préconfigurés (y compris la [recherche sur le Web](web-search.md)), l'inférence en arrière-plan, les [projets](projects.md) ou les espaces de travail.](workspaces.md) Pour connaître le point de terminaison pris en charge par chaque modèle, consultez[Disponibilité des terminaux](models-endpoint-availability.md). Le tableau suivant compare les deux points de terminaison.


| **Point de terminaison** | **API prises en charge** | **Description** | 
| --- | --- | --- | 
| bedrock-runtime.{region}.amazonaws.com (recommandé) | [InvokeModel](inference-invoke.md)[/[Converse/Achèvement](conversation-inference.md) des [chats/API de](inference-chat-completions.md)[réponses/API](inference-responses-api.md#bedrock-mantle-responses) de messages](inference-messages-api.md) | Region-specific points de terminaison pour effectuer des demandes d'inférence pour les modèles hébergés dans Amazon Bedrock à l'aide des API. InvokeModel/Converse/Chat Completions/Responses/Messages Pour plus d'informations sur les Bedrock-native opérations, consultez la section [Opérations de l'API Amazon Bedrock Runtime](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_Operations_Amazon_Bedrock_Runtime.html). Les OpenAI-compatible API sont appelées sur les /openai/v1 chemins de ce point de terminaison plutôt que via les AWS SDK. | 
| bedrock-mantle.{region}.api.aws | [API de réponses/API](inference-responses-api.md) de [fin de chat/API](inference-chat-completions.md) de [messages](inference-messages-api.md) | Region-specific points de terminaison pour effectuer des demandes d'inférence pour les modèles hébergés dans Amazon Bedrock à l'aide des OpenAI-compatible points de terminaison et de l'API Anthropic Messages. | 

**Note**  
Les deux points de terminaison utilisent le même moteur d'inférence Mantle sous-jacent. Le `bedrock-mantle` nom identifie une surface terminale, et non un autre moteur d'inférence.

Les applications existantes utilisées `bedrock-mantle` continuent d'être entièrement prises en charge et n'ont pas besoin d'être modifiées. Les deux points de terminaison vous permettent d'intégrer une base de code du SDK OpenAI existante à Amazon Bedrock en modifiant uniquement l'URL de base et la clé d'API, et les deux prennent en charge les API Responses and Chat Completions et OpenAI-compatible l'API Anthropic Messages.


**Prise en charge de l'API**  

| API | `bedrock-runtime` | `bedrock-mantle` | 
| --- | --- | --- | 
| [InvokeModel](inference-api.md) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![not-supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| [Converse/ ConverseStream](conversation-inference.md) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![not-supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| [Terminaisons du chat () OpenAI-compatible](inference-chat-completions.md) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 
| [API de réponses (OpenAI-compatible)](inference-responses-api.md#bedrock-mantle-responses) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 
| [API de messages (Anthropic-native)](inference-messages-api.md) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 

**Note**  
L'API Messages est disponible sur les deux points de terminaison. [Les sorties structurées](structured-output.md) (le `output_config.format` paramètre) sont prises en charge pour les modèles Anthropic Claude à la fois sur les points de `bedrock-mantle` terminaison `bedrock-runtime` et. Pour Claude-specific obtenir des conseils, voir[Sorties structurées pour les modèles Anthropic Claude](claude-messages-structured-outputs.md).

**Note**  
L'API Responses est également disponible sur les deux points de terminaison sans prise en charge des fonctionnalités identiques. Sous `bedrock-runtime` :  
**Les demandes sont toujours synchrones.** `background=true`est rejeté avec une erreur 400. Le `store` paramètre n'est pas affecté et conserve sa valeur par défaut`true`, de sorte que les conversations enregistrées à plusieurs tours fonctionnent normalement.
**Server-side l'utilisation des outils et les outils préconfigurés ne sont pas disponibles**, y compris la [recherche sur le Web](web-search.md). Client-side l'utilisation de l'outil fonctionne sur les deux points de terminaison.
**Seul le projet par défaut est pris en charge.** Consultez [Projets (OpenAI-compatible)](projects.md).
**Une réponse stockée appartient à Région AWS celui qui l'a envoyée.** La récupération, l'annulation ou la suppression, ainsi que la poursuite de la conversation avec`previous_response_id`, sont toutes gérées par cette région.


**Capacités d'inférence**  

| Capacité | `bedrock-runtime` | `bedrock-mantle` | 
| --- | --- | --- | 
| [Cross-region inférence (profils géographiques et globaux)](cross-region-inference.md) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![not-supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| [Gestion dynamique des conversations](inference-responses-api.md#bedrock-mantle-responses-state) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 
| [Inférence asynchrone (de longue durée)](inference-responses-api.md) | ![not-supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-no.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 
| [Client-side utilisation de l'outil](tool-use-client-side.md) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 
| [Server-side utilisation de l'outil](tool-use-server-side.md) | ![not-supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-no.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 
| [Pre-configured outils prêts à l'emploi](tool-use.md) | ![not-supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-no.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 
| [Projets](projects.md) | Projet par défaut uniquement | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 
| [Espaces de travail](workspaces.md) | ![not-supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-no.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 

L'authentification n'autorise pas l'accès en elle-même. Que vous utilisiez SigV4 ou une clé d'API Bedrock, le principal IAM associé doit être autorisé à effectuer l'action requise. Pour obtenir des exigences de politique complètes et des exemples, voir[Conditions préalables à l’exécution de l’inférence de modèle](inference-prereq.md).


**Fonctionnement**  

| Élément | `bedrock-runtime` | `bedrock-mantle` | 
| --- | --- | --- | 
| Authentification AWS [SigV4](https://docs.aws.amazon.com/AmazonS3/latest/API/sig-v4-authenticating-requests.html) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 
| [Clé API Bedrock (fonctionne également avec le SDK OpenAI)](api-keys.md) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 
| Autorisation IAM pour l'inférence | bedrock:InvokeModelsur la cible d'inférence et, pour l'API Responses, sur le projet par défaut ; bedrock:InvokeModelWithResponseStream pour le streaming | bedrock-mantle:CreateInference | 
| [Attribution d'utilisation](cost-management.md) | [Principal IAM](cost-mgmt-iam-principal-tracking.md)[, [balisage des métadonnées par demande](cost-mgmt-request-metadata.md), profils d'inférence d'applications](cost-mgmt-application-inference-profiles.md) | [Projets](projects.md), espaces [de travail](workspaces.md) | 

**Note**  
Activé`bedrock-runtime`, l'API Responses utilise les attributs uniquement par le [principal IAM](cost-mgmt-iam-principal-tracking.md). Per-request le balisage des métadonnées et les profils d'inférence d'application ne sont pas disponibles sur ce site : une demande désignant un profil d'inférence d'application comme cible d'inférence est rejetée avec une erreur 400. Cela n'affecte pas l'inférence interrégionale : les profils d'inférence géographiques et globaux définis par le système fonctionnent normalement.


**Disponibilité des fonctionnalités de Bedrock**  

| Fonctionnalité | `bedrock-runtime` | `bedrock-mantle` | 
| --- | --- | --- | 
| [Rambardes](guardrails.md) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![not-supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| [Mise en cache rapide](prompt-caching.md) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | 
| [Routage rapide intelligent](prompt-routing.md) | ![supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![not-supported](https://docs.aws.amazon.com/fr_fr/bedrock/latest/userguide/images/icons/icon-no.png) | 

**Note**  
La prise en charge rapide de la mise en cache `bedrock-mantle` dépend du modèle spécifique. Consultez chaque modèle de carte ci-dessous [Les modèles en un coup d'œil](model-cards.md) pour plus de détails.

**Approche fondée sur le débit et les quotas**

Chaque point de terminaison utilise une approche différente pour gérer le débit.
+ **`bedrock-runtime`**— Dans de nombreux services multilocataires traditionnels, l'architecture est conçue autour de quotas par compte afin de gérer un accès équitable aux ressources partagées. C'est l'approche utilisée avec`bedrock-runtime`. Chaque modèle dispose de quotas de débit fixes (RPM et TPM) pour lesquels vous pouvez demander des augmentations. Pour plus de détails, consultez [Quotas pour le point de terminaison entre le socle et le temps d'exécution](quotas-runtime.md).
+ **`bedrock-mantle`**— Ce point de terminaison est conçu avec des mécanismes avancés de planification et de mise en file d'attente qui assurent une distribution équitable tout en supportant des limites de débit initiales plus élevées. Cette conception permet également `bedrock-mantle` d'héberger un large éventail de modèles et de fournir l'ensemble des fonctionnalités disponibles dans le catalogue de modèles. Dans la plupart des cas, les demandes sont traitées immédiatement. Dans certains cas, une demande peut être brièvement mise en file d'attente pendant que les charges de travail en vol sont terminées et que le débit devient disponible. Pour plus d’informations, consultez [Quotas pour la limite entre le substrat rocheux et le manteau](quotas-mantle.md) et [Meilleures pratiques en matière de mise à l'échelle et de débit](scaling-throughput-best-practices.md).

**Tarification**

Per-token les prix pour le même modèle sont identiques sur `bedrock-runtime` et`bedrock-mantle`. Choisissez un point de terminaison en fonction des API et des fonctionnalités dont vous avez besoin, et non du coût. Pour connaître les tarifs actuels, consultez les [tarifs d'Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

**Quand choisir chaque point de terminaison**

Commencez par le `bedrock-runtime` moment où vous souhaitez :
+ Appelez les API OpenAI-compatible Responses ou Chat Completions, ou l'API Anthropic Messages.
+ Utilisez les API Bedrock-native [InvokeModel](inference-api.md)ou [Converse](conversation-inference.md).
+ Utilisez les fonctionnalités d'Amazon Bedrock qui ne sont disponibles que sur ce point de terminaison, telles que [Guardrails et le routage](guardrails.md) automatique [intelligent](prompt-routing.md).
+ Utilisez l'[inférence entre régions](cross-region-inference.md) pour acheminer les demandes à travers une zone géographique ou à l'échelle mondiale.

À utiliser `bedrock-mantle` lorsque vous souhaitez :
+ [Créez des flux de travail agentiques en utilisant des outils côté serveur ou des outils préconfigurés, notamment la recherche sur le Web.](web-search.md)
+ Exécutez des charges de travail d'inférence asynchrones ou de longue durée, y compris des requêtes Responses avec. `background=true`
+ Créez [Projets (OpenAI-compatible)](projects.md) ou [Espaces de travail () Anthropic-compatible](workspaces.md) isolez les charges de travail et suivez les coûts et l'utilisation au niveau de l'application.
+ Utilisez un modèle disponible uniquement sur`bedrock-mantle`. Consultez [Disponibilité des terminaux](models-endpoint-availability.md).

Les deux points de terminaison peuvent être utilisés ensemble à partir de la même application. Choisissez par cas d'utilisation.

**Réduisez les coûts de sortie de données grâce aux points de terminaison d'interface VPC**  
Si vous appelez Amazon Bedrock depuis un VPC, pensez à utiliser des [points de terminaison d'interface VPC (AWS) pour maintenir le trafic au sein du réseau PrivateLink AWS](vpc-interface-endpoints.md) et éviter les frais de sortie de données associés aux passerelles NAT ou aux passerelles Internet.