Configuration d'un agent en ligne au moment de l'exécution

Note

La configuration et l'appel d'une fonctionnalité d'agent en ligne sont disponibles dans la version préliminaire d'Amazon Bedrock et sont susceptibles d'être modifiées.

Vous pouvez configurer et appeler un agent Amazon Bedrock en ligne de manière dynamique lors de l'exécution à l'aide InvokeInlineAgentde l'API. L'utilisation d'un agent en ligne vous permet de spécifier les fonctionnalités de votre agent, telles que les modèles de base, les instructions, les groupes d'action, les garde-fous et les bases de connaissances, au moment même où vous appelez votre agent. Il n'est pas nécessaire de prédéfinir les fonctionnalités de l'agent avant de pouvoir l'utiliser.

Voici certains des cas d'utilisation dans lesquels l'utilisation d'agents en ligne peut vous aider en vous offrant la flexibilité de configurer votre agent au moment de l'invocation.

• Procédez à des expérimentations rapides en testant différentes fonctionnalités d'agent avec différentes configurations et en mettant à jour de manière dynamique les outils mis à la disposition de votre agent sans créer d'agents distincts.

• Invoquez dynamiquement un agent pour effectuer des tâches spécifiques sans créer de nouvelles versions d'agent ni préparer l'agent.

• Exécutez des requêtes simples ou utilisez un interpréteur de code pour des tâches simples en créant et en appelant l'agent au moment de l'exécution.

Modèles et régions pris en charge

Vous pouvez utiliser n'importe quel modèle de base pris en charge par les agents Amazon Bedrock pour configurer votre agent en ligne et vous pouvez appeler votre agent en ligne dans toutes les régions où les agents Amazon Bedrock sont pris en charge. Pour plus d'informations sur les modèles et les régions pris en charge par Amazon Bedrock Agents, consultez les pages suivantes :

• Régions prises en charge par Amazon Bedrock Agents

• Support des modèles par fonctionnalité

Avec les agents en ligne, vous pouvez passer d'un modèle à l'autre. Nous vous recommandons de passer d'un modèle à l'autre appartenant à la même famille. Le passage d'un modèle appartenant à une famille différente peut entraîner des comportements incohérents et entraîner des défaillances.

La configuration et l'appel d'un agent en ligne ne sont actuellement pas pris en charge dans la console Amazon Bedrock.

Directives relatives à l'utilisation de modèles d'invite avancés pour les agents en ligne

• Modèles d'invite de base — Par défaut, Amazon Bedrock utilise le modèle d'invite de base par défaut pour votre agent en ligne et les invites peuvent être modifiées en arrière-plan à tout moment. Cela peut rendre les réponses incohérentes. Si vous souhaitez obtenir des réponses cohérentes à vos requêtes, personnalisez le comportement de votre agent en ligne en remplaçant la logique du modèle d'invite de base par défaut par vos propres configurations. Pour plus d'informations, consultez la section Modèles d'invite avancés.

• Chiffrement : customer managed key à utiliser pour chiffrer les détails de la session au repos/au stockage. Si une session est démarrée avec une clé gérée par le client, elle sera requise pour toutes les futures demandes effectuées pour la même session. L'utilisation d'une clé gérée par le client différente pour les mêmes sessions entraînera une exception.

• Partage de session : si des utilisateurs dotés de deux rôles différents démarrent une session avec le même SessionID, ils interagiront avec différentes sessions. Si le partage de session est requis, créez un rôle partagé pour que vos utilisateurs puissent démarrer une conversation.

• État des sessions en ligne : les attributs qu'il contient InlineSessionState persistent tout au long de la session. Utilisez les attributs pour fournir un contexte supplémentaire à votre modèle et pour vous demander quelques photos.