APIs con el apoyo de Amazon Bedrock - Amazon Bedrock

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

APIs con el apoyo de Amazon Bedrock

Se admite la inferencia APIs

Amazon Bedrock proporciona cuatro patrones de API principales para realizar inferencias en Amazon Bedrock.

Método de API Punto de enlace de servicio Caso de uso más adecuado para Característica clave
API de respuestas (recomendada) bedrock-mantle.<suffix> Conversaciones llenas de estado Usa la API de Respuestas para aplicaciones de agencia modernas que requieren el uso de herramientas integradas (búsqueda, intérprete de código), entradas multimodales y conversaciones con estado
Finalización del chat bedrock-mantle.<suffix>(recomendado) y bedrock-runtime.<suffix> Chat de varios turnos para apátridas Usa la API Chat Completions para realizar tareas sencillas, sin estado y centradas en texto, en las que necesites tener un control total sobre la gestión del historial de chats y reducir la latencia.
Método converse bedrock-runtime.<suffix> Chateo multiturno o estandarización La API de Converse proporciona una interfaz unificada para interactuar con todos los modelos de Amazon Bedrock.
Método Invoke bedrock-runtime.<suffix> Transacciones individuales/Cargas útiles grandes La API Invoke proporciona acceso directo a los modelos con más capacidad para controlar el formato de solicitud y respuesta.

Nota: el sufijo es {region}.amazonaws.com

Obtenga más información sobre el APIs soporte de Amazon Bedrock.

Decidir entre APIs

La API que utilices depende de tu caso de uso.

Caso de uso API recomendada
Migración desde un punto final compatible con la API OpenAI Utilice la API de respuestas o la API de APIs finalización de chat, compatibles con OpenAI. Según OpenAI, la API recomendada a largo plazo es la API de Respuestas.
Uso de modelos no compatibles con terminales compatibles con OpenAI Utilice Amazon Bedrock APIs: Converse and Invoke nativo. Para obtener más información, consulte Envío de solicitudes y generación de respuestas mediante la API.
Interfaz uniforme en todos los modelos API de Converse: funciona con todos los modelos que admiten mensajes. Escribe el código una vez y úsalo con diferentes modelos. Para ver código de ejemplo, consulta los ejemplos de la API de Converse.
Acceso directo al modelo con control total API Invoke: proporciona acceso directo a los modelos con más control sobre el formato de solicitud y respuesta. Se utiliza para generar texto, imágenes e incrustaciones. Para ver código de ejemplo, consulte Invoke model code examples.
¿Eres nuevo en Amazon Bedrock? Comience con la API de respuestas

Modelos compatibles con cada API y punto final

En primer lugar, explore nuestros modelos para decidir qué modelo quiere usar. Una vez que decidas el modelo que quieres usar, puedes ver el que APIs es compatible y, en función de ello, elegir qué terminal utilizar. bedrock-mantleEs compatible con la API de respuestas y finalización de chats. bedrock-runtimeEs compatible con las API Invoke y Converse.