Calcule o custo da execução de um modelo personalizado

Você é cobrado pela execução da inferência com modelos personalizados que você importa para o Amazon Bedrock. Use as informações a seguir para estimar o custo de execução de um modelo personalizado.

Uma unidade de modelo personalizada (CMU) é uma visão abstrata da utilização de hardware que o Amazon Bedrock precisa para hospedar uma única cópia do seu modelo personalizado. Uma cópia do modelo representa uma única instância do seu modelo importado que está pronta para atender às solicitações de inferência. O Amazon Bedrock determina o número de unidades de modelo personalizado que uma cópia do modelo precisa quando você importa o modelo personalizado. Conforme a demanda de inferência muda, o Amazon Bedrock pode aumentar ou diminuir o número de cópias do modelo em execução que estão em execução.

Você pode usar CMUs para estimar o custo de execução do seu modelo personalizado usando a fórmula a seguir.

Custo total = Número de cópias do modelo em execução × Número de CMUs por cópia × taxa de cobrança por CMU por minuto × ((Número de janelas de 5 minutos) /60)

• Número de cópias do modelo em execução — Obtenha a partir da ModelCopy métrica na Amazon CloudWatch.

• Número de CMUs por cópia — Obtenha o valor na página de detalhes do modelo na página de detalhes do Amazon Bedrock. Como alternativa, chame a GetImportedModeloperação e obtenha o número de CMUs por cópia do customModelUnitsPerModelCopy campo.

• Taxa de cobrança por CMU por minuto — Obtenha a versão personalizada das unidades do modelo na página de detalhes do modelo no console Amazon Bedrock. Como alternativa, chame a GetImportedModeloperação e obtenha a versão personalizada das unidades do modelo no customModelUnitsVersion campo.

  Em seguida, obtenha a taxa de cobrança (preço por unidade de modelo personalizado por min*) para a versão do modelo (versão de unidade de modelo personalizada) na seção Importação de modelo personalizado da página de Amazon Bedrock preços.

O faturamento é cobrado em períodos de faturamento de 5 minutos a partir da primeira chamada de inferência bem-sucedida.

Para obter mais informações, consulte Preços do Amazon Bedrock.