Opções de implantação para produtos de agentes de IA

AWS Marketplace oferece suporte a várias opções de implantação para agentes de IA, permitindo que você escolha a abordagem que melhor se adapta à sua arquitetura e às necessidades do cliente:

• Opção de implantação de API — A opção de implantação de API permite que os clientes acessem seu agente de IA por meio de endpoints hospedados pelo fornecedor. Essa opção é ideal para agentes e ferramentas de agentes que exigem infraestrutura especializada ou modelos proprietários que você deseja manter em seu próprio ambiente.

• Implantação de contêineres — Empacote suas ferramentas de agente e agente de IA como aplicativos em contêineres que os clientes podem executar em seus próprios ambientes. AWS Essa opção oferece aos clientes maior controle sobre seus dados e infraestrutura.

Detalhes da implantação da API

Com a implantação da API, você hospeda e mantém o agente ou a ferramenta de IA em seu próprio ambiente, expondo a funcionalidade por meio de endpoints de API bem definidos. Esse método de implantação suporta dois padrões de integração que determinam o método de lançamento pelo cliente: Início Rápido, em que os vendedores se integram ao serviço de AWS Marketplace implantação e fornecem chaves de API diretamente às AWS contas dos clientes após a assinatura; e Redirecionamento regular, em que os clientes são redirecionados ao site do vendedor para obter chaves de API ou instruções de uso. OAuth Essa abordagem oferece várias vantagens, incluindo as seguintes:

• Proteja modelos e algoritmos proprietários

• Atualizações e melhorias centralizadas

• Desempenho consistente em todos os clientes

• Integração simplificada de clientes

Ao listar um agente implantado pela API, você precisará fornecer documentação abrangente da API, instruções detalhadas de uso, métodos de autenticação e especificações de endpoint para garantir que os clientes possam se integrar com sucesso ao seu serviço.

Detalhes da implantação do contêiner

A implantação de contêineres empacota seu agente ou ferramenta de IA como um aplicativo em contêiner que os clientes podem executar em seus próprios AWS ambientes. Essa abordagem oferece os seguintes benefícios:

• Os dados permanecem no ambiente do cliente

• Configurações de implantação personalizáveis

• Integração com a infraestrutura existente do cliente

• Support para ambientes isolados ou de alta segurança

Ao listar um agente em contêineres, forneça instruções claras de implantação, requisitos de recursos e opções de configuração para garantir uma implementação bem-sucedida pelo cliente.

Escolhendo a opção de implantação certa

Ao selecionar uma opção de implantação para seu agente ou ferramenta de IA, considere os seguintes fatores:

• Sensibilidade dos dados — Se seus clientes trabalham com dados altamente confidenciais que não podem sair do ambiente, a implantação de contêineres pode ser a melhor opção.

• Complexidade do modelo — Para modelos grandes ou complexos que exigem hardware especializado, a implantação da API pode ser mais prática.

• Sobrecarga operacional — considere os recursos necessários para manter e atualizar sua solução em diferentes modelos de implantação.