AI 에이전트 제품의 배포 옵션

AWS Marketplace 는 AI 에이전트를 위한 여러 배포 옵션을 지원하므로 아키텍처 및 고객 요구 사항에 가장 적합한 접근 방식을 선택할 수 있습니다.

• API 배포 옵션 - API 배포 옵션을 사용하면 고객이 공급업체 호스팅 엔드포인트를 통해 AI 에이전트에 액세스할 수 있습니다. 이 옵션은 자체 환경에서 유지하려는 특수 인프라 또는 독점 모델이 필요한 에이전트 및 에이전트 도구에 적합합니다.

• 컨테이너 배포 - AI 에이전트와 에이전트 도구를 고객이 자체 환경에서 실행할 수 있는 컨테이너화된 애플리케이션으로 패키징합니다 AWS . 이 옵션을 사용하면 고객이 데이터와 인프라를 더 잘 제어할 수 있습니다.

API 배포 세부 정보

API 배포를 사용하면 자체 환경에서 AI 에이전트 또는 도구를 호스팅하고 유지 관리하여 잘 정의된 API 엔드포인트를 통해 기능을 노출할 수 있습니다. 이 배포 방법은 고객 시작 방법을 결정하는 두 가지 통합 패턴, 즉 판매자가 AWS Marketplace 배포 서비스와 통합하고 구독 시 고객의 AWS 계정에 직접 API 키를 제공하는 Quick Launch와 고객이 API 키 또는 OAuth 사용 지침을 얻기 위해 판매자 웹 사이트로 리디렉션되는 Regular redirect를 지원합니다. 이 접근 방식은 다음과 같은 몇 가지 이점을 제공합니다.

• 독점 모델 및 알고리즘 보호

• 중앙 집중식 업데이트 및 개선 사항

• 모든 고객의 일관된 성능

• 간소화된 고객 온보딩

API 배포 에이전트를 나열할 때는 고객이 서비스와 성공적으로 통합할 수 있도록 포괄적인 API 설명서, 자세한 사용 지침, 인증 방법 및 엔드포인트 사양을 제공해야 합니다.

컨테이너 배포 세부 정보

컨테이너 배포는 AI 에이전트 또는 도구를 고객이 자체 환경에서 실행할 수 있는 컨테이너화된 애플리케이션으로 패키징합니다 AWS . 이 접근 방식은 다음과 같은 이점을 제공합니다.

• 데이터가 고객 환경 내에 유지됨

• 사용자 지정 가능한 배포 구성

• 고객의 기존 인프라와 통합

• 에어 갭 또는 고보안 환경 지원

컨테이너화된 에이전트를 나열할 때 고객이 성공적으로 구현할 수 있도록 명확한 배포 지침, 리소스 요구 사항 및 구성 옵션을 제공합니다.

올바른 배포 옵션 선택

AI 에이전트 또는 도구에 대한 배포 옵션을 선택할 때는 다음 요소를 고려하세요.

• 데이터 민감도 - 고객이 환경에서 나갈 수 없는 매우 민감한 데이터로 작업하는 경우 컨테이너 배포가 최선의 옵션일 수 있습니다.

• 모델 복잡성 - 특수 하드웨어가 필요한 대규모 또는 복잡한 모델의 경우 API 배포가 더 실용적일 수 있습니다.

• 운영 오버헤드 - 다양한 배포 모델에서 솔루션을 유지 관리하고 업데이트하는 데 필요한 리소스를 고려합니다.