온디맨드 추론용 배포 사용
사용자 지정 모델을 온디맨드 추론용으로 배포한 후에는 추론 요청을 보내 응답을 생성할 수 있습니다. InvokeModel
또는 Converse
작업을 사용할 때는 배포된 모델의 Amazon 리소스 이름(ARN)을 modelId
로 지정합니다.
추론 요청 방법에 대한 자세한 내용은 다음 주제를 참조하세요.
사용자 지정 모델을 온디맨드 추론용으로 배포한 후에는 추론 요청을 보내 응답을 생성할 수 있습니다. InvokeModel
또는 Converse
작업을 사용할 때는 배포된 모델의 Amazon 리소스 이름(ARN)을 modelId
로 지정합니다.
추론 요청 방법에 대한 자세한 내용은 다음 주제를 참조하세요.