쿼리할 추론 엔드포인트 생성

추론 엔드포인트를 사용하면 모델 훈련 프로세스에서 구성한 특정 모델 하나를 쿼리할 수 있습니다. 엔드포인트는 훈련 프로세스에서 생성할 수 있었던 특정 유형의 모델 중 성능이 가장 우수한 모델에 연결됩니다. 그러면 엔드포인트는 Neptune의 Gremlin 쿼리를 수락하고 쿼리의 입력에 대해 해당 모델의 예측을 반환할 수 있습니다. 추론 엔드포인트를 생성한 후에는 삭제할 때까지 활성 상태를 유지합니다.

Neptune ML의 추론 엔드포인트 관리

Neptune에서 내보낸 데이터에 대한 모델 훈련을 완료한 후에는 다음과 같은 curl(또는 awscurl) 명령을 사용하여 추론 엔드포인트를 만들 수 있습니다.

curl \
  -X POST https://(your Neptune endpoint)/ml/endpoints
  -H 'Content-Type: application/json' \
  -d '{
        "id" : "(a unique ID for the new endpoint)",
        "mlModelTrainingJobId": "(the model-training job-id of a completed job)"
      }'

모델 변환 작업을 완료하여 만든 모델에서 추론 엔드포인트를 생성하는 방법도 거의 동일합니다.

curl \
  -X POST https://(your Neptune endpoint)/ml/endpoints
  -H 'Content-Type: application/json' \
  -d '{
        "id" : "(a unique ID for the new endpoint)",
        "mlModelTransformJobId": "(the model-transform job-id of a completed job)"
      }'

이러한 명령을 사용하는 방법에 대한 자세한 내용은 엔드포인트 상태를 가져오는 방법, 엔드포인트를 삭제하는 방법, 모든 추론 엔드포인트를 나열하는 방법과 함께 endpoints 명령에 설명되어 있습니다.