기계 학습 추론 수행 - AWS IoT Greengrass

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

기계 학습 추론 수행

를 사용하면 클라우드 학습 모델을 사용하여 로컬에서 생성된 데이터에 대해 엣지 디바이스에서 기계 학습 (ML) 추론을 수행할 수 있습니다. AWS IoT Greengrass 이를 통해 로컬 추론 실행의 낮은 지연 시간과 비용 절감이라는 이점을 얻을 수 있습니다. 그러면서도 모델 훈련 및 복잡한 처리에 필요한 클라우드 컴퓨팅 능력을 활용할 수 있습니다.

AWS IoT Greengrass추론을 수행하는 데 필요한 단계를 더 효율적으로 만듭니다. 어디서나 추론 모델을 학습시키고 로컬에 기계 학습 구성 요소로 배포할 수 있습니다. 예를 들어 Amazon에서 딥 러닝 모델을 구축하고 SageMaker 학습시키거나 Amazon Lookout for Vision에서 컴퓨터 비전 모델을 구축하고 학습시킬 수 있습니다. 그런 다음 이러한 모델을 Amazon S3 버킷에 저장하여 이러한 모델을 구성 요소의 아티팩트로 사용하여 코어 디바이스에서 추론을 수행할 수 있습니다.

AWS IoT Greengrass ML 추론 작동 방식

AWS디바이스에서 기계 학습 추론을 수행하기 위한 1단계 배포를 생성하는 데 사용할 수 있는 기계 학습 구성 요소를 제공합니다. 또한 이러한 구성 요소를 템플릿으로 사용하여 특정 요구 사항에 맞는 사용자 지정 구성 요소를 만들 수 있습니다.

AWS다음과 같은 범주의 기계 학습 구성 요소를 제공합니다.

  • 모델 구성 요소 —기계 학습 모델을 Greengrass 아티팩트로 포함합니다.

  • 런타임 구성 요소 - Greengrass 코어 장치에 기계 학습 프레임워크 및 해당 종속성을 설치하는 스크립트가 들어 있습니다.

  • 추론 구성 요소 - 추론 코드를 포함하며 기계 학습 프레임워크를 설치하고 사전 학습된 기계 학습 모델을 다운로드하기 위한 구성 요소 종속성을 포함합니다.

기계 학습 추론을 수행하기 위해 생성하는 각 배포는 추론 응용 프로그램을 실행하고, 기계 학습 프레임워크를 설치하고, 기계 학습 모델을 다운로드하는 하나 이상의 구성 요소로 구성됩니다. AWS제공된 구성 요소를 사용하여 샘플 추론을 수행하려면 핵심 장치에 추론 구성 요소를 배포합니다. 그러면 해당 모델 및 런타임 구성 요소가 종속 항목으로 자동 포함됩니다. 배포를 사용자 지정하려면 샘플 모델 구성 요소를 사용자 지정 모델 구성 요소로 연결하거나 교체하거나 AWS 제공된 구성 요소의 구성 요소 레시피를 템플릿으로 사용하여 사용자 지정 추론, 모델 및 런타임 구성 요소를 만들 수 있습니다.

사용자 지정 구성 요소를 사용하여 기계 학습 추론을 수행하려면:

  1. 모델 구성 요소 만들기. 이 구성 요소에는 추론을 수행하는 데 사용할 기계 학습 모델이 포함되어 있습니다. AWS사전 학습된 DLR 및 TensorFlow Lite 모델 샘플을 제공합니다. 사용자 지정 모델을 사용하려면 자체 모델 구성 요소를 만드십시오.

  2. 런타임 컴포넌트 생성. 이 구성 요소에는 모델의 기계 학습 런타임을 설치하는 데 필요한 스크립트가 포함되어 있습니다. AWSDLR (딥 러닝 런타임) 및 TensorFlow Lite용 샘플 런타임 구성 요소를 제공합니다. 사용자 지정 모델 및 추론 코드와 함께 다른 런타임을 사용하려면 자체 런타임 구성 요소를 만드십시오.

  3. 추론 컴포넌트 만들기. 이 구성 요소에는 추론 코드가 포함되며 모델 및 런타임 구성 요소가 종속성으로 포함됩니다. AWSDLR 및 Lite를 사용한 이미지 분류 및 객체 감지를 위한 샘플 추론 구성 요소를 제공합니다. TensorFlow 다른 유형의 추론을 수행하거나 사용자 지정 모델 및 런타임을 사용하려면 자체 추론 구성 요소를 만드십시오.

  4. 추론 구성 요소를 배포하십시오. 이 구성 요소를 배포하면 모델 및 런타임 구성 요소 AWS IoT Greengrass 종속성도 자동으로 배포됩니다.

AWS제공된 구성 요소를 시작하려면 을 참조하십시오. 자습서: Lite를 사용하여 TensorFlow 샘플 이미지 분류 추론 수행

사용자 지정 기계 학습 구성 요소를 만드는 방법에 대한 자세한 내용은 을 참조하십시오머신 러닝 구성 요소 사용자 지정.

AWS IoT Greengrass버전 2에서는 무엇이 다릅니까?

AWS IoT Greengrass모델, 런타임, 추론 코드와 같은 기계 학습용 기능 단위를 구성 요소로 통합하여 한 단계 프로세스를 통해 기계 학습 런타임을 설치하고, 학습된 모델을 다운로드하고, 장치에서 추론을 수행할 수 있습니다.

AWS제공된 기계 학습 구성 요소를 사용하면 샘플 추론 코드와 사전 학습된 모델을 사용하여 유연하게 기계 학습 추론을 시작할 수 있습니다. 사용자 지정 모델 구성 요소를 플러그인하여 제공되는 추론 및 런타임 구성 요소와 함께 자체 사용자 지정 학습 모델을 사용할 수 있습니다. AWS 완전히 사용자 지정된 기계 학습 솔루션의 경우 공용 구성 요소를 템플릿으로 사용하여 사용자 지정 구성 요소를 만들고 원하는 런타임, 모델 또는 추론 유형을 사용할 수 있습니다.

요구 사항

기계 학습 구성 요소를 만들고 사용하려면 다음이 있어야 합니다.

  • 그린그래스 코어 디바이스. 계정이 없는 경우 자습서: AWS IoT Greengrass V2 시작하기 단원을 참조하십시오.

  • AWS제공된 샘플 머신 러닝 구성 요소를 사용하기 위한 최소 500MB의 로컬 스토리지 공간.

지원되는 모델 소스

AWS IoT GreengrassAmazon S3에 저장된 사용자 지정 학습 기계 학습 모델 사용을 지원합니다. Amazon SageMaker Edge 패키징 작업을 사용하여 SageMaker NEO로 컴파일된 모델의 모델 구성 요소를 직접 생성할 수도 있습니다. SageMaker Edge Manager와 함께 AWS IoT Greengrass 사용하는 방법에 대한 자세한 내용은 을 참조하십시오. 그린그래스 코어 디바이스에서 Amazon SageMaker Edge Manager 사용 또한 Amazon Lookout for Vision 모델 패키징 작업을 사용하여 Lookout for Vision 모델용 모델 구성 요소를 생성할 수 있습니다. Lookout for AWS IoT Greengrass Vision과 함께 사용하는 방법에 대한 자세한 내용은 을 참조하십시오. Amazon Lookout for Vision

모델이 포함된 S3 버킷은 다음 요구 사항을 충족해야 합니다.

  • SSE-C를 사용하여 암호화해서는 안 됩니다. 서버 측 암호화를 사용하는 버킷의 경우, AWS IoT Greengrass 기계 학습 추론은 현재 SSE-S3 또는 SSE-KMS 암호화 옵션만 지원합니다. 자세한 내용은 Amazon Simple Storage Service 사용 설명서서버 측 암호화 옵션을 사용하여 데이터 보호를 참조하세요.

  • 이름에는 마침표 () 가 포함되지 않아야 합니다. . 자세한 내용은 Amazon Simple Storage Service 사용 설명서버킷 이름 지정 규칙에서 SSL과 함께 가상 호스팅 스타일 버킷을 사용하는 것과 관련된 규칙을 참조하십시오.

  • 모델 소스를 저장하는 S3 버킷은 기계 학습 구성 AWS 계정 요소와 AWS 리전 동일해야 합니다.

  • AWS IoT Greengrass모델 소스에 대한 read 권한이 있어야 합니다. S3 AWS IoT Greengrass 버킷에 액세스할 수 있으려면 Greengrass 디바이스 역할이 작업을 s3:GetObject 허용해야 합니다. 디바이스 역할에 대한 자세한 내용은 을 참조하십시오. 핵심 장치가 서비스와 상호 작용할 AWS 수 있도록 권한 부여

지원되는 기계 학습 런타임

AWS IoT Greengrass원하는 기계 학습 런타임을 사용하여 사용자 지정 학습된 모델을 사용하여 기계 학습 추론을 수행하는 사용자 지정 구성 요소를 만들 수 있습니다. 사용자 지정 기계 학습 구성 요소를 만드는 방법에 대한 자세한 내용은 을 참조하십시오. 머신 러닝 구성 요소 사용자 지정

기계 학습을 더 효율적으로 시작할 수 있도록 다음 기계 학습 런타임을 사용하는 샘플 추론, 모델 및 런타임 구성 요소를 AWS IoT Greengrass 제공합니다.

AWS-머신 러닝 컴포넌트 제공

다음 표에는 기계 학습에 사용되는 AWS -제공 구성 요소가 나열되어 있습니다.

참고

AWS제공되는 몇 가지 구성 요소는 Greengrass 핵의 특정 마이너 버전에 따라 다릅니다. 이러한 종속성 때문에 Greengrass 핵을 새 마이너 버전으로 업데이트할 때 이러한 구성 요소를 업데이트해야 합니다. 각 구성 요소가 의존하는 핵의 특정 버전에 대한 자세한 내용은 해당 구성 요소 항목을 참조하십시오. 핵 업데이트에 대한 자세한 내용은 을 참조하십시오. AWS IoT Greengrass코어 소프트웨어 (OTA) 업데이트

구성 요소 설명 구성 요소 유형 지원되는 OS 오픈 소스
Lookout for Vision Edge Agent를 찾아보세요 Greengrass 코어 디바이스에 Amazon Lookout for Vision 런타임을 배포하므로 컴퓨터 비전을 사용하여 산업용 제품의 결함을 찾을 수 있습니다. 일반 Linux 아니요
SageMaker 엣지 매니저 Greengrass 코어 디바이스에 Amazon SageMaker Edge Manager 에이전트를 배포합니다. 일반 Linux, Windows 아니요
DLR 이미지 분류 DLR 이미지 분류 모델 스토어와 DLR 런타임 구성 요소를 종속성으로 사용하여 DLR을 설치하고, 샘플 이미지 분류 모델을 다운로드하고, 지원되는 기기에서 이미지 분류 추론을 수행하는 추론 구성 요소입니다. 일반 Linux, Windows 아니요
DLR 객체 감지 DLR 개체 탐지 모델 저장소와 DLR 런타임 구성 요소를 종속성으로 사용하여 DLR을 설치하고, 샘플 개체 감지 모델을 다운로드하고, 지원되는 장치에서 개체 감지 추론을 수행하는 추론 구성 요소입니다. 일반 Linux, Windows 아니요
DLR 이미지 분류 모델 스토어 샘플 ResNet -50개의 이미지 분류 모델을 Greengrass 아티팩트로 포함하는 모델 구성 요소입니다. 일반 Linux, Windows 아니요
DLR 객체 감지 모델 스토어 샘플 YoloV3 객체 감지 모델을 Greengrass 아티팩트로 포함하는 모델 컴포넌트입니다. 일반 Linux, Windows 아니요
DLR 런타임 Greengrass 코어 디바이스에 DLR 및 해당 종속성을 설치하는 데 사용되는 설치 스크립트가 포함된 런타임 구성 요소입니다. 일반 Linux, Windows 아니요
TensorFlow 라이트 이미지 분류 TensorFlow Lite 이미지 분류 모델 저장소와 TensorFlow Lite 런타임 구성 요소를 종속성으로 사용하여 TensorFlow Lite를 설치하고, 샘플 이미지 분류 모델을 다운로드하고, 지원되는 기기에서 이미지 분류 추론을 수행하는 추론 구성 요소입니다. 일반 Linux, Windows 아니요
TensorFlow 라이트 오브젝트 감지 TensorFlow Lite 개체 감지 모델 저장소 및 TensorFlow Lite 런타임 구성 요소를 종속성으로 사용하여 TensorFlow Lite를 설치하고, 샘플 개체 감지 모델을 다운로드하고, 지원되는 장치에서 개체 감지 추론을 수행하는 추론 구성 요소입니다. 일반 Linux, Windows 아니요
TensorFlow 라이트 이미지 분류 모델 스토어 샘플 MobileNet v1 모델을 Greengrass 아티팩트로 포함하는 모델 컴포넌트입니다. 일반 Linux, Windows 아니요
TensorFlow Lite 객체 감지 모델 스토어 샘플 싱글 샷 감지 (SSD) MobileNet 모델을 Greengrass 아티팩트로 포함하는 모델 컴포넌트입니다. 일반 Linux, Windows 아니요
TensorFlow 라이트 런타임 Greengrass 코어 기기에 TensorFlow Lite 및 해당 종속성을 설치하는 데 사용되는 설치 스크립트가 포함된 런타임 구성 요소입니다. 일반 Linux, Windows 아니요