AWS Management Console을 사용하여 기계 학습 추론을 구성하는 방법

Raspbian에 업데이트를 설치합니다.

sudo apt-get update
sudo apt-get dist-upgrade

이 자습서에 필요한 카메라 모듈에 대한 picamera 인터페이스 및 기타 Python 라이브러리를 설치합니다.

sudo apt-get install -y python3-dev python3-setuptools python3-pip python3-picamera

설치를 검사합니다.

Raspberry Pi를 재부팅합니다.

sudo reboot

Raspberry Pi 구성 도구를 엽니다.

sudo raspi-config

화살표 키를 사용하여 [Interfacing Options]를 열고 카메라 인터페이스를 활성화합니다. 메시지가 나타나면 디바이스 재부팅을 허용합니다.

다음 명령을 사용하여 카메라 설정을 테스트합니다.

raspistill -v -o test.jpg

그러면 Raspberry Pi의 미리 보기 창이 열리고, 현재 디렉터리에 test.jpg라는 이름의 사진이 저장되며, 카메라에 대한 정보가 Raspberry Pi 터미널에 표시됩니다.

Raspberry Pi에 원격으로 로그인합니다.

ssh pi@your-device-ip-address

MXNet 설명서의 MXNet 설치에 나온 지침을 따라 디바이스에 MXNet을 설치합니다.

MXNet을 설치한 후 다음 구성을 검사합니다.

기계 학습 샘플에 나온 Raspberry Pi용 MXNet 샘플을 컴퓨터에 다운로드합니다.

다운로드한 mxnet-py3-armv7l.tar.gz 파일의 압축을 풉니다.

squeezenet 디렉터리로 이동합니다.

cd path-to-downloaded-sample/mxnet-py3-armv7l/models/squeezenet

이 디렉터리의 squeezenet.zip 파일은 모델 패키지로, 이미지 분류 모델에 대한 SquezeNet 오픈 소스 모델 아티팩트를 포함하고 있습니다. 이후에 이 모델 패키지를 Amazon S3에 업로드합니다.

컴퓨터에서 3단계: MXNet 모델 패키지 생성에서 압축을 푼 샘플 패키지의 examples 디렉터리로 이동합니다.

cd path-to-downloaded-sample/mxnet-py3-armv7l/examples

examples 디렉터리에는 함수 코드와 종속성이 포함되어 있습니다.

examples 디렉터리의 내용을 greengrassObjectClassification.zip라는 파일로 압축합니다. 이것은 배포 패키지입니다.

zip -r greengrassObjectClassification.zip .

다음으로, Lambda 함수를 생성합니다.

AWS IoT 콘솔에서 함수를 선택하고 함수 생성을 선택합니다.

새로 작성을 선택하고 다음 값을 사용하여 함수를 생성합니다.

권한의 경우, 기본 설정을 유지합니다. 이를 통해 기본 Lambda 권한을 부여하는 실행 역할을 생성합니다. 이 역할은 AWS IoT Greengrass에서 사용되지 않습니다.

함수 생성(Create function)을 선택합니다.

이제 Lambda 함수 배포 패키지를 업로드하고 핸들러를 등록합니다.

Lambda 함수를 선택하고 Lambda 함수 배포 패키지를 업로드하십시오.

1. 코드 탭의 코드 소스에서 다음에서 업로드를 선택합니다. 드롭다운에서 .zip 파일을 선택합니다.

   

2. 업로드를 선택한 다음 greengrassObjectClassification.zip 배포 패키지를 선택합니다. 그런 다음 저장(Save)을 선택합니다.

3. 함수의 코드 탭에 있는 런타임 설정에서 편집을 선택하고 다음 값을 입력합니다.

   • 실행 시간에서 Python 3.7을 선택합니다.

   • 핸들러에 greengrassObjectClassification.function_handler를 입력합니다.

   Save를 선택합니다.

그런 다음 Lambda 함수의 첫 번째 버전을 게시합니다. 그런 다음 버전의 별칭을 생성합니다.

[Actions] 메뉴에서 [Publish new revision]을 선택합니다.

버전 설명에 First version을 입력한 후 게시를 선택합니다.

[greengrassObjectClassification: 1] 구성 페이지의 [Actions] 메뉴에서 [Create alias]를 선택합니다.

[Create a new alias] 페이지에서 다음 값을 사용합니다.

Save를 선택합니다.

이제 Greengrass 그룹에 Lambda 함수를 추가합니다.

AWS IoT 콘솔 탐색 창의 관리에서 Greengrass 디바이스를 확장한 다음 그룹(V1)을 선택합니다.

그룹 구성 페이지에서 Lambda 함수 탭을 선택합니다.

내 Lambda 함수 섹션에서 추가를 선택합니다.

Lambda 함수에서 greengrassObjectClassification를 선택합니다.

Lambda 함수 버전의 경우 Alias:mlTest를 선택하십시오.

그 다음, Lambda 함수의 수명 주기와 환경 변수를 구성합니다.

Lambda 함수 구성 섹션에서 다음과 같이 업데이트하십시오.

1. 컨테이너화 없이 실행하려면:

   • 시스템 사용자 및 그룹의 경우 Another user ID/group ID을(를) 선택합니다. 시스템 사용자 ID에 0을(를) 입력합니다. 시스템 그룹 ID에 0을(를) 입력합니다.

     이렇게 하면 Lambda 함수를 루트로 실행할 수 있습니다. 작업 실행 방법에 대한 자세한 내용은 그룹에 있는 Lambda 함수의 기본 액세스 자격 증명 설정 섹션을 참조하세요.

     작은 정보

     또한 Lambda 함수에 루트 액세스 권한을 부여하도록 config.json 파일을 업데이트해야 합니다. 이 절차는 루트로서의 Lambda 함수 실행 섹션을 참조하세요.

   • Lambda 함수 컨테이너화의 경우 컨테이너 없음을 선택합니다.

     속도 제어 자동화 실행에 대한 자세한 내용은 Lambda 함수 컨테이너화 선택 시 고려 사항 섹션을 참조하세요.

   • 시간 제한에 10 seconds를 입력합니다.

   • 고정된 경우 True를 선택합니다.

     자세한 내용은 Greengrass Lambda 함수의 라이프사이클 구성 섹션을 참조하세요.

2. 대신 컨테이너화 모드에서 실행하려면:

   참고

   비즈니스 사례에서 요구하는 경우가 아니면 컨테이너화 모드에서 실행하지 않는 것이 좋습니다.

   • 시스템 사용자 및 그룹의 경우 그룹 기본값 사용을 선택합니다.

   • Lambda 함수 컨테이너화의 경우 그룹 기본값 사용을 선택합니다.

   • 메모리 제한에 96 MB를 입력합니다.

   • 시간 제한에 10 seconds를 입력합니다.

   • 고정된 경우 True를 선택합니다.

     자세한 내용은 Greengrass Lambda 함수의 라이프사이클 구성 섹션을 참조하세요.

환경 변수에서 키-값 페어를 생성합니다. 키-값 페어는 Raspberry Pi에서 MXNet 모델과 상호 작용하는 함수에 필요합니다.

키에 MXNET_ENGINE_TYPE를 사용합니다. 값에 NaiveEngine을 사용합니다.

다른 모든 속성을 위해 기본 값을 유지하고 Lambda 함수 추가를 선택합니다.

그룹 구성 페이지에서 리소스를 선택합니다.

로컬 리소스 탭에서 로컬 리소스 추가를 선택합니다.

로컬 리소스 생성 페이지에서 다음 값을 사용합니다.

다음으로 카메라 인터페이스에 대한 로컬 디바이스 리소스를 추가합니다.

로컬 리소스 추가를 선택합니다.

로컬 리소스 생성 페이지에서 다음 값을 사용합니다.

페이지 하단에서 다른 리소스 추가를 선택합니다.

리소스 페이지에서 기계 학습을 선택한 후 기계 학습 리소스 추가를 선택합니다.

머신 러닝 리소스 생성 페이지에서 리소스 이름에 squeezenet_model을 입력합니다.

모델 소스의 경우 S3에 저장된 모델(예: 딥 러닝 컴파일러를 통해 최적화된 모델)을 선택합니다.

S3 URI의 경우 S3 버킷이 저장된 경로를 입력합니다.

S3 찾아보기(Browse S3)를 선택합니다. 그러면 새로운 Amazon S3 콘솔 탭이 열립니다.

Amazon S3 콘솔 탭에서 squeezenet.zip 파일을 S3 버킷에 업로드합니다. 자세한 내용은 Amazon Simple Storage Service 사용 설명서의 S3 버킷에 파일 및 폴더를 업로드하려면 어떻게 해야 합니까?를 참조하십시오.

AWS IoT Greengrass 콘솔 탭에서S3 버킷을 찾아 선택합니다. 업로드한 squeezenet.zip 파일을 찾아 선택을 선택합니다. 사용 가능한 버킷과 파일의 목록을 업데이트하려면 새로 고침을 선택 하십시오.

[Destination path]에 [/greengrass-machine-learning/mxnet/squeezenet]을 입력합니다.

Lambda 런타임 네임스페이스에 있는 로컬 모델의 대상입니다. 그룹을 배포할 때 AWS IoT Greengrass은(는) 소스 모델 패키지를 검색하고 지정된 디렉터리에 내용을 압축 해제합니다. 이 자습서에 대한 샘플 Lambda 함수는 이미 (model_path 변수에서) 이 경로를 사용하도록 구성되었습니다.

시스템 그룹 소유자 및 파일 액세스 권한에서 시스템 그룹 없음을 선택합니다.

리소스 추가를 선택합니다.

그룹 구성 페이지에서 구독을 선택한 다음 구독 추가를 선택합니다.

구독 세부정보 페이지에서 다음과 같이 원본 및 대상을 구성합니다.

1. 소스 유형에서 Lambda 함수를 선택한 다음 greengrassObjectClassification을 선택합니다.

2. 대상 선택에서 서비스를 선택한 후 IoT Cloud를 선택합니다.

주제 필터에서 hello/world을(를) 입력한 다음 구독 생성을 선택합니다.

AWS IoT Greengrass 코어가 실행 중인지 확인합니다. 필요한 경우 Raspberry Pi 터미널에서 다음 명령을 실행합니다.

1. 데몬이 실행 중인지 확인하려면:

   ps aux | grep -E 'greengrass.*daemon'

   출력에 root에 대한 /greengrass/ggc/packages/1.11.6/bin/daemon 입력이 포함되어 있는 경우에는 데몬이 실행 중인 것입니다.

   참고

   경로의 버전은 코어 디바이스에 설치된 AWS IoT Greengrass 코어 소프트웨어 버전에 따라 다릅니다.

2. 데몬을 시작하려면:

   cd /greengrass/ggc/core/
   sudo ./greengrassd start

그룹 구성 페이지에서 배포를 선택합니다.

Lambda 함수 탭의 시스템 Lambda 함수 섹션에서 IP 감지기를 선택하고 편집을 선택합니다.

IP 감지기 설정 편집 대화 상자에서 MQTT 브로커 엔드포인트 자동 탐지 및 재정의를 선택합니다.

Save를 선택합니다.

이렇게 하면 디바이스가 IP 주소, DNS, 포트 번호 등 코어의 연결 정보를 자동으로 획득할 수 있습니다. 자동 탐지가 바람직하지만 AWS IoT Greengrass은(는) 수동으로 지정된 엔드포인트도 지원합니다. 그룹이 처음 배포될 때만 검색 방법 메시지가 표시됩니다.

배포 페이지에 배포 타임스탬프, 버전 ID, 상태가 표시됩니다. 완료되면 배포에 대해 성공적으로 완료했습니다 상태가 표시되어야 합니다.

배포에 대한 자세한 내용은 AWS IoT Greengrass 코어에 AWS IoT Greengrass 그룹 배포 섹션을 참조하세요. 문제 해결에 대한 도움말은 AWS IoT Greengrass 문제 해결 단원을 참조하십시오.

AWS IoT 콘솔의 테스트에서 MQTT 테스트 클라이언트를 선택합니다.

[Subscriptions]에서 다음 값을 사용합니다.

구독을 선택합니다.

테스트가 성공적인 경우 페이지 하단에 Lambda 함수로부터의 메시지가 표시됩니다. 각 메시지에는 이미지의 상위 5개 예측 결과가 포함되며 가능성, 예측된 클래스 ID 및 해당 클래스 이름 형식을 사용합니다.

루트 사용자로 전환하고 log 디렉터리로 이동합니다. AWS IoT Greengrass 로그 액세스에는 루트 권한이 필요합니다.

sudo su
cd /greengrass/ggc/var/log

system 디렉터리에서 runtime.log 또는 python_runtime.log를 확인합니다.

user/region/account-id 디렉터리에서 greengrassObjectClassification.log를 확인합니다.

자세한 내용은 로그 문제 해결 섹션을 참조하세요.

/lambda 디렉터리에 있는 배포된 Lambda의 내용을 나열합니다. 명령을 실행하기 전에 자리 표시자 값을 바꿉니다.

cd /greengrass/ggc/deployment/lambda/arn:aws:lambda:region:account:function:function-name:function-version
ls -la

디렉터리에 4단계: Lambda 함수 생성 및 게시에 업로드한 greengrassObjectClassification.zip 배포 패키지와 동일한 콘텐츠가 들어 있는지 확인하십시오.

.py 파일 및 종속성이 디렉터리의 루트에 있는지 확인합니다.

Lambda 런타임 프로세스의 프로세스 식별 번호(PID)를 찾습니다.

ps aux | grep 'lambda-function-name*'

출력의 Lambda 런타임 프로세스에 대한 행의 두 번째 열에 PID가 표시됩니다.

Lambda 런타임 네임스페이스를 입력합니다. 명령을 실행하기 전에 자리 표시자 pid 값을 바꿔야 합니다.

sudo nsenter -t pid -m /bin/bash

ML 리소스에 대해 지정한 로컬 디렉터리의 내용을 나열합니다.

cd /greengrass-machine-learning/mxnet/squeezenet/
ls -ls

다음 파일이 표시됩니다.

32 -rw-r--r-- 1 ggc_user ggc_group   31675 Nov 18 15:19 synset.txt
32 -rw-r--r-- 1 ggc_user ggc_group   28707 Nov 18 15:19 squeezenet_v1.1-symbol.json
4832 -rw-r--r-- 1 ggc_user ggc_group 4945062 Nov 18 15:19 squeezenet_v1.1-0000.params

이미지 분류에 사용하기 위해 Lambda 함수에 대한 정적 PNG 또는 JPG 이미지를 다운로드합니다. 이 예제는 작은 이미지 파일에 가장 효과적입니다.

greengrassObjectClassification.py 파일이 들어 있는 디렉터리(또는 이 디렉터리의 하위 디렉터리)에 이미지 파일을 저장합니다. 이 파일은 4단계: Lambda 함수 생성 및 게시에서 업로드하는 Lambda 함수 배포 패키지에 있습니다.

Python 3.7을 사용하고 있다면 Python 3.x에서 Python 3.7로 심볼 링크를 만들어야 합니다. 이렇게 하면 디바이스가 AWS IoT Greengrass와 함께 Python 3를 사용하도록 구성됩니다. 다음 명령을 실행하여 Python 설치를 찾습니다.

which python3

다음 명령을 실행하여 심볼 링크(symlink)를 생성합니다.

sudo ln -s path-to-python-3.x/python3.x path-to-python-3.7/python3.7

디바이스를 재부팅합니다.

Lambda 함수 구성을 편집합니다. 5단계: Greengrass 그룹에 Lambda 함수 추가의 프로시저를 따르세요.

1. 컨테이너화 없이 실행하려면:

   • 시스템 사용자 및 그룹의 경우 Another user ID/group ID을(를) 선택합니다. 시스템 사용자 ID에 0을(를) 입력합니다. 시스템 그룹 ID에 0을(를) 입력합니다.

     이렇게 하면 Lambda 함수를 루트로 실행할 수 있습니다. 작업 실행 방법에 대한 자세한 내용은 그룹에 있는 Lambda 함수의 기본 액세스 자격 증명 설정 섹션을 참조하세요.

     작은 정보

     또한 Lambda 함수에 루트 액세스 권한을 부여하도록 config.json 파일을 업데이트해야 합니다. 이 절차는 루트로서의 Lambda 함수 실행 섹션을 참조하세요.

   • Lambda 함수 컨테이너화의 경우 컨테이너 없음을 선택합니다.

     속도 제어 자동화 실행에 대한 자세한 내용은 Lambda 함수 컨테이너화 선택 시 고려 사항 섹션을 참조하세요.

   • 제한 시간 값을 5초로 업데이트합니다. 이렇게 하면 요청이 제한 시간에 너무 빨리 도달하는 경우를 피할 수 있습니다. 설정 후 추론이 실행되려면 몇 분이 걸립니다.

   • 고정에서 True를 선택합니다.

   • 추가 매개 변수에서 /sys 디렉터리에 대한 읽기 액세스에 대해 활성화를 선택합니다.

   • Lambda 수명 주기에 대해 Make this function long-lived and keep it running indefinitely를 선택합니다.

2. 대신 컨테이너화 모드에서 실행하려면:

   참고

   비즈니스 사례에서 요구하는 경우가 아니면 컨테이너화 모드에서 실행하지 않는 것이 좋습니다.

   • 제한 시간 값을 5초로 업데이트합니다. 이렇게 하면 요청이 제한 시간에 너무 빨리 도달하는 경우를 피할 수 있습니다. 설정 후 추론이 실행되려면 몇 분이 걸립니다.

   • 고정된 경우 True를 선택합니다.

   • 추가 매개 변수에서 /sys 디렉터리에 대한 읽기 액세스에 대해 활성화를 선택합니다.

컨테이너화 모드에서 실행 중인 경우 필요한 로컬 디바이스 리소스를 추가하여 디바이스 GPU에 대한 액세스 권한을 부여하십시오.

1. 그룹 구성 페이지에서 리소스를 선택합니다.

2. 로컬 리소스 추가를 선택합니다.

3. 리소스를 정의합니다.

   • 리소스 이름에 renderD128을 입력합니다.

   • 리소스 유형에서 로컬 디바이스를 선택합니다.

   • 디바이스 경로에 /dev/dri/renderD128을 입력합니다.

   • [Group owner file access permission]에서 [Automatically add OS group permissions of the Linux group that owns the resource]를 선택합니다.

   • Lambda 함수 제휴의 경우 Lambda 함수에 대한 읽기 및 쓰기 액세스 권한을 부여하십시오.

AWS IoT Greengrass 코어 소프트웨어를 설치할 수 있도록 Jetson 디바이스가 구성되어 있는지 확인합니다. 디바이스 구성에 대한 자세한 내용은 다른 디바이스 설정 단원을 참조하십시오.

MXNet 설명서의 Jetson에 MXNet 설치에 나온 지침을 따라 Jetson 디바이스에 MXNet을 설치합니다.

이미지 분류에 사용하기 위해 Lambda 함수에 대한 정적 PNG 또는 JPG 이미지를 다운로드합니다. 이 앱은 작은 이미지 파일에 가장 적합합니다. 또는 Jetson 보드의 카메라를 구성하여 소스 이미지를 캡처할 수 있습니다.

greengrassObjectClassification.py 파일이 들어 있는 디렉터리에 이미지 파일을 저장합니다. 이 디렉터리의 하위 디렉터리에 저장할 수도 있습니다. 이 디렉터리는 4단계: Lambda 함수 생성 및 게시에서 업로드하는  Lambda 함수 배포 패키지에 있습니다.

AWS IoT Greengrass와 함께 Python 3을 사용하려면 Python 3.7에서 Python 3.6으로 심볼 링크를 생성합니다. 다음 명령을 실행하여 Python 설치를 찾습니다.

which python3

다음 명령을 실행하여 심볼 링크(symlink)를 생성합니다.

sudo ln -s path-to-python-3.6/python3.6 path-to-python-3.7/python3.7

디바이스를 재부팅합니다.

ggc_user 시스템 계정에서 MXNet 프레임워크를 사용할 수 있는지 확인합니다.

“sudo -u ggc_user bash -c 'python3 -c "import mxnet"'

Lambda 함수 구성을 편집합니다. 5단계: Greengrass 그룹에 Lambda 함수 추가의 프로시저를 따르세요.

1. 컨테이너화 없이 실행하려면:

   • 시스템 사용자 및 그룹의 경우 Another user ID/group ID을(를) 선택합니다. 시스템 사용자 ID에 0을(를) 입력합니다. 시스템 그룹 ID에 0을(를) 입력합니다.

     이렇게 하면 Lambda 함수를 루트로 실행할 수 있습니다. 작업 실행 방법에 대한 자세한 내용은 그룹에 있는 Lambda 함수의 기본 액세스 자격 증명 설정 섹션을 참조하세요.

     작은 정보

     또한 Lambda 함수에 루트 액세스 권한을 부여하도록 config.json 파일을 업데이트해야 합니다. 이 절차는 루트로서의 Lambda 함수 실행 섹션을 참조하세요.

   • Lambda 함수 컨테이너화의 경우 컨테이너 없음을 선택합니다.

     속도 제어 자동화 실행에 대한 자세한 내용은 Lambda 함수 컨테이너화 선택 시 고려 사항 섹션을 참조하세요.

   • 추가 매개 변수에서 /sys 디렉터리에 대한 읽기 액세스에 대해 활성화를 선택합니다.

   • 환경 변수에서 다음 키-값 페어를 Lambda 함수에 추가합니다. 이렇게 하면 MXNet 프레임워크를 사용하도록 AWS IoT Greengrass가 구성됩니다.

     키	값
     PATH	/usr/local/cuda/bin:$PATH
     MXNET_HOME	$HOME/mxnet/
     PYTHONPATH	$MXNET_HOME/python:$PYTHONPATH
     CUDA_HOME	/usr/local/cuda
     LD_LIBRARY_PATH	$LD_LIBRARY_PATH:${CUDA_HOME}/lib64

2. 대신 컨테이너화 모드에서 실행하려면:

   참고

   비즈니스 사례에서 요구하는 경우가 아니면 컨테이너화 모드에서 실행하지 않는 것이 좋습니다.

   • 메모리 제한 값을 늘립니다. CPU의 경우 500MB를, GPU의 경우 최소 2,000MB를 사용합니다.

   • 추가 매개 변수에서 /sys 디렉터리에 대한 읽기 액세스에 대해 활성화를 선택합니다.

   • 환경 변수에서 다음 키-값 페어를 Lambda 함수에 추가합니다. 이렇게 하면 MXNet 프레임워크를 사용하도록 AWS IoT Greengrass가 구성됩니다.

     키	값
     PATH	/usr/local/cuda/bin:$PATH
     MXNET_HOME	$HOME/mxnet/
     PYTHONPATH	$MXNET_HOME/python:$PYTHONPATH
     CUDA_HOME	/usr/local/cuda
     LD_LIBRARY_PATH	$LD_LIBRARY_PATH:${CUDA_HOME}/lib64

컨테이너화 모드에서 실행 중인 경우 다음의 로컬 디바이스 리소스를 추가하여 디바이스 GPU에 대한 액세스 권한을 부여하십시오. 6단계: Greengrass 그룹에 리소스 추가의 프로시저를 따르세요.

각 리소스의 경우:

컨테이너화 모드에서 실행 중인 경우 다음 로컬 볼륨 리소스를 추가하여 디바이스 카메라에 대한 액세스 권한을 부여하세요. 6단계: Greengrass 그룹에 리소스 추가의 프로시저를 따르세요.