Gunakan Amazon SageMaker Edge Manager di perangkat inti Greengrass - AWS IoT Greengrass
Cara kerjanyaPersyaratanMemulai dengan SageMaker Edge Manager

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Gunakan Amazon SageMaker Edge Manager di perangkat inti Greengrass

penting

SageMaker Edge Manager dihentikan pada 26 April 2024. Untuk informasi selengkapnya tentang melanjutkan penerapan model Anda ke perangkat edge, lihat SageMaker Edge Manager akhir masa pakai.

Amazon SageMaker Edge Manager adalah agen perangkat lunak yang berjalan pada perangkat edge. SageMaker Edge Manager menyediakan manajemen model untuk perangkat edge sehingga Anda dapat mengemas dan menggunakan model Amazon SageMaker Neo yang dikompilasi langsung di perangkat inti Greengrass. Dengan menggunakan SageMaker Edge Manager, Anda juga dapat mengambil sampel data input dan output model dari perangkat inti Anda, dan mengirim data tersebut ke AWS Cloud untuk pemantauan dan analisis. Karena SageMaker Edge Manager menggunakan SageMaker Neo untuk mengoptimalkan model Anda untuk perangkat keras target Anda, Anda tidak perlu menginstal runtime DLR langsung di perangkat Anda. Di perangkat Greengrass SageMaker , Edge Manager tidak memuat sertifikat AWS IoT lokal atau menghubungi AWS IoT titik akhir penyedia kredensi secara langsung. Sebagai gantinya, SageMaker Edge Manager menggunakan layanan pertukaran token untuk mengambil kredensi sementara dari titik akhir TES.

Bagian ini menjelaskan cara kerja SageMaker Edge Manager pada perangkat inti Greengrass.

Cara kerja SageMaker Edge Manager di perangkat Greengrass

Untuk menerapkan agen SageMaker Edge Manager ke perangkat inti Anda, buat penerapan yang menyertakan komponen. aws.greengrass.SageMakerEdgeManager AWS IoT Greengrassmengelola instalasi dan siklus hidup agen Edge Manager di perangkat Anda. Ketika versi baru dari agen biner tersedia, deploy versi terbaru dari komponen aws.greengrass.SageMakerEdgeManager untuk meningkatkan versi agen yang diinstal pada perangkat Anda.

Saat Anda menggunakan SageMaker Edge Manager denganAWS IoT Greengrass, alur kerja Anda mencakup langkah-langkah tingkat tinggi berikut:

  1. Kompilasi model dengan SageMaker Neo.

  2. Package model yang SageMaker dikompilasi NEO Anda menggunakan pekerjaan pengemasan SageMaker tepi. Ketika Anda menjalankan tugas pengemasan edge untuk model Anda, Anda dapat memilih untuk membuat komponen model dengan model kemasan sebagai artefak yang dapat digunakan untuk perangkat inti Greengrass Anda.

  3. Buat komponen inferensi kustom. Anda menggunakan komponen inferensi ini untuk berinteraksi dengan agen Edge Manager untuk melakukan inferensi pada perangkat inti. Operasi ini meliputi pemuatan model, pemanggilan permintaan prediksi untuk menjalankan inferensi, dan pembongkaran model ketika komponen dimatikan.

  4. Terapkan komponen SageMaker Edge Manager, komponen model yang dikemas, dan komponen inferensi untuk menjalankan model Anda di mesin SageMaker inferensi (agen Edge Manager) di perangkat Anda.

Untuk informasi selengkapnya tentang membuat pekerjaan kemasan tepi dan komponen inferensi yang berfungsi dengan SageMaker Edge Manager, lihat Menyebarkan Paket Model dan Agen Manajer Edge dengan AWS IoT Greengrass Panduan SageMaker Pengembang Amazon.

Tutorial: Memulai dengan SageMaker Edge ManagerTutorial menunjukkan cara mengatur dan menggunakan agen SageMaker Edge Manager pada perangkat inti Greengrass yang ada, AWS menggunakan kode contoh -provided yang dapat Anda gunakan untuk membuat inferensi sampel dan komponen model.

Saat Anda menggunakan SageMaker Edge Manager pada perangkat inti Greengrass, Anda juga dapat menggunakan fitur capture data untuk mengunggah data sampel ke file. AWS Cloud Capture data adalah SageMaker fitur yang Anda gunakan untuk mengunggah input inferensi, hasil inferensi, dan data inferensi tambahan ke bucket S3 atau direktori lokal untuk analisis masa depan. Untuk informasi selengkapnya tentang penggunaan data pengambilan dengan SageMaker Edge Manager, lihat Mengelola Model di Panduan SageMaker Pengembang Amazon.

Persyaratan

Anda harus memenuhi persyaratan berikut untuk menggunakan agen SageMaker Edge Manager pada perangkat inti Greengrass.

  • Perangkat inti Greengrass yang berjalan di Amazon Linux 2, platform Linux berbasis Debian (x86_64 atau Armv8), atau Windows (x86_64). Jika Anda tidak memilikinya, lihat Tutorial: Memulai dengan AWS IoT Greengrass V2.

  • Python 3.6 atau yang lebih baru, termasuk pip untuk versi Python Anda, diinstal pada perangkat inti anda.

  • Peran perangkat Greengrass yang dikonfigurasi dengan berikut ini:

    • Hubungan kepercayaan yang memungkinkan credentials.iot.amazonaws.com dan sagemaker.amazonaws.com untuk meneruskan peran, seperti yang ditunjukkan dalam contoh kebijakan IAM berikut.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • Kebijakan yang dikelola AmazonSageMakerEdgeDeviceFleetPolicyIAM.

    • Tindakan s3:PutObject, seperti yang ditunjukkan dalam contoh kebijakan IAM berikut.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Bucket Amazon S3 yang dibuat sama Akun AWS dan Wilayah AWS sebagai perangkat inti Greengrass Anda. SageMaker Edge Manager memerlukan bucket S3 untuk membuat armada perangkat edge, dan menyimpan data sampel dari inferensi yang sedang berjalan di perangkat Anda. Untuk informasi selengkapnya tentang pembuatan bucket S3, lihat Memulai Amazon S3.

  • Armada perangkat SageMaker edge yang menggunakan alias AWS IoT peran yang sama dengan perangkat inti Greengrass Anda. Untuk informasi selengkapnya, lihat Buat armada perangkat edge.

  • Perangkat inti Greengrass Anda terdaftar sebagai perangkat tepi di armada perangkat Edge Anda. SageMaker Nama perangkat edge harus cocok dengan nama objek AWS IoT untuk perangkat inti Anda. Untuk informasi selengkapnya, lihat Daftarkan perangkat inti Greengrass Anda.

Memulai dengan SageMaker Edge Manager

Anda dapat menyelesaikan tutorial untuk mulai menggunakan SageMaker Edge Manager. Tutorial menunjukkan kepada Anda bagaimana memulai menggunakan SageMaker Edge Manager dengan komponen sampel AWS yang disediakan pada perangkat inti yang ada. Komponen sampel ini menggunakan komponen SageMaker Edge Manager sebagai dependensi untuk menyebarkan agen Edge Manager, dan melakukan inferensi menggunakan model pra-terlatih yang dikompilasi menggunakan Neo. SageMaker Lihat informasi yang lebih lengkap di Tutorial: Memulai dengan SageMaker Edge Manager.