Lakukan inferensi machine learning - AWS IoT Greengrass

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Lakukan inferensi machine learning

Dengan AWS IoT Greengrass, Anda dapat melakukan inferensi machine learning (ML) di perangkat edge Anda pada data yang dihasilkan secara lokal dengan menggunakan model yang terlatih cloud. Anda memperoleh manfaat dari latensi rendah dan penghematan biaya dari menjalankan inferensi lokal, tetapi masih mendapat manfaat dari daya komputasi cloud untuk model pelatihan dan pemrosesan yang kompleks.

AWS IoT Greengrassmembuat langkah-langkah yang diperlukan untuk melakukan inferensi lebih efisien. Anda dapat melatih model inferensi Anda di mana saja dan men-deploy-nya secara lokal sebagai komponen machine learning. Sebagai contoh, Anda dapat membangun dan melatih model deep-learningAmazon SageMakeratau model penglihatan komputer diAmazon Lookout for Vision. Kemudian, Anda dapat menyimpan model ini dalamAmazon S3bucket, sehingga Anda dapat menggunakan model ini sebagai artefak dalam komponen Anda untuk melakukan inferensi pada perangkat inti Anda.

Bagaimana inferensi ML AWS IoT Greengrass bekerja

AWSmemberikomponen machine learningyang dapat Anda gunakan untuk membuat deployment satu langkah untuk melakukan inferensi machine learning pada perangkat Anda. Anda juga dapat menggunakan komponen ini sebagai templat untuk membuat komponen kustom untuk memenuhi kebutuhan spesifik Anda.

AWSmenyediakan kategori komponen pembelajaran mesin berikut:

  • Komponen model—Berisi model machine learning sebagai artefak Greengrass.

  • Komponen waktu aktif—Berisi skrip yang menginstal kerangka kerja machine learning dan dependensinya pada perangkat inti Greengrass.

  • Komponen Inferensi—Berisi kode inferensi dan mencakup dependensi komponen untuk menginstal kerangka machine learning dan mengunduh model machine learning yang telah dilatih sebelumnya.

Setiap deployment yang Anda buat untuk melakukan inferensi machine learning terdiri atas setidaknya satu komponen yang menjalankan aplikasi inferensi Anda, menginstal kerangka machine learning, dan mengunduh model machine learning Anda. Untuk melakukan inferensi sampel denganAWSkomponen yang disediakan oleh, Anda men-deploy komponen inferensi ke perangkat inti Anda, yang secara otomatis menyertakan komponen model dan waktu aktif yang sesuai sebagai dependensi. Untuk menyesuaikan deployment Anda, Anda dapat mencolokkan atau menukar komponen model sampel dengan komponen model kustom, atau Anda dapat menggunakan resep komponen untukAWSkomponen -provided sebagai template untuk membuat inferensi kustom Anda sendiri, model, dan komponen runtime.

Untuk melakukan inferensi machine learning dengan menggunakan komponen khusus:

  1. Buat komponen model. Komponen ini berisi model machine learning yang ingin Anda gunakan untuk melakukan inferensi.AWSmenyediakan sampel DLR yang telah dilatih sebelumnya dan TensorFlow Model Lite. Untuk menggunakan model kustom, buat komponen model Anda sendiri.

  2. Buat komponen waktu aktif. Komponen ini berisi skrip yang diperlukan untuk menginstal waktu aktif machine learning untuk model Anda.AWSmenyediakan komponen runtime sampel untukWaktu Aktif Deep Learning(DLR) danTensorFlow sedikit. Untuk menggunakan waktu aktif lain dengan model kustom Anda dan kode inferensi, buat komponen waktu aktif Anda sendiri.

  3. Buat komponen inferensi. Komponen ini berisi kode inferensi Anda, dan menyertakan komponen model dan runtime Anda sebagai dependensi.AWSmenyediakan komponen inferensi sampel untuk klasifikasi citra dan deteksi objek dengan menggunakan DLR dan TensorFlow Lite. Untuk melakukan jenis inferensi lainnya, atau untuk menggunakan model dan waktu aktif kustom, buat komponen inferensi Anda sendiri.

  4. Deploy komponen inferensi. Saat Anda menggunakan komponen ini, AWS IoT Greengrass juga secara otomatis men-deploy dependensi komponen model dan waktu aktif.

Untuk memulai komponen yang disediakan oleh AWS, lihat Tutorial: Lakukan contoh inferensi klasifikasi gambar TensorFlow sedikit.

Untuk informasi selengkapnya tentang cara membuat komponen machine learning kustom, lihat Sesuaikan komponen machine learning Anda.

Apa yang berbeda diAWS IoT GreengrassVersi 2?

AWS IoT Greengrassmengonsolidasikan unit fungsional untuk machine learning —seperti model, waktu aktif, dan kode inferensi— ke dalam komponen yang memungkinkan Anda menggunakan proses sekali aktif untuk menginstal waktu aktif machine learning, mengunduh model terlatih, dan melakukan inferensi pada perangkat Anda.

Dengan menggunakanAWSkomponen machine learning yang disediakan oleh, Anda memiliki fleksibilitas untuk mulai melakukan inferensi machine learning dengan kode inferensi sampel dan model yang dilatih sebelumnya. Anda dapat memasang komponen model kustom untuk menggunakan model terlatih kustom Anda sendiri dengan komponen inferensi dan waktu aktif yang disediakan oleh AWS. Untuk solusi machine learning yang sepenuhnya disesuaikan, Anda dapat menggunakan komponen publik sebagai templat untuk membuat komponen khusus dan menggunakan jenis waktu aktif, model, atau inferensi apa pun yang Anda inginkan.

Persyaratan

Untuk membuat dan menggunakan komponen machine learning, Anda harus memiliki hal-hal berikut ini:

  • Sebuah perangkat inti Greengrass. Jika Anda tidak memilikinya, lihat Tutorial: Memulai dengan AWS IoT Greengrass V2.

  • Ruang penyimpanan lokal minimal 500 MB untuk menggunakan komponen machine learning sampel yang disediakan oleh AWS.

Sumber model yang didukung

AWS IoT Greengrass mendukung dengan menggunakan model machine learning yang terlatih khusus yang disimpan di Amazon S3. Anda juga dapat menggunakan Amazon SageMaker tugas pengemasan edge untuk secara langsung membuat komponen model untuk Anda SageMaker Model yang dikompilasi neo. Untuk informasi tentang penggunaan SageMaker Edge Manager denganAWS IoT Greengrass, LihatGunakan Amazon SageMaker Edge Manager pada perangkat inti Greengrass. Anda juga dapat menggunakan tugas pengemasan model Amazon Lookout for Vision untuk membuat komponen model untuk model Lookout for Vision Anda. Untuk informasi lebih lanjut tentang penggunaan Lookout for Vision denganAWS IoT Greengrass, LihatGunakan Amazon Lookout for Vision.

Bucket S3 yang berisi model Anda harus memenuhi persyaratan berikut:

  • Mereka tidak boleh dienkripsi menggunakan SSE-C. Untuk bucket yang menggunakan enkripsi sisi server,AWS IoT Greengrassinferensi machine learning saat ini hanya mendukung opsi enkripsi SSE-S3 atau SSE-KMS. Untuk informasi lebih lanjut tentang opsi enkripsi sisi server, lihatMelindungi data menggunakan enkripsi sisi serverdi dalamPanduan Pengguna Amazon Simple Storage Service.

  • Nama mereka tidak boleh menyertakan periode (.). Untuk informasi lebih lanjut, lihat aturan tentang penggunaan bucket hosted-style dengan SSLAturan penamaan bucketdi dalamPanduan Pengguna Amazon Simple Storage Service.

  • Bucket S3 yang menyimpan sumber model Anda harus berada di Akun AWS dan Wilayah AWS sebagai komponen machine learning.

  • AWS IoT Greengrass harus memiliki izin read ke sumber model. Untuk memungkinkan AWS IoT Greengrass untuk mengakses bucket S3, peran perangkat Greengrass harus mengizinkan tindakan s3:GetObject. Untuk informasi lebih lanjut tentang peran perangkat, lihat Otorisasi perangkat inti untuk berinteraksi dengan AWS layanan.

Waktu aktif machine learning yang didukung

AWS IoT Greengrass memungkinkan Anda membuat komponen khusus untuk menggunakan waktu aktif machine learning pilihan Anda untuk melakukan inferensi machine learning dengan model yang terlatih khusus Anda. Untuk informasi selengkapnya tentang cara membuat komponen machine learning kustom, lihat Sesuaikan komponen machine learning Anda.

Untuk membuat proses memulai dengan pembelajaran mesin menjadi lebih efisien,AWS IoT Greengrassmenyediakan sampel inferensi, model, dan waktu aktif yang menggunakan waktu aktif machine learning berikut:

AWSkomponen machine learning

Tabel berikut menjelaskanAWSKomponen yang disediakan untuk machine learning.

catatan

BeberapaAWSKomponen yang disediakan bergantung pada versi minor spesifik dari inti Greengrass. Karena dependensi ini, Anda perlu memperbarui komponen ini ketika Anda memperbarui inti Greengrass ke versi minor baru. Untuk informasi tentang versi spesifik dari inti yang masing-masing komponen bergantung padanya, lihat topik komponen yang sesuai. Untuk informasi selengkapnya terkait cara memperbarui inti, lihat Perbarui perangkat lunak inti AWS IoT Greengrass (OTA).

Komponen Deskripsi Tergantung pada inti Jenis komponen Sistem operasi yang didukung Sumber terbuka
Lookout for Vision Menerapkan runtime Amazon Lookout for Vision pada perangkat inti Greengrass, sehingga Anda dapat menggunakan visi komputer untuk menemukan cacat pada produk industri. Tidak Generik Linux Tidak
SageMaker Edge Manager Menerapkan Amazon SageMaker Agen Edge Manager pada perangkat inti Greengrass. Ya Generik Linux, Tidak
Klasifikasi citra DLR Komponen inferensi yang menggunakan penyimpanan model klasifikasi gambar DLR dan komponen waktu aktif DLR sebagai dependensi akan menginstal DLR, men-download model klasifikasi gambar sampel, dan melakukan inferensi klasifikasi gambar pada perangkat yang didukung. Ya Generik Linux, Tidak
Deteksi objek DLR Komponen inferensi yang menggunakan penyimpanan model deteksi gambar DLR dan komponen waktu aktif DLR sebagai dependensi akan menginstal DLR, men-download sampel model deteksi, dan melakukan inferensi deteksi gambar pada perangkat yang didukung. Ya Generik Linux, Tidak
Penyimpanan model klasifikasi gambar DLR Komponen model yang berisi sampel ResNetModel klasifikasi gambar -50 sebagai artefak Greengrass. Ya Generik Linux, Tidak
Penyimpanan model deteksi DLR Komponen model yang berisi sampel model deteksi objek YOLOv3 sebagai artefak Greengrass. Ya Generik Linux, Tidak
waktu aktif DLR Komponen waktu aktif yang berisi skrip instalasi yang digunakan untuk menginstal DLR dan dependensinya pada perangkat inti Greengrass. Ya Generik Linux, Tidak
TensorFlow Klasifikasi gambar Lite Komponen inferensi yang menggunakan TensorFlow Penyimpanan model klasifikasi gambar Lite dan TensorFlow Lite runtime komponen sebagai dependensi untuk menginstal TensorFlow Lite, men-download model klasifikasi gambar sampel, dan melakukan inferensi klasifikasi gambar pada perangkat yang didukung. Ya Generik Linux, Tidak
TensorFlow Deteksi objek Lite Komponen inferensi yang menggunakan TensorFlow Penyimpanan model deteksi objek Lite dan TensorFlow Lite runtime komponen sebagai dependensi untuk menginstal TensorFlow Lite, men-download sampel model deteksi, dan melakukan inferensi deteksi objek pada perangkat yang didukung. Ya Generik Linux, Tidak
TensorFlow Penyimpanan model klasifikasi gambar Lite Komponen model yang berisi sampel MobileNet Model v1 sebagai artefak Greengrass. Ya Generik Linux, Tidak
TensorFlow Penyimpanan model deteksi objek Lite Komponen model yang berisi sampel Deteksi Tembakan Tunggal (SSD) MobileNet model sebagai artefak Greengrass. Ya Generik Linux, Tidak
TensorFlow Runtime Lite Komponen waktu aktif yang berisi skrip instalasi yang digunakan untuk menginstal TensorFlow Lite dan dependensinya pada perangkat inti Greengrass. Ya Generik Linux, Tidak