Blog, contoh notebook, dan sumber daya tambahan

Bagian berikut berisi contoh dan sumber daya tambahan bagi Anda untuk mempelajari lebih lanjut tentang Amazon SageMaker.

Blog dan Studi Kasus

Lihat tabel berikut untuk daftar blog dan studi kasus untuk berbagai fitur dalam SageMaker Inferensi. Anda dapat menggunakan blog untuk membantu mengumpulkan solusi yang sesuai untuk kasus penggunaan Anda.

Fitur	Sumber daya
Inferensi Waktu Nyata	Memulai dengan menerapkan model waktu nyata di Amazon SageMaker Terapkan BLOOM-176B dan OPT-30B di Amazon dengan inferensi model besar SageMaker Deep Learning Containers dan DeepSpeed Membuat REST API yang didukung pembelajaran mesin dengan template pemetaan Amazon API Gateway dan Amazon SageMaker
Penskalaan otomatis	Mengonfigurasi titik akhir inferensi penskalaan otomatis di Amazon SageMaker
Inferensi Tanpa Server	Amazon SageMaker Serverless Inference — Machine Learning Inference tanpa Khawatir tentang Server Model transformator Host Hugging Face menggunakan SageMaker Amazon Serverless Inference Memperkenalkan Toolkit SageMaker Pembandingan Inferensi Tanpa Server Amazon
Inferensi Asinkron	Jalankan inferensi visi komputer pada video besar dengan titik akhir SageMaker asinkron Amazon Buat solusi pemeliharaan prediktif dengan Amazon Kinesis AWS Glue,, dan Amazon SageMaker Tingkatkan penelitian bernilai tinggi dengan titik akhir Hugging Face dan Amazon SageMaker Asynchronous Inference
Transformasi Batch	Mengaitkan hasil prediksi dengan data input menggunakan Amazon Batch Transform SageMaker
Titik Akhir Multi-Model	Hemat biaya inferensi dengan menggunakan titik akhir SageMaker multi-model Amazon Jalankan beberapa model pembelajaran mendalam di GPU dengan titik akhir SageMaker multi-model Amazon Cara menskalakan inferensi pembelajaran mesin untuk kasus penggunaan SaaS multi-penyewa Jalankan dan optimalkan inferensi multi-model dengan titik akhir multi-model Amazon SageMaker
Pipa Inferensi Serial	Pola desain untuk inferensi serial di Amazon SageMaker
Titik Akhir Multi-Kontainer	Inferensi ML hemat biaya dengan model multi-kerangka kerja di Amazon SageMaker
Menjalankan Ansambel Model	Jalankan model ensemble ML di Amazon SageMaker
Rekomendasi Inferensi	SageMaker Notebook contoh Inference Recommender SageMaker Rekomendasi Inferensi untuk notebook contoh Analisis Sentimen HuggingFace BERT Raih performa hyperscale untuk penyajian model menggunakan NVIDIA Triton Inference Server di Amazon SageMaker
Seri blog hosting model lanjutan	Bagian 1: Pola desain umum untuk membangun aplikasi ML di Amazon SageMaker Bagian 2: Memulai dengan menerapkan model waktu nyata SageMaker Bagian 3: Jalankan dan optimalkan inferensi multi-model dengan titik akhir multi-model Amazon SageMaker Bagian 4: Pola desain untuk inferensi serial di Amazon SageMaker Bagian 5: Inferensi ML hemat biaya dengan model multi-kerangka kerja di Amazon SageMaker Bagian 6: Praktik terbaik dalam menguji dan memperbarui model SageMaker Bagian 7: Jalankan model ensemble mL di Amazon SageMaker

Notebook contoh

Lihat tabel berikut misalnya buku catatan yang dapat membantu Anda mempelajari lebih lanjut tentang SageMaker Inferensi.

Fitur	Notebook contoh
Rekomendasi Inferensi	SageMaker Notebook contoh Inference Recommender SageMaker Rekomendasi Inferensi untuk notebook contoh Analisis Sentimen HuggingFace BERT
Optimalkan model bahasa besar (LLM) untuk SageMaker	Lokakarya Generatif AI LLM

Sumber daya tambahan

Untuk informasi lebih lanjut tentang setiap opsi SageMaker Inferensi secara detail, Anda dapat menonton video berikut.