SageMaker Fitur Amazon

Amazon SageMaker menyertakan fitur-fitur berikut.

Fitur baru untuk RE: Invent 2023

SageMaker termasuk fitur baru berikut untuk re: Invent 2023.

SageMaker Obrolan kanvas untuk persiapan data

SageMaker Obrolan kanvas untuk persiapan data membantu Anda membuat alur persiapan data menggunakan LLM.

Editor Kode

Code Editor memperluas Studio sehingga Anda dapat menulis, menguji, men-debug, dan menjalankan analisis dan kode pembelajaran mesin Anda di lingkungan berdasarkan Visual Studio Code - Open Source (“Code-OSS”).

Wadah pembelajaran mendalam untuk inferensi model besar

SageMaker telah mengganti kernel NCCL default dengan kernel yang dioptimalkan inferensi untuk meningkatkan pemanfaatan GPU dan menawarkan kinerja yang membedakan terhadap OSS.

Terapkan model untuk inferensi waktu nyata

SageMaker Inferensi memberikan pengalaman pengembang dan abstraksi antarmuka pengguna untuk membantu Anda memulai lebih cepat dengan penerapan model.

SageMaker pelanggan sekarang dapat meningkatkan pemanfaatan instans komputasi mereka yang dipercepat dengan menerapkan hingga ribuan model ke SageMaker titik akhir dengan throughput terjamin dan auto-scaling berdasarkan per model.

SageMakerGambar Distribusi

SageMaker Distribusi adalah kumpulan gambar Docker yang dirancang untuk pembelajaran mesin, ilmu data, dan analisis data. Gambar tersedia di Studio, Studio Lab, notebook Studio, dan Github.

penyederhanaan orientasi domain

Pengalaman orientasi SageMaker domain Amazon yang disederhanakan dan dipandu dengan kemampuan baru untuk pengguna tunggal dan administrator organisasi. Kemampuannya mencakup integrasi IAM Identity Center langsung, manajemen kebijakan akses yang halus, manajemen dan konfigurasi SageMaker aplikasi yang mulus, serta konfigurasi VPC dan penyimpanan.

Amazon S3 Express Satu Zona

Amazon S3 Express One Zone adalah kelas penyimpanan baru yang menyediakan akses milidetik satu digit untuk aplikasi yang paling sensitif terhadap latensi. Amazon S3 Express One Zone memungkinkan pelanggan untuk mengumpulkan penyimpanan objek dan menghitung sumber daya mereka dalam satu AWS Availability Zone, mengoptimalkan kinerja komputasi dan biaya dengan peningkatan kecepatan pemrosesan data.

Evaluasi model pondasi (FMEval)

Evaluasi model Foundation (FMEval) membantu Anda mengukur risiko penyediaan konten yang tidak akurat, beracun, atau bias dengan model bahasa Anda sehingga Anda dapat memilih yang terbaik untuk kasus penggunaan Anda. Bawa dataset kustom Anda sendiri atau gunakan built-in untuk mengevaluasi model bahasa apa pun. FMEval terintegrasi dengan puluhan model fondasi berbasis teks JumpStart atau membawa milik Anda sendiri. Anda juga dapat membuat evaluasi yang disesuaikan menggunakan pustaka FMEval.

SageMaker HyperPod

SageMaker HyperPod adalah kemampuan SageMaker yang menyediakan lingkungan pembelajaran mesin yang selalu aktif pada cluster tangguh sehingga Anda dapat menjalankan beban kerja pembelajaran mesin apa pun untuk mengembangkan model pembelajaran mesin besar seperti model bahasa besar (LLM) dan model difusi.

Jupyterai

Jupyter AI dan Code Whisperer telah dimasukkan ke Distribusi. SageMaker Dengan pembaruan ini, pengguna Studio atau Code Editor dapat dengan mudah menggunakan AI generatif dari notebook mereka dan memanfaatkan fitur penyelesaian kode Code Whisperer.

JupyterLab di Studio

JupyterLab di Studio meningkatkan latensi dan keandalan untuk Studio Notebook

SageMakerLowongan Notebook

SageMaker Pekerjaan Notebook menyediakan dukungan SDK untuk pekerjaan notebook sehingga Anda dapat menjadwalkan pekerjaan notebook Anda secara terprogram.

SageMaker Pipa

SageMaker Pipelines memberi Anda opsi untuk mengonversi kode pembelajaran mesin lokal Anda menjadi langkah SageMaker Pipeline, dari mana Anda dapat membuat dan menjalankan pipeline.

SageMakerpenyaringan cerdas

SageMaker smart sifting adalah kemampuan SageMaker Pelatihan yang meningkatkan efisiensi kumpulan data pelatihan Anda dan mengurangi total waktu dan biaya pelatihan.

SageMakerStudio

Studio adalah pengalaman berbasis web terbaru untuk menjalankan alur kerja ML. Studio menawarkan serangkaian IDE, termasuk Code Editor, aplikasi Jupyterlab baru, RStudio, dan Studio Classic.

Lingkungan pembelajaran mesin

SageMaker termasuk lingkungan pembelajaran mesin berikut.

SageMaker kemampuan geospasial

Bangun, latih, dan terapkan model ML menggunakan data geospasial.

SageMaker Kanvas

Layanan Auto ML yang memberikan orang-orang tanpa pengalaman coding kemampuan untuk membangun model dan membuat prediksi dengan mereka.

SageMaker Studio

Lingkungan pembelajaran mesin terintegrasi tempat Anda dapat membangun, melatih, menyebarkan, dan menganalisis semua model Anda dalam aplikasi yang sama.

SageMaker Studio Lab

Layanan gratis yang memberi pelanggan akses ke sumber daya AWS komputasi di lingkungan berdasarkan sumber terbuka JupyterLab.

RStudio di Amazon SageMaker

Lingkungan pengembangan terintegrasi untuk R, dengan konsol, editor penyorotan sintaks yang mendukung eksekusi kode langsung, dan alat untuk merencanakan, riwayat, debugging, dan manajemen ruang kerja.

Fitur utama

SageMaker termasuk fitur utama berikut dalam urutan abjad tidak termasuk awalan apa pun. SageMaker

AI Augmented AI Amazon

Bangun alur kerja yang diperlukan untuk tinjauan manusia terhadap prediksi ML. Amazon A2I membawa tinjauan manusia ke semua pengembang, menghilangkan beban berat yang tidak terdiferensiasi yang terkait dengan membangun sistem tinjauan manusia atau mengelola sejumlah besar pengulas manusia.

Langkah AutoML

Buat pekerjaan AutoML untuk melatih model secara otomatis di SageMaker Pipelines.

SageMaker Autopilot

Pengguna tanpa pengetahuan pembelajaran mesin dapat dengan cepat membangun model klasifikasi dan regresi.

Transformasi Batch

Praproses kumpulan data, jalankan inferensi saat Anda tidak memerlukan titik akhir yang persisten, dan kaitkan catatan input dengan kesimpulan untuk membantu interpretasi hasil.

SageMaker Klarifikasi

Tingkatkan model pembelajaran mesin Anda dengan mendeteksi potensi bias dan membantu menjelaskan prediksi yang dibuat model.

Kolaborasi dengan ruang bersama

Ruang bersama terdiri dari JupyterServer aplikasi bersama dan direktori bersama. Semua profil pengguna dalam SageMaker domain Amazon memiliki akses ke semua ruang bersama di domain.

SageMaker Data Wrangler

Impor, analisis, siapkan, dan featurisasi data di SageMaker Studio. Anda dapat mengintegrasikan Data Wrangler ke dalam alur kerja pembelajaran mesin Anda untuk menyederhanakan dan merampingkan pra-pemrosesan data dan rekayasa fitur menggunakan sedikit atau tanpa pengkodean. Anda juga dapat menambahkan skrip dan transformasi Python Anda sendiri untuk menyesuaikan alur kerja persiapan data Anda.

Widget persiapan data Wrangler Data

Berinteraksi dengan data Anda, dapatkan visualisasi, jelajahi wawasan yang dapat ditindaklanjuti, dan perbaiki masalah kualitas data.

SageMaker Debugger

Periksa parameter dan data pelatihan selama proses pelatihan. Secara otomatis mendeteksi dan memperingatkan pengguna untuk kesalahan yang umum terjadi seperti nilai parameter menjadi terlalu besar atau kecil.

SageMaker Manajer Tepi

Optimalkan model khusus untuk perangkat edge, buat dan kelola armada dan jalankan model dengan runtime yang efisien.

SageMaker Elastic Inference

Mempercepat throughput dan mengurangi latensi mendapatkan kesimpulan real-time.

SageMaker Eksperimen

Manajemen dan pelacakan eksperimen. Anda dapat menggunakan data yang dilacak untuk merekonstruksi eksperimen, secara bertahap membangun eksperimen yang dilakukan oleh rekan kerja, dan melacak garis keturunan model untuk kepatuhan dan verifikasi audit.

SageMaker Toko Fitur

Toko terpusat untuk fitur dan metadata terkait sehingga fitur dapat dengan mudah ditemukan dan digunakan kembali. Anda dapat membuat dua jenis toko, toko Online atau Offline. Toko Online dapat digunakan untuk latensi rendah, kasus penggunaan inferensi real-time dan Toko Offline dapat digunakan untuk pelatihan dan inferensi batch.

SageMaker Ground Truth

Kumpulan data pelatihan berkualitas tinggi dengan menggunakan pekerja bersama dengan pembelajaran mesin untuk membuat kumpulan data berlabel.

SageMaker Ground Truth Plus

Fitur pelabelan data turnkey untuk membuat kumpulan data pelatihan berkualitas tinggi tanpa harus membangun aplikasi pelabelan dan mengelola tenaga kerja pelabelan sendiri.

SageMaker Rekomendasi Inferensi

Dapatkan rekomendasi tentang jenis dan konfigurasi instance inferensi (misalnya jumlah instans, parameter kontainer, dan pengoptimalan model) untuk menggunakan model dan beban kerja MLmu.

Tes bayangan inferensi

Evaluasi setiap perubahan pada infrastruktur yang melayani model Anda dengan membandingkan kinerjanya dengan infrastruktur yang saat ini digunakan.

SageMaker JumpStart

Pelajari tentang SageMaker fitur dan kemampuan melalui solusi 1-klik yang dikurasi, contoh buku catatan, dan model terlatih yang dapat Anda terapkan. Anda juga dapat menyempurnakan model dan menerapkannya.

SageMaker Pelacakan Silsilah

Lacak garis keturunan alur kerja pembelajaran mesin.

SageMaker Pipa Bangunan Model

Membuat dan mengelola pipa pembelajaran mesin yang terintegrasi langsung dengan SageMaker pekerjaan.

SageMaker Kartu Model

Dokumentasikan informasi tentang model ML Anda di satu tempat untuk tata kelola dan pelaporan yang efisien di seluruh siklus hidup ML.

SageMaker Dasbor Model

Ikhtisar visual yang dibuat sebelumnya dari semua model di akun Anda. Dasbor Model mengintegrasikan informasi dari SageMaker Model Monitor, mengubah pekerjaan, titik akhir, pelacakan garis keturunan, CloudWatch sehingga Anda dapat mengakses informasi model tingkat tinggi dan melacak kinerja model dalam satu tampilan terpadu.

SageMaker Model Monitor

Memantau dan menganalisis model dalam produksi (titik akhir) untuk mendeteksi penyimpangan data dan penyimpangan dalam kualitas model.

SageMaker Registri Model

Pembuatan versi, pelacakan artefak dan garis keturunan, alur kerja persetujuan, dan dukungan lintas akun untuk penerapan model pembelajaran mesin Anda.

SageMaker Neo

Latih model pembelajaran mesin sekali, lalu jalankan di mana saja di cloud dan di tepi.

Alur Kerja Berbasis Notebook

Jalankan notebook SageMaker Studio Anda sebagai pekerjaan terjadwal yang tidak interaktif.

Pra-pemrosesan

Menganalisis dan memproses data sebelumnya, menangani rekayasa fitur, dan mengevaluasi model.

SageMaker Proyek

Buat solusi end-to-end ML dengan CI/CD dengan menggunakan SageMaker proyek.

Pembelajaran Penguatan

Maksimalkan imbalan jangka panjang yang diterima agen sebagai hasil dari tindakannya.

SageMaker Manajer Peran

Administrator dapat menentukan izin hak istimewa terkecil untuk aktivitas MLM umum menggunakan peran IAM berbasis persona kustom dan yang telah dikonfigurasi sebelumnya.

SageMaker Titik Akhir Tanpa Server

Opsi endpoint tanpa server untuk menghosting model ML Anda. Secara otomatis menskalakan kapasitas untuk melayani lalu lintas titik akhir Anda. Menghapus kebutuhan untuk memilih jenis instance atau mengelola kebijakan penskalaan pada titik akhir.

Ekstensi Git Klasik Studio

Ekstensi Git untuk memasukkan URL repositori Git, mengkloningnya ke lingkungan Anda, mendorong perubahan, dan melihat riwayat komit.

SageMaker Notebook Studio

Generasi SageMaker notebook berikutnya yang mencakup integrasi AWS IAM Identity Center (IAM Identity Center), waktu start-up yang cepat, dan berbagi sekali klik.

SageMaker Studio Notebook dan Amazon EMR

Temukan, sambungkan, buat, hentikan, dan kelola kluster EMR Amazon dengan mudah dalam konfigurasi akun tunggal dan lintas akun langsung dari Studio. SageMaker

SageMaker Kompiler Pelatihan

Latih model pembelajaran mendalam lebih cepat pada instans GPU yang dapat diskalakan yang dikelola oleh. SageMaker