Keamanan dalam optimasi inferensi Amazon SageMaker AI

Keamanan cloud di AWS adalah prioritas tertinggi. Sebagai AWS pelanggan, Anda mendapat manfaat dari pusat data dan arsitektur jaringan yang dibangun untuk memenuhi persyaratan organisasi yang paling sensitif terhadap keamanan.

Keamanan adalah tanggung jawab bersama antara Anda AWS dan Anda. Model tanggung jawab bersama menggambarkan hal ini sebagai keamanan dari cloud dan keamanan di cloud:

• Keamanan cloud — AWS bertanggung jawab untuk melindungi infrastruktur yang menjalankan AWS layanan di AWS Cloud. AWS juga memberi Anda layanan yang dapat Anda gunakan dengan aman. Third-party Auditor secara teratur menguji dan memverifikasi efektivitas keamanan kami sebagai bagian dari program AWS kepatuhan. Untuk mempelajari tentang program kepatuhan yang berlaku untuk Amazon SageMaker AI, lihat AWS Layanan dalam Lingkup menurut Program Kepatuhan.

• Keamanan di cloud — Tanggung jawab Anda ditentukan oleh AWS layanan yang Anda gunakan. Anda juga bertanggung jawab atas faktor lain, termasuk sensitivitas data Anda, persyaratan perusahaan Anda, serta undang-undang dan peraturan yang berlaku.

Dokumentasi ini membantu Anda memahami cara menerapkan model tanggung jawab bersama saat menggunakan fitur pengoptimalan inferensi SageMaker AI, termasuk pekerjaan benchmarking AI, pekerjaan rekomendasi AI, dan konfigurasi beban kerja AI.

Perlindungan data

Model tanggung jawab AWS bersama berlaku untuk perlindungan data dalam optimasi inferensi Amazon SageMaker AI. Seperti yang dijelaskan dalam model AWS ini, bertanggung jawab untuk melindungi infrastruktur global yang menjalankan semua AWS Cloud. Anda bertanggung jawab untuk mempertahankan kendali atas konten yang di-host pada infrastruktur ini.

Untuk tujuan perlindungan data, kami menyarankan Anda untuk melindungi kredensional AWS akun dan mengatur pengguna individu dengan AWS IAM Identity Center atau AWS Identity and Access Management (IAM). Dengan cara itu, setiap pengguna hanya diberi izin yang diperlukan untuk memenuhi tanggung jawab tugasnya. Kami juga menyarankan supaya Anda mengamankan data dengan cara-cara berikut:

• Gunakan autentikasi multi-faktor (MFA) pada setiap akun.

• Gunakan SSL/TLS untuk berkomunikasi dengan AWS sumber daya. Kami mensyaratkan TLS 1.2 dan menganjurkan TLS 1.3.

• Siapkan API dan pencatatan aktivitas pengguna dengan AWS CloudTrail.

• Gunakan solusi AWS enkripsi, bersama dengan semua kontrol keamanan default dalam AWS layanan.

• Gunakan layanan keamanan terkelola tingkat lanjut seperti Amazon Macie, yang membantu menemukan dan mengamankan data sensitif yang disimpan di Amazon S3.

Kami sangat merekomendasikan agar Anda tidak pernah memasukkan informasi identifikasi yang sensitif, seperti nomor rekening pelanggan Anda, ke dalam tanda atau bidang isian bebas seperti bidang Nama.

Apa yang disimpan oleh optimasi inferensi SageMaker AI data

SageMaker Optimalisasi inferensi AI menyimpan jenis data berikut:

• Metadata pekerjaan — Saat Anda membuat pekerjaan benchmark AI atau pekerjaan rekomendasi AI, layanan menyimpan metadata konfigurasi pekerjaan seperti nama pekerjaan, status, stempel waktu pembuatan, dan parameter konfigurasi sumber daya.

• Konfigurasi beban kerja — Saat Anda membuat konfigurasi beban kerja AI, layanan akan menyimpan parameter konfigurasi yang Anda berikan, termasuk parameter benchmark, konfigurasi kumpulan data, dan tag.

• Hasil dan rekomendasi benchmark — Keluaran pekerjaan seperti metrik kinerja, perkiraan biaya, dan rekomendasi penerapan disimpan sebagai metadata pekerjaan dalam layanan.

SageMaker Optimalisasi inferensi AI tidak menyimpan bobot model, data pelatihan, atau hasil inferensi Anda. Artefak model dan file keluaran benchmark Anda tetap berada di bucket Amazon S3 di dalam akun Anda. AWS

Enkripsi saat diam

SageMaker Optimalisasi inferensi AI mengenkripsi semua data yang disimpan saat istirahat secara default. Metadata pekerjaan dan konfigurasi beban kerja disimpan di Amazon DynamoDB, dengan enkripsi saat istirahat. Anda tidak perlu mengambil tindakan apa pun untuk mengaktifkan enkripsi saat istirahat.

Enkripsi saat bergerak

SageMaker Optimalisasi inferensi AI menggunakan TLS untuk mengenkripsi semua data dalam perjalanan. Permintaan API ke layanan dibuat melalui HTTPS menggunakan TLS 1.2 atau yang lebih baru.

Semua komunikasi antara optimasi inferensi SageMaker AI dan AWS layanan lainnya (seperti Amazon AWS DynamoDB, Lambda, Amazon AWS S3, dan Secrets Manager) menggunakan koneksi. TLS-encrypted

Privasi lalu lintas antarjaringan

SageMaker Titik akhir API pengoptimalan inferensi AI dapat diakses melalui internet publik menggunakan HTTPS. Anda dapat menggunakan titik akhir VPC untuk SageMaker AI API untuk menjaga lalu lintas antara VPC Anda dan SageMaker AI API dalam AWS jaringan, tanpa melintasi internet publik.

Saat Anda menyediakan konfigurasi VPC untuk pekerjaan benchmark AI Anda, layanan akan membuat sumber daya dalam subnet VPC dan grup keamanan yang Anda tentukan.

Identity and Access Management

Optimalisasi inferensi Amazon SageMaker AI menggunakan AWS Identity and Access Management (IAM) untuk mengontrol akses ke sumber daya dan operasinya.

Bagaimana optimasi inferensi SageMaker AI bekerja dengan IAM

SageMaker Optimalisasi inferensi AI diakses melalui SageMaker AI API. Semua panggilan API diautentikasi dan diotorisasi menggunakan IAM.

API pengoptimalan inferensi menggunakan namespace aksi IAM berikut:

• sagemaker:CreateAIWorkloadConfig

• sagemaker:DescribeAIWorkloadConfig

• sagemaker:ListAIWorkloadConfigs

• sagemaker:DeleteAIWorkloadConfig

• sagemaker:CreateAIBenchmarkJob

• sagemaker:DescribeAIBenchmarkJob

• sagemaker:ListAIBenchmarkJobs

• sagemaker:StopAIBenchmarkJob

• sagemaker:DeleteAIBenchmarkJob

• sagemaker:CreateAIRecommendationJob

• sagemaker:DescribeAIRecommendationJob

• sagemaker:ListAIRecommendationJobs

• sagemaker:StopAIRecommendationJob

• sagemaker:DeleteAIRecommendationJob

Peran eksekusi

Saat Anda membuat pekerjaan benchmark AI atau pekerjaan rekomendasi AI, Anda memberikan peran eksekusi IAM ()RoleArn. Layanan mengasumsikan peran ini untuk melakukan operasi di AWS akun Anda, seperti:

• Membuat dan mengelola pekerjaan pelatihan SageMaker AI, titik akhir, dan pekerjaan pengoptimalan

• Membaca artefak model dari Amazon S3

• Menulis hasil benchmark ke Amazon S3

• Mengakses rahasia dari AWS Secrets Manager

Peran eksekusi harus memiliki kebijakan kepercayaan yang memungkinkan layanan SageMaker AI untuk mengasumsikan itu. Untuk informasi selengkapnya tentang membuat peran eksekusi SageMaker AI, lihat Peran SageMaker AI.

Isolasi sumber daya

SageMaker Optimalisasi inferensi AI memberlakukan isolasi tingkat akun. Setiap konfigurasi pekerjaan dan beban kerja dicakup ke AWS akun yang membuatnya. Anda tidak dapat mengakses atau memodifikasi sumber daya milik AWS akun lain.

Semua sumber daya SageMaker AI yang dibuat oleh layanan (pekerjaan pelatihan, titik akhir, pekerjaan pengoptimalan) dibuat di AWS akun Anda menggunakan peran eksekusi Anda, dan tunduk pada kebijakan IAM akun dan kuota layanan Anda.

Praktik terbaik keamanan

Praktik terbaik berikut adalah pedoman umum dan tidak mewakili solusi keamanan yang lengkap. Karena praktik terbaik ini mungkin tidak sesuai atau cukup untuk lingkungan Anda, anggap sebagai pertimbangan yang membantu dan bukan sebagai resep.

Praktik terbaik pencegahan

• Gunakan hak istimewa paling sedikit untuk kebijakan IAM. Berikan hanya izin minimum yang diperlukan untuk pengguna dan peran eksekusi. Hindari penggunaan tindakan wildcard (*) atau sumber daya dalam kebijakan IAM.

• Gunakan peran eksekusi terpisah untuk beban kerja yang berbeda. Buat peran eksekusi IAM khusus untuk pekerjaan benchmark dan pekerjaan rekomendasi daripada berbagi peran tunggal di semua beban kerja.

• Gunakan AWS Secrets Manager untuk nilai sensitif. Ketika spesifikasi beban kerja Anda memerlukan nilai sensitif seperti token akses Hugging Face, gunakan secrets bidang tersebut untuk mereferensikan AWS rahasia Secrets Manager oleh ARN alih-alih meneruskannya sebagai parameter teks biasa.

• Batasi kebijakan kepercayaan peran eksekusi. Gunakan aws:SourceAccount dan aws:SourceArn kondisi dalam kebijakan kepercayaan peran eksekusi Anda untuk mencegah masalah wakil yang membingungkan.

• Cakupan izin Amazon S3 ke bucket tertentu. Batasi s3:GetObject dan s3:PutObject izin ke bucket dan awalan Amazon S3 tertentu yang digunakan untuk artefak model dan keluaran benchmark.

• Aktifkan enkripsi bucket Amazon S3. Pastikan bucket Amazon S3 yang digunakan untuk artefak model dan hasil benchmark mengaktifkan enkripsi sisi server.

• Gunakan tag untuk kontrol akses. Terapkan tag ke konfigurasi beban kerja AI Anda, pekerjaan benchmark, dan pekerjaan rekomendasi. Anda dapat menggunakan kondisi berbasis tag dalam kebijakan IAM untuk mengontrol akses ke sumber daya tertentu.

Praktik terbaik Detektif

• Aktifkan AWS CloudTrail. CloudTrail menyediakan catatan semua panggilan SageMaker AI API yang dilakukan di akun Anda, termasuk operasi pengoptimalan inferensi.

• Monitor dengan Amazon CloudWatch. Gunakan CloudWatch metrik dan alarm Amazon untuk memantau status dan kinerja pekerjaan benchmark dan rekomendasi Anda.

• Tinjau temuan IAM Access Analyzer. Gunakan IAM Access Analyzer untuk mengidentifikasi kebijakan IAM yang memberikan akses terlalu luas ke sumber daya AI Anda. SageMaker

• Aktifkan pencatatan akses Amazon S3. Aktifkan pencatatan akses server di bucket Amazon S3 yang digunakan untuk artefak model dan hasil benchmark untuk melacak pola akses.