Memanggil titik akhir

Setelah titik akhir berjalan, gunakan SageMaker Runtime InvokeEndpointAPI di layanan SageMaker Runtime untuk mengirim permintaan, atau memanggil titik akhir. Sebagai tanggapan, permintaan ditangani sebagai permintaan penjelasan oleh Clarify explainer. SageMaker

catatan

Untuk memanggil titik akhir, pilih salah satu opsi berikut:

• Untuk petunjuk menggunakan Boto3 atau AWS CLI untuk memanggil titik akhir, lihat. Memanggil model untuk inferensi waktu nyata

• Untuk menggunakan SageMaker SDK for Python untuk menjalankan endpoint, lihat Predictor API.

Permintaan

InvokeEndpointAPI memiliki parameter opsionalEnableExplanations, yang dipetakan ke header X-Amzn-SageMaker-Enable-Explanations HTTP. Jika parameter ini disediakan, itu mengesampingkan EnableExplanations parameter. ClarifyExplainerConfig

catatan

AcceptParameter ContentType dan InvokeEndpoint API diperlukan. Format yang didukung termasuk tipe MIME text/csv danapplication/jsonlines.

Gunakan sagemaker_runtime_client untuk mengirim permintaan ke titik akhir, sebagai berikut:

response = sagemaker_runtime_client.invoke_endpoint(
    EndpointName='name-of-your-endpoint',
    EnableExplanations='`true`',
    ContentType='text/csv',
    Accept='text/csv',
    Body='1,2,3,4',  # single record (of four numerical features)
)

Untuk titik akhir multi-model, berikan TargetModel parameter tambahan dalam permintaan contoh sebelumnya untuk menentukan model mana yang akan ditargetkan pada titik akhir. Titik akhir multi-model secara dinamis memuat model target sesuai kebutuhan. Untuk informasi selengkapnya tentang titik akhir multi-model, lihat. Host beberapa model dalam satu wadah di belakang satu titik akhir Lihat SageMaker Clarify Online Explainability on Multi-Model Endpoint Sample Notebook untuk contoh cara menyiapkan dan memanggil beberapa model target dari satu titik akhir.

Respons

Jika titik akhir dibuat denganExplainerConfig, maka skema respons baru digunakan, Skema baru ini berbeda dari, dan tidak kompatibel dengan, titik akhir yang tidak memiliki parameter yang disediakan. ExplainerConfig

Jenis respons MIME adalahapplication/json, dan payload respons dapat diterjemahkan dari UTF-8 byte ke objek JSON. Berikut ini menunjukkan anggota objek JSON ini adalah sebagai berikut:

• version: Versi skema respons dalam format string. Misalnya, 1.0.

• predictions: Prediksi yang dibuat permintaan memiliki yang berikut:

  • content_type: Jenis prediksi MIME, mengacu pada respons ContentType wadah model.

  • data: String data prediksi dikirimkan sebagai muatan respons wadah model untuk permintaan tersebut.

• label_headers: Header label dari LabelHeaders parameter. Ini disediakan baik dalam konfigurasi explainer atau output wadah model.

• explanations: Penjelasan yang diberikan dalam payload permintaan. Jika tidak ada catatan yang dijelaskan, maka anggota ini mengembalikan objek kosong{}.

• • kernel_shap: Kunci yang mengacu pada array penjelasan Kernel SHAP untuk setiap catatan dalam permintaan. Jika catatan tidak dijelaskan, penjelasan yang sesuai adalahnull.

kernel_shapElemen memiliki anggota berikut:

• feature_header: Nama header dari fitur yang disediakan oleh FeatureHeaders parameter dalam konfigurasi ExplainerConfig explainer.

• feature_type: Jenis fitur disimpulkan oleh penjelasan atau disediakan dalam FeatureTypes parameter di. ExplainerConfig Elemen ini hanya tersedia untuk masalah penjelasan NLP.

• attributions: Sebuah array objek atribusi. Fitur teks dapat memiliki beberapa objek atribusi, masing-masing untuk satu unit. Objek atribusi memiliki anggota berikut:

  • attribution: Daftar nilai probabilitas, diberikan untuk setiap kelas.

  • description: Deskripsi unit teks, hanya tersedia untuk masalah penjelasan NLP.

    • partial_text: Bagian teks yang dijelaskan oleh penjelas.

    • start_idx: Indeks berbasis nol untuk mengidentifikasi lokasi array dari awal fragmen teks sebagian.