Siapkan Aplikasi AI SageMaker Mitra Amazon SDKs - Amazon SageMaker AI
KometFiddlerDeepchecksLakera

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Siapkan Aplikasi AI SageMaker Mitra Amazon SDKs

Topik berikut menguraikan proses yang diperlukan untuk menginstal dan menggunakan aplikasi khusus dengan SDKs Amazon SageMaker Partner AI Apps. Untuk menginstal dan menggunakan SDKs aplikasi, Anda harus menentukan variabel lingkungan khusus untuk Aplikasi AI Mitra, sehingga SDK aplikasi dapat mengambil variabel lingkungan dan memicu otorisasi. Bagian berikut memberikan informasi tentang langkah-langkah yang diperlukan untuk menyelesaikan ini untuk setiap jenis aplikasi yang didukung.

Komet

Komet menawarkan dua produk:

  • Opik adalah kerangka evaluasi LLM sumber.

  • Platform ML Comet dapat digunakan untuk melacak, membandingkan, menjelaskan, dan mengoptimalkan model di seluruh siklus hidup ML yang lengkap.

Komet mendukung penggunaan dua yang berbeda SDKs berdasarkan produk yang berinteraksi dengan Anda. Selesaikan prosedur berikut untuk menginstal dan menggunakan Komet atau SDKs Opik. Untuk informasi lebih lanjut tentang Comet SDK, lihat Quickstart. Untuk informasi selengkapnya tentang Opik SDK, lihat Kerangka evaluasi LLM open source.

  1. Luncurkan lingkungan tempat Anda menggunakan Komet atau Opik SDKs dengan Aplikasi AI Mitra. Untuk informasi tentang meluncurkan JupyterLab aplikasi, lihatBuat spasi. Untuk informasi tentang meluncurkan Editor Kode, berdasarkan Code-OSS, Visual Studio Code - aplikasi Open Source, lihat. Luncurkan aplikasi Editor Kode di Studio

  2. Luncurkan notebook Jupyter atau ruang Editor Kode.

  3. Dari lingkungan pengembangan, instal versi Comet, Opik, dan SageMaker Python SDK yang kompatibel. Agar kompatibel:

    • Versi SageMaker Python SDK setidaknya harus. 2.237.0

    • Versi Comet SDK harus versi terbaru.

    • Versi Opik SDK harus sesuai dengan versi yang digunakan oleh aplikasi Opik Anda. Verifikasi versi Opik yang digunakan di UI aplikasi web Opik. Pengecualian untuk ini adalah bahwa versi Opik SDK harus setidaknya 1.2.0 ketika versi aplikasi Opik. 1.1.5

    catatan

    SageMaker JupyterLab dilengkapi dengan SageMaker Python SDK diinstal. Namun, Anda mungkin perlu memutakhirkan SDK SageMaker Python jika versinya lebih rendah dari. 2.237.0

    %pip install sagemaker>=2.237.0 comet_ml

##or

%pip install sagemaker>=2.237.0 opik=<compatible-version>

  4. Mengatur variabel lingkungan berikut untuk ARN sumber daya aplikasi. Variabel lingkungan ini digunakan untuk berkomunikasi dengan Komet dan SDKs Opik. Untuk mengambil nilai-nilai ini, navigasikan ke halaman detail untuk aplikasi di Amazon SageMaker Studio.

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'

  5. Untuk aplikasi Comet, URL SDK secara otomatis disertakan sebagai bagian dari kunci API yang ditetapkan pada langkah berikut. Sebagai gantinya, Anda dapat mengatur variabel COMET_URL_OVERRIDE lingkungan untuk mengganti URL SDK secara manual.

    os.environ['COMET_URL_OVERRIDE'] = '<comet-url>'

  6. Untuk aplikasi Opik, URL SDK secara otomatis disertakan sebagai bagian dari kunci API yang disetel pada langkah berikut. Sebagai gantinya, Anda dapat mengatur variabel OPIK_URL_OVERRIDE lingkungan untuk mengganti URL SDK secara manual. Untuk mendapatkan nama ruang kerja Opik, lihat aplikasi Opik dan arahkan ke ruang kerja pengguna.

    os.environ['OPIK_URL_OVERRIDE'] = '<opik-url>'
os.environ['OPIK_WORKSPACE'] = '<workspace-name>'

  7. Tetapkan variabel lingkungan yang mengidentifikasi kunci API untuk Comet atau Opik. Ini digunakan untuk memverifikasi koneksi dari SageMaker ke aplikasi ketika Komet dan Opik SDKs digunakan. Kunci API ini khusus untuk aplikasi dan tidak dikelola oleh. SageMaker Untuk mendapatkan kunci ini, Anda harus masuk ke aplikasi dan mengambil kunci API. Kunci Opik API sama dengan kunci API Comet.

    os.environ['COMET_API_KEY'] = '<API-key>'
os.environ["OPIK_API_KEY"] = os.environ["COMET_API_KEY"]

Fiddler

Selesaikan prosedur berikut untuk menginstal dan menggunakan Klien Python Fiddler. Untuk informasi tentang Klien Python Fiddler, lihat Tentang Klien 3.x.

  1. Luncurkan lingkungan notebook tempat Anda menggunakan Klien Python Fiddler dengan Aplikasi AI Mitra. Untuk informasi tentang meluncurkan JupyterLab aplikasi, lihatBuat spasi. Untuk informasi tentang meluncurkan Editor Kode, berdasarkan Code-OSS, Visual Studio Code - aplikasi Open Source, lihat. Luncurkan aplikasi Editor Kode di Studio

  2. Luncurkan notebook Jupyter atau ruang Editor Kode.

  3. Dari lingkungan pengembangan, instal versi Fiddler Python Client dan Python SDK. SageMaker Agar kompatibel:

    • Versi SageMaker Python SDK setidaknya harus. 2.237.0

    • Versi Klien Python Fiddler harus kompatibel dengan versi Fiddler yang digunakan dalam aplikasi. Setelah memverifikasi versi Fiddler dari UI, lihat Matriks Kompatibilitas Fiddler untuk versi Klien Python Fiddler yang kompatibel.

    catatan

    SageMaker JupyterLab dilengkapi dengan SageMaker Python SDK diinstal. Namun, Anda mungkin perlu memutakhirkan SDK SageMaker Python jika versinya lebih rendah dari. 2.237.0 

    %pip install sagemaker>=2.237.0 fiddler-client=<compatible-version>

  4. Tetapkan variabel lingkungan berikut untuk ARN sumber daya aplikasi dan URL SDK. Variabel lingkungan ini digunakan untuk berkomunikasi dengan Klien Python Fiddler. Untuk mengambil nilai-nilai ini, navigasikan ke halaman detail untuk aplikasi Fiddler di Amazon Studio. SageMaker    

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Tetapkan variabel lingkungan yang mengidentifikasi kunci API untuk aplikasi Fiddler. Ini digunakan untuk memverifikasi koneksi dari SageMaker ke aplikasi Fiddler ketika Klien Python Fiddler digunakan. Kunci API ini khusus untuk aplikasi dan tidak dikelola oleh. SageMaker Untuk mendapatkan kunci ini, Anda harus masuk ke aplikasi Fiddler dan mengambil kunci API. 

    os.environ['FIDDLER_KEY'] = '<API-key>'

Deepchecks

Selesaikan prosedur berikut untuk menginstal dan menggunakan Deepchecks Python SDK.

  1. Luncurkan lingkungan notebook tempat Anda menggunakan Deepchecks Python SDK dengan Aplikasi AI Mitra. Untuk informasi tentang meluncurkan JupyterLab aplikasi, lihatBuat spasi. Untuk informasi tentang meluncurkan Editor Kode, berdasarkan Code-OSS, Visual Studio Code - aplikasi Open Source, lihat. Luncurkan aplikasi Editor Kode di Studio

  2. Luncurkan notebook Jupyter atau ruang Editor Kode.

  3. Dari lingkungan pengembangan, instal versi Deepchecks Python SDK SageMaker dan Python SDK yang kompatibel.  Aplikasi AI Mitra menjalankan versi 0.21.15 Deepchecks. Agar kompatibel:

    • Versi SageMaker Python SDK setidaknya harus. 2.237.0

    • Deepchecks Python SDK harus menggunakan versi minor. 0.21

    catatan

    SageMaker JupyterLab dilengkapi dengan SageMaker Python SDK diinstal. Namun, Anda mungkin perlu memutakhirkan SDK SageMaker Python jika versinya lebih rendah dari. 2.237.0 

    %pip install sagemaker>=2.237.0 deepchecks-llm-client>=0.21,<0.22

  4. Tetapkan variabel lingkungan berikut untuk ARN sumber daya aplikasi dan URL SDK. Variabel lingkungan ini digunakan untuk berkomunikasi dengan Deepchecks Python SDK. Untuk mengambil nilai-nilai ini, navigasikan ke halaman detail untuk aplikasi di Amazon SageMaker Studio.   

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Tetapkan variabel lingkungan yang mengidentifikasi kunci API untuk aplikasi Deepchecks. Ini digunakan untuk memverifikasi koneksi dari SageMaker ke aplikasi Deepchecks ketika Deepchecks Python SDK digunakan. Kunci API ini khusus untuk aplikasi dan tidak dikelola oleh. SageMaker Untuk mendapatkan kunci ini, lihat Pengaturan: Instalasi SDK Python & Pengambilan Kunci API. 

    os.environ['DEEPCHECKS_API_KEY'] = '<API-key>'

Lakera

Lakera tidak menawarkan SDK. Sebagai gantinya, Anda dapat berinteraksi dengan Lakera Guard API melalui permintaan HTTP ke titik akhir yang tersedia dalam bahasa pemrograman apa pun. Untuk informasi selengkapnya, lihat Lakera Guard API.

Untuk menggunakan SageMaker Python SDK dengan Lakera, selesaikan langkah-langkah berikut:

  1. Luncurkan lingkungan tempat Anda menggunakan Aplikasi AI Mitra. Untuk informasi tentang meluncurkan JupyterLab aplikasi, lihatBuat spasi. Untuk informasi tentang meluncurkan Editor Kode, berdasarkan Code-OSS, Visual Studio Code - aplikasi Open Source, lihat. Luncurkan aplikasi Editor Kode di Studio

  2. Luncurkan notebook Jupyter atau ruang Editor Kode.

  3. Dari lingkungan pengembangan, instal versi SageMaker Python SDK yang kompatibel. Versi SageMaker Python SDK setidaknya harus 2.237.0

    catatan

    SageMaker JupyterLab dilengkapi dengan SageMaker Python SDK diinstal. Namun, Anda mungkin perlu memutakhirkan SDK SageMaker Python jika versinya lebih rendah dari. 2.237.0 

    %pip install sagemaker>=2.237.0

  4. Tetapkan variabel lingkungan berikut untuk ARN sumber daya aplikasi dan URL SDK. Untuk mengambil nilai-nilai ini, navigasikan ke halaman detail untuk aplikasi di Amazon SageMaker Studio. 

    os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'