AI generatif di lingkungan SageMaker notebook - Amazon SageMaker

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

AI generatif di lingkungan SageMaker notebook

Jupyter AI adalah ekstensi sumber terbuka untuk JupyterLab mengintegrasikan kemampuan AI generatif ke dalam notebook Jupyter. Melalui antarmuka obrolan Jupyter AI dan perintah ajaib, pengguna bereksperimen dengan kode yang dihasilkan dari instruksi bahasa alami, menjelaskan kode yang ada, mengajukan pertanyaan tentang file lokal mereka, membuat seluruh buku catatan, dan banyak lagi. Ekstensi menghubungkan notebook Jupyter dengan model bahasa besar (LLMs) yang dapat digunakan pengguna untuk menghasilkan teks, kode, atau gambar, dan untuk mengajukan pertanyaan tentang data mereka sendiri. Jupyter AI mendukung penyedia model generatif sepertiAI21, Anthropic, ( AWS dan JumpStart Amazon Bedrock), Cohere, dan OpenAI.

Anda juga dapat menggunakan Amazon Q Developer sebagai solusi out of the box. Alih-alih harus mengatur koneksi ke model secara manual, Anda dapat mulai menggunakan Pengembang Amazon Q dengan konfigurasi minimal. Saat Anda mengaktifkan Amazon Q Developer, Amazon Q Developer menjadi penyedia solusi default dalam Jupyter AI. Untuk informasi selengkapnya tentang menggunakan Pengembang Amazon Q, lihatSageMaker JupyterLab.

Paket ekstensi disertakan dalam SageMaker Distribusi Amazon versi 1.2 dan seterusnya. Amazon SageMaker Distribution adalah lingkungan Docker untuk ilmu data dan komputasi ilmiah yang digunakan sebagai gambar default instance JupyterLab notebook. Pengguna dari IPython lingkungan yang berbeda dapat menginstal Jupyter AI secara manual.

Di bagian ini, kami memberikan ikhtisar kemampuan AI Jupyter dan mendemonstrasikan cara mengonfigurasi model yang disediakan oleh atau JumpStart Amazon Bedrock dari JupyterLabatau notebook Studio Classic. Untuk informasi lebih mendalam tentang proyek AI Jupyter, lihat dokumentasinya. Atau, Anda dapat merujuk ke posting blog Generative AI di Jupyter untuk ikhtisar dan contoh kemampuan AI Jupyter utama.

Sebelum menggunakan Jupyter AI dan berinteraksi dengan AndaLLMs, pastikan Anda memenuhi prasyarat berikut:

  • Untuk model yang dihosting oleh AWS, Anda harus memiliki SageMaker titik ARN akhir Anda atau memiliki akses ke Amazon Bedrock. Untuk penyedia model lainnya, Anda harus memiliki API kunci yang digunakan untuk mengautentikasi dan mengotorisasi permintaan ke model Anda. Jupyter AI mendukung berbagai penyedia model dan model bahasa, lihat daftar model yang didukung untuk tetap diperbarui pada model terbaru yang tersedia. Untuk informasi tentang cara menerapkan model JumpStart, lihat Menerapkan Model dalam dokumentasi. JumpStart Anda perlu meminta akses ke Amazon Bedrock untuk menggunakannya sebagai penyedia model Anda.

  • Pastikan perpustakaan Jupyter AI hadir di lingkungan Anda. Jika tidak, instal paket yang diperlukan dengan mengikuti instruksi diInstalasi Jupyter AI.

  • Biasakan diri Anda dengan kemampuan Jupyter AI di. Akses Fitur Jupyter AI

  • Konfigurasikan model target yang ingin Anda gunakan dengan mengikuti petunjuk diKonfigurasikan penyedia model Anda.

Setelah menyelesaikan langkah-langkah prasyarat, Anda dapat melanjutkan ke. Gunakan Jupyter AI di JupyterLab atau Studio Classic

Topik