SageMaker ノートブック環境で生成 AI を使用する

Jupyter AI は、生成 AI 機能を Jupyter ノートブック JupyterLab に統合するオープンソースの拡張機能です。Jupyter AI チャットインターフェイスとマジックコマンドを通じて、ユーザーは自然言語の命令から生成されたコードを試したり、既存のコードを説明したり、ローカルファイルに関する質問を行ったり、ノートブック全体を生成したりすることができます。拡張機能は、Jupyter Notebook を、ユーザーがテキスト、コード、またはイメージを生成したり、自分のデータについて質問したりするために使用できる大規模言語モデル (LLMsに接続します。Jupyter AI は、AI21、Anthropic、 (JumpStart および Amazon Bedrock)、 AWS Cohere、OpenAI などの生成モデルプロバイダーをサポートしています。

Amazon Q Developer をすぐに使えるソリューションとしても使用できます。モデルへの接続を手動で設定する代わりに、最小限の設定で Amazon Q Developer の使用を開始できます。Amazon Q Developer を有効にすると、Jupyter AI 内のデフォルトのソリューションプロバイダーになります。Amazon Q Developer の使用の詳細については、「」を参照してくださいSageMaker JupyterLab。

拡張機能の パッケージは、Amazon SageMaker ディストリビューションバージョン 1.2 以降に含まれています。Amazon SageMaker Distribution は、 JupyterLab ノートブックインスタンスのデフォルトイメージとして使用されるデータサイエンスおよび科学コンピューティング用の Docker 環境です。さまざまな IPython 環境のユーザーは、Jupyter AI を手動でインストールできます。

このセクションでは、Jupyter AI 機能の概要を示し、 または JupyterLab Studio Classic ノートブックから JumpStart または Amazon Bedrock が提供するモデルを設定する方法を示します。Jupyter AI プロジェクトの詳細については、そのドキュメントを参照してください。または、Jupyter の主要な Jupyter AI 機能の概要と例については、ブログ記事「Generative AI in Jupyter」を参照してください。

Jupyter AI を使用して LLMs を操作する前に、次の前提条件を満たしていることを確認してください。

• でホストされているモデルの場合 AWS、 SageMaker エンドポイントの ARN を持っているか、Amazon Bedrock にアクセスできる必要があります。他のモデルプロバイダーの場合、モデルへのリクエストを認証および承認するために使用される API キーが必要です。Jupyter AI は、さまざまなモデルプロバイダーと言語モデルをサポートしています。利用可能な最新のモデルを最新の状態に保つには、サポートされているモデルのリストを参照してください。でモデルをデプロイする方法については JumpStart、 JumpStart ドキュメントの「モデルをデプロイする」を参照してください。モデルプロバイダーとして使用するには、Amazon Bedrock へのアクセスをリクエストする必要があります。

• Jupyter AI ライブラリが環境に存在することを確認します。そうでない場合は、「」の手順に従って必要なパッケージをインストールしますJupyter AI をインストールする。

• の Jupyter AI の機能を理解しますJupyter AI の機能。

• 「」の手順に従って、使用するターゲットモデルを設定しますモデルプロバイダーを設定する。

前提条件のステップを完了したら、「」に進むことができます JupyterLab または Studio Classic で Jupyter AI を使用する。

トピック

• Jupyter AI をインストールする
• Jupyter AI の機能
• モデルプロバイダーを設定する
• JupyterLab または Studio Classic で Jupyter AI を使用する