SageMaker ノートブック環境で生成 AI を使用する - Amazon SageMaker

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

SageMaker ノートブック環境で生成 AI を使用する

Jupyter AI は、生成 AI 機能を Jupyter Notebook JupyterLab に統合するオープンソースの拡張機能です。Jupyter AI チャットインターフェイスとマジックコマンドを使用すると、ユーザーは自然言語の指示から生成されたコードを試したり、既存のコードについて説明したり、ローカルファイルに関する質問をしたり、ノートブック全体を生成したりできます。拡張機能は、ユーザーがテキスト、コード、またはイメージを生成したり、自身のデータについて質問したりするために使用できる、Jupyter Notebook を大規模言語モデル (LLMsに接続します。Jupyter AI は、AI21、Anthropic、 (SageMaker JumpStart および Amazon Bedrock)、 AWS Cohere、OpenAI などの生成モデルプロバイダーをサポートしています。

拡張機能の パッケージは、Amazon SageMaker ディストリビューションバージョン 1.2 以降に含まれています。Amazon SageMaker Distribution は、 JupyterLab ノートブックインスタンスのデフォルトイメージとして使用されるデータサイエンスおよび科学コンピューティング用の Docker 環境です。さまざまな IPython 環境のユーザーは、Jupyter AI を手動でインストールできます。

このセクションでは、Jupyter AI 機能の概要を示し、 SageMaker JumpStart または Studio Classic ノートブックから JupyterLabまたは Amazon Bedrock が提供するモデルを設定する方法を示します。Jupyter AI プロジェクトの詳細については、そのドキュメント「」を参照してください。または、Jupyter の主要な Jupyter AI 機能の概要と例については、ブログ記事「Jupyter での生成 AI」を参照してください。

Jupyter AI を使用して LLMs を操作する前に、次の前提条件を満たしていることを確認してください。

  • でホストされているモデルの場合 AWS、 SageMaker エンドポイントの ARN を持っているか、Amazon Bedrock にアクセスできる必要があります。他のモデルプロバイダーの場合は、モデルへのリクエストを認証および承認するために使用される API キーが必要です。Jupyter AI は、さまざまなモデルプロバイダーと言語モデルをサポートしています。利用可能な最新のモデルを常に更新するには、サポートされているモデルのリストを参照してください。でモデルをデプロイする方法については SageMaker JumpStart、 SageMaker JumpStart ドキュメントの「モデルのデプロイ」を参照してください。モデルプロバイダーとして使用するには、Amazon Bedrock へのアクセスをリクエストする必要があります。

  • Jupyter AI ライブラリが環境に存在することを確認します。そうでない場合は、「」の手順に従って必要なパッケージをインストールしますJupyter AI をインストールする

  • の Jupyter AI の機能について理解してくださいJupyter AI 機能

  • 「」の手順に従って、使用するターゲットモデルを設定しますモデルプロバイダーを設定する

前提条件ステップを完了したら、「」に進むことができます JupyterLab または Studio Classic で Jupyter AI を使用する