在 SageMaker 笔记本电脑环境中使用生成式 AI - Amazon SageMaker

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

在 SageMaker 笔记本电脑环境中使用生成式 AI

Jupyter AI 是 JupyterLab 将生成人工智能功能集成到 Jupyter 笔记本电脑中的开源扩展。通过 Jupyter AI 聊天界面和魔法命令，用户可以尝试根据自然语言指令生成的代码，解释现有代码，询问有关本地文件的问题，生成整个 notebook 等等。该扩展将 Jupyter 笔记本与大型语言模型 (LLMs) 连接起来，用户可以使用这些模型生成文本、代码或图像，以及询问有关他们自己的数据的问题。Jupyter AI 支持生成模型提供商AI21，例如 Anthropic、（ AWS 和 JumpStart Amazon Bedrock）、Cohere 和 OpenAI。

您也可以将 Amazon Q Developer 用作开箱即用的解决方案。无需手动设置模型连接，只需最少的配置即可开始使用 Amazon Q Developer。当你启用 Amazon Q Developer 时，它就会成为 Jupyter AI 中的默认解决方案提供商。有关使用 Amazon Q Developer 的更多信息，请参阅SageMaker JupyterLab。

该扩展程序包包含在 Amazon SageMaker 分销版本 1.2 及更高版本中。Amazon Distrib SageMaker ution 是一个用于数据科学和科学计算的 Docker 环境，用作 JupyterLab 笔记本实例的默认映像。不同IPython环境的用户可以手动安装 Jupyter AI。

在本节中，我们概述了 Jupyter 的人工智能功能，并演示如何配置由 A JumpStart mazon Bedrock JupyterLab或 Studio Classic 笔记本电脑提供的模型。有关 Jupyter AI 项目的更多深入信息，请参阅其文档。或者，你可以参考博客文章 Jupyter 中的生成人工智能，了解 Jupyter 人工智能关键功能的概述和示例。

在使用 Jupyter AI 并与您的交互之前LLMs，请确保满足以下先决条件：

  • 对于托管的模型 AWS，您应该拥有自己的 SageMaker 终端节点或者可以访问 Amazon Bedrock。ARN对于其他模型提供商，您应该使用API密钥来验证和授权向您的模型提出的请求。Jupyter AI 支持各种模型提供程序和语言模型，请参阅其支持的模型列表以了解最新的可用模型。有关如何在中部署模型的信息 JumpStart，请参阅 JumpStart 文档中的部署模型。您需要申请访问 Amazon Bedrock 才能将其用作您的模型提供商。

  • 确保您的环境中有 Jupyter 人工智能库。否则，请按照中的说明安装所需的软件包安装 Jupyter AI。

  • 熟悉 Jupyter 人工智能的功能。Jupyter 人工智能功能

  • 按照中的说明配置要使用的目标型号配置您的模型提供商。

完成必备步骤后，您可以继续在 Studio Classic 中 JupyterLab 使用木星人工智能。

主题