Use IA generativa em ambientes de SageMaker notebook

O Jupyter AI é uma extensão de código aberto de JupyterLab integração de recursos generativos de IA nos notebooks Jupyter. Por meio da interface de bate-papo do Jupyter AI e dos comandos mágicos, os usuários experimentam o código gerado a partir de instruções em linguagem natural, explicam o código existente, fazem perguntas sobre seus arquivos locais, geram cadernos inteiros e muito mais. A extensão conecta os notebooks Jupyter com modelos de linguagem grande (LLMs) que os usuários podem usar para gerar texto, código ou imagens e fazer perguntas sobre seus próprios dados. O Jupyter AI oferece suporte a fornecedores de modelos generativos, como AI21, Anthropic ( AWS e JumpStart Amazon Bedrock), Cohere e OpenAI.

Você também pode usar o Amazon Q Developer como uma solução pronta para uso. Em vez de ter que configurar manualmente uma conexão com um modelo, você pode começar a usar o Amazon Q Developer com configuração mínima. Quando você ativa o Amazon Q Developer, ele se torna o provedor de soluções padrão dentro do Jupyter AI. Para obter mais informações sobre o uso do Amazon Q Developer, consulteSageMaker JupyterLab.

O pacote da extensão está incluído na versão 1.2 e posteriores da Amazon SageMaker Distribution. O Amazon SageMaker Distribution é um ambiente Docker para ciência de dados e computação científica usado como imagem padrão de instâncias de JupyterLab notebooks. Usuários de diferentes ambientes do IPython podem instalar o Jupyter AI manualmente.

Nesta seção, fornecemos uma visão geral dos recursos do Jupyter AI e demonstramos como configurar modelos fornecidos pelo JumpStart Amazon Bedrock JupyterLabou pelos notebooks Studio Classic. Para obter informações mais detalhadas sobre o projeto Jupyter AI, consulte sua documentação. Como alternativa, você pode consultar a postagem do blog Generative AI in Jupyter para obter uma visão geral e exemplos dos principais recursos do Jupyter AI.

Antes de usar o Jupyter AI e interagir com seus LLMs, certifique-se de atender aos seguintes pré-requisitos:

• Para modelos hospedados por AWS, você deve ter o ARN do seu SageMaker endpoint ou ter acesso ao Amazon Bedrock. Para outros provedores de modelos, você deve ter a chave de API usada para autenticar e autorizar solicitações para seu modelo. O Jupyter AI oferece suporte a uma ampla variedade de fornecedores de modelos e modelos de linguagem. Consulte a lista de modelos compatíveis para se manter atualizado sobre os modelos mais recentes disponíveis. Para obter informações sobre como implantar um modelo em JumpStart, consulte Implantar um modelo na JumpStart documentação. Você precisa solicitar acesso ao Amazon Bedrock para usá-lo como seu fornecedor de modelos.

• Certifique-se de que as bibliotecas de IA do Jupyter estejam presentes em seu ambiente. Caso contrário, instale o pacote necessário seguindo as instruções emInstale o Jupyter AI.

• Familiarize-se com os recursos do Jupyter AI em. Características do Jupyter AI

• Configure os modelos de destino que você deseja usar seguindo as instruções emConfigure seu provedor de modelos.

Depois de concluir as etapas de pré-requisito, você pode prosseguir para. Use o Jupyter AI em nosso Studio JupyterLab Classic

Tópicos

• Instale o Jupyter AI
• Características do Jupyter AI
• Configure seu provedor de modelos
• Use o Jupyter AI em nosso Studio JupyterLab Classic