Usa l'intelligenza artificiale generativa negli ambienti SageMaker notebook

Jupyter AI è un'estensione open source dell' JupyterLab integrazione di funzionalità di intelligenza artificiale generativa nei notebook Jupyter. Tramite l'interfaccia di chat AI di Jupyter e i comandi magici, gli utenti sperimentano il codice generato da istruzioni in linguaggio naturale, spiegano il codice esistente, pongono domande sui file locali, generano interi notebook e altro ancora. L'estensione collega i notebook Jupyter con modelli di linguaggio di grandi dimensioni (LLMs) che gli utenti possono utilizzare per generare testo, codice o immagini e per porre domande sui propri dati. Jupyter AI supporta fornitori di modelli generativi come AI21 Anthropic ( AWS e JumpStart Amazon Bedrock), Cohere e OpenAI.

Puoi anche utilizzare Amazon Q Developer come soluzione pronta all'uso. Invece di dover configurare manualmente una connessione a un modello, puoi iniziare a utilizzare Amazon Q Developer con una configurazione minima. Quando abiliti Amazon Q Developer, diventa il fornitore di soluzioni predefinito all'interno di Jupyter AI. Per ulteriori informazioni sull'uso di Amazon Q Developer, consultaSageMaker JupyterLab.

Il pacchetto dell'estensione è incluso nella versione 1.2 e successive di Amazon SageMaker Distribution. Amazon SageMaker Distribution è un ambiente Docker per la scienza dei dati e il calcolo scientifico utilizzato come immagine predefinita delle istanze di JupyterLab notebook. Gli utenti di IPython ambienti diversi possono installare Jupyter AI manualmente.

In questa sezione, forniamo una panoramica delle funzionalità di intelligenza artificiale di Jupyter e dimostriamo come configurare i modelli forniti da JumpStart Amazon Bedrock dai JupyterLabnostri notebook Studio Classic. Per informazioni più approfondite sul progetto Jupyter AI, consulta la relativa documentazione. In alternativa, puoi fare riferimento al post del blog Generative AI in Jupyter per una panoramica ed esempi delle principali funzionalità di intelligenza artificiale di Jupyter.

Prima di utilizzare Jupyter AI e interagire con Jupyter AI, assicurati di soddisfare i seguenti prerequisiti: LLMs

• Per i modelli ospitati da AWS, dovresti disporre ARN del tuo SageMaker endpoint o avere accesso ad Amazon Bedrock. Per gli altri fornitori di modelli, è necessario utilizzare la API chiave per autenticare e autorizzare le richieste al modello. Jupyter AI supporta un'ampia gamma di fornitori di modelli e modelli linguistici, consulta l'elenco dei modelli supportati per rimanere aggiornato sugli ultimi modelli disponibili. Per informazioni su come implementare un modello in JumpStart, consulta Deploy a Model nella documentazione. JumpStart Devi richiedere l'accesso ad Amazon Bedrock per utilizzarlo come fornitore di modelli.

• Assicurati che le librerie AI di Jupyter siano presenti nel tuo ambiente. In caso contrario, installa il pacchetto richiesto seguendo le istruzioni riportate in. Installa Jupyter AI

• Acquisisci familiarità con le funzionalità di Jupyter AI in. Funzionalità di Jupyter AI

• Configura i modelli target che desideri utilizzare seguendo le istruzioni riportate in. Configura il fornitore del modello

Dopo aver completato i passaggi preliminari, puoi procedere aUsa Jupyter AI nel nostro Studio Classic JupyterLab .

Argomenti

• Installa Jupyter AI
• Funzionalità di Jupyter AI
• Configura il fornitore del modello
• Usa Jupyter AI nel nostro Studio Classic JupyterLab