View a markdown version of this page

Proprietà del modello - Amazon SageMaker AI

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Proprietà del modello

Il HubContentDocument form Model HubContentType contiene i metadati che descrivono un JumpStart modello, inclusi l'id, la licenza, la configurazione di distribuzione e le opzioni di personalizzazione. Utilizzate questi metadati per valutare e confrontare i modelli e prendere decisioni informate su quale modello si adatta meglio al vostro caso d'uso.

Quando si chiama l'DescribeHubContentoperazione per un modello, la risposta include un HubContentDocument campo, restituito come stringa. JSON-formatted Questa sezione descrive le proprietà di quel documento Model HubContentType in modo che possa essere interpretato più facilmente.

Analizza la HubContentDocument stringa come JSON per leggere le proprietà qui descritte. I nomi delle proprietà utilizzano. PascalCase Un documento contiene solo le proprietà che si applicano al modello, quindi la maggior parte delle proprietà sono opzionali.

Le seguenti proprietà sono sempre presenti: UrlTrainingSupported,IncrementalTrainingSupported,ModelTypes, eCapabilities. Tutte le altre proprietà sono opzionali e vengono visualizzate solo quando si applicano al modello.

Top-level proprietà

La tabella seguente elenca le proprietà di primo livello del modelloHubContentDocument.

Proprietà

Tipo

Description

Url

Url (string)

L'URL della pagina sorgente del modello.

Campo obbligatorio

MinSdkVersion

SemanticVersion

La versione più vecchia di Python SDK compatibile con questo modello.

Opzionale

TrainingSupported

boolean

Specifica se il modello supporta il classico percorso di formazione Python SDK (non il percorso basato su ricette).

Campo obbligatorio

IncrementalTrainingSupported

boolean

Specifica se il modello può essere nuovamente ottimizzato a partire dall'artefatto di output di un precedente processo di formazione.

Campo obbligatorio

ResourceNameBase

string

Il nome di base utilizzato per denominare automaticamente gli endpoint e i job di formazione.

Opzionale

GatedBucket

boolean

Specifica se i pesi del modello sono controllati. Per distribuire un modello chiuso, è necessario accettare l'EULA (accept_EULA=True).

Opzionale

NovaModelType

string

Un indicatore che identifica le varianti del modello Amazon Nova.

Opzionale

ModelTypes

enum[]

La classe di licenza per il modello. I valori validi sono PROPRIETARY (pesi bloccati) o OPEN_WEIGHTS (pesi portatili).

Campo obbligatorio

Task

string

La categoria di attività ML (ad esempio, generazione di testo o classificazione di immagini).

Opzionale

Framework

string

La origin/framework famiglia del modello (ad esempio, huggingface, meta o nova).

Opzionale

Provider

string

L'organizzazione che ha prodotto il modello (ad esempio, Meta, Anthropic o Amazon).

Opzionale

Datatype

string

La modalità del modello (testo, visione, audio o multimodale).

Opzionale

License

string

Un breve identificatore di licenza (ad esempio, Apache-2.0 MIT).

Opzionale

InputModalities

string[]

I tipi di input accettati dal modello (testo, immagine, audio, video e così via).

Opzionale

OutputModalities

string[]

I tipi di output prodotti dal modello (testo, immagine, audio, video e così via).

Opzionale

ModelAccess

string

Un tag di livello di accesso (public, gated o private-hub).

Opzionale

Languages

string[]

I linguaggi umani su cui è stato addestrato il modello.

Opzionale

ModelSize

string

La dimensione del modello in base al numero di parametri.

Opzionale

ContextWindow

string

Il numero massimo di token di input che il modello può elaborare.

Opzionale

MlFramework

string

Il framework ML in cui il modello è stato originariamente addestrato (ad esempio, PyTorch).

Opzionale

HuggingfaceId

string

L'ID Hugging Face Hub di origine, se il modello è stato rispecchiato da Hugging Face.

Opzionale

ModelProviderIconUri

string

Un URL all'immagine del logo del fornitore per il modello di scheda.

Opzionale

Highlights

string[]

Un elenco dei punti salienti del marketing mostrato nella pagina dei dettagli del modello.

Opzionale

Resources

{DisplayName, Url}[]

Un elenco di link esterni (articoli, blog o repository di codici) mostrato nella sezione «Ulteriori informazioni».

Opzionale

ContextualHelp

object

Il testo di aiuto in linea visualizzato accanto all'input dei dati di allenamento (e). HubFormatTrainData HubDefaultTrainData

Opzionale

Dependencies

object[]

Le istruzioni per copiare gli artefatti in un hub al momento dell'importazione.

Opzionale

NotebookLocations

object

Il contenitore per i taccuini di esempio mostrato nella scheda Notebook del modello.

Opzionale

RecipeCollection

RecipeMetadata[]

Una raccolta di personalizzazioni basate su ricette, indipendenti da. TrainingSupported

Opzionale

Capabilities

enum[]

Le porte di funzionalità supportate dal modello (ad esempio, BEDROCK_CONSOLE, TRAINING, FINE_TUNING, CUSTOMIZATION, HYPERPOD_DEPLOYMENT).

Campo obbligatorio

InferenceConfigs

object

Un set denominato di configurazioni di distribuzione alternative che sovrascrivono i campi di hosting principali. La configurazione con il punteggio più alto è quella predefinita.

Opzionale

InferenceConfigComponents

object

Un pool di componenti riutilizzabili a cui fa riferimento InferenceConfigs [*]. ComponentNames.

Opzionale

InferenceConfigRankings

object

Specifica la InferenceConfigs voce predefinita (Overall.rankings [0]).

Opzionale

TrainingConfigs

object

Un set denominato di configurazioni di allenamento per il percorso di formazione classico.

Opzionale

TrainingConfigComponents

object

Un pool di componenti riutilizzabili a cui fa riferimento TrainingConfigs [*]. ComponentNames.

Opzionale

TrainingConfigRankings

object

Specifica quale TrainingConfigs voce è quella predefinita.

Opzionale

DynamicContainerDeploymentSupported

boolean

Specifica se il modello può essere distribuito come componente di inferenza (endpoint con contenitore dinamico).

Opzionale

HostingAdditionalDataSources

object

Canali di dati del modello aggiuntivi in fase di distribuzione, in genere utilizzati per la decodifica speculativa dei modelli di bozza.

Opzionale

BedrockIOMappingId

string

L'ID del I/O contratto utilizzato quando il modello viene richiamato da Amazon Bedrock.

Opzionale

HostingEcrUri

EcrUri

L'immagine del contenitore di inferenza utilizzata per la distribuzione.

Facoltativo (effettivamente richiesto per l'implementazione)

HostingEcrSpecs

object

La tripla framework/version /Python utilizzata per calcolare un'immagine del Deep Learning Container.

Opzionale

HostingArtifactS3DataType

S3DataType

Specifica se HostingArtifactUri è un S3Prefix (directory) o S3Object (archivio singolo).

Opzionale

HostingArtifactCompressionType

S3CompressionType

Specifica se HostingArtifactUri è Gzip-compressed o Nessuno.

Opzionale

HostingArtifactUri

S3Uri

La posizione S3 dei pesi del modello.

Opzionale

HostingScriptUri

S3Uri

La posizione S3 del pacchetto di script di inferenza (sourcedir.tar.gz).

Opzionale

HostingUseScriptUri

boolean

Specifica se recuperare un pacchetto di script separato (false = precompresso).

Opzionale

HostingEulaUri

S3Uri

L'URI S3 dell'EULA del modello; la sua presenza cancella il modello (richiede accept_eula).

Opzionale

HostingEulaExternalLink

string

Un link esterno alla pagina della licenza del fornitore.

Opzionale

ModelSubscriptionLink

string

Un link per AWS Marketplace iscriversi.

Opzionale

ListingId

string

L'ID AWS Marketplace dell'inserzione.

Opzionale

ProductId

string

L'ID AWS Marketplace del prodotto.

Opzionale

HostingModelPackageArn

ModelPackageArn

Il percorso di AWS Marketplace distribuzione. L'endpoint viene creato da un pacchetto modello anziché da un'immagine e da un artefatto del contenitore.

Opzionale

InferenceAmiVersion

enum

L' SageMaker-managed AMI (driver/CUDA versione) per l'host dell'endpoint.

Opzionale

ModelDataDownloadTimeout

int 60–3600

Il numero massimo di secondi SageMaker attende il download dei pesi del modello da S3.

Opzionale

ContainerStartupHealthCheckTimeout

int 60–3600

Il numero massimo di secondi SageMaker attende che il controllo dello stato del contenitore restituisca 200.

Opzionale

InferenceEnvironmentVariables

array

Le variabili di ambiente del contenitore impostate al momento della distribuzione.

Opzionale

InferenceDependencies

string[]

I pacchetti Python che il contenitore di inferenza installa all'avvio.

Opzionale

DefaultInferenceInstanceType

InstanceType

Il tipo di istanza di distribuzione predefinito.

Opzionale

SupportedInferenceInstanceTypes

InstanceType[]

I tipi di istanza disponibili per la distribuzione.

Opzionale

SageMakerSdkPredictorSpecifications

object

Le intestazioni Content-Type e Accept utilizzate per richiamare il modello.

Opzionale

InferenceVolumeSize

int > 0

Il volume EBS aggiuntivo, in GB, collegato all'host dell'endpoint.

Opzionale

InferenceEnableNetworkIsolation

boolean

Specifica se la rete in uscita è bloccata dal contenitore dell'endpoint.

Opzionale

DefaultPayloads

object

L'esempio canonico dei corpi di richiesta per il riquadro sample-payload.

Opzionale

HostingResourceRequirements

object

I requisiti di CPU, GPU e memoria per l'implementazione come componente di inferenza.

Opzionale

HostingInstanceTypeVariants

object

Le sostituzioni per famiglia di istanze riguardano la configurazione di distribuzione (URI di immagine, variabili di ambiente e ARN del pacchetto di modelli).

Opzionale

TrainingArtifactS3DataType

S3DataType

Specifica se è TrainingArtifactUri un S3Prefix o un S3Object.

Opzionale

TrainingArtifactCompressionType

S3CompressionType

Specifica se è o Nessuno. TrainingArtifactUri Gzip-compressed

Opzionale

TrainingModelPackageArtifactUri

S3Uri

Il percorso AWS Marketplace formativo. I pesi provengono da un pacchetto modello anziché dal canale del modello.

Opzionale

Hyperparameters

array

I parametri regolabili dal cliente (nome, tipo, valore predefinito, minimo e massimo) per il percorso di formazione.

Opzionale

TrainingScriptUri

S3Uri

La posizione S3 del pacchetto di script di addestramento (sourcedir.tar.gz).

Opzionale

TrainingEcrUri

EcrUri

L'immagine del contenitore di formazione.

Opzionale

TrainingMetrics

array

I modelli di espressioni regolari estratti dai log e inseriti nelle CloudWatch metriche di Amazon.

Opzionale

TrainingArtifactUri

S3Uri

I pesi preaddestrati sono stati utilizzati come punto di partenza per il lavoro di formazione.

Opzionale

TrainingDependencies

string[]

I pacchetti Python che il contenitore di formazione installa all'avvio.

Opzionale

DefaultTrainingInstanceType

InstanceType

Il tipo di istanza di training predefinito.

Opzionale

SupportedTrainingInstanceTypes

InstanceType[]

I tipi di istanza disponibili per l'addestramento.

Opzionale

TrainingVolumeSize

int > 0

Il volume EBS (GB) associato all'host del corso di formazione.

Opzionale

TrainingEnableNetworkIsolation

boolean

Specifica se la rete in uscita è bloccata dal contenitore di formazione.

Opzionale

FineTuningSupported

boolean

Una proprietà precedente. TrainingSupportede la funzionalità FINE_TUNING sostituisce questa proprietà.

Opzionale

ValidationSupported

boolean

Una proprietà precedente. La funzionalità VALIDATION sostituisce questa proprietà.

Opzionale

DefaultTrainingDatasetUri

S3Uri

Un set di dati di esempio che il wizard può precompilare per una messa a punto in un solo passaggio.

Opzionale

EncryptInterContainerTraffic

boolean

Specifica se crittografare il traffico tra host durante l'addestramento distribuito.

Opzionale

MaxRuntimeInSeconds

int >= 1

Il numero massimo di secondi prima che il processo di formazione venga interrotto, anche se non è convergente.

Opzionale

DisableOutputCompression

boolean

Specifica se saltare la compressione dell'artefatto in uscita dall'allenamento.

Opzionale

ModelDir

string

La directory all'interno del contenitore di addestramento in cui lo script scrive il modello finale.

Opzionale

TrainingInstanceTypeVariants

object

Le sostituzioni per famiglia di istanze per la configurazione di addestramento (URI di immagine e variabili di ambiente del modello gated-model).

Opzionale

Proprietà annidate

La tabella seguente elenca le proprietà annidate all'interno dell'oggetto e delle proprietà dell'array nella tabella precedente. Una proprietà nidificata contrassegnata come obbligatoria è obbligatoria solo quando è presente la proprietà principale.

Nota

Le TrainingConfigRankings proprietà TrainingConfigs e hanno la stessa struttura annidata delle proprietà InferenceConfigs e InferenceConfigRankings delle controparti. Sostituisci Inference con Training nei percorsi delle proprietà.

Percorso della proprietà

Tipo

Description

Dependencies[].DependencyOriginPath

S3 URI

L'URI S3 di origine da cui copiare alla ImportHubContent volta.

Opzionale

Dependencies[].DependencyCopyPath

S3 URI

L'URI S3 di destinazione all'interno dell'hub.

Opzionale

Dependencies[].DependencyType

enum SCRIPT | ARTIFACT | DATASET | NOTEBOOK | OTHER

Il tipo di artefatto che viene copiato.

Opzionale

Resources[].DisplayName

string

L'etichetta del link leggibile dall'uomo.

Opzionale

Resources[].Url

string

L'URL esterno (carta GitHub, blog).

Opzionale

ContextualHelp.HubFormatTrainData

string[<=800][]

I paragrafi che spiegano il formato previsto per i dati di formazione (fino a 50).

Opzionale

ContextualHelp.HubDefaultTrainData

string[<=800][]

I paragrafi che descrivono il set di dati di esempio (fino a 50).

Opzionale

NotebookLocations.DemoNotebook

S3 URI

La posizione precedente di un singolo notebook. DemoNotebookssostituisce questa proprietà.

Opzionale

NotebookLocations.DemoNotebooks

array (Title, S3Uri required per item)

L'elenco di taccuini di esempio mostrato nella scheda Taccuini.

Opzionale

NotebookLocations.ModelFit

string

Il contenuto Markdown per la panoramica della scheda "». Fine-tune

Opzionale

NotebookLocations.ModelDeploy

string

Panoramica del contenuto Markdown per la scheda «Deploy».

Opzionale

NotebookLocations.DemoNotebooks[].Title

string

Il titolo visualizzato del taccuino.

Campo obbligatorio

NotebookLocations.DemoNotebooks[].S3Uri

S3 URI

La posizione S3 del file .ipynb.

Campo obbligatorio

NotebookLocations.DemoNotebooks[].IsDefault

boolean

Specifica se questo taccuino è preselezionato all'apertura della scheda.

Opzionale

Hyperparameters[].Name

string (max 256)

L'identificatore dell'iperparametro passato allo script di addestramento.

Campo obbligatorio

Hyperparameters[].Label

string (max 256)

L'etichetta di visualizzazione mostrata nel modulo.

Opzionale

Hyperparameters[].Description

string

Una descrizione o un tooltip.

Opzionale

Hyperparameters[].Type

enum int | float | text

Il tipo di dati del valore dell'iperparametro.

Campo obbligatorio

Hyperparameters[].Default

int / float / string

Il valore predefinito; type deve corrispondere a Type.

Campo obbligatorio

Hyperparameters[].Min

int / float

Il valore minimo consentito.

Opzionale

Hyperparameters[].Max

int / float

Il valore massimo consentito.

Opzionale

Hyperparameters[].Options

array

I valori consentiti (solo tipo di testo).

Opzionale

Hyperparameters[].Scope

enum algorithm | container

Specifica se il valore è un argomento dello script di addestramento o una variabile di ambiente del contenitore.

Opzionale

Hyperparameters[].Validators

enum resourceName | resourceTag

La convalida del formato aggiuntiva applicata al valore.

Opzionale

InferenceEnvironmentVariables[].Name

string

Il nome della variabile di ambiente.

Campo obbligatorio

InferenceEnvironmentVariables[].Type

enum int | float | text | bool

Il tipo di valore.

Campo obbligatorio

InferenceEnvironmentVariables[].Default

value

Il valore predefinito; type deve corrispondere a Type.

Campo obbligatorio

InferenceEnvironmentVariables[].Description

string

Una descrizione o un tooltip.

Opzionale

InferenceEnvironmentVariables[].Options

array

I valori consentiti (solo tipo di testo).

Opzionale

InferenceEnvironmentVariables[].Min

int / float

Il valore o la lunghezza minima.

Opzionale

InferenceEnvironmentVariables[].Max

int / float

Il valore o la lunghezza massima.

Opzionale

InferenceEnvironmentVariables[].Scope

enum

Il tag value scope.

Opzionale

InferenceEnvironmentVariables[].RequiredForModelClass

string

La classe del modello per cui è richiesto il valore.

Opzionale

InferenceEnvironmentVariables[].Validators

enum

La convalida del formato aggiuntiva applicata al valore.

Opzionale

TrainingMetrics[].Name

string (max 255)

Il nome della metrica pubblicata in. CloudWatch

Campo obbligatorio

TrainingMetrics[].Regex

string (max 500)

L'espressione regolare applicata ai log; acquisisce esattamente un gruppo numerico.

Campo obbligatorio

SageMakerSdkPredictorSpecifications.DefaultContentType

string

L'intestazione della richiesta predefinita. Content-Type

Campo obbligatorio

SageMakerSdkPredictorSpecifications.SupportedContentTypes

string[]

Quella Content-Types che il modello accetta.

Campo obbligatorio

SageMakerSdkPredictorSpecifications.DefaultAcceptType

string

L'intestazione Accept della risposta predefinita.

Campo obbligatorio

SageMakerSdkPredictorSpecifications.SupportedAcceptTypes

string[]

I tipi di Accept restituiti dal modello.

Campo obbligatorio

DefaultPayloads[alias].ContentType

string

L' Content-Type intestazione di questo esempio.

Campo obbligatorio

DefaultPayloads[alias].PromptKey

string

Il percorso JSON in cui viene inserito un prompt utente in Body.

Opzionale

DefaultPayloads[alias].Body

string | object

Il corpo della richiesta di esempio.

Campo obbligatorio

DefaultPayloads[alias].OutputKeys.GeneratedText

string

Il percorso JSON nella risposta che contiene il testo generato.

Opzionale

DefaultPayloads[alias].OutputKeys.InputLogProbs

string

Il percorso JSON nella risposta che contiene i log-prob di input.

Opzionale

HostingResourceRequirements.NumAccelerators

integer

Il numero di acceleratori richiesto per un componente di inferenza.

Opzionale

HostingResourceRequirements.NumCpus

integer

Il numero di vCPU richiesto.

Opzionale

HostingResourceRequirements.MinMemoryMb

integer

La RAM minima richiesta in MB.

Campo obbligatorio

HostingAdditionalDataSources[channelName][].ChannelName

string

Il nome del SageMaker canale (punto di montaggio).

Campo obbligatorio

HostingAdditionalDataSources[channelName][].ArtifactVersion

string

Il tag di versione per l'artefatto aggiuntivo.

Opzionale

HostingAdditionalDataSources[channelName][].S3DataSource.S3DataType

enum

Il tipo di dati Amazon S3 (S3Prefix o S3Object).

Campo obbligatorio

HostingAdditionalDataSources[channelName][].S3DataSource.S3Uri

S3 URI

La posizione S3 dell'artefatto aggiuntivo.

Campo obbligatorio

HostingAdditionalDataSources[channelName][].S3DataSource.CompressionType

enum

Il tipo di compressione (None o Gzip).

Campo obbligatorio

HostingAdditionalDataSources[channelName][].S3DataSource.HubAccessConfig.HubContentArn

string

L' HubContent ARN a cui attribuire il download.

Opzionale

HostingAdditionalDataSources[channelName][].HostingEulaUri

S3 URI

L'EULA che un utente deve accettare prima di accedere a questa fonte di dati aggiuntiva.

Opzionale

HostingAdditionalDataSources[channelName][].Provider.Name

string

Il nome del provider per l'attribuzione.

Campo obbligatorio

HostingAdditionalDataSources[channelName][].Provider.Classification

string

La classificazione del fornitore.

Campo obbligatorio

HostingInstanceTypeVariants.Aliases[alias]

ECR URI

Un URI di immagine condiviso tra molti tipi di istanza.

Opzionale

HostingInstanceTypeVariants.Variants[instanceType].Properties.ImageUri

ECR URI

Una sostituzione dell'immagine di inferenza per tipo di istanza.

Opzionale

HostingInstanceTypeVariants.Variants[instanceType].Properties.EnvironmentVariables

object

La variabile di ambiente per tipo di istanza ha la precedenza.

Opzionale

HostingInstanceTypeVariants.Variants[instanceType].Properties.ModelPackageArn

ModelPackage ARN

Un pacchetto modello sovrascritto AWS Marketplace per tipo di istanza.

Opzionale

HostingInstanceTypeVariants.Variants[instanceType].Properties.ListingId

string

Un ID di elenco per AWS Marketplace tipo di istanza.

Opzionale

HostingInstanceTypeVariants.Variants[instanceType].Properties.ProductId

string

Un ID di prodotto per tipo di istanza. AWS Marketplace

Opzionale

TrainingInstanceTypeVariants.Aliases[alias]

ECR URI

Un URI di immagine condiviso tra molti tipi di istanza.

Opzionale

TrainingInstanceTypeVariants.Variants[instanceType].Properties.ImageUri

ECR URI

Una sostituzione dell'immagine di addestramento per tipo di istanza.

Opzionale

TrainingInstanceTypeVariants.Variants[instanceType].Properties.GatedModelEnvVarUri

S3 URI

Il modello gated pesa l'URI passato attraverso una variabile di ambiente.

Opzionale

TrainingInstanceTypeVariants.Variants[instanceType].Properties.TrainingArtifactUri

S3 URI

Un artefatto di addestramento per tipo di istanza viene sovrascritto.

Opzionale

TrainingInstanceTypeVariants.Variants[instanceType].Properties.EnvironmentVariables

object

La variabile di ambiente per tipo di istanza ha la precedenza.

Opzionale

RecipeCollection[].Name

string (max 255)

L'ID della ricetta, leggibile dalla macchina, unico all'interno della raccolta.

Campo obbligatorio

RecipeCollection[].DisplayName

string (max 255)

Il titolo della ricetta, leggibile dall'uomo.

Campo obbligatorio

RecipeCollection[].Type

enum FineTuning | Evaluation

Specifica se la ricetta ottimizza o valuta il modello.

Campo obbligatorio

RecipeCollection[].CustomizationTechnique

enum SFT | DPO | RLAIF | RLVR | PPO | CPT | DISTILL | MTRL

L'algoritmo di ottimizzazione fine.

Opzionale

RecipeCollection[].EvaluationType

enum DeterministicTextBenchmark | DeterministicMultiModalBenchmark | DeterministicEvaluation | LLMAJEvaluation | MTRLEvaluation

La metodologia di valutazione (solo quando Type=Evaluation).

Opzionale

RecipeCollection[].IsSubscriptionModel

boolean

Specifica se la ricetta richiede un abbonamento attivo prima che il modello possa essere personalizzato.

Opzionale

RecipeCollection[].Peft

enum LORA | QLORA | FULL

La modalità di regolazione fine efficiente in termini di parametri.

Opzionale

RecipeCollection[].SequenceLength

enum 1K | 2K | 4K | 8K | 16K | 32K | 64K | 128K

La lunghezza del contesto di allenamento per la messa a punto.

Opzionale

RecipeCollection[].Hardware

enum GPU | TRAINIUM | CPU

La famiglia di hardware degli acceleratori (ad esempio GPU, TRAINIUM o CPU).

Opzionale

RecipeCollection[].Versions

string[]

Le versioni del modello con cui è compatibile la ricetta.

Campo obbligatorio

RecipeCollection[].SmtjImageUri

ECR URI

L'immagine del contenitore di formazione utilizzata quando la ricetta viene eseguita come processo SageMaker di formazione.

Opzionale

RecipeCollection[].InstanceCount

integer

Il numero predefinito di istanze per il processo di formazione.

Opzionale

RecipeCollection[].Framework

enum CHECKPOINTLESS | NOVA | VERL | LLMFT

La famiglia di framework di formazione che esegue la ricetta.

Opzionale

RecipeCollection[].ServerlessMeteringType

enum Token-based | Hourly

Il modello di fatturazione serverless (per token o per ora).

Opzionale

RecipeCollection[].ServerlessSku

string

Lo SKU a cui viene addebitato il contatore serverless.

Opzionale

RecipeCollection[].HostingConfigs

array

Gli obiettivi di distribuzione disponibili dopo la personalizzazione.

Opzionale

RecipeCollection[].UseCases

string[]

I tag dei casi d'uso a testo libero.

Opzionale

RecipeCollection[].BestFor

string[]

I tag a testo libero «ideali per».

Opzionale

RecipeCollection[].Description

string

Una descrizione a testo libero della ricetta.

Opzionale

RecipeCollection[].SupportedInstanceTypes

array

L'istanza di training utilizza i tipi supportati dalla ricetta.

Opzionale

RecipeCollection[].RecipeFilePath

string

Il percorso del file di definizione della ricetta.

Opzionale

RecipeCollection[].HpEksPayloadTemplateS3Uri

S3 URI

La posizione S3 del modello di avvio HyperPod (EKS).

Opzionale

RecipeCollection[].HpEksOverrideParamsS3Uri

S3 URI

La posizione S3 del parametro HyperPod (EKS) ha la precedenza.

Opzionale

RecipeCollection[].SmtjRecipeTemplateS3Uri

S3 URI

La posizione S3 del modello di avvio del lavoro di SageMaker formazione.

Opzionale

RecipeCollection[].SmtjOverrideParamsS3Uri

S3 URI

La posizione S3 del parametro del job di SageMaker formazione ha la precedenza.

Opzionale

RecipeCollection[].HostingConfigs[].InstanceType

InstanceType

Un tipo di istanza su cui può essere distribuito il modello personalizzato.

Campo obbligatorio

RecipeCollection[].HostingConfigs[].Profile

string

Un nome di profilo di distribuzione opzionale.

Opzionale

RecipeCollection[].HostingConfigs[].EcrAddress

ECR URI

Un override opzionale per l'immagine del contenitore di inferenza.

Opzionale

RecipeCollection[].HostingConfigs[].Environment

object

Le variabili di ambiente del contenitore per questo target di distribuzione.

Opzionale

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.MinMemoryRequiredInMb

int >= 1

La RAM minima in MB.

Obbligatoria (se l'oggetto principale è impostato)

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.NumberOfCpuCoresRequired

int >= 1

Il numero minimo di vCPU.

Obbligatorio (se l'oggetto principale è impostato)

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.NumberOfAcceleratorDevicesRequired

int >= 0

Il numero minimo di acceleratori.

Obbligatorio (se l'oggetto principale è impostato)

InferenceConfigs[configName].ComponentNames

string[]

I componenti (da InferenceConfigComponents) sono stati uniti in questa configurazione.

Campo obbligatorio

InferenceConfigs[configName].HubContentDependencies[].HubContentArn

string

L'altro da HubContent cui dipende questa configurazione.

Opzionale

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Name

string

Il nome della metrica (velocità effettiva, latenza e così via).

Campo obbligatorio

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Value

string

Il valore misurato.

Campo obbligatorio

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Unit

string

L'unità (tokens/s, ms e così via).

Campo obbligatorio

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].DisplayText

string

Un'etichetta di visualizzazione per la metrica.

Opzionale

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Concurrency

string

Il livello di concorrenza al quale è stata effettuata la misurazione.

Opzionale

InferenceConfigs[configName].AccelerationConfigs[].Type

string

Il tipo di accelerazione (compilatore, kernel fusion e così via).

Campo obbligatorio

InferenceConfigs[configName].AccelerationConfigs[].Enabled

boolean

Specifica se questa accelerazione viene applicata.

Campo obbligatorio

InferenceConfigs[configName].AccelerationConfigs[].Spec.Compiler

string

Il compilatore utilizzato.

Opzionale

InferenceConfigs[configName].AccelerationConfigs[].Spec.Version

string

La versione del compilatore.

Opzionale

InferenceConfigs[configName].AccelerationConfigs[].DiyWorkflowOverrides.Enabled

boolean

Il flag di sovrascrittura del flusso di lavoro fai-da-te (DIY).

Opzionale

InferenceConfigs[configName].AccelerationConfigs[].DiyWorkflowOverrides.Reason

string

Il motivo dell'override.

Opzionale

InferenceConfigRankings[rankingName].Description

string

Una descrizione della dimensione del ranking (ad esempio, «prima il più economico»).

Opzionale

InferenceConfigRankings[rankingName].Rankings

string[]

L'elenco ordinato dei nomi di configurazione per questa classifica.

Opzionale