Amazon Nova 레시피 - Amazon SageMaker AI
기본 레시피 가져오기사용 가능한 모델 및 알고리즘Amazon Nova 레시피 참조

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon Nova 레시피

SageMaker HyperPod 레시피 리포지토리에서 Amazon Nova 레시피를 가져올 수 있습니다. Nova 레시피는 모델 사용자 지정 작업을 실행하는 방법에 대한 세부 정보를 SageMaker AI에 제공하는 YAML 구성 파일입니다. 기본 모델 이름을 제공하고, 훈련 하이퍼파라미터를 설정하고, 최적화 설정을 정의하고, 모델을 성공적으로 미세 조정하거나 훈련하는 데 필요한 추가 옵션을 포함합니다.

JumpStart 모델 허브로 이동하여 Amazon Nova 모델을 선택하고 탐색하여 연결된 레시피를 찾아서 Amazon SageMaker Studio AWS및 Amazon SageMaker Unified Studio를 통해 Nova 레시피에 액세스할 수도 있습니다. Amazon SageMaker Studio와 Amazon SageMaker Unified Studio 모두 SageMaker AI 훈련 작업 또는 Amazon SageMaker HyperPod 환경을 사용하여 레시피를 수정하고 사용자 지정 작업을 실행하는 데 필요한 모든 단계를 포함하는 각 레시피에 대한 샘플 노트북을 제공합니다.

Amazon SageMaker Studio의 레시피 페이지에 액세스하려면 실행 역할에 다음 권한이 있어야 합니다.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "s3:GetObject"
            ],
            "Resource": [
                "arn:aws:s3:::*model-customization-recipes*"
            ]
        }
    ]
}

SageMaker 훈련 작업 및 SageMaker HyperPod에서 샘플 노트북을 실행하려면 , 2.7.1+, 2.8.0+, SageMaker 배포 이미지 버전 중 하나를 사용합니다3.2.1+3.3.0+. 이는 Amazon SageMaker Studio와 Amazon SageMaker Unified Studio 모두에 적용됩니다.

Amazon Nova 레시피 가져오기

기본 Amazon Nova 레시피를 가져오려면 다음 명령을 실행하여 SageMaker HyperPod 레시피 리포지토리를 복제합니다.

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

기본 레시피는에서 사용할 수 있습니다recipes_collection/recipes/.

cd recipes_collection/recipes/

Amazon Nova 사용자 지정 레시피는 다음 폴더에 있습니다.

레시피 유형 폴더
SFT(전체 순위 및 PEFT), PPO, DPO(전체 순위 및 PEFT) 미세 조정/최신
평가 평가/최신
CPT 훈련/노바

사용 가능한 모델 및 알고리즘

다음 표에는 SageMaker AI를 사용한 Amazon Nova 모델 및 지원되는 알고리즘에 대한 사용자 지정 가용성이 요약되어 있습니다.

모델 이름

모델 ID

미세 조정

Notes

Amazon Nova Micro

amazon.nova-micro-v1:0:128k

예

 For both SFT and DPO, this model accepts text as input and produces text as output only.

Amazon Nova Lite

amazon.nova-lite-v1:0:300k

예

  • SFT - 텍스트 및/또는 이미지 또는 텍스트 및/또는 비디오를 입력으로 수락하고 텍스트를 출력으로 생성합니다. 단일 작업은 동일한 실행에서 텍스트, 이미지 및 비디오를 결합할 수 없습니다.

  • DPO - 텍스트와 이미지를 입력으로 수락하고 텍스트를 출력으로 생성합니다.

Amazon Nova Pro

amazon.nova-pro-v1:0:300k

예

  • SFT - 텍스트 및/또는 이미지 또는 텍스트 및/또는 비디오를 입력으로 수락하고 텍스트를 출력으로 생성합니다. 단일 작업은 동일한 실행에서 텍스트, 이미지 및 비디오를 결합할 수 없습니다.

  • DPO - 텍스트와 이미지를 입력으로 수락하고 텍스트를 출력으로 생성합니다.

Amazon Nova 레시피 참조

아래 표에는 Amazon Nova 레시피 참조에 대한 자세한 정보가 나와 있습니다.

모델 범주/하위 범주 기술 레시피 이름 이미지 URI(SageMaker 훈련 작업) 이미지 URI(SageMaker HyperPod) 컴퓨팅 인스턴스
Nova Lite 훈련/미세 조정

감독 미세 조정(LoRA)

 nova_lite_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Lite 훈련/미세 조정

감독 미세 조정(전체)

 nova_lite_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Lite 훈련/미세 조정

직접 기본 설정 최적화(전체)

 nova_lite_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Lite 훈련/미세 조정

직접 기본 설정 최적화(LoRA)

 nova_lite_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Lite 훈련/보강 학습

보상 기반 강화 학습(PPO)

 nova_lite_p5_gpu_ppo.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Lite 훈련/지속적인 사전 훈련 지속적인 사전 훈련(기본 모델) nova_lite_gpu_p5x16_pretrain.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Lite 평가/평가 표준 텍스트 벤치마크 nova_lite_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite 평가/평가

사용자 지정 데이터 세트 평가

 nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite 평가/평가

다중 모달 벤치마크

 nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite 평가/평가

LLM을 판사로 사용

 nova_lite_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro 훈련/미세 조정

감독 미세 조정(LoRA)

 nova_micro_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Micro 훈련/미세 조정

감독 미세 조정(전체)

 nova_micro_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Micro 훈련/미세 조정

직접 기본 설정 최적화(전체)

 nova_micro_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Micro 훈련/미세 조정

직접 기본 설정 최적화(LoRA)

 nova_micro_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Micro 훈련/보강 학습

보상 기반 강화 학습(PPO)

 nova_micro_p5_gpu_ppo.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Micro 훈련/지속적인 사전 훈련 지속적인 사전 훈련(기본 모델) nova_micro_gpu_p5x8_pretrain.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Micro 평가/평가 일반 텍스트 벤치마크 nova_micro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro 평가/평가

자체 데이터 세트 가져오기(gen_qa) 벤치마크

 nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro 평가/평가

LLM을 판사로 사용

 nova_micro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro 훈련/미세 조정

감독 미세 조정(LoRA)

 nova_pro_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Pro 훈련/미세 조정

감독 미세 조정(전체)

 nova_pro_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Pro 훈련/미세 조정

직접 기본 설정 최적화(전체)

 nova_pro_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Pro 훈련/미세 조정

직접 기본 설정 최적화(LoRA)

 nova_pro_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Pro 훈련/보강 학습

보상 기반 강화 학습(PPO)

 nova_pro_p5_gpu_ppo.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Pro 훈련/지속적인 사전 훈련 지속적인 사전 훈련(기본 모델) nova_pro_gpu_p5x24_pretrain.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Pro 훈련/데이터 보강 훈련 후 모델 추출 nova_pro_r5_cpu_distill.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST ml.r5.24xlarge
Nova Pro 평가/평가 표준 텍스트 벤치마크 nova_pro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro 평가/평가 사용자 지정 데이터 세트 평가 nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro 평가/평가 다중 모달 벤치마크 nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro 평가/평가 LLM을 판사로 사용 nova_pro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Premier 학습 훈련 후 모델 추출

nova_premier_r5_cpu_distill.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST

해당 사항 없음

ml.r5.24xlarge