View a markdown version of this page

모델 사용자 지정에 액세스하는 방법 - Amazon SageMaker AI
Studio UIPython SDK V3레시피(훈련 작업 + HyperPod)HP-CLI

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

모델 사용자 지정에 액세스하는 방법

Amazon SageMaker AI는 모델 사용자 지정을 위한 여러 인터페이스를 제공합니다. 다음 표에는 옵션이 요약되어 있습니다. 워크플로와 제어 수준에 가장 적합한 인터페이스를 선택합니다.

인터페이스 인프라 최적의 용도 컨트롤 수준
Studio UI 서버리스 빠른 실험, 코드 없는 사용자 가이드 - 모델, 기법, 데이터 업로드 선택
Python SDK( SFTTrainer등) 서버리스 재현 가능한 파이프라인, 자동화 프로그래밍 방식 - 코드에 모든 파라미터 지정
Python SDK(ModelTrainer) SageMaker AI 훈련 작업 사용자 지정 인스턴스, 고급 구성 전체 - 인스턴스 유형, 개수, 이미지 선택
레시피 훈련 작업 + HyperPod 사전 구성된 모범 사례 레시피 기반 - YAML 구성 수정
HP-CLI HyperPod(EKS) Kubernetes-네이티브 팀 전체 - Kubernetes 작업 제출
에이전트(모델 사용자 지정 기술) 서버리스 자연어 워크플로, 안내 경험 대화 - 필요한 사항 설명

Studio UI

SageMaker AI Studio 콘솔은 코드를 작성하지 않고도 모델 사용자 지정을 위한 시각적 워크플로를 제공합니다.

UI로 사용자 지정

서버리스 모델 사용자 지정을 위한 기본 진입점입니다. 안내 워크플로를 살펴봅니다.

  1. 카탈로그에서 파운데이션 모델 선택

  2. 사용자 지정 기법 선택(SFT, DPO, RLVR, RLAIF)

  3. 훈련 유형 선택(LoRA 또는 FFT)

  4. 훈련 데이터 세트 업로드 또는 지정(S3 경로)

  5. 하이퍼파라미터 구성

  6. 훈련 작업 시작

실시간 지표 및 로그를 사용하여 진행 상황을 실시간으로 모니터링합니다.

JumpStart 모델 허브

사용자 지정에 사용할 수 있는 파운데이션 모델을 찾아보고 검색합니다. 공급자, 작업 또는 모델 크기를 기준으로 필터링합니다. 모델 세부 정보 카드에서 사용자 지정을 직접 시작할 수 있습니다.

에이전트 안내 환경

모델 사용자 지정에 대한 대화형 접근 방식을 위해 Amazon SageMaker AI Skills를 사용합니다. 자연어로 달성하고자 하는 것을 설명하면 에이전트가 모델 선택, 데이터 세트 준비 및 작업 구성을 안내합니다. 자세한 내용은 모델 사용자 지정 에이전트 스킬을 참조하세요.

Python SDK V3

SageMaker AI Python SDK를 사용하여 서버리스 및 SageMaker AI 훈련 작업 워크플로에 프로그래밍 방식으로 액세스할 수 있습니다.

서버리스 트레이너

완전 관리형 사용자 지정을 위해 기법별 트레이너 클래스를 사용합니다.

from sagemaker.modules.train import SFTTrainer, DPOTrainer, RLVRTrainer, RLAIFTrainer

# Example: Serverless SFT
trainer = SFTTrainer(
    model_id="meta-textgeneration-llama-3-1-8b-instruct",
    train_data="s3://my-bucket/train.jsonl",
    hyperparameters={
        "max_epochs": 3,
        "learning_rate": 5e-5,
        "lora_rank": 16,
    }
)
trainer.train()

SageMaker AI 학습 작업

ModelTrainer를 사용하여 인스턴스 선택을 완전히 제어합니다.

from sagemaker.modules.train import ModelTrainer
from sagemaker.modules.configs import Compute, InputData

trainer = ModelTrainer(
    training_image="my-training-image",
    role="arn:aws:iam::123456789012:role/SageMakerRole",
    compute=Compute(instance_type="ml.p4d.24xlarge", instance_count=2)
)
trainer.train(input_data_config=[
    InputData(channel_name="training", data_source="s3://my-bucket/train")
])

레시피(훈련 작업 + HyperPod)

SageMaker AI 훈련 작업 또는 HyperPod 클러스터에서 사전 구성된 훈련 레시피를 실행합니다. HyperPod 레시피는 분산 훈련 구성, 데이터 세트 로드 및 체크포인트 관리를 자동으로 처리합니다.

레시피는 지원되는 모든 모델 및 기법에 사용할 수 있습니다. 전체 카탈로그는 SageMaker AI HyperPod 레시피를 참조하세요.

git clone --recursive https://github.com/aws/sagemaker-hyperpod-recipes.git
cd sagemaker-hyperpod-recipes
pip3 install -r requirements.txt

# Launch a fine-tuning recipe
python3 launcher/launch.py --recipe recipes_collection/recipes/fine-tuning/llama/sft_lora.yaml

HP-CLI

HyperPod EKS 클러스터에 훈련 작업을 제출하기 위한 명령줄 인터페이스입니다. HP-CLI는 영구 클러스터에서 컨테이너화된 훈련을 위해 Kubernetes기반 워크로드 오케스트레이션과 통합됩니다.

설정 및 사용량은 Amazon EKS를 사용하는 HyperPod를 참조하세요.