기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
모델 소스 및 라이선스 계약
Amazon SageMaker JumpStart 은 타사 소스 및 파트너의 공개적으로 사용 가능한 수백 개의 독점 파운데이션 모델에 대한 액세스를 제공합니다. SageMaker 콘솔, Studio 또는 Studio Classic에서 파 JumpStart 운데이션 모델 선택을 직접 탐색할 수 있습니다.
라이선스 및 모델 소스
Amazon SageMaker JumpStart 은 공개적으로 사용 가능한 파운데이션 모델과 독점 파운데이션 모델 모두에 대한 액세스를 제공합니다. 파운데이션 모델은 타사 오픈 소스 및 독점 공급자로부터 온보딩되고 유지 관리됩니다. 따라서 모델 소스에서 지정한 대로 다른 라이선스로 출시됩니다. 사용하는 모든 파운데이션 모델의 라이선스를 반드시 검토하세요. 콘텐츠를 다운로드하거나 사용하기 전에 해당 라이선스 조건을 검토 및 준수하고 사용 사례에 적합한지 확인해야 합니다. 다음은 몇 가지 일반적인 파운데이션 모델 라이선스의 예입니다.
-
Alexa Teacher Model
-
Apache 2.0
-
BigScience 책임 있는 AI 라이선스 v1.0
-
CreativeML Open RAIL++-M 라이선스
마찬가지로 모든 독점 파운데이션 모델의 경우 모델 공급자의 사용 약관 및 사용 지침을 검토하고 준수해야 합니다. 특정 독점 모델의 라이선스 정보에 대해 질문이 있는 경우 모델 공급자에 직접 문의하세요. AWS Marketplace의 각 모델 페이지의 지원 탭에서 모델 공급자 연락처 정보를 찾을 수 있습니다.
최종 사용자 라이선스 계약
일부 JumpStart 파운데이션 모델은 사용 전에 최종 사용자 라이선스 계약(EULA)을 명시적으로 수락해야 합니다.
EULA Amazon SageMaker Studio에서 수락
Studio에서 JumpStart 파운데이션 모델을 미세 조정, 배포 또는 평가하기 전에 최종 사용자 라이선스 계약에 동의하라는 메시지가 표시될 수 있습니다. Studio에서 JumpStart 파운데이션 모델을 시작하려면 섹션을 참조하세요Studio에서 파운데이션 모델 사용.
중요
2023년 11월 30일부터 이전 Amazon SageMaker Studio 환경이 이제 Amazon SageMaker Studio Classic으로 명명되었습니다. 다음 섹션은 업데이트된 Studio 환경 사용에 따라 다릅니다. Studio Classic 애플리케이션 사용에 대한 자세한 내용은 섹션을 참조하세요Amazon SageMaker Studio Classic.
일부 JumpStart 파운데이션 모델은 배포 전에 최종 사용자 라이선스 계약을 수락해야 합니다. 이를 사용하려는 파운데이션 모델에 적용하면 Studio는 EULA 콘텐츠가 포함된 창을 표시합니다. 사용자는 모델을 다운로드하거나 사용하기 전에 해당 라이선스 조건을 검토 및 준수하고 사용 사례에 적합한지 확인해야 합니다.
EULA Amazon SageMaker Studio Classic에서 수락
Studio Classic에서 JumpStart 파운데이션 모델을 배포하거나 파운 JumpStart 데이션 모델 노트북을 열기 전에 최종 사용자 라이선스 계약에 동의하라는 메시지가 표시될 수 있습니다. Studio Classic에서 JumpStart 파운데이션 모델을 시작하려면 섹션을 참조하세요Amazon SageMaker Studio Classic에서 파운데이션 모델 사용.
중요
2023년 11월 30일부터 이전 Amazon SageMaker Studio 환경이 이제 Amazon SageMaker Studio Classic으로 명명되었습니다. 다음 섹션은 Studio Classic 애플리케이션 사용에 따라 다릅니다. 업데이트된 Studio 환경 사용에 대한 자세한 내용은 섹션을 참조하세요Amazon SageMaker Studio.
일부 JumpStart 파운데이션 모델은 배포 전에 최종 사용자 라이선스 계약을 수락해야 합니다. 사용하려는 파운데이션 모델에 적용되는 경우 Studio Classic은 배포 또는 노트북 열기를 선택한 후 아래의 최종 사용자 라이선스 계약(EULA) 및 사용 제한 정책(AUP) 검토라는 제목의 창을 표시합니다. 사용자는 모델을 다운로드하거나 사용하기 전에 해당 라이선스 조건을 검토 및 준수하고 사용 사례에 적합한지 확인해야 합니다.
EULA 를 사용한 수락 SageMaker Python SDK
다음 섹션에서는 를 사용하여 JumpStart 모델을 배포하거나 미세 조정할 때 EULA 수락을 명시적으로 선언하는 방법을 보여줍니다. SageMaker Python SDK. 를 사용하여 JumpStart 파운데이션 모델을 시작하는 방법에 대한 자세한 내용은 SageMaker Python SDK를 참조하세요에서 파운데이션 모델 사용 SageMaker Python SDK.
시작하기 전에 다음을 수행했는지 확인합니다.
-
사용하는 모델의 최신 버전으로 업그레이드합니다.
-
최신 버전의 를 설치합니다. SageMaker Python SDK.
중요
다음 워크플로를 사용하려면 의 v2.198.0
EULA JumpStart 모델 배포 시 수락
최종 사용자 라이선스 계약을 수락해야 하는 모델의 경우 모델을 배포할 때 EULA 수락을 명시적으로 선언해야 JumpStart 합니다.
from sagemaker.jumpstart.model import JumpStartModel model_id =
"meta-textgeneration-llama-2-13b"
my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True
)
accept_eula
값은 기본적으로 None
이며 최종 사용자 라이선스 계약을 승인하려면 True
로 명시적으로 재정의되어야 합니다. 자세한 내용은 JumpStartModel
EULA JumpStart 모델을 미세 조정할 때 수락
최종 사용자 라이선스 계약의 수락이 필요한 미세 조정 모델의 경우 JumpStart 추정기를 정의할 때 EULA 수락을 명시적으로 선언해야 합니다. 사전 학습된 모델을 미세 조정하면 원래 모델의 가중치가 변경됩니다. 따라서 나중에 미세 조정된 모델을 배포할 때 를 수락할 필요가 없습니다EULA.
from sagemaker.jumpstart.estimator import JumpStartEstimator model_id =
"meta-textgeneration-llama-2-13b"
# Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"}) estimator.fit( {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )
accept_eula
값은 None
기본적으로 이며 최종 사용자 라이선스 계약에 동의하려면 추정기 환경 "true"
내에서 로 명시적으로 재정의되어야 합니다. 자세한 내용은 JumpStartEstimator
EULA 수락 SageMaker Python SDK 2.198.0 이전 버전
중요
의 2.198.0Predictor
사용하여 모델을 수락해야 합니다EULA.
를 사용하여 프로그래밍 방식으로 JumpStart 파운데이션 모델을 배포한 후 SageMaker Python SDK에서는 클래스를 사용하여 배포된 엔드포인트에 대해 추론을 SageMaker Predictor
실행할 수 있습니다. 최종 사용자 라이선스 계약을 수락해야 하는 모델의 경우 Predictor
클래스에 대한 호출에서 EULA 수락을 명시적으로 선언해야 합니다.
predictor.predict(payload, custom_attributes="accept_eula=true")
accept_eula
값은 기본적으로 false
이며 최종 사용자 라이선스 계약을 승인하려면 true
로 명시적으로 재정의되어야 합니다. 가 로 accept_eula
설정된 동안 추론을 실행하려고 하면 예측기가 오류를 반환합니다false
. 를 사용하여 JumpStart 파운데이션 모델을 시작하는 방법에 대한 자세한 내용은 SageMaker Python SDK를 참조하세요에서 파운데이션 모델 사용 SageMaker Python SDK.
중요
custom_attributes
파라미터는 형식의 키-값 페어를 허용합니다"key1=value1;key2=value2"
. 동일한 키를 여러 번 사용하는 경우 추론 서버는 키와 관련된 마지막 값을 사용합니다. 예를 들어 custom_attributes
매개변수에 "accept_eula=false;accept_eula=true"
을 전달하면 추론 서버가 값 true
을 accept_eula
키와 연결합니다.