도구 선택 모범 사례

Amazon Nova Sonic으로 도구를 구현할 때는 최적의 성능을 보장하기 위해 다음과 같은 모범 사례를 따르는 것이 좋습니다.

• 단순하게 스키마 구조 유지: 가능하면 최상위 키는 3개 이하로 제한하세요.

• 고유한 파라미터 이름 생성: 혼동을 방지하기 위해 유사한 파라미터 간에 명확하고 의미적으로 다른 이름을 사용하세요. 즉, ‘product_id’와 ‘cart_item_id’가 서로 다른 용도로 사용되는 경우 둘 다 사용하지 마세요.

• 자세한 도구 설명 제공: 모델이 적절한 도구를 선택할 수 있도록 각 도구의 용도와 사용 시기를 명확하게 설명하세요.

• 정확하게 입력 스키마 정의: 파라미터 유형을 지정하고 각 파라미터에 대한 설명을 포함하세요. 필수 파라미터와 선택 파라미터를 명확하게 표시하세요.

• 컨텍스트 길이 모니터링: 컨텍스트가 더 큰 토큰(즉, 토큰 약 5만 개)에 가까워지면 도구 성능이 저하될 수 있습니다. 긴 컨텍스트로 작업할 때는 복잡한 태스크를 더 작은 단계로 나누는 것을 고려하세요.

• 오류 처리 구현: 적절한 대체 동작을 포함하여 도구 실행 실패에 대비하세요.

• 철저히 테스트: 배포 전에 다양한 입력과 엣지 케이스에서 도구가 작동하는지 확인하세요.

• 그리디 디코딩 파라미터: 도구 사용을 위해 온도 값을 0으로 설정합니다.

다음과 같은 일반적인 문제는 피하는 것이 좋습니다.

• JSON 스키마 준수 실패가 발생하는 경우 스키마 구조를 단순화하거나 더 명확한 지침을 제공해야 할 수 있습니다.

• 모델에서 결과를 개선하는 선택적 파라미터(예: 쿼리의 'limit' 파라미터)를 생략할 수 있다는 점에 유의하세요.

이들 지침을 따르면 Amazon Nova Sonic 모델의 도구 사용 기능을 최대한 활용하여 외부 데이터 소스에 액세스하고 복잡한 작업을 수행할 수 있는 강력한 대화형 AI 애플리케이션을 생성할 수 있습니다.