Problembehandlung bei Werkzeuganrufen

Bei der Arbeit mit Tools und Amazon Nova-Modellen treten möglicherweise unterschiedliche Fehler auf. Hier finden Sie einige Beispiele und Tipps, die Ihnen bei der Fehlerbehebung helfen sollen.

Ausnahme: Modellfehler

An error occurred (ModelErrorException) when calling the Converse operation: The model produced an invalid sequence as part of ToolUse. Please refer to the model tool use troubleshooting guide.

Überprüfen Sie Ihre Inferenzparameter — Amazon Nova-Modelle haben mehr Erfolg beim Aufrufen von Tools, wenn sie Greedy Decoding verwenden. Um die Greedy-Decodierung zu aktivieren, setzen Sie die Temperaturparameter auf 0.

inferenceConfig={
    "temperature": 0
}

additionalModelRequestFields={"inferenceConfig": {"topK": 1}}

Erhöhen Sie die maximale Token-Anzahl — Es ist üblich, dass Tool-Ausgaben eine große Token-Ausgabe erfordern. Stellen Sie sicher, dass die festgelegte maximale Token-Anzahl groß genug ist, um das erwartete Rückgabeschema aufzunehmen. Wenn die Modellantwort größer als Ihre maximale Token-Anzahl ist, wird eine Ausnahme ausgelöst. Sie können die maximale Anzahl an Tokens im inferenceConfig Parameter festlegen:

inferenceConfig={
    "maxTokens": 3000
}

Überprüfen Sie die Systemaufforderung — Um die Genauigkeit beim Aufrufen von Tools zu verbessern, verwendet Amazon Nova beim Aufrufen eines Tools chain-of-thought Argumentation. Sie werden diese Ausgabe in der Antwort in <thinking>Tags sehen. Es wird nicht empfohlen, diese Funktion zu entfernen. Stattdessen empfehlen wir, die Ausgabe zu löschen, wenn Sie sie in Ihrer Anwendung nicht benötigen.

Validation Exception

An error occurred (ValidationException) when calling the Converse operation

Die übergebene Werkzeugkonfiguration entspricht nicht den erforderlichen Konventionen. Die Spezifikationen für alle Parameter finden Sie in der Converse API-Spezifikation.

Ein Tool wird nicht wie erwartet zurückgegeben

Wenn es so aussieht, als würden Tools vom Modell ignoriert, stellen Sie sicher, dass Sie das richtige JSON-Schema für die Werkzeugkonfiguration verwenden:

• Das Schema der obersten Ebene muss vom Typ Object sein

• Nur drei Felder werden im Objekt der obersten Ebene unterstützt - type (muss auf „Objekt“ gesetzt sein)properties, und required

• Häufig werden folgende Felder auf der obersten Ebene nicht unterstützt:$schema,description, und title additionalProperties

Wenn ein Tool nicht wie erwartet zurückgegeben wird, wird empfohlen, den tool_choice API-Parameter zu nutzen.

• Tool: Das angegebene Tool wird einmal aufgerufen.

  {
     "toolChoice": {
          "tool": {
              "name": "name_of_tool"
          }
      }
  }

• Beliebig: Eines der bereitgestellten Tools wird mindestens einmal aufgerufen.

  {
     "toolChoice": {
          "any": {}
      }
  }