Anpassen von Modell-Hyperparameter-Konfigurationen in Neptune ML - Amazon Neptune
DateistrukturAnpassen von Hyperparametern

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Anpassen von Modell-Hyperparameter-Konfigurationen in Neptune ML

Wenn Sie einen Neptune-ML-Modelltrainingsauftrag starten, verwendet Neptune ML automatisch die aus dem vorherigen Datenverarbeitungsauftrag inferierten Informationen. Diese Informationen werden für die Generierung von Hyperparameter-Konfigurationsbereichen verwendet, mit denen ein SageMaker-Hyperparameter-Optimierungsauftrag zum Trainieren mehrerer Modelle für Ihre Aufgabe erstellt wird. So müssen Sie keine lange Liste von Hyperparameterwerten für die Modelle angeben, mit denen trainiert werden soll. Stattdessen werden die Hyperparameterbereiche und Standardwerte des Modells auf Grundlage von Aufgabentyp, Diagrammtyp und Einstellungen des Optimierungsauftrags ausgewählt.

Sie können jedoch die Standard-Hyperparameterkonfiguration überschreiben und benutzerdefinierte Hyperparameter bereitstellen, indem Sie eine vom Datenverarbeitungsauftrag generierte JSON-Konfigurationsdatei ändern.

Mithilfe der Neptune-ML-API modelTraining können Sie mehrere Einstellungen für Hyperparameter-Optimierungsaufträge auf hoher Ebene wie maxHPONumberOfTrainingJobs, maxHPOParallelTrainingJobs und trainingInstanceType steuern. Zur genaueren Steuerung der Modellhyperparameter können Sie die Datei model-HPO-configuration.json ändern, die vom Datenverarbeitungsauftrag generiert wird. Die Datei wird an dem Amazon-S3-Speicherort gespeichert, den Sie für die Ausgabe von Verarbeitungsaufträgen angegeben haben.

Sie können die Datei herunterladen, zur Überschreibung der Standard-Hyperparameterkonfigurationen bearbeiten und wieder zum selben Amazon-S3-Speicherort hochladen. Ändern Sie den Namen der Datei nicht und befolgen Sie bei der Bearbeitung die folgenden Anweisungen.

Herunterladen der Datei von Amazon S3:

aws s3 cp \
  s3://(bucket name)/(path to output folder)/model-HPO-configuration.json \
  ./

Wenn die Bearbeitung abgeschlossen ist, laden Sie die Datei wieder zum ursprünglichen Speicherort hoch:

aws s3 cp \
  model-HPO-configuration.json \
  s3://(bucket name)/(path to output folder)/model-HPO-configuration.json

Struktur der Datei model-HPO-configuration.json

Die Datei model-HPO-configuration.json gibt das Modell an, das trainiert werden soll, den task_type für das Machine Learning sowie die Hyperparameter, die für die verschiedenen Modelltrainingsausführungen variabel oder fest sein sollten.

Die Hyperparameter werden verschiedenen Stufen zugeordnet, die die Priorität der Hyperparameter beim Aufruf des Hyperparameter-Optimierungsauftrags angeben:

  • Tier-1-Hyperparameter haben die höchste Priorität. Wenn Sie maxHPONumberOfTrainingJobs auf einen Wert unter 10 festlegen, werden nur Tier-1-Hyperparameter optimiert. Die übrigen Hyperparameter verwenden die Standardwerte.

  • Tier-2-Hyperparameter haben eine niedrigere Priorität. Wenn es also mehr als 10, aber insgesamt weniger als 50 Trainingsaufträge für einen Optimierungsjob gibt, werden sowohl Tier-1- als auch Tier-2-Hyperparameter optimiert.

  • Tier-3-Hyperparameter werden nur dann zusammen mit Tier-1- und Tier-2- optimiert, wenn es insgesamt mehr als 50 Trainingsaufträge gibt.

  • Und schließlich werden feste Hyperparameter überhaupt nicht optimiert und verwenden stets die Standardwerte.

Beispiel für eine model-HPO-configuration.json-Datei

Das Folgende ist eine model-HPO-configuration.json-Beispieldatei:

{
  "models": [
    {
      "model": "rgcn",
      "task_type": "node_class",
      "eval_metric": {
        "metric": "acc"
      },
      "eval_frequency": {
          "type":  "evaluate_every_epoch",
          "value":  1
      },
      "1-tier-param": [
        {
            "param": "num-hidden",
            "range": [16, 128],
            "type": "int",
            "inc_strategy": "power2"
        },
        {
          "param": "num-epochs",
          "range": [3,30],
          "inc_strategy": "linear",
          "inc_val": 1,
          "type": "int",
          "node_strategy": "perM"
        },
        {
          "param": "lr",
          "range": [0.001,0.01],
          "type": "float",
          "inc_strategy": "log"
        }
      ],
      "2-tier-param": [
        {
          "param": "dropout",
          "range": [0.0,0.5],
          "inc_strategy": "linear",
          "type": "float",
          "default": 0.3
        },
        {
          "param": "layer-norm",
          "type": "bool",
          "default": true
        }
      ],
      "3-tier-param": [
        {
          "param": "batch-size",
          "range": [128, 4096],
          "inc_strategy": "power2",
          "type": "int",
          "default": 1024
        },
        {
          "param": "fanout",
          "type": "int",
          "options": [[10, 30],[15, 30], [15, 30]],
          "default": [10, 15, 15]
        },
        {
          "param": "num-layer",
          "range": [1, 3],
          "inc_strategy": "linear",
          "inc_val": 1,
          "type": "int",
          "default": 2
        },
        {
          "param": "num-bases",
          "range": [0, 8],
          "inc_strategy": "linear",
          "inc_val": 2,
          "type": "int",
          "default": 0
        }
      ],
      "fixed-param": [
        {
          "param": "concat-node-embed",
          "type": "bool",
          "default": true
        },
        {
          "param": "use-self-loop",
          "type": "bool",
          "default": true
        },
        {
          "param": "low-mem",
          "type": "bool",
          "default": true
        },
        {
          "param": "l2norm",
          "type": "float",
          "default": 0
        }
      ]
    }
  ]
}

Elemente einer model-HPO-configuration.json-Datei

Die Datei enthält ein JSON-Objekt mit einem einzigen Array auf oberster Ebene mit dem Namen models und einem einzigen Modellkonfigurationsobjekt. Achten Sie beim Anpassen der Datei darauf, dass das models-Array nur ein einziges Modellkonfigurationsobjekt enthält. Wenn Ihre Datei mehr als ein Modellkonfigurationsobjekt enthält, schlägt der Optimierungsauftrag mit einer Warnung fehl.

Das Modellkonfigurationsobjekt enthält auf der obersten Ebene die folgenden Elemente:

  • model   –   (Zeichenfolge) Der Modelltyp, der trainiert werden soll (nicht ändern). Gültige Werte sind:

    • "rgcn"   –   Dies ist die Standardeinstellung für Aufgaben zur Klassifizierung und Regression von Knoten sowie heterogene Linkvorhersageaufgaben.

    • "transe"   –   Dies ist die Standardeinstellung für KGE-Linkvorhersageaufgaben.

    • "distmult"   –   Dies ist ein alternativer Modelltyp für KGE-Linkvorhersageaufgaben.

    • "rotate"   –   Dies ist ein alternativer Modelltyp für KGE-Linkvorhersageaufgaben.

    Sie sollten den model-Wert nicht direkt ändern, da für verschiedene Modelltypen häufig sehr unterschiedliche Hyperparameter gelten, was nach dem Start des Trainingsauftrags zu Analysefehlern führen kann.

    Um den Modelltyp zu ändern, verwenden Sie den Parameter modelName in der modelTraining-API, statt den Modelltyp in der model-HPO-configuration.json-Datei zu ändern.

    Sie können den Modelltyp ändern und detaillierte Änderungen für die Hyperparameter ausführen, indem Sie die Modellkonfigurations-Standardvorlage des Modells kopieren, das Sie verwenden möchten, und in die model-HPO-configuration.json-Datei einfügen. Wenn der inferierte Aufgabentyp mehrere Modelle unterstützt, befindet sich am Amazon-S3-Speicherort der Datei model-HPO-configuration.json ein Ordner namens hpo-configuration-templates. Dieser Ordner enthält alle Standard-Hyperparameter-Konfigurationen für die übrigen Modelle für die Aufgabe.

    Wenn Sie beispielsweise die Modell- und Hyperparameterkonfigurationen für eine KGE-Linkvorhersageaufgabe vom transe-Standardmodell in ein distmult-Modell ändern möchten, fügen Sie einfach den Inhalt der Datei hpo-configuration-templates/distmult.json in die Datei model-HPO-configuration.json und bearbeiten dann die Hyperparameter wie notwendig.

    Anmerkung

    Wenn Sie den Parameter modelName in der modelTraining-API festlegen sowie model und die Hyperparameterspezifikation in der Datei model-HPO-configuration.json ändern und sich diese unterscheiden, hat der Wert für model in der Datei model-HPO-configuration.json Priorität und der Wert für modelName wird ignoriert.

  • task_type   –   (Zeichenfolge) Der Machine-Learning-Aufgabentyp, der vom Datenverarbeitungsauftrag inferiert oder direkt an den Datenverarbeitungsauftrag übergeben wird (nicht ändern). Gültige Werte sind:

    • "node_class"

    • "node_regression"

    • "link_prediction"

    Der Datenverarbeitungsauftrag inferiert den Aufgabentyp durch die Untersuchung des exportierten Datensatzes und der generierten Trainingsauftrags-Konfigurationsdatei auf Eigenschaften des Datensatzes.

    Dieser Wert sollte nicht geändert werden. Wenn Sie eine andere Aufgabe trainieren möchten, müssen Sie einen neuen Datenverarbeitungsauftrag ausführen. Wenn der Wert für task_type nicht wie erwartet ist, sollten Sie die Eingaben für den Datenverarbeitungsauftrag überprüfen, um sicherzustellen, dass sie korrekt sind. Dies umfasst die Parameter für die modelTraining-API sowie in der durch den Datenexportvorgang generierten Trainingsauftrags-Konfigurationsdatei.

  • eval_metric   –   (Zeichenfolge) Die Auswertungsmetrik sollte zur Auswertung der Modellleistung und zur Auswahl des Modells mit der besten Leistung für alle HPO-Ausführungen verwendet werden. Gültige Werte sind:

    • "acc"   –   Genauigkeit der Standardklassifizierung. Dies ist die Standardeinstellung für Klassifizierungsaufgaben mit einer einzigen Bezeichnung, wenn während der Datenverarbeitung keine unausgewogenen Bezeichnungen gefunden werden. In diesem Fall ist die Standardeinstellung "F1".

    • "acc_topk"   –   Die Häufigkeit, mit der sich die richtige Bezeichnung unter den Top-Vorhersagen für k befindet. Sie können den Wert für k auch festlegen, indem Sie topk als zusätzlichen Schlüssel übergeben.

    • "F1"   –   Das F1-Ergebnis.

    • "mse"   –   Mean-Squared-Fehler-Metrik für Regressionsaufgaben.

    • "mrr"   –   Mean-Reciprocal-Rang-Metrik.

    • "precision"   –   Die Modellpräzision, berechnet als Verhältnis der echten positiven Ergebnisse zu den vorhergesagten positiven Ergebnissen: = true-positives / (true-positives + false-positives).

    • "recall"   –   Die Modellsensitivität, berechnet als Verhältnis der echten positiven Ergebnisse zu den tatsächlichen Ergebnissen: = true-positives / (true-positives + false-negatives).

    • "roc_auc"   –   Die Fläche unter der ROC-Kurve. Dies ist die Standardeinstellung für Klassifizierungen mit mehreren Bezeichnungen.

    Um die Metrik beispielsweise in F1 zu ändern, ändern Sie den Wert für eval_metric wie folgt:

    "  eval_metric": {
    "metric": "F1",
  },

    Um die Metrik in eine topk-Präzisionsbewertung zu ändern, würden Sie eval_metric wie folgt ändern:

      "eval_metric": {
    "metric": "acc_topk",
    "topk": 2
  },

  • eval_frequency   –   (Objekt) Gibt an, wie häufig die Leistung des Modells im Validierungssatz während des Trainings überprüft werden soll. Auf Grundlage der Validierungsleistung kann dann ein vorzeitiger Stopp eingeleitet und das beste Modell gespeichert werden.

    Das eval_frequency-Objekt enthält zwei Elemente, "type" und "value". Beispiele:

      "eval_frequency": {
    "type":  "evaluate_every_pct",
    "value":  0.1
  },

    Gültige Werte für type sind:

    • evaluate_every_pct   –   Gibt den Prozentsatz der Trainings an, die für jede Auswertung abgeschlossen werden müssen.

      Für evaluate_every_pct enthält das Feld "value" eine Gleitkommazahl zwischen null und eins, die diesen Prozentsatz ausdrückt.

    • evaluate_every_batch   –   Gibt die Anzahl der Trainings-Batches an, die für jede Auswertung abgeschlossen werden müssen.

      Für "value" enthält das Feld evaluate_every_batch eine Ganzzahl, die diese Batch-Anzahl ausdrückt.

    • evaluate_every_epoch   –   Gibt die Anzahl der Epochen pro Auswertung an, wobei eine neue Epoche stets um Mitternacht beginnt.

      Für evaluate_every_epoch enthält das Feld "value" eine Ganzzahl, die diese Epochen-Anzahl ausdrückt.

    Die Standardeinstellung für eval_frequency ist:

      "eval_frequency": {
    "type":  "evaluate_every_epoch",
    "value":  1
  },

  • 1-tier-param   –   (Erforderlich) Ein Array von Tier-1-Hyperparametern.

    Wenn Sie keine Hyperparameter optimieren möchten, können Sie diesen Wert auf ein leeres Array festlegen. Dies wirkt sich nicht auf die Gesamtzahl der Trainingsaufträge aus, die vom SageMaker-Hyperparameter-Optimierungsauftrag gestartet werden. Es bedeutet lediglich, dass alle Trainingsaufträge mit dem gleichen Satz von Hyperparametern ausgeführt werden, wenn es mehr als 1, aber weniger als 10 gibt.

    Wenn Sie andererseits alle optimierbaren Hyperparameter mit gleicher Bedeutung behandeln möchten, können Sie alle Hyperparameter in dieses Array einfügen.

  • 2-tier-param   –   (Erforderlich) Ein Array von Tier-2-Hyperparametern.

    Diese Parameter werden nur optimiert, wenn der Wert für maxHPONumberOfTrainingJobs größer als 10 ist. Andernfalls werden die Standardwerte verwendet.

    Wenn Sie über ein Trainingsbudget von maximal 10 Trainingsaufträgen verfügen oder aus einem anderen Grund keine Tier-2-Hyperparameter verwenden möchten, jedoch alle optimierbaren Hyperparameter optimieren möchten, können Sie diesen Wert auf ein leeres Array festlegen.

  • 3-tier-param   –   (Erforderlich) Ein Array von Tier-3-Hyperparametern.

    Diese Parameter werden nur optimiert, wenn der Wert für maxHPONumberOfTrainingJobs größer als 50 ist. Andernfalls werden die Standardwerte verwendet.

    Wenn Sie keine Tier-3-Hyperparameter optimieren möchten, können Sie diesen Wert auf ein leeres Array festlegen.

  • fixed-param   –   (Erforderlich) Ein Array von festen Hyperparametern, die nur die Standardwerte annehmen und sich in unterschiedlichen Trainingsaufträgen nicht unterscheiden.

    Wenn alle Hyperparameter variabel sein sollen, können Sie diesen Wert auf ein leeres Array festlegen und entweder den Wert für maxHPONumberOfTrainingJobs groß genug festlegen, um alle Stufen variabel zu machen, oder alle Hyperparameter auf Tier-1 festlegen.

Das JSON-Objekt, das jeden Hyperparameter in 1-tier-param, 2-tier-param, 3-tier-param und fixed-param darstellt, enthält die folgenden Elemente:

  • param   –   (Zeichenfolge) Der Name des Hyperparameters (nicht ändern).

    Siehe die Liste der gültigen Hyperparameternamen in Neptune ML.

  • type   –   (Zeichenfolge) Der Typ des Hyperparameters (nicht ändern).

    Gültige Typen sind bool, float und int.

  • default   –   (Zeichenfolge) Der Standardwert für den Hyperparameter.

    Sie können einen neuen Standardwert festlegen.

Optimierbare Hyperparameter können auch die folgenden Elemente enthalten:

  • range   –   (Array) Der Bereich für einen kontinuierlichen optimierbaren Hyperparameter.

    Dies sollte ein Array mit zwei Werten sein, dem Minimum und dem Maximum für den Bereich ([min, max]).

  • options   –   (Array) Die Optionen für einen kategorischen optimierbaren Hyperparameter.

    Dieses Array sollte alle relevanten Optionen enthalten:

      "options" : [value1, value2, ... valuen]

  • inc_strategy   –   (Zeichenfolge) Der Typ der inkrementellen Änderung für kontinuierliche optimierbare Hyperparameterbereiche (nicht ändern).

    Gültige Werte sind log, linear und power2. Gilt nur, wenn der Bereichsschlüssel festgelegt ist.

    Wenn Sie dies ändern, wird möglicherweise nicht der gesamte Bereich des Hyperparameters für die Optimierung verwendet.

  • inc_val   –   (Gleitkommazahl) Der Betrag, um den sich aufeinanderfolgende Inkremente für kontinuierliche optimierbare Hyperparameter unterscheiden (nicht ändern).

    Gilt nur, wenn der Bereichsschlüssel festgelegt ist.

    Wenn Sie dies ändern, wird möglicherweise nicht der gesamte Bereich des Hyperparameters für die Optimierung verwendet.

  • node_strategy   –   (Zeichenfolge) Gibt an, dass sich der effektive Bereich für diesen Hyperparameter abhängig von der Anzahl der Knoten im Diagramm ändern soll (nicht ändern).

    Gültige Werte sind "perM" (pro Million), "per10M" (pro 10 Millionen) und "per100M" (pro 100 Millionen).

    Ändern Sie den Wert für range, statt diesen Wert zu ändern.

  • edge_strategy   –   (Zeichenfolge) Gibt an, dass sich der effektive Bereich für diesen Hyperparameter abhängig von der Anzahl der Kanten im Diagramm ändern soll (nicht ändern).

    Gültige Werte sind "perM" (pro Million), "per10M" (pro 10 Millionen) und "per100M" (pro 100 Millionen).

    Ändern Sie den Wert für range, statt diesen Wert zu ändern.

Liste aller Hyperparameter in Neptune ML

Die folgende Liste enthält alle Hyperparameter, die in Neptune ML festgelegt werden können, für jeden Modelltyp und jede Aufgabe. Da diese Hyperparameter nicht auf alle Modelltype anwendbar sind, ist es wichtig, dass Sie in der Datei model-HPO-configuration.json nur die Hyperparameter festlegen, die in der Vorlage für das von Ihnen verwendete Modell enthalten sind.

  • batch-size   –   Die Größe des Zielknoten-Batches, der in einem einzigen Vorwärtspass verwendet wird. Typ: int.

    Wenn Sie dies auf einen sehr viel größeren Wert festlegen, kann es zu Arbeitsspeicherproblemen beim Trainieren auf GPU-Instances kommen.

  • concat-node-embed   –   Gibt an, ob die ursprüngliche Darstellung eines Knotens durch die Verkettung der verarbeiteten Features mit erlernbaren ursprünglichen Knoteneinbettungen erstellt werden soll, um die Aussagekraft des Modells zu erhöhen. Typ: bool.

  • dropout   –   Die Dropout-Wahrscheinlichkeit, die auf Dropout-Ebenen angewendet wird. Typ: float.

  • edge-num-hidden   –   Die Größe der ausgeblendeten Ebene oder die Anzahl der Einheiten für das Kanten-Feature-Modul. Wird nur verwendet, wenn use-edge-features auf True festgelegt ist. Typ: Gleitkommazahl

  • enable-early-stop   –   Legt fest, ob das Feature für vorzeitiges Stoppen verwendet werden soll oder nicht. Typ: bool. Standard: true.

    Mit diesem booleschen Parameter können Sie das Feature für vorzeitiges Stoppen deaktivieren.

  • fanout   –   Die Anzahl der Nachbarn, die für einen Zielknoten während der Probenahme von Nachbarn untersucht werden sollen. Typ: int.

    Dieser Wert ist eng mit num-layers verbunden und sollte sich stets auf derselben Hyperparameter-Ebene befinden. Das liegt daran, dass Sie für jede potenzielle GNN-Ebene einen Fanout angeben können.

    Da dieser Hyperparameter zu einer stark schwankenden Modellleistung führen kann, sollte er fest sein oder als Tier-2- oder Tier-3-Hyperparameter festgelegt werden. Wenn Sie dies auf einen großen Wert festlegen, kann es zu Arbeitsspeicherproblemen beim Trainieren auf GPU-Instances kommen.

  • gamma   –   Der Margenwert in der Bewertungsfunktion. Typ: float.

    Dies gilt nur für KGE-Modelle für die Linkvorhersage.

  • l2norm   –   Der im Optimierer verwendete Weight-Decay-Wert, der den Gewichtungen eine L2-Normalisierungssanktion auferlegt. Typ: bool.

  • layer-norm   –   Gibt an, ob die Ebenennormalisierung für rgcn-Modelle verwendet werden soll. Typ: bool.

  • low-mem   –   Gibt an, ob auf Kosten der Geschwindigkeit eine Implementierung der Beziehungsnachrichten-Übergabefunktion mit wenig Arbeitsspeicher verwendet werden soll. Typ: bool.

  • lr   –   Die Lernrate. Typ: float.

    Dies sollte als Tier-1-Hyperparameter festgelegt werden.

  • neg-share   –   Gibt bei Linkvorhersagen an, ob Kanten mit positiven Proben auch negative Kantenproben teilen können. Typ: bool.

  • num-bases   –   Die Anzahl der Basen für die Basiszerlegung in einem rgcn-Modell. Ein Wert für num-bases, der kleiner als die Anzahl der Kantentypen im Diagramm ist, dient zur Regularisierung des rgcn-Modells. Typ: int.

  • num-epochs   –   Die Anzahl der Trainingsepochen, die ausgeführt werden sollen. Typ: int.

    Eine Epoche ist ein vollständiger Trainingsdurchgang durch das Diagramm.

  • num-hidden   –   Die Größe der ausgeblendeten Ebene oder die Anzahl der Einheiten. Typ: int.

    Dies legt auch die anfängliche Einbettungsgröße für Knoten ohne Features fest.

    Wenn Sie dies auf einen sehr viel größeren Wert festlegen, ohne batch-size zu reduzieren, reicht beim Trainieren auf GPU-Instances möglicherweise der Arbeitsspeicher nicht aus.

  • num-layer   –   Die Anzahl der GNN-Ebenen im Modell. Typ: int.

    Dieser Wert ist eng mit dem Fanout-Parameter verbunden und sollte sich auf derselben Hyperparameter-Ebene wie der Fanout-Parameter befinden.

    Da dies zu einer stark schwankenden Modellleistung führen kann, sollte der Wert fest sein oder als Tier-2- oder Tier-3-Hyperparameter festgelegt werden.

  • num-negs   –   Bei Linkvorhersagen ist dies die Anzahl der negativen Proben pro positiver Probe. Typ: int.

  • per-feat-name-embed   –   Gibt an, ob jedes Feature eingebettet werden soll, indem es unabhängig transformiert wird, bevor Features kombiniert werden. Typ: bool.

    Bei Festlegung auf true wird jedes Feature pro Knoten unabhängig in eine feste Dimensionsgröße transformiert, bevor alle transformierten Features für den Knoten verkettet und weiter in die Dimension num_hidden transformiert werden.

    Bei Festlegung auf false werden die Features ohne Feature-spezifische Transformationen verkettet.

  • regularization-coef   –   Bei Linkvorhersagen ist dies der Koeffizient des Regularisierungsverlusts. Typ: float.

  • rel-part   –   Gibt an, ob für KGE-Linkvorhersagen Beziehungspartitionen verwendet werden sollen. Typ: bool.

  • sparse-lr   –   Die Lernrate für Einbettungen erlernbarer Knoten. Typ: float.

    Erlernbare anfängliche Knoteneinbettungen werden für Knoten ohne Features oder bei Festlegung von concat-node-embed verwendet. Die Parameter der Sparse-Einbettungsebene für erlernbare Knoten werden mithilfe eines getrennten Optimierers trainiert, der eine eigene Lernrate haben kann.

  • use-class-weight   –   Gibt an, ob auf unausgewogene Klassifizierungsaufgaben Klassengewichtungen angewendet werden sollen. Bei Festlegung auf true, werden die Bezeichnungszahlen verwendet, um für jede Klassenbezeichnung eine Gewichtung festzulegen. Typ: bool.

  • use-edge-features   –   Gibt an, ob während der Nachrichtenübergabe Kanten-Features verwendet werden sollen. Bei Festlegung auf true wird der RGCN-Ebene ein benutzerdefiniertes Kanten-Feature-Modul für Kantentypen mit Features hinzugefügt. Typ: bool.

  • use-self-loop   –   Gibt an, ob Selbstschleifen in das Training eines rgcn-Modells einbezogen werden sollen. Typ: bool.

  • window-for-early-stop   –   Vergleicht die Anzahl der letzten Validierungsergebnisse mit dem Durchschnitt, um über einen vorzeitigen Stopp zu entscheiden. Der Standardtyp ist 3. type=int. Siehe auch Vorzeitiges Stoppen des Modelltrainings in Neptune ML. Typ: int. Standard: 3.

    Siehe .

Anpassen von Hyperparametern in Neptune ML

Wenn Sie die Datei model-HPO-configuration.json bearbeiten, sind dies die häufigsten Arten von Änderungen:

  • Bearbeiten Sie die Mindest- und/oder Höchstwerte für range-Hyperparameter.

  • Legen Sie einen Hyperparameter auf einen festen Wert fest, indem Sie ihn zum Abschnitt fixed-param verschieben und den Standardwert auf den festen Wert festlegen, den er annehmen soll.

  • Ändern Sie die Priorität eines Hyperparameters, indem Sie ihn in einer bestimmten Ebene platzieren, den Bereich bearbeiten und sicherstellen, dass der Standardwert korrekt festgelegt ist.