Violazioni di deviazione dell'attribuzione delle funzionalità del modello

I processi di attribuzione delle funzionalità valutano i vincoli di base forniti dalla configurazione di base rispetto ai risultati dell'analisi corrente MonitoringExecution. Se vengono rilevate violazioni, il processo le elenca nel file constraint_violations.json nella posizione di output delle esecuzioni e contrassegna lo stato di esecuzione come Interpretazione dei risultati.

Di seguito è riportato lo schema del file delle violazioni di deviazione dell'attribuzione delle funzionalità.

• label: il nome dell'etichetta, la configurazione dell'analisi del processo label_headers o un segnaposto come "label0".

• metric_name: il nome del metodo di analisi della spiegabilità. Attualmento solo shap è supportato.

• constraint_check_type: il tipo di violazione monitorata. Attualmento solo feature_attribution_drift_check è supportato.

• description: un messaggio descrittivo che spiega la violazione.

{
    "version": "1.0",
    "violations": [{
        "label": "string",
        "metric_name": "string",
        "constraint_check_type": "string",
        "description": "string"
    }]
}

Per ogni etichetta della sezione explanations, i processi di monitoraggio calcolano il punteggio nDCG dei relativi valori SHAP globali nel file dei vincoli di base e nel file dei risultati dell'analisi del processo (analysis.json). Se il punteggio è inferiore a 0,9, viene registrata una violazione. Il valore SHAP globale combinato viene valutato, quindi non ci sono campi “feature” nella voce di violazione. L'output seguente fornisce un esempio di diverse violazioni registrate.

{
    "version": "1.0",
    "violations": [{
        "label": "label0",
        "metric_name": "shap",
        "constraint_check_type": "feature_attribution_drift_check",
        "description": "Feature attribution drift 0.7639720923277322 exceeds threshold 0.9"
    }, {
        "label": "label1",
        "metric_name": "shap",
        "constraint_check_type": "feature_attribution_drift_check",
        "description": "Feature attribution drift 0.7323763972092327 exceeds threshold 0.9"
    }]
}