Come funzionano le macchine di fattorizzazione

L'attività di predizione per un modello di macchina di fattorizzazione è stimare una funzione ŷ da un set di funzionalità x_i per un dominio di destinazione. Questo dominio è un valore reale per la regressione e il binario per la classificazione. Il modello di macchina di fattorizzazione è supervisionato e quindi ha un set di dati di addestramento (x_i,y_j) disponibile. I vantaggi che questo modello presenta risiedono nel modo in cui utilizza una parametrizzazione fattorizzata per acquisire le interazioni tra caratteristiche a livello di coppie. Può essere rappresentato matematicamente come segue:

Le tre termini di questa equazione corrispondono rispettivamente ai tre componenti del modello:

• Il termine w₀ rappresenta il bias globale.

• I termini lineari w_i modellano la forza della variabile i^th.

• I termini di fattorizzazione <v_i,v_j> modellano l'interazione a livello di coppie tra la variabile i^th e j^th.

I termini bias globale e lineari sono gli stessi di un modello lineare. Le interazioni tra caratteristiche a livello di coppie sono modellate nel terzo termine come prodotto interno dei fattori corrispondenti appresi per ogni caratteristica. I fattori appresi possono anche essere considerati come vettori integrati di ogni caratteristica. Ad esempio, in un'attività di classificazione, se una coppia di caratteristiche tende a presentarsi contemporaneamente più spesso negli esempi etichettati positivi, quindi il prodotto interno dei loro fattori sarebbe elevato. In altre parole, i relativi vettori integranti sarebbero vicini tra loro in una similitudine di coseno. Per ulteriori informazioni sul modello di macchine di fattorizzazione, consulta Macchine di fattorizzazione.

Per le attività di regressione, il modello è preparato riducendo al minimo l'errore quadratico tra la previsione del modello ŷ_n e il valore target y_n. Questa prassi è nota come perdita al quadrato:

Per un'attività di classificazione, il modello è addestrato riducendo al minimo la perdita di entropia incrociata, nota anche come perdita di log:

dove:

Per ulteriori informazioni sulle funzioni di perdita per la classificazione, consulta l'argomento relativo alle funzioni di perdita per la classificazione.