Overfitting

L'overfitting è quando un modello memorizza i suoi dati di training invece di imparare lo schema sottostante: quasi perfetto sugli esempi che ha visto, inaffidabile su tutto il resto.

Fondamentaliover-trainingmemorizzazione
§ 01DefinizioneOverfitting

Niente gergo, niente formule

In parole semplici, che cos'è?

Il training riduce l'errore sul training set, e c'è un punto in cui smette di essere progresso. Se continui a correggere, il modello inizia ad adattarsi al rumore dei dati: i refusi esatti, i picchi una tantum, le bizze del trimestre scorso. Il segnale stanno in due curve: l'errore di training continua a scendere mentre quello su dati mai visti sale. I parameter hanno di fatto memorizzato le flashcard. Le cure seguono la diagnosi: fermarsi prima (early stopping), raccogliere più dati o migliori, usare un modello più piccolo, oppure regolarizzare. Il verdetto onesto arriva sempre dal test set che il modello non ha mai toccato, mai dal punteggio di training.

§ 02Come funzionaQuando ottimi punteggi nascondono un modello che ha memorizzato
  1. 01

    Alleni. Il modello corregge i suoi parameter sugli esempi di training.

  2. 02

    Provi su dati mai visti. Il test set separato mostra se lo schema generalizza.

  3. 03

    Riconosci il segnale. Perfetto sul training, scarso sui dati nuovi significa memorizzazione.

  4. 04

    Curi. Più dati, early stopping o un modello più piccolo rompono la memorizzazione.

§ 04

Vuoi che funzioni davvero nella tua azienda?

Progettiamo e rilasciamo sistemi AI con permessi, log e approvazione umana. Si parte con una call di scoping di 30 minuti.