Fine-tuning

Il fine-tuning è un addestramento aggiuntivo che insegna a un modello generale i tuoi schemi specifici: gli mostri centinaia o migliaia di esempi dei tuoi compiti, del tuo tono e dei tuoi formati, e il modello aggiusta i suoi pesi finché quel comportamento diventa il suo default.

LLM e linguaggioSFTsupervised fine-tuning
§ 01DefinizioneFine-tuning

Niente gergo, niente formule

In parole semplici, che cos'è?

Il fine-tuning parte da un modello base già capace e lo specializza sui tuoi esempi. Prepari un dataset di coppie ingresso-uscita: domande dei clienti e risposte corrette, letture grezze degli strumenti e referti compilati, ordini e risposte standard. Il modello li ripercorre per molte tornate: a ogni passaggio, l'errore sulle tue coppie viene propagato all'indietro e i pesi si spostano di poco nella direzione che lo riduce. Alla fine il modello non ha imparato regole nuove: ha spostato le sue abitudini statistiche finché il tuo formato è diventato il più probabile. Il costo è reale (GPU a noleggio, giorni di preparazione dati) ma è di ordini di grandezza inferiore all'addestramento da zero. Dove si rompe: pochi esempi o etichette sporche portano all'overfitting, cioè il modello impara i tuoi esempi a memoria e inciampa appena vede un caso nuovo. E ricorda: il fine-tuning insegna stile e formato, non fatti freschi; per i fatti che cambiano ogni settimana serve il retrieval.

§ 02Come funzionaDal modello generale al tuo specialista
  1. 01

    Il modello base. Parti da un modello generale già capace.

  2. 02

    I tuoi esempi. Costruisci coppie ingresso-uscita dei tuoi compiti reali.

  3. 03

    Allenamento. Il modello ripercorre gli esempi; l'errore sposta i pesi verso i tuoi schemi.

  4. 04

    Valutazione. Un set di esempi mai visti misura se la specializzazione regge.

  5. 05

    Rilascio. Superata la valutazione, il modello va in produzione; altrimenti si torna ad allenare.

§ 04

Vuoi che funzioni davvero nella tua azienda?

Progettiamo e rilasciamo sistemi AI con permessi, log e approvazione umana. Si parte con una call di scoping di 30 minuti.