Chunking

Niente gergo, niente formule

Perché tagliare? I modelli leggono finestre finite e il retrieval funziona con passaggi focalizzati: un embedding fatto su 80 pagine diventa una media che non assomiglia a niente. Le strategie principali: tagli a dimensione fissa, oppure tagli strutturali su titoli, paragrafi o clausole (per i contratti) e righe (per le tabelle), con una sovrapposizione di qualche riga perché una frase spezzata sul bordo resti intera da una parte o dall'altra. Troppo piccolo e il significato muore (“salvo quanto previsto” senza il comma che segue); troppo grande e l'embedding si diluisce, la ricerca perde la risposta esatta. A ogni frammento si attacca metadato: titolo del documento, sezione, numero di clausola. Dove si rompe: una tabella staccata dalla sua didascalia, una clausola di responsabilità separata dalle sue eccezioni.