Large Language Model

Niente gergo, niente formule

Un large language model è un motore di previsione del token successivo, portato a una scala che diventa competenza generale. Durante l'allenamento legge volumi immensi di testo e aggiusta i suoi pesi interni per prevedere meglio il token successivo, dato quelli precedenti. Quei pesi finiscono per immagazzinare schemi statistici del linguaggio e del mondo: grammatica, fatti, i modi tipici in cui si snoda un contratto o una mail. A runtime non c'è nulla di programmato: dai in ingresso dei token, il modello assegna un punteggio a ogni possibile token successivo, ne sceglie uno, lo aggiunge e ripete. Il risultato sembra comprensione perché prevedere bene su abbastanza testo costringe a catturarne la struttura. Dove si rompe: la conoscenza si congela alla data di allenamento, non c'è memoria tra conversazioni separate, e quando gli schemi corrono più veloci dei fatti arriva l'allucinazione. La scala ha sistemato la fluidità, non la verità: i numeri che cita li devi comunque verificare tu.