Parameter
Un parameter è uno dei numeri interni che un modello allenato conserva: miliardi di copie, ognuna tarata durante il training, e insieme codificano tutto ciò che il modello ha imparato.
Niente gergo, niente formule
In parole semplici, che cos'è?
Pensa ai parameter come alle manopole del modello, una per ogni connessione che il training ha fissato. Il tuo input arriva come numeri, scorre nei livelli della rete e a ogni livello viene moltiplicato per matrici piene di parameter, sommato e riformato. Ogni parameter spinge la risposta su o giù di un pizzico; miliardi di spintine composte diventano una risposta fluente. Il conteggio è la taglia di copertina del modello: un modello “7B” tiene 7 miliardi di parameter. Quel numero decide tutto sul piano operativo: più parameter significano più VRAM per contenerli e più calcolo per token. La quantization riduce ogni parameter da 16 a 8 o 4 bit, così lo stesso modello entra in una GPU più piccola, pagando poco in precisione.
Termini che gli stanno vicini.
Training
Il training è il processo che trasforma un modello vuoto in un'IA funzionante: gli mostri migliaia o milioni di esempi, confronti le sue risposte con quelle corrette e correggi le sue impostazioni interne finché le risposte migliorano.
LeggiQuantizzazione
La quantizzazione è una tecnica di compressione che riscrive i pesi di un modello da decimali ad alta precisione (float a 32 bit) a numeri più piccoli (interi a 8 o 4 bit), così il modello occupa meno memoria e gira più veloce su hardware più economico, a un costo di accuratezza piccolo e misurabile.
LeggiGPU
La GPU è un processore progettato per eseguire migliaia di piccoli calcoli in parallelo. Nata per la grafica, si è rivelata il motore perfetto dell'AI: eseguire una rete neurale è in gran parte un'enorme pila di moltiplicazioni tra matrici.
Leggi§ 03
Vuoi che funzioni davvero nella tua azienda?
Progettiamo e rilasciamo sistemi AI con permessi, log e approvazione umana. Si parte con una call di scoping di 30 minuti.