Lo structured output è una modalità in cui il modello è costretto a rispondere in un formato leggibile dalle macchine (JSON, una tabella, uno schema fisso) invece che in testo libero, così la risposta può essere validata, salvata e passata ad altro software senza che un umano la ritrascriva.
Niente gergo, niente formule
Il testo libero è per gli umani, il software vuole campi. Lo structured output fa da ponte. Prima dichiari uno schema: nomi dei campi, tipi, valori ammessi. Lo schema viaggia con il prompt come vincolo rigido, non come suggerimento. Mentre il modello genera, il sampler restringe le scelte a ogni passo: può prendere solo token che tengono il JSON valido, quindi una parentesi mancante o una virgola sbagliata sono impossibili per costruzione, non per fortuna. A fine generazione un parser valida il risultato rispetto allo schema. Se è valido, finisce dritto nel tuo ERP, nel tuo database, nella tua prossima chiamata a uno strumento. Se non lo è, scatta una riparazione: il pezzo rotto torna al modello insieme al messaggio d'errore per essere corretto. Il confine da rispettare: la struttura non crea informazione. Se il documento sorgente manca di un valore, uno schema ben fatto lascia il campo vuoto e lo segnala, uno ingenuo lascia che il modello colmi il vuoto con una risposta sicura di sé.
Definisci. Dichiari la forma dell'output: nomi dei campi, tipi, valori ammessi.
Invia. Lo schema viaggia con il prompt come vincolo rigido.
Genera. A ogni passo il modello sceglie solo token che tengono il JSON valido.
Valida. Un parser controlla l'output finito rispetto allo schema.
Ripara o consegna. L'output non valido torna indietro per una correzione, quello valido finisce nel tuo software.
Il function calling è la forma strutturata del tool use: il modello emette una richiesta leggibile dalla macchina che nomina una funzione e i suoi argomenti, scritta in JSON, il tuo codice la valida e la esegue, poi reinserisce il valore di ritorno nella conversazione.
LeggiIl tool use è la capacità di un modello AI di fare più che scrivere testo: può chiamare strumenti esterni, come cercare in un database, inviare una mail o eseguire un calcolo, emettendo una richiesta strutturata che il software esegue davvero.
LeggiLe guardrails sono i controlli e i limiti avvolti attorno a un modello di AI per tenerne il comportamento dentro le tue regole: setacciano ciò che entra, vincolano ciò che il modello può fare e verificano ciò che esce prima che arrivi a una persona o a un sistema.
Leggi§ 04
Progettiamo e rilasciamo sistemi AI con permessi, log e approvazione umana. Si parte con una call di scoping di 30 minuti.