Guardrails
Le guardrails sono i controlli e i limiti avvolti attorno a un modello di AI per tenerne il comportamento dentro le tue regole: setacciano ciò che entra, vincolano ciò che il modello può fare e verificano ciò che esce prima che arrivi a una persona o a un sistema.
Niente gergo, niente formule
In parole semplici, che cos'è?
Un modello nudo risponde fluentemente a quasi tutto; le guardrails sono la recinzione intorno. Lavorano a strati. Prima della generazione, i filtri in ingresso scorrono la richiesta in cerca di injection, dati personali o domande fuori scope. Durante la generazione, system prompt, strumenti consentiti e limiti ai parametri delimitano ciò che il modello può toccare. Dopo la generazione, i controlli in uscita giudicano la risposta contro le tue policy e le sue fonti: contiene dati personali, affermazioni senza supporto, promesse fuori policy? Tutto ciò che fallisce viene bloccato, riscritto o consegnato a un umano, e l'evento viene loggato. È lo stesso meccanismo dei controlli in aeroporto: ogni bagaglio passa dagli stessi controlli, a chiunque appartenga. Dove si rompe: regole troppo strette sommergono gli utenti di falsi blocchi, troppo larghe lasciano passare contenuti sbagliati, e uno schema d'attacco davvero nuovo può superare i filtri. Per questo le azioni critiche passano comunque da un gate umano.
- 01
Setaccia l'ingresso. Le richieste vengono scansite: injection, dati personali, domande fuori scope.
- 02
Vincola il modello. System prompt, strumenti consentiti e limiti delimitano cosa può fare.
- 03
Controlla l'uscita. La risposta viene giudicata contro le policy e le sue fonti.
- 04
Blocca o riscrivi. I contenuti che falliscono non arrivano all'utente così come sono.
- 05
Logga ed escala. Ogni blocco è registrato, i tentativi ripetuti o rischiosi vanno a un umano.
Termini che gli stanno vicini.
Prompt Injection
La prompt injection è un attacco in cui istruzioni nascoste vengono piantate dentro contenuti che l'AI legge (una mail, una pagina web, un documento), così il modello esegue i comandi di uno sconosciuto come fossero tuoi.
LeggiJailbreak
Un jailbreak è il tentativo di far ignorare a un modello di AI il proprio addestramento di sicurezza tramite un prompt camuffato con cura, così da ottenere contenuti che il modello è stato costruito e ottimizzato per rifiutare.
LeggiSystem Prompt
Il system prompt è l'istruzione permanente che un modello linguistico riceve prima di ogni messaggio dell'utente: definisce ruolo, tono, limiti, formato di output e strumenti utilizzabili, e condiziona ogni risposta della conversazione.
Leggi§ 04
Vuoi che funzioni davvero nella tua azienda?
Progettiamo e rilasciamo sistemi AI con permessi, log e approvazione umana. Si parte con una call di scoping di 30 minuti.