Allucinazione
Un'allucinazione è un contenuto che il modello enuncia con piena sicurezza ma che non è vero: fatti inventati, citazioni fabbricate, numeri sbagliati, consegnati con esattamente lo stesso tono delle risposte corrette.
Niente gergo, niente formule
In parole semplici, che cos'è?
Un modello linguistico è una macchina di pattern addestrata a produrre la continuazione più plausibile di un testo, non a verificarla. Quando scrive, prevede parola per parola cosa dovrebbe venire dopo, e la plausibilità è la sua unica bussola. Se la domanda cade in una zona densa dei dati di addestramento, il pattern è solido e la risposta è giusta. Se la domanda è di nicchia, recente o specifica (le tue codifiche, il log di guasto di martedì scorso), il modello produce comunque una risposta scorrevole, ma quel riempitivo scorrevole può essere finzione con tono sicuro. Dentro il ciclo di generazione nessuno controlla la risposta contro la realtà; quel controllo deve arrivare da fuori: retrieval che ancori la risposta ai tuoi documenti, guardrails che confrontino le affermazioni con le fonti, o un umano che verifichi. Chi legge scambia la scorrevolezza per accuratezza, ed è per questo che l'allucinazione è il modo di fallire più costoso dell'AI in azienda.
- 01
La domanda. Poni una domanda che il modello conosce solo a metà.
- 02
Generazione. Scrive la continuazione più plausibile, parola per parola.
- 03
Il bivio. L'affermazione è ancorata a fonti vere? Se sì, risposta affidabile.
- 04
L'invenzione. Se no, il modello colma il vuoto con qualcosa che suona giusto: l'allucinazione.
- 05
La rete. Guardrails e retrieval verificano le affermazioni; le intercettate vengono segnalate, le altre ti arrivano come fatti.
Termini che gli stanno vicini.
Retrieval-Augmented Generation
Il RAG è un'architettura in cui l'AI recupera i documenti rilevanti dalla tua knowledge base prima di scrivere una risposta, così cita i tuoi dati invece di improvvisare dalla memoria.
LeggiGuardrails
Le guardrails sono i controlli e i limiti avvolti attorno a un modello di AI per tenerne il comportamento dentro le tue regole: setacciano ciò che entra, vincolano ciò che il modello può fare e verificano ciò che esce prima che arrivi a una persona o a un sistema.
LeggiFine-tuning
Il fine-tuning è un addestramento aggiuntivo che insegna a un modello generale i tuoi schemi specifici: gli mostri centinaia o migliaia di esempi dei tuoi compiti, del tuo tono e dei tuoi formati, e il modello aggiusta i suoi pesi finché quel comportamento diventa il suo default.
Leggi§ 04
Vuoi che funzioni davvero nella tua azienda?
Progettiamo e rilasciamo sistemi AI con permessi, log e approvazione umana. Si parte con una call di scoping di 30 minuti.