Retrieval-Augmented Generation
Il RAG è un'architettura in cui l'AI recupera i documenti rilevanti dalla tua knowledge base prima di scrivere una risposta, così cita i tuoi dati invece di improvvisare dalla memoria.
Niente gergo, niente formule
In parole semplici, che cos'è?
Il RAG funziona in due fasi. Prima l'indicizzazione: ogni documento della tua knowledge base viene tagliato in frammenti, ogni frammento viene convertito in impronta numerica (embedding) e memorizzato in un vector database. Poi, al momento della domanda: la tua domanda viene trasformata in impronta a sua volta, il database restituisce i frammenti con le impronte più vicine e questi vengono incollati nel prompt del modello come materiale di riferimento. Il modello scrive la risposta mentre li legge, quindi cita le tue procedure, i tuoi listini e i tuoi log invece di inventarli. Se il retrieval non trova nulla di rilevante, un sistema RAG ben fatto lo dice invece di bluffare.
- 01
Indicizzazione. I documenti vengono divisi in frammenti e ognuno riceve un'impronta numerica (embedding).
- 02
Memorizzazione. Le impronte finiscono in un vector database pensato per la ricerca per somiglianza.
- 03
Domanda. La tua domanda viene improntata allo stesso modo.
- 04
Retrieval. Il database restituisce i frammenti con le impronte più vicine alla domanda.
- 05
Generazione. I frammenti entrano nel prompt; il modello risponde leggendoli e citando le fonti.
Termini che gli stanno vicini.
Vector Database
Un vector database è un database costruito per memorizzare impronte numeriche di contenuti (embedding) e trovare in millisecondi quelle più vicine a una qualsiasi query: è il motore della ricerca semantica, dei suggerimenti e del retrieval dell'AI.
LeggiEmbedding
Un embedding è una lista di numeri che cattura il significato di un testo, un'immagine o un audio, così che contenuti dal significato simile ricevano numeri simili e il computer possa misurare la vicinanza con aritmetica normale.
LeggiLarge Language Model
Un large language model (LLM) è un sistema AI allenato su enormi collezioni di testo per prevedere il token successivo, il che gli dà una capacità generale di scrivere, riassumere, tradurre e ragionare senza essere programmato per ogni singolo compito.
Leggi§ 04
Vuoi che funzioni davvero nella tua azienda?
Progettiamo e rilasciamo sistemi AI con permessi, log e approvazione umana. Si parte con una call di scoping di 30 minuti.