Interpretability
L'interpretabilità è il grado in cui puoi guardare dentro un modello di AI e capire cosa rappresentano le sue parti interne e come si combinano per produrre una risposta, a differenza dell'explainability, che costruisce una giustificazione plausibile dopo la decisione.
Niente gergo, niente formule
In parole semplici, che cos'è?
Un modello di AI è miliardi di numeri. L'interpretabilità chiede: possiamo dire cosa significano alcuni di quei numeri? La strada della ricerca è meccanicistica. Dai al modello esempi e osserva quali unità interne si accendono, poi attribuisci loro un significato: un'unità che scatta sul latino giuridico, un'altra sulle saldature incomplete, un'altra su una data ormai passata. Se ne trovi abbastanza, tracci un percorso: questo input ha acceso queste unità, che hanno spinto la risposta verso “rifiuta”. L'interpretabilità apre la scatola; l'explainability racconta da fuori. Un explainer dice “il prestito è stato rifiutato perché il reddito è basso”: può essere vero, plausibile e sbagliato. Un risultato di interpretabilità punta alle unità e alle attivazioni reali, quindi si può verificare. Dove si rompe: i modelli moderni sono troppo grandi per essere letti dall'inizio alla fine, quindi viste parziali, e una feature che hai battezzato può fare altro in contesti che non hai testato. L'interpretabilità alza la fiducia, non rilascia certificati.
Termini che gli stanno vicini.
Explainability
L'explainability è la proprietà di un sistema di AI (o di uno strato aggiunto) che ti permette di vedere perché ha dato una risposta specifica: quali input hanno pesato, quali regole sono scattate e cosa avrebbe cambiato l'esito.
LeggiAI Bias
Il bias di un'AI è una distorsione sistematica in ciò che un modello prevede o decide, causata da dati di addestramento sbilanciati o da scelte di progetto sbilanciate, che porta a trattare in modo costantemente ingiusto persone o casi simili.
LeggiAlignment
L'alignment è il lavoro di far fare a un sistema di AI ciò che intendevi davvero, non solo ciò che hai scritto letteralmente: obiettivi, limiti e rifiuti vengono modellati durante addestramento e messa in produzione, così il comportamento resta dentro ciò che operatori e società si aspettano.
Leggi§ 03
Vuoi che funzioni davvero nella tua azienda?
Progettiamo e rilasciamo sistemi AI con permessi, log e approvazione umana. Si parte con una call di scoping di 30 minuti.