AI Bias

Niente gergo, niente formule

Un modello impara pattern statistici dai dati di addestramento, nient'altro. Se i dati sotto-rappresentano un gruppo o incorporano uno stereotipo, il pattern eredita lo sbilanciamento e lo ripete in scala, con garbo e costanza. I nascondigli più comuni: uno screening di CV addestrato su un decennio di assunzioni passate in cui certi gruppi comparivano raramente; un filtro antifrode che impara il CAP come proxy del rischio; una previsione di domanda che ignora i tuoi depositi più piccoli perché la storia li ignorava. I proxy sono i più subdoli: il modello non vede genere o origine, vede indirizzo, scuola o buco di carriera, e tira la stessa riga. Poi i cicli di retroazione lo consolidano: se il sistema sbilanciato dice no, il dataset successivo avrà ancora meno esempi di sì. Lo intercetti testando gli output tra gruppi prima della messa in produzione (un bias audit), ribilanciando o riponderando i dati, passando le decisioni critiche a un umano, e ritestando dopo ogni aggiornamento. L'AI Act europeo classifica molti di questi usi come ad alto rischio proprio per questo motivo.