Cos'è successo a New York?
Nel 2023 il Comune di New York ha messo online un chatbot per le imprese dentro il portale MyCity, costruito sulla piattaforma cloud di Microsoft. Doveva aiutare i titolari a orientarsi tra regole e permessi. Nel 2024 i test della testata The Markup e di THE CITY hanno mostrato risposte che, se seguite, portavano a violare la legge.
- Il chatbot diceva che un datore di lavoro poteva trattenere parte delle mance dei dipendenti.
- Suggeriva che un proprietario poteva rifiutare inquilini con il buono casa federale, il cosiddetto Section 8.
- Diceva che un negozio poteva non accettare contanti, mentre una legge della città lo vieta.
L'amministrazione di allora ha lasciato il chatbot online promettendo di correggerlo. Nel 2026 il nuovo sindaco, Zohran Mamdani, ne ha annunciato la chiusura, definendolo «di fatto inutilizzabile». Oggi la pagina del servizio dice che la fase di prova è terminata e rimanda al portale del Comune.
Cosa fa di diverso l'Estonia?
Bürokratt è l'assistente virtuale pubblico gestito dall'autorità estone per i sistemi informativi. Capisce l'estone di tutti i giorni, è attivo 24 ore su 24 e aiuta a trovare informazioni sui servizi pubblici. Quando si blocca, passa il cittadino a un operatore. Lo usano agenzie nazionali, come quella delle entrate, e anche un Comune, la parrocchia di Rae.
La nostra lettura: la differenza non è il modello di AI, è il progetto. A New York un piccolo avviso diceva che il bot poteva sbagliare, ma il cittadino non aveva modo di capire quando. In Estonia il passaggio a una persona fa parte del servizio fin dall'inizio.
Cosa chiede oggi la legge a un chatbot pubblico?
- Dire che è un sistema di AI. L'AI Act, all'articolo 50, chiede che chi parla con un assistente AI lo sappia, salvo che sia evidente. L'informazione va data in modo chiaro, al più tardi alla prima interazione. Vale da agosto 2026.
- Dichiarare i testi generati. Se l'ente pubblica testi scritti dall'AI per informare i cittadini su temi di interesse pubblico, deve dirlo, a meno che una persona li rivegga e ne abbia la responsabilità editoriale.
- Far capire come funziona. La legge italiana 132 del 2025, all'articolo 14, chiede alle PA di garantire che il funzionamento dell'AI sia conoscibile e l'uso tracciabile. La responsabilità resta a una persona dell'ente.
Se il chatbot tratta dati personali, per esempio il codice fiscale per una pratica TARI, vale anche il GDPR: informativa, base giuridica e misure di sicurezza, come per ogni altro servizio online dell'ente.
Come si limita un chatbot alle fonti dell'ente?
Un caso di esempio, non un ente reale. L'URP di un Comune vuole un assistente per TARI, residenza e permessi ZTL. Le domande su sanzioni, ricorsi e contenziosi vanno sempre a un operatore.
- Risposte solo da pagine e regolamenti dell'ente, ognuna con il link alla fonte.
- Un elenco scritto di temi esclusi, come sanzioni, ricorsi e salute, che passano subito a una persona.
- Una prova prima del lancio su alcune centinaia di domande vere arrivate all'URP, rilette da un funzionario.
- Il pulsante per parlare con un operatore sempre visibile, non nascosto dopo tre tentativi.
- Un registro delle risposte, con controlli a campione ogni mese.
E noi?
Come lo imposteremmo per l'URP dell'esempio: partiremmo da un solo tema, come la TARI, con le pagine dell'ente come unica fonte. Il passaggio a un operatore sarebbe pronto prima del lancio, e lo estenderemmo ad altri temi solo dopo i controlli a campione del primo mese.
Quindi lo fai o no?
- Se le risposte possono venire tutte da pagine e regolamenti dell'ente, puoi partire con un tema alla volta.
- Se i cittadini chiedono soprattutto di casi personali, come sanzioni o ricorsi, serve prima un percorso rapido verso un operatore.
- Se non hai qualcuno che rilegge le risposte ogni mese, aspetta: un chatbot senza controlli è il caso di New York.
“Un chatbot pubblico funziona se sa quando fermarsi e passare la parola a una persona.”
DBrothers — sui chatbot nei Comuni
Domande frequenti
Un chatbot comunale è ad alto rischio per l'AI Act?
Di solito no, se dà informazioni sui servizi. Le regole sull'alto rischio riguardano, tra l'altro, i sistemi che aiutano a decidere chi ha diritto a un servizio o a un beneficio.
Basta un avviso che il chatbot può sbagliare?
No. A New York c'era, e non è bastato. Servono risposte legate alle fonti, temi esclusi e un operatore raggiungibile.
Chi risponde se il chatbot sbaglia?
L'ente. Per la legge italiana l'AI ha una funzione di supporto e la responsabilità resta alle persone dell'amministrazione.
Se stai valutando un assistente per i cittadini, parti dall'elenco delle domande più frequenti all'URP e da quelle che non vuoi mai lasciare a una macchina. Da lì si capisce cosa può fare il chatbot.
