IA nel Comune senza figuracce: il nodo delle risposte inventate

Un chatbot che inventa non è un rischio accettabile per una PA. Come il RAG e le fonti citate rendono affidabile l'IA al servizio dei cittadini.

Ogni amministratore che valuta un'IA per il proprio ente ha in mente lo stesso incubo: il chatbot che comunica a un cittadino una scadenza sbagliata, inventa un'agevolazione inesistente o cita un regolamento mai approvato. Per un'azienda privata sarebbe un imbarazzo; per una pubblica amministrazione è un problema di legittimità. La preoccupazione è fondata — e va presa sul serio, perché i modelli linguistici generici, per costruzione, possono generare contenuti plausibili ma falsi.

La risposta a questo problema esiste, ha un nome tecnico — RAG, Retrieval-Augmented Generation — e un principio molto semplice: l'IA non deve rispondere a memoria.

Come funziona un'IA che non improvvisa

In un sistema RAG, prima di generare qualsiasi risposta, il sistema recupera dai documenti dell'ente i passaggi pertinenti alla domanda: il paragrafo del regolamento, la sezione della carta dei servizi, la delibera specifica. Solo dopo, il modello linguistico compone la risposta — vincolata a quei passaggi, con la citazione della fonte in calce.

Le conseguenze pratiche sono due. Se l'informazione esiste negli atti dell'ente, la risposta la riflette ed è verificabile con un click. Se non esiste, il sistema lo dichiara e indirizza il cittadino all'ufficio competente: ammettere di non sapere è una funzionalità, non un difetto.

Le tre garanzie da pretendere

Chi valuta un assistente virtuale per il proprio Comune dovrebbe verificare tre requisiti prima di qualsiasi demo suggestiva.

• Perimetro documentale: l'assistente risponde solo sulla base dei documenti caricati dall'ente, e ogni risposta espone la fonte
• Comportamento sull'ignoto: davanti a una domanda fuori perimetro deve dichiarare il limite, non riempire il vuoto con plausibilità
• Supervisione: l'ufficio deve poter rivedere le conversazioni, correggere i documenti che generano risposte ambigue e misurare la qualità nel tempo

La fiducia si costruisce sulla verificabilità

C'è un motivo per cui la citazione della fonte è più importante della brillantezza della risposta: sposta il rapporto di fiducia dal chatbot all'atto amministrativo. Il cittadino non deve credere all'IA — deve poter verificare il regolamento che l'IA gli ha indicato. È lo stesso principio che regge da sempre l'azione amministrativa: non l'autorevolezza di chi parla, ma la fonte di ciò che dice.

Ed è anche il motivo per cui un'IA civica seria si costruisce sui documenti dematerializzati e indicizzati dell'ente, non si compra a scatola chiusa: la qualità delle risposte è la qualità della memoria documentale che le alimenta.