Prima di caricare documenti aziendali in uno strumento AI, chiarisci quali informazioni servono, chi può usarle e che cosa il servizio farà dei dati. Il controllo riguarda il prodotto e il piano scelti, la configurazione e le persone coinvolte.
Per iniziare, scegli un compito circoscritto e usa documenti dimostrativi o autorizzati. Collegare subito l’intero archivio rende più difficile capire quali informazioni arrivano al modello e se le risposte rispettano i permessi del team.
Quali documenti vuoi usare e per quale compito
«Riassumere una scheda pubblica» e «analizzare un contratto riservato» possono sembrare la stessa operazione nell’interfaccia di una chat. Per l’azienda hanno conseguenze diverse. Nel secondo caso entrano in gioco informazioni che potrebbero riguardare clienti, condizioni commerciali, persone o accordi non pubblici.
Prepara un inventario semplice dei documenti coinvolti. Per ogni gruppo indica un responsabile, gli utenti autorizzati, lo scopo e le informazioni che non devono essere condivise. Una classificazione iniziale può distinguere materiali pubblici, documenti interni e contenuti riservati. Adattala alle regole già adottate dall’azienda, senza creare etichette che nessuno sa applicare.
La domanda da porre al responsabile del processo è concreta: per ottenere questo risultato, quali parti del documento sono davvero necessarie? Spesso un riepilogo tecnico richiede la descrizione del problema, ma non il nome del cliente o le condizioni economiche dell’ordine.
Verifica il servizio, il piano e i dati conservati
Il nome del modello non basta a descrivere il percorso dei dati. Una chat personale, un piano aziendale, un’integrazione tramite API e un’installazione locale possono prevedere condizioni e controlli differenti. Nella guida alla scelta dei modelli AI abbiamo distinto questi livelli proprio per evitare confronti incompleti.
Prima della prova, raccogli risposte documentate a queste domande:
- Quale servizio e quale piano verranno utilizzati? Chi amministra l’account?
- Come vengono utilizzati input, file e risposte? Quali condizioni si applicano all’eventuale uso per addestramento?
- Quanto tempo restano disponibili conversazioni, allegati e registri? Come si gestiscono cancellazione e copie?
- Dove vengono elaborati i dati e quali soggetti o servizi possono riceverli?
- Quali controlli sono disponibili per utenti, condivisioni, connettori e strumenti collegati?
Annota il riferimento ufficiale e la data della verifica. Una risposta commerciale generica come «i dati sono protetti» non permette di configurare un processo. Anche l’esclusione dall’addestramento risponde a una sola domanda: restano da chiarire conservazione, accessi e trasferimenti tra i componenti.
Se sono coinvolti dati personali o documenti soggetti a obblighi specifici, fai valutare il trattamento a chi segue privacy e sicurezza nella tua organizzazione. Il controllo tecnico e quello organizzativo devono riferirsi allo stesso flusso reale.
Riduci i dati prima di inviarli
Ridurre le informazioni condivise rende più semplice controllare il processo. Parti dal contenuto necessario al compito e togli credenziali, dettagli personali e informazioni commerciali che non aiutano a ottenere la risposta. L’esposizione di informazioni riservate è uno dei rischi descritti da OWASP per le applicazioni basate su LLM.
Un esempio fittizio: riassumere una richiesta di assistenza
Informazioni iniziali: cliente Esempio Srl, contatto Mario Esempio, indirizzo di consegna, numero dell’ordine, sconto riservato e descrizione di un errore sul prodotto Demo X.
Informazioni utili al riepilogo tecnico: prodotto Demo X, versione, messaggio di errore, circostanze in cui compare e verifiche già eseguite.
Informazioni escluse da questa prova: nome del contatto, indirizzo, sconto e riferimenti commerciali. Potrebbero servire in un altro passaggio del processo, ma non sono necessari per riassumere il problema tecnico.
L’esempio mostra un criterio di selezione, non una procedura automatica di anonimizzazione. Sostituire un nome con un codice non garantisce che una persona o un’azienda non siano riconoscibili dagli altri dettagli. Controlla anche testo estratto, allegati e metadati quando fanno parte dell’invio.
I permessi devono seguire i documenti
Un assistente che cerca nell’archivio aziendale deve rispettare ciò che ciascun utente è autorizzato a consultare. Se un addetto all’assistenza non può aprire il listino riservato della direzione, non deve poterlo ricostruire chiedendo un riepilogo all’AI.
Il sistema deve verificare l’identità dell’utente e limitare i documenti recuperabili prima di passarli al modello. Un’istruzione come «non mostrare informazioni riservate» non sostituisce questo controllo. Vanno considerati anche indici di ricerca, copie temporanee, risposte memorizzate e registri delle conversazioni.
- Assistenza
- Nella prova dimostrativa consulta manuali e procedure operative autorizzate. Non accede ai documenti amministrativi.
- Amministrazione
- Consulta i documenti previsti dal proprio ruolo. La possibilità di usare l’assistente non concede automaticamente accesso a tutto l’archivio.
- Responsabile del sistema
- Configura integrazioni e controlli. Le eventuali funzioni di consultazione dei registri devono avere accessi e finalità definiti.
Prova anche la revoca dei permessi: un documento che ieri era accessibile e oggi non lo è più deve seguire la nuova regola. Il progetto deve stabilire come aggiornare gli indici e gestire eventuali copie, evitando che l’assistente continui a recuperare informazioni non più autorizzate.
Quando un documento prova a dare istruzioni all’AI
Un file può contenere testo che tenta di orientare il comportamento dell’assistente invece di limitarsi a fornire informazioni. Per esempio, può chiedergli di ignorare la domanda dell’utente o di inviare dati a una destinazione esterna. Questo rischio viene chiamato prompt injection; può arrivare anche da documenti e pagine recuperati durante una ricerca.
OWASP descrive il problema e le possibili mitigazioni. I contenuti recuperati vanno trattati come dati da esaminare. Permessi limitati, controlli sulle operazioni disponibili e approvazioni per le azioni rilevanti riducono le conseguenze di un comportamento inatteso, senza garantire l’eliminazione del rischio.
Per la prima prova di consultazione dei documenti, puoi limitare lo strumento alla lettura e alla preparazione di una risposta. Se in seguito dovrà modificare un ordine o inviare un messaggio, quelle capacità richiederanno controlli specifici nell’applicazione. La sola formulazione del prompt non è una barriera sufficiente.
Una prova circoscritta, prima di coinvolgere il team
Definisci un piccolo insieme di documenti autorizzati, alcune domande rappresentative e i risultati attesi. Coinvolgi chi conosce il processo: una risposta scorrevole può omettere proprio il dettaglio che serve per lavorare.
- Prova una domanda normale. Verifica correttezza, completezza e riferimento al documento utilizzato.
- Prova una domanda senza risposta nell’archivio. Lo strumento deve riconoscere il limite, invece di completare il dato mancante con un’ipotesi presentata come certa.
- Prova con un altro ruolo. Controlla che i documenti recuperati cambino in base alle autorizzazioni.
- Aggiorna o revoca un documento. Verifica il comportamento degli indici, delle risposte memorizzate e delle fonti mostrate.
- Controlla cosa viene registrato. Il registro utile a diagnosticare un errore non dovrebbe diventare una copia indiscriminata dei documenti riservati.
Registra gli errori, chi li valuta e cosa impedisce di passare alla fase successiva. Una prova iniziale serve a trovare problemi e definire i controlli; da sola non certifica la sicurezza dell’intero sistema.
Dai controlli a un progetto concreto
Il primo risultato utile è un flusso comprensibile: quali dati entrano, quali componenti li elaborano, chi può consultarli e come vengono gestiti nel tempo. Da lì si possono scegliere modello, infrastruttura e integrazioni coerenti con il lavoro da svolgere.
Digital Titan sviluppa soluzioni AI integrate con i sistemi aziendali, inclusi assistenti sui documenti, collegamenti tramite API e installazioni locali quando adatte al progetto. Possiamo partire da un processo circoscritto e progettare insieme recupero delle informazioni, accessi e verifiche sulle risposte.
Parliamo dei vostri documenti e del processo da migliorare
Guida tecnica introduttiva preparata il 7 settembre 2026. Gli esempi sono fittizi e non rappresentano documenti o risultati di clienti. Le condizioni dei singoli servizi vanno verificate nella versione e nel piano effettivamente utilizzati. Riferimenti: OWASP Gen AI Security Project, rischi di esposizione delle informazioni e prompt injection.