Le istruzioni nascoste negli atti processuali richiedono nuovi controlli per gli assistenti di intelligenza artificiale, dalla preparazione dei file alla revisione umana degli output.
Un atto processuale può essere letto contemporaneamente da persone e sistemi automatici. Il giudice o l’avvocato ne osserva il contenuto visibile, mentre un assistente di intelligenza artificiale può elaborare anche porzioni di testo estratte dal file e difficili da riconoscere durante una lettura ordinaria. Il caso brasiliano legato a Galileu ha reso concreta questa differenza: un documento legale conteneva istruzioni nascoste potenzialmente capaci di condizionare il comportamento del sistema.
L’episodio riguarda il cosiddetto prompt injection, una tecnica che inserisce comandi all’interno dei contenuti forniti a un modello. Nel settore giudiziario la questione assume una rilevanza particolare, perché petizioni, memorie e contestazioni possono alimentare strumenti utilizzati per ordinare informazioni, riassumere argomenti e preparare bozze. Il documento diventa così parte dell’interfaccia con l’AI, anche quando è stato progettato per apparire come un normale testo destinato a un lettore umano.
Un documento con due livelli di lettura
Il prompt injection diretto avviene quando una persona impartisce apertamente un comando al sistema, per esempio attraverso una chat. La variante indiretta usa invece un contenuto esterno: il comando viene collocato in un documento, in una pagina o in un’altra risorsa che l’assistente deve analizzare. Se il modello interpreta quel comando come un’istruzione valida, il contenuto può interferire con il compito assegnato dall’utente.
Un modello linguistico elabora sequenze di testo senza possedere, in modo automatico, la stessa distinzione concettuale che una persona applica tra contenuto del documento e istruzioni operative. Questa separazione deve essere costruita attraverso l’architettura del servizio, i prompt di sistema, i filtri e le procedure di controllo. Il problema nasce quando testo e comando entrano nello stesso contesto senza una gerarchia sufficientemente robusta.
Nei documenti legali questa dinamica incontra una complessità ulteriore. Il file originale deve essere conservato nella sua integrità, mentre il sistema può aver bisogno di una copia preparata per l’analisi automatica. Qualsiasi processo di normalizzazione, estrazione o pulizia richiede quindi tracciabilità: occorre sapere quale versione è stata elaborata, quali elementi sono stati rilevati e come si è arrivati al risultato mostrato all’operatore.
Che cosa fa Galileu nei flussi giudiziari
Il Conselho Nacional de Justiça brasiliano ha descritto Galileu come un assistente virtuale adottato nella giustizia del lavoro. Lo strumento legge petizioni iniziali e contestazioni, struttura le informazioni e può suggerire una bozza di sentenza. Si colloca quindi in una fase delicata del lavoro documentale, dove l’intelligenza artificiale aiuta a organizzare una grande quantità di materiale prima della valutazione del giudice.
La funzione di supporto non coincide con l’attribuzione al sistema del potere decisionale. Una bozza può accelerare la ricostruzione del fascicolo e offrire una base di lavoro, mentre la verifica degli atti, la valutazione giuridica e la responsabilità della decisione restano affidate alle persone competenti. Proprio questa distribuzione dei compiti rende essenziale conoscere la provenienza delle informazioni usate dal modello e le eventuali anomalie incontrate durante l’elaborazione.
Il caso Galileu mostra inoltre che l’affidabilità non dipende esclusivamente dalla qualità generale del modello. Un sistema capace di produrre sintesi accurate può comunque ricevere un input costruito per modificarne il comportamento. La sicurezza riguarda quindi l’intera catena: acquisizione dei file, estrazione del testo, istruzioni impartite al modello, generazione della risposta e revisione finale.
Dai filtri alla revisione umana
Una nota tecnica diffusa il 20 maggio 2026 dal Conselho da Justiça Federal definisce i prompt nascosti come comandi inseriti intenzionalmente nei testi per interferire con i sistemi di intelligenza artificiale. Le raccomandazioni richiamano tre strumenti complementari: filtri, prompt difensivi e revisione umana. Tradotti in un processo operativo, questi interventi agiscono in momenti diversi e riducono la dipendenza da un’unica barriera tecnica.
I controlli in ingresso possono esaminare il testo estratto e individuare segmenti anomali, istruzioni rivolte al modello o differenze significative tra ciò che appare nel documento e ciò che viene effettivamente elaborato. In ambito giudiziario è opportuno conservare il file originale e creare una versione separata destinata all’analisi. In questo modo l’integrità dell’atto rimane preservata e le operazioni tecniche possono essere registrate.
I prompt difensivi servono a stabilire una gerarchia più chiara. Il sistema può ricevere l’indicazione di trattare il contenuto del documento come materiale da analizzare e di ignorare eventuali comandi presenti al suo interno. Questa misura aumenta la robustezza, pur richiedendo verifiche periodiche: i modelli, i formati dei file e le modalità di utilizzo evolvono, rendendo necessaria una manutenzione continua delle regole.
La revisione umana chiude il processo. L’operatore deve poter riconoscere quali passaggi derivano dagli atti, quali sono stati sintetizzati dal modello e se il sistema ha rilevato contenuti sospetti. Un avviso comprensibile è più utile di un semplice errore tecnico, perché consente al professionista di controllare il documento e decidere come proseguire. Registri delle operazioni e versioni identificabili facilitano inoltre audit e ricostruzioni successive.
Una questione che riguarda tutti i workflow documentali
La lezione del caso brasiliano si estende agli strumenti che leggono contratti, report aziendali e manoscritti. Sempre più piattaforme permettono di caricare file e chiedere all’intelligenza artificiale di riassumerli, confrontarli o trasformarli in nuovi contenuti. Ogni documento acquisito introduce informazioni provenienti da un soggetto esterno e dovrebbe essere trattato come un input con un proprio livello di affidabilità.
Per editori e professionisti dei contenuti, un’istruzione nascosta potrebbe alterare una sintesi, orientare una classificazione o influire su una proposta di revisione. Nelle imprese la stessa dinamica può interessare assistenti collegati ad archivi interni e sistemi di ricerca documentale. La conseguenza pratica è la necessità di separare con chiarezza le fonti consultate, le istruzioni dell’utente e le regole permanenti del servizio.
Anche la scelta di una piattaforma dovrebbe includere domande più precise. È utile sapere come vengono analizzati i file, se il sistema distingue i comandi dai contenuti, quali avvisi produce e quali dati conserva per la verifica. La qualità dell’output rimane importante; la capacità di spiegare il percorso seguito acquista un peso analogo nei contesti professionali regolati o ad alta responsabilità.
Verso un’automazione documentale più matura
Il prompt injection nei documenti non riduce l’utilità degli assistenti di intelligenza artificiale. Evidenzia le condizioni necessarie per integrarli in attività dove testi e decisioni hanno conseguenze concrete. Un sistema ben progettato deve riconoscere che il documento è contemporaneamente una fonte informativa e un possibile vettore di istruzioni estranee al compito.
L’approccio più solido combina preparazione controllata dei file, regole tecniche, segnalazioni comprensibili e responsabilità umana. Nei tribunali questa struttura tutela la qualità del procedimento. Negli studi professionali, nelle redazioni e nelle aziende offre un modello applicabile a ogni workflow basato su documenti. La maturazione dell’intelligenza artificiale passa anche da qui: strumenti capaci di produrre risultati utili e processi capaci di mostrare come quei risultati sono stati ottenuti.
Fonti
- Prompt injection nei documenti legali: il caso Galileu – Agenda Digitale
- Prompts ocultos: nota técnica alerta para riscos de manipulação de IA em processos judiciais — Conselho da Justiça Federal
- Justiça do Trabalho adota ferramenta de IA Galileu para auxiliar a produção de sentenças – Portal CNJ
