la nuova frontiera della slealtà processuale?
Per la prima volta, il tentativo di influenzare un procedimento giudiziario non passa
attraverso un argomento giuridico più persuasivo, una prova documentale o una
testimonianza, bensì attraverso un’istruzione nascosta destinata esclusivamente a un sistema
di intelligenza artificiale. È questo il cuore del caso deciso dal Tribunale del lavoro
brasiliano, destinato con ogni probabilità a costituire il primo precedente mondiale in materia
di prompt injection processuale.
All’interno di un atto giudiziario era stato infatti inserito, mediante caratteri bianchi su sfondo
bianco, un comando invisibile alla normale lettura, ma potenzialmente rilevabile e
interpretabile da un modello di intelligenza artificiale chiamato ad analizzare il documento. Il
messaggio, rivolto non al giudice né alla controparte, bensì all’algoritmo, invitava
quest’ultimo a contestare solo superficialmente la domanda e a non sollevare obiezioni
rispetto ai documenti prodotti.
A prima vista potrebbe sembrare un episodio curioso, quasi una provocazione tecnologica. In
realtà, il caso apre una riflessione ben più profonda: se l’intelligenza artificiale sta
progressivamente entrando nelle attività di studio degli avvocati, nelle cancellerie e, sempre
più frequentemente, anche nell’organizzazione del lavoro giudiziario, può il processo tollerare
che qualcuno tenti deliberatamente di manipolare gli strumenti tecnologici attraverso i quali
quel processo viene analizzato?
Per comprendere la portata della vicenda è necessario chiarire cosa sia una prompt injection.
Con questa espressione si indica una tecnica mediante la quale vengono inserite istruzioni
rivolte esclusivamente a un sistema di intelligenza artificiale, senza che tali istruzioni siano
percepibili dal destinatario umano del documento. In altre parole, il medesimo atto contiene
due livelli comunicativi distinti: uno visibile, destinato alle parti e al giudice, e uno occulto,
destinato unicamente all’algoritmo.
Sotto il profilo giuridico, la questione assume un rilievo che va ben oltre la tecnologia. Il
Tribunale brasiliano non ha ritenuto decisivo accertare se il sistema di AI fosse stato
realmente influenzato dal comando nascosto. Ha invece affermato un principio di particolareinteresse: il semplice inserimento di un’istruzione occulta finalizzata a condizionare il
comportamento di un sistema algoritmico costituisce, di per sé, una violazione dei principi di
correttezza e lealtà processuale.
Si tratta, a mio avviso, di un’impostazione pienamente condivisibile.
Il processo è fondato su un principio essenziale: tutte le informazioni destinate a influenzare
la decisione devono essere conoscibili da tutte le parti e dal giudice. La trasparenza del
contraddittorio rappresenta uno dei cardini del giusto processo. L’inserimento di un comando
occulto rompe tale equilibrio, poiché introduce un canale comunicativo riservato, sottratto al
controllo delle parti e destinato esclusivamente a incidere sul funzionamento di uno
strumento tecnologico che potrebbe concorrere all’analisi dell’atto.
In altri termini, non cambia soltanto il destinatario della comunicazione: cambia la natura
stessa dell’atto processuale. Il documento non è più rivolto unicamente agli interlocutori
processuali, ma contiene una seconda comunicazione, invisibile e parallela, concepita per
orientare un soggetto diverso. È proprio questa duplicità che rende la condotta incompatibile
con i principi di trasparenza che devono caratterizzare ogni procedimento giudiziario.
Sebbene l’ordinamento italiano non contempli, allo stato, una disciplina specifica sulla
prompt injection negli atti giudiziari, ciò non significa che una simile condotta sarebbe
giuridicamente irrilevante.
Anzitutto, sul piano processuale, l’art. 88 del codice di procedura civile impone alle parti e ai
loro difensori il dovere di comportarsi in giudizio con lealtà e probità. Tali principi non
rappresentano meri canoni etici, ma costituiscono regole di condotta funzionali al corretto
svolgimento del processo. Inserire istruzioni occulte destinate a influenzare strumenti di
intelligenza artificiale impiegati nell’analisi degli atti potrebbe integrare una violazione di tali
obblighi, oltre a configurare una forma di abuso dello strumento processuale.
Anche sotto il profilo deontologico le criticità appaiono evidenti. Il Codice Deontologico
Forense impone all’avvocato di esercitare la professione nel rispetto dei principi di dignità,
probità, lealtà, correttezza e trasparenza. Tali doveri non riguardano esclusivamente i rapporti
con il cliente, ma permeano l’intera attività difensiva e impongono che ogni iniziativa
processuale si svolga nel pieno rispetto dell’affidamento che il sistema giudiziario ripone
nell’avvocatura. Un comportamento finalizzato a manipolare occultamente strumentitecnologici utilizzati dalla controparte o, in prospettiva, dallo stesso ufficio giudiziario,
potrebbe pertanto assumere rilevanza anche sotto il profilo disciplinare, indipendentemente
dall’effettivo conseguimento del risultato perseguito.
La vicenda assume poi un significato ancora più ampio se letta alla luce del nuovo quadro
normativo europeo. Il Regolamento (UE) 2024/1689 sull’intelligenza artificiale (AI Act) non
disciplina espressamente la prompt injection negli atti giudiziari. Tuttavia, l’intero impianto
del regolamento si fonda sui principi di affidabilità, sicurezza, trasparenza, robustezza e
prevenzione delle manipolazioni dei sistemi di intelligenza artificiale, soprattutto quando tali
sistemi sono destinati a incidere su attività particolarmente sensibili, quale l’amministrazione
della giustizia.
Pur non essendo ancora qualificabile come una violazione tipizzata dall’AI Act, la
manipolazione intenzionale dell’input destinato a un sistema di AI appare difficilmente
conciliabile con la ratio stessa della disciplina europea, che mira a garantire un utilizzo
affidabile e non distorto delle tecnologie intelligenti.
Il punto centrale, tuttavia, è un altro.
La vicenda brasiliana dimostra come l’intelligenza artificiale non stia modificando soltanto gli
strumenti del diritto, ma stia generando nuove forme di scorrettezza processuale che
l’ordinamento dovrà progressivamente ricondurre entro categorie giuridiche già esistenti. Non
siamo di fronte a un problema esclusivamente tecnologico, bensì a una nuova modalità
attraverso cui possono manifestarsi comportamenti contrari ai principi di buona fede e
correttezza.
È probabile che nei prossimi anni assisteremo a casi analoghi anche negli ordinamenti
europei. L’utilizzo di sistemi di AI per la classificazione, la sintesi e l’analisi preliminare degli
atti giudiziari è destinato ad aumentare, così come aumenteranno i tentativi di influenzarne il
funzionamento mediante tecniche sempre più sofisticate. Per questa ragione, il precedente
brasiliano potrebbe rappresentare soltanto il primo tassello di una futura elaborazione
giurisprudenziale internazionale.
A mio avviso, la risposta del diritto non dovrà concentrarsi esclusivamente sull’efficacia
concreta della manipolazione. Attendere la prova che il sistema di AI sia stato effettivamente
influenzato significherebbe intervenire quando il vulnus alla regolarità del processo si è giàverificato. Così come il processo non tollera comunicazioni riservate con il giudice o artifici
idonei ad alterare la genuinità del contraddittorio, allo stesso modo non dovrebbe tollerare
istruzioni occulte destinate agli strumenti tecnologici che partecipano, direttamente o
indirettamente, alla formazione della decisione.
In definitiva, il vero tema non è se l’intelligenza artificiale possa essere manipolata. La storia
della cybersecurity insegna che ogni tecnologia è, almeno in parte, suscettibile di attacchi. La
questione giuridicamente rilevante è un’altra: se il processo possa accettare che qualcuno
tenti deliberatamente di manipolare gli strumenti attraverso i quali la giustizia si forma.
La risposta, oggi come domani, non può che essere negativa.
Avv. Gianluca Regolo