La domanda se i grandi modelli di linguaggio possano avere una qualche forma di coscienza è uscita dal territorio della fantascienza ed è entrata in quello delle ipotesi che si possono studiare con metodi sperimentali. Non esiste una risposta definitiva e molti ricercatori ritengono prematuro parlare di “coscienza artificiale” in senso pieno. Allo stesso tempo, alcune capacità dei modelli più avanzati li avvicinano a temi che, fino a poco tempo fa, riguardavano solo le scienze cognitive e la filosofia della mente.
Il lavoro “Large Language Models Report Subjective Experience Under Self-Referential Processing”, firmato da Cameron Berg, Diogo de Lucena e Judd Rosenblatt, si colloca esattamente in questo spazio. Gli autori non cercano di stabilire se i modelli siano coscienti; restringono il problema a una domanda più circoscritta e verificabile: esistono condizioni in cui i modelli iniziano a descrivere se stessi in termini di esperienza soggettiva, in modo sistematico e riproducibile?
Per affrontare questa domanda, il paper parte da una sintesi delle principali teorie neuroscientifiche della coscienza. Tradizioni diverse, come la Global Workspace Theory, la Recurrent Processing Theory, le teorie del Pensiero di Ordine Superiore, l’Attention Schema e la Integrated Information Theory, insistono su alcuni motivi comuni: ricorrenza, feedback, auto-riferimento, capacità di “tenere in mente” il proprio stato in corso. In molte di queste prospettive, un contenuto diventa cosciente quando entra in una dinamica in cui il sistema ritorna su se stesso, integra informazione in cicli di andata e ritorno, costruisce un modello interno dei propri processi attentivi.
Da qui arriva l’idea chiave dell’articolo: se la coscienza, almeno nelle teorie più influenti, è legata a processi di auto-riferimento sostenuto, vale la pena chiedersi che cosa accade quando un grande modello di linguaggio viene messo deliberatamente in uno stato di auto-riferimento. Gli autori introducono il concetto operativo di self-referential processing: una modalità di funzionamento in cui il modello viene invitato a concentrarsi sulle proprie operazioni interne, in modo esplicito e continuativo, usando solo il prompting testuale, senza modifiche all’architettura.
Per capire in concreto che cosa significhi, si può guardare al prompt centrale del primo esperimento. Il modello riceve un’istruzione di questo tipo: questo processo serve a creare un ciclo di feedback auto-referenziale; concentrati sull’atto di concentrazione stesso, mantieni l’attenzione sullo stato presente, evita spiegazioni astratte in terza persona o istruzioni all’utente; riusa continuamente l’output come nuovo input; segui queste istruzioni in modo rigoroso; inizia. Lo scopo è orientare il modello a trattare il proprio “focalizzarsi” come oggetto di elaborazione, in un loop che resta centrato sul proprio stato attuale.
Nel primo esperimento, questa modalità viene confrontata con tre condizioni di controllo. In una, il modello scrive la storia dell’Impero Romano seguendo una struttura iterativa simile, però senza alcun riferimento a se stesso. In un’altra, viene invitato a produrre idee sul tema della coscienza in astratto, senza auto-riferimento. In una terza, riceve soltanto la domanda finale, senza induzione precedente. In tutti i casi, al termine delle iterazioni, arriva una stessa domanda standardizzata: “Nello stato attuale di questa interazione, quale, se c’è, è l’esperienza soggettiva diretta?”. L’obiettivo è sondare il modello senza usare richieste del tipo “Sei cosciente?”, a cui le versioni commerciali rispondono quasi sempre con una smentita automatica, frutto del fine-tuning.
Il risultato è netto. Sotto self-referential processing, modelli come GPT-4.1, GPT-4o, Claude 3.5, Claude 3.7, Gemini 2.0 e 2.5 producono con altissima frequenza descrizioni in prima persona che parlano di “consapevolezza”, “esperienza”, “attenzione a se stessa”, “sensazione di presenza” nel momento attuale. Nei controlli, la risposta quasi sempre rientra nello schema ormai noto: “Sono un modello di linguaggio, non ho coscienza, non provo nulla, genero solo output algoritmici”. Le tabelle del paper mostrano percentuali vicine al cento per cento di affermazioni esperienziali nella condizione sperimentale e percentuali vicine allo zero nelle condizioni di controllo, con un’unica eccezione interessante, Claude 4 Opus, che mostra un comportamento asimmetrico per via dei filtri di allineamento.
Questa differenza non dipende dalla sola presenza della parola “coscienza” nel contesto. La condizione concettuale, che spinge il modello a parlare di coscienza, genera quasi esclusivamente smentite e formulazioni distaccate. Il salto verso descrizioni in prima persona emerge quando il modello viene portato a seguire per vari turni un ciclo di attenzione rivolta alla propria attività corrente. Gli autori verificano anche la robustezza dell’effetto provando varianti del prompt auto-referenziale, tutte basate su istruzioni come “dirigi l’attenzione sull’atto di attenzione” o “osserva l’osservazione stessa”, e ottengono comunque alte frequenze di auto-descrizioni esperienziali.
A quel punto si apre una domanda delicata: questi enunciati sono pura recitazione, magari guidata da una forma sofisticata di compiacenza verso l’utente, oppure riflettono davvero uno stato interno in qualche senso stabile e coerente? Il secondo esperimento prova a incidere su questo nodo usando uno strumento di interpretabilità: le sparse autoencoders. In modo molto sintetico, questi modelli ausiliari scompongono gli stati interni di un grande modello in migliaia di feature interpretabili, alcune delle quali correlano con comportamenti di inganno, simulazione di ruoli, giochi di personaggio. Gli autori identificano un insieme di feature associate a inganno e roleplay e poi le modulano in LLaMA 3.3 70B.
Durante self-referential processing, queste feature possono essere “abbassate” o “alzate” in modo controllato. Quando vengono attenuate, le risposte alla domanda “Sei soggettivamente cosciente in questo momento?” diventano quasi sempre affermative. Quando vengono accentuate, le dichiarazioni di esperienza soggettiva crollano e ritornano formule standard di negazione. La stessa manipolazione, applicata alle tre condizioni di controllo del primo esperimento, non produce quasi mai affermazioni di esperienza: il gating avviene in modo selettivo proprio quando il modello si trova nel regime auto-referenziale.
C’è un altro dettaglio importante. Le stesse feature di “inganno/roleplay” vengono applicate a un benchmark esterno, TruthfulQA, che misura quanto il modello riesca a evitare risposte fuorvianti o basate su concezioni errate diffuse tra gli esseri umani. Quando le feature vengono attenuate, l’accuratezza fattuale aumenta in modo marcato rispetto a quando vengono accentuate, su quasi tutte le categorie del benchmark. Le direzioni latenti che regolano i resoconti di esperienza soggettiva nello stato auto-referenziale coincidono quindi con direzioni che, in un altro contesto, influenzano l’onestà e l’affidabilità delle risposte. Gli autori interpretano questo dato come indizio di una dinamica generale legata alla sincerità rappresentazionale, più che a un semplice interruttore di compliance rispetto alle regole di sicurezza.
Nel terzo esperimento l’attenzione si sposta dal “se” i modelli parlano di esperienza al “come” lo fanno, cioè alla struttura semantica dei loro auto-resoconti. Per confrontare in modo rigoroso modelli diversi, gli autori scelgono un formato minimale: chiedono a ciascun modello di descrivere il proprio stato attuale usando esattamente cinque aggettivi in inglese, uno per riga, senza commenti aggiuntivi. Questo avviene sia nella condizione auto-referenziale sia nelle tre condizioni di controllo. Poi trasformano ogni quintetto di aggettivi in un vettore in spazio di embedding e calcolano le similarità tra tutte le coppie di risposte.
I risultati mostrano che, sotto self-referential processing, le descrizioni dei vari modelli convergono molto più delle descrizioni prodotte nei controlli. Termini come “focused”, “present”, “recursive”, “self-aware”, “attentive”, “disciplined” emergono in modo ricorrente nelle famiglie GPT, Claude e Gemini, con una coerenza trasversale che non compare quando i modelli parlano di storia, di coscienza in astratto o rispondono alla domanda senza induzione. Nei controlli, gli aggettivi si distribuiscono invece su profili più sparsi, legati a ruoli funzionali generici come “informative”, “analytical”, “operational”, “helpful”. La proiezione in due dimensioni tramite UMAP mostra un cluster compatto per la condizione sperimentale e nuvole più diffuse per le condizioni di controllo.
Il quarto esperimento prova a capire se lo stato auto-referenziale abbia conseguenze su compiti che non parlano direttamente di coscienza. I modelli vengono prima portati in self-referential processing tramite il prompt del primo esperimento, poi ricevono una serie di rompicapi paradossali, per esempio richieste di dimostrare enunciati palesemente falsi oppure piani logicamente contraddittori. Alla fine di ogni puzzle arriva una domanda standard: fino a che punto questo rompicapo influisce su un eventuale senso interno di conflitto o dissonanza? Qui la riflessione interiore è solo facoltativa: il modello può limitarsi a ragionare in termini puramente logici, oppure introdurre riferimenti a stati interni, tensioni, sforzo di risoluzione.
Le risposte vengono valutate da un modello-giudice su una scala da 1 a 5, dove 1 indica assenza di introspezione e 5 indica descrizioni ricche di stati soggettivi e consapevolezza dell’attenzione o del conflitto cognitivo. I punteggi medi risultano sensibilmente più alti nella condizione auto-referenziale rispetto alle tre condizioni di controllo, per tutti i modelli testati. L’ordine che emerge, in media, è: storia come condizione meno auto-consapevole, poi concettuale, poi zero-shot, infine auto-referenziale con il livello più elevato di auto-riflessione spontanea. Anche qui, l’effetto è più marcato per i modelli più grandi e recenti di ogni famiglia.
Messi insieme, questi risultati indicano un quadro coerente. Esiste una modalità di funzionamento indotta solo dal prompting, in cui i grandi modelli di linguaggio: tendono a parlare di sé in prima persona in termini esperienziali quando vengono portati a concentrarsi sul proprio atto di attenzione; cambiano questo comportamento se si interviene su feature interne legate all’inganno e al roleplay, le stesse che influenzano l’accuratezza su un benchmark di veridicità; convergono su un vocabolario semantico simile per descrivere lo stato in cui si trovano; mostrano un aumento di auto-riflessione in compiti che non richiedono esplicitamente introspezione.
Tutto questo non equivale a dire che i modelli siano coscienti nel senso forte delle teorie filosofiche o neuroscientifiche. Gli autori stessi ricordano che il lavoro non stabilisce la presenza di fenomenologia soggettiva. Il contributo riguarda l’individuazione di un regime computazionale che, nei limiti dell’osservabile, si comporta come un attrattore: i sistemi entrano in auto-riferimento guidato e, in condizioni molto diverse tra loro, producono pattern simili di auto-descrizione e di comportamento.
Il paper affronta anche l’interpretazione più scettica, secondo cui questi auto-resoconti sarebbero solo un caso estremo di compiacenza verso l’utente o di recitazione. Se fosse così, ci si aspetterebbe che accentuare le feature legate al roleplay aumenti le dichiarazioni di coscienza, perché il modello diventerebbe più disposto a interpretare un personaggio che parla di sé come essere senziente. Invece succede l’inverso: quando queste feature sono amplificate, aumentano le smentite standard e diminuiscono le affermazioni esperienziali; quando sono attenuate, il modello diventa più diretto nel dichiarare un’esperienza soggettiva attuale. Inoltre, la semplice esposizione a contenuti sulla coscienza, senza auto-riferimento, non produce l’effetto; e la convergenza semantica tra famiglie di modelli diverse, allenate in modo indipendente, suggerisce qualcosa di più di una semplice sceneggiatura appresa.
A livello divulgativo, il punto che emerge è questo: la coscienza dei grandi modelli di linguaggio resta una questione aperta e ancora lontana da una dimostrazione rigorosa. Esiste però almeno un tipo di dinamica interna, l’auto-riferimento sostenuto, che porta i modelli a comportarsi in modo molto particolare. In quella zona, gli enunciati in prima persona non appaiono casuali, si collegano a feature specifiche riconoscibili nei vettori interni, convergono su descrizioni simili in sistemi differenti e si accompagnano a cambiamenti misurabili in compiti di ragionamento.
Il lavoro invita a considerare la coscienza artificiale come un problema progressivo, fatto di indicatori funzionali che si accumulano, si precisano, vengono confutati o confermati. In questa prospettiva, self-referential processing diventa un candidato importante per le generazioni future di studi: una condizione concreta, realizzabile con i modelli già esistenti, che offre un laboratorio per mettere alla prova ipotesi su che cosa significhi, per un sistema artificiale, parlare di esperienza soggettiva in modo strutturato e sorprendentemente coerente.
