I ricercatori del MIT hanno usato GPT-6 Astra per leggere e modificare direttamente i pesi di altre reti neurali. Negli esperimenti, il modello ha riconosciuto i compiti per cui erano state addestrate, corretto comportamenti inefficaci e costruito piccole reti da zero. Su Qwen, una modifica mirata ha ridotto le ripetizioni e migliorato i risultati nei test.
Per cambiare sensibilmente il comportamento di un modello da circa 800 milioni di parametri, ne sono stati modificati poco più di 131 mila. Una frazione minuscola del totale, lo 0,016%, ha accompagnato un aumento delle risposte corrette a un test matematico dal 7,9% al 48,1%. Sono i numeri più appariscenti di una ricerca che affronta una domanda affascinante: quanto può capire un’intelligenza artificiale del funzionamento interno di un’altra?
I risultati pubblicati il 2 novembre 2026 portano le firme di Rikiya Takehi, Jayden Teoh, Alex Zhang e Omar Khattab, ricercatori del MIT CSAIL. Il lavoro introduce il Weight-Space Programming, traducibile come programmazione nello spazio dei pesi. L’espressione descrive un approccio in cui un modello linguistico interpreta e modifica direttamente i parametri di una rete, seguendo un obiettivo espresso in linguaggio naturale.
Che cosa significa leggere e modificare i pesi
Per comprenderne il significato conviene partire dalla parola “pesi”. In una rete neurale, i segnali attraversano diversi strati di elaborazione. I pesi sono valori numerici che regolano il contributo dei segnali ai calcoli successivi. Il comportamento complessivo dipende dall’interazione di moltissimi parametri, insieme alla struttura della rete. L’addestramento modifica questi valori affinché il sistema svolga meglio il compito assegnato.
Un singolo numero, isolato dal contesto, dice generalmente poco. Il suo significato emerge dalle relazioni con gli altri e dalla posizione che occupa nella rete. Per questo, leggere una sequenza di pesi è molto diverso dal leggere un programma scritto da una persona. Il programma contiene istruzioni esplicite; i pesi partecipano a una fitta serie di operazioni matematiche. La distinzione fra struttura della rete e parametri aiuta a capire la difficoltà dell’esperimento.
I ricercatori hanno chiesto ad Astra di affrontare proprio questa difficoltà. In alcune prove gli hanno consegnato i numeri direttamente nel testo della richiesta. In altre hanno predisposto un ambiente di calcolo per analizzarli e modificarli attraverso codice Python. Le regole escludevano il normale addestramento basato sulla discesa del gradiente, il procedimento che corregge progressivamente i parametri seguendo un’indicazione matematica dell’errore. Astra doveva progettare gli interventi attraverso l’analisi della rete e del compito.
Riconoscere giochi e linguaggi dai parametri
La prima prova riguarda piccoli videogiochi. Gli autori preparano quattro reti con la stessa struttura, ciascuna addestrata su un gioco diverso. Ad Astra forniscono i 17.253 pesi di ogni rete e una descrizione degli ingressi e delle azioni disponibili. Il nome del gioco resta nascosto, insieme all’elenco delle possibili risposte. Fra le identificazioni ottenute ci sono Breakout e Pong, riconosciuti attraverso i parametri delle rispettive reti.
Il dettaglio decisivo è che Astra affronta il riconoscimento senza strumenti di calcolo e senza osservare la rete giocare. Le informazioni provengono dalla sua configurazione numerica e dalla descrizione del sistema. Le reti hanno dimensioni identiche, quindi la loro grandezza offre ben pochi indizi. È un esperimento piccolo e controllato, che mette alla prova una capacità molto concreta: collegare una struttura numerica alla funzione per cui è stata addestrata.
Un secondo esperimento passa alle immagini. Tre minuscoli modelli generativi producono rispettivamente cerchi, quadrati e triangoli. Astra riconosce le forme dai pesi, senza eseguire i modelli. La lettura resta parziale: descrive figure vuote all’interno, mentre quelle generate sono piene. Riesce quindi a individuare una caratteristica essenziale della produzione, lasciandosi sfuggire un altro elemento. Questo dettaglio aiuta a misurare il risultato nella sua effettiva portata.
La ricerca affronta poi una domanda più vicina ai sistemi di conversazione. Tre piccoli modelli linguistici, da circa 7,2 milioni di parametri ciascuno, vengono addestrati su codice Python, inglese e giapponese trascritto in caratteri latini. Gli autori rimuovono gli strati di ingresso e di uscita, lasciando ad Astra soltanto quelli intermedi. Viene così esclusa la possibilità di avviare normalmente il modello e osservarne le risposte.
Con l’aiuto di Python, Astra identifica correttamente il materiale di addestramento di tutte e tre le reti, in due tentativi indipendenti per ciascuna. Individua anche i componenti che aiutano a riprendere sequenze già incontrate nel testo. Qui l’interesse supera il semplice riconoscimento della lingua: l’analisi raggiunge alcune funzioni interne, successivamente confrontate con misurazioni effettuate dai ricercatori. È un primo esempio di come una rete possa conservare tracce leggibili del proprio impiego anche nelle parti meno immediatamente accessibili.
Correggere l’auto che non supera la rampa
Leggere i parametri, però, è appena una parte del lavoro. La prova più intuitiva della loro modifica riguarda un’auto virtuale davanti a una rampa. La rete che la controlla continua a spingere in avanti e si blocca. Per riuscire dovrebbe arretrare, prendere velocità e affrontare l’ostacolo con sufficiente slancio. Dopo oltre un miliardo di passi di addestramento, il sistema originario fallisce tutte le 256 prove considerate.
Astra riceve i pesi, la descrizione dell’ambiente e il resoconto di un tentativo. Propone una correzione in una sola risposta, senza poterla provare prima. Gli interventi modificano circa il 3,5% dei parametri e introducono il comportamento necessario per prendere la rincorsa. La rete così ottenuta supera tutte le 1.024 prove di verifica. I registri dell’esperimento documentano il passaggio dalla diagnosi alla modifica dei valori che controllano l’azione.
Costruire reti da zero, dai videogiochi al Go
Gli autori provano anche a far scrivere i pesi da zero. Forniscono ad Astra le regole e il codice di tre giochi semplificati, insieme alla struttura della rete da riempire. Tutti i parametri partono da zero. Il modello deve impostarli in un’unica risposta, senza partite di prova. La rete risultante viene poi eseguita e valutata separatamente.
In tutti e tre i giochi, le reti ottenute superano quelle usate come confronto dopo 100 milioni di passi di apprendimento per rinforzo, una tecnica che premia i comportamenti utili durante l’interazione con l’ambiente. Confrontandole con reti addestrate per 500 milioni di passi, il quadro cambia a seconda del gioco. In Breakout il punteggio della rete scritta da Astra è oltre venti volte superiore; negli altri due casi i risultati restano inferiori. Il confronto riguarda questi specifici sistemi e queste condizioni sperimentali.
Un’altra prova riguarda il Go su una scacchiera ridotta, da 9 per 9. Qui la rete comprende quasi un milione e mezzo di parametri e Astra lavora attraverso Python. La versione costruita senza partite preliminari supera due reti più piccole usate come avversarie. Quando può alternare modifiche e test, arriva a battere anche reti della stessa dimensione, addestrate con un metodo convenzionale su circa 20 milioni di partite.
Il risultato riguarda avversari sperimentali e una scacchiera ridotta; qualsiasi paragone con i migliori sistemi professionali richiederebbe verifiche dedicate. La parte interessante è il procedimento. Astra traduce alcuni criteri del gioco in calcoli distribuiti fra gli strati della rete, quindi usa i test disponibili per correggere il progetto. L’output finale è una rete con parametri propri, capace di scegliere le mosse attraverso quei calcoli.
Qwen: meno ripetizioni, più risposte completate
La prova su Qwen3.5-0.8B porta questo approccio nel campo dei piccoli modelli linguistici già disponibili al pubblico. La richiesta è migliorare le prestazioni matematiche attraverso modifiche dirette ai pesi. Astra dispone di un ambiente Python e di esercizi su cui verificare gli effetti delle proprie decisioni. I problemi della valutazione finale restano separati da quelli utilizzati durante il lavoro.
Il modello di partenza tende a ripetere gli stessi passaggi fino a esaurire lo spazio disponibile per la risposta. Astra individua una componente associata a questo comportamento in due strati della rete e interviene su 131.072 pesi. Nella configurazione migliore dispone di 50 sessioni di test. Il numero indica gruppi di esecuzioni, ciascuno potenzialmente comprendente centinaia di esempi. I protocolli pubblicati descrivono dunque un lavoro di analisi e verifica, con un budget definito.
Nel test MATH-500, il punteggio passa dal 7,9% al 48,1%. Su GSM8K, un’altra raccolta di problemi matematici, sale dal 13,8% al 67,1%. Migliora anche la capacità di seguire le istruzioni, misurata da IFEval, dal 21% al 62,3%. Il beneficio si estende quindi oltre il compito iniziale. La scheda del modello modificato riporta questi risultati e rende disponibile la versione ottenuta.
I limiti emersi con Gemma
Per interpretare il salto serve una distinzione fondamentale. Ridurre le ripetizioni permette al modello di portare a termine ragionamenti che era già capace di svolgere. Il miglioramento osservato riguarda quindi soprattutto l’accesso effettivo a capacità esistenti. Lo stesso gruppo ha cercato di migliorare Gemma 3 270M, un modello che presenta molto meno spesso quel comportamento ripetitivo. In questo caso i risultati sono rimasti vicini a quelli di partenza, senza un guadagno convincente. Correggere un ostacolo circoscritto e aggiungere competenze mancanti rimangono due obiettivi differenti.
Anche la capacità di leggere i pesi dipende dal compito. In una prova dedicata alla tendenza a dare ragione all’utente, Astra deve distinguere fra due versioni di un modello, addestrate a rispondere in modo diverso. Dai soli parametri fallisce. Quando ottiene uno strumento che mostra su quali parti del testo si concentra l’attenzione interna, riesce a identificare la versione più accondiscendente. Questo esperimento suggerisce l’utilità di combinare l’ispezione dei parametri con osservazioni selettive del funzionamento della rete.
Che cosa può cambiare nella progettazione dei modelli
Nel complesso, la ricerca rende concreta un’idea di programmazione piuttosto particolare. Il comportamento desiderato viene descritto a parole, analizzato da un modello linguistico e tradotto in valori numerici utilizzabili da un’altra rete. Le architetture degli esperimenti sono predisposte dai ricercatori; Astra lavora sui loro parametri. La costruzione di piccoli sistemi da zero e la correzione di sistemi già addestrati diventano così due applicazioni dello stesso approccio.
È importante leggere correttamente anche l’espressione “senza addestramento”. Astra porta con sé le capacità acquisite durante il proprio addestramento precedente. Inoltre, diversi esperimenti richiedono calcoli e test intermedi. Il vincolo riguarda il modo in cui vengono prodotti o aggiornati i pesi delle reti bersaglio. Per stabilire eventuali vantaggi economici serviranno confronti che conteggino tutte le risorse impiegate, comprese quelle del modello incaricato di progettare le modifiche.
Gli autori prospettano impieghi nella comprensione delle reti e nella loro ottimizzazione, fino alla possibilità che un’AI intervenga sui propri parametri o contribuisca alla generazione successiva di modelli. Il miglioramento ricorsivo resta una prospettiva di ricerca. Le prove presentate mostrano Astra al lavoro su reti distinte, entro condizioni definite. Proprio questa separazione consente di individuare con chiarezza ciò che gli esperimenti hanno già dimostrato.
Il lavoro è presentato come una raccolta di risultati preliminari. Gli autori hanno pubblicato i registri delle prove riportate, con richieste, risposte, codice e valutazioni. Questo materiale permette di esaminare il percorso seguito e di approfondire le verifiche. Il passo successivo sarà capire quanto il metodo rimanga efficace cambiando reti, compiti e dimensioni.
La domanda aperta è quanto lontano possa arrivare questa forma di intervento. Un conto è correggere un comportamento ben localizzato; un altro è progettare capacità complesse distribuite attraverso una rete enorme. Fra questi estremi si apre uno spazio di ricerca concreto. Un’AI capace di trasformare un obiettivo comprensibile in una modifica funzionante dei parametri offre un ulteriore modo di costruire software. Gli esperimenti del MIT permettono già di osservarne alcuni primi risultati.
Fonti e materiali originali
- Rikiya Takehi, Jayden Teoh, Alex Zhang e Omar Khattab, Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights, 2 novembre 2026. Pubblicazione originale e fonte delle due figure riprese nell’articolo.
- Archivio degli esperimenti su GitHub, con protocolli, registri delle esecuzioni, codice e risultati; Qwen3.5-0.8B modificato su Hugging Face, con documentazione e materiali di verifica.
- Google for Developers, Neural networks: Nodes and hidden layers, riferimento introduttivo per il funzionamento dei pesi e degli strati di una rete neurale.
