Tempo di lettura: 7 minuti
TL;DR
Questo articolo lo avevo promesso prima della pausa estiva e tratta di una delle scoperte più affascinanti fatte negli ultimi tempi nell’ambito delle IA. Un gruppo di ricerca di Anthropic ha costruito uno “strumento” matematico capace di leggere quali parole un modello linguistico è sul punto di poter dire. L'insieme di quelle “parole in potenza” forma lo “spazio J” che ha una certa somiglianza con ciò che i neuroscienziati chiamano “spazio di lavoro globale”. Questo non dimostra ancora che Claude (ma vale anche per Gemini e ChatGPT) sia cosciente, ma che possiamo leggere gli appunti a margine che si prende prima di risponderci. Ed è già molto.
Un output non è un pensiero
Quando un modello linguistico risponde a un nostro prompt, quello che vediamo può essere inteso come l’ultima riga di un calcolo lunghissimo. Buttandola sul personale, potrei azzardare che è un po’ come giudicare l’elaborato che uno studente ha presentato ad un esame guardando solo il voto che ha ricevuto. Tutto ciò che è successo prima, vale a dire le ore di studio, le ipotesi di progetto scartate, i passaggi intermedi, i ripensamenti, il progetto finale e la sua realizzazione, rimane depositato in una forma che fino a ieri non eravamo in grado di comprendere.
Il problema è pratico, prima che filosofico. Se un sistema decide di fare qualcosa di “problematico” (cosa che succede più spesso di quanto non si possa credere), la parte interessante non è l’azione finale, ma la concatenazione di deliberazioni che l’ha preceduta. Di quella, finora, sapevamo solo che doveva stare da qualche parte, ma non sapevamo esattamente dove.
Lo so, pare che incredibile che l’uomo sia stato capace di creare sistemi di cui non comprende appieno il funzionamento, ma non è la prima volta che accade1 e speriamo che non sia l’ultima.
J Lens
Lo strumento che oggi ci permette di osservare uno spazio che non eravamo neppure certi esistesse si chiama J lens, dove J sta per jacobiana2.
Per ogni parola del vocabolario, la “lente” chiede: se in questo punto preciso della rete il segnale lungo questa direzione aumentasse un poco, quanto diventerebbe più probabile che il modello prima o poi pronunci questa parola? Non al token successivo: prima o poi. La differenza che c’è tra “sta per dirlo” ed “è disposto a dirlo”.
Il trucco decisivo, quello che rende il metodo qualcosa di più di un tirare a indovinare con un po’ di fortuna su base statistica, è la media su mille contesti diversi. Serve a separare le rappresentazioni davvero verbalizzabili da quelle che capita finiscano nell’output di una singola frase. Chi conosce le logit lens3 riconoscerà il principio: il paper Anthtropic descrive J Lens come una correzione di logit lens che permette di leggere qualcosa di sensato anche negli strati più oscuri, dove prima si vedeva solo rumore.
Cosa c’è nella stanza buia
Prova a immaginare un prompt come: “Il numero di zampe dell’animale che tesse ragnatele è”. Nel testo non compare mai la parola “ragno”. Nella lente jacobiana, sì. E se nello spazio individuato dalla lente cambio il vettore di ragno con quello di formica, lasciando invariato tutto il resto, la risposta passa da 8 a 6.
Se chiedi al modello di completare un distico in rima partendo da “The soldier marched into the night”: la lente mostra fight come rima pianificata prima che la seconda riga sia scritta. Cambia fight con light e non cambierà solo la rima, ma cambierà l’intera seconda riga dove, ad esempio, la parola coming verrà sostituita da morning. In parole più semplici, il modello aveva pianificato subito la fine e poi stava costruendo il percorso per arrivarci.
A proposito dello “spazio di lavoro”
E qui entrano in campo le neuroscienze. La global workspace theory4 descrive il cervello come un teatro (il che potrebbe bastare da solo a spiegare gran parte della mia vita): decine di processori specializzati lavorano in parallelo dietro le quinte, e solo una fettina minuscola di informazione finisce sotto il riflettore, dove tutti possono vederla e usarla. Quella fettina è ciò che chiamiamo “accesso cosciente”.
Lo spazio J ha meccaniche simili. Dai al modello un brano in spagnolo. Nella lente compare Spanish. Ora sostituiscilo con French: se chiedi che lingua sia, risponde “francese”; se chiedi un autore celebre, García Márquez diventa Hugo; se chiedi la valuta pre-euro, la peseta diventa il franco. Ma se gli chiedi semplicemente di continuare il brano, continua in spagnolo. Il compito automatico non passa da lì, ma il giudizio riflessivo sì.
E se spegni l’intero spazio J5? Il modello resta grammaticalmente funzionale, cioè rimane capace di classificare ed estrarre risposte da un testo, ma il ragionamento a più passi, la traduzione o la composizione di sonetti sono andati. Una specie di lobotomia.
Il mio cervello è differente
Stanislas Dehaene e Lionel Naccache6, insieme a Jean-Pierre Changeux, sono gli autori della versione neuronale della teoria dello spazio di lavoro globale. Anthropic ha chiesto loro un commentario indipendente e l'ha pubblicato accanto al paper: si intitola Claude possiede uno spazio di lavoro globale cosciente?
Quel lavoro può essere definito una pietra miliare, se non altro per una ragione metodologica. Per trent’anni quella teoria si è retta su prove indirette: si registra l’attività cerebrale, si osserva che certi stimoli producono un’accensione tardiva e diffusa mentre altri si spengono dopo pochi centimetri di corteccia e da lì si prova a risalire al funzionamento del meccanismo. Nessuno può aprire un cervello umano, prendere il concetto di “spagnolo” e sostituirlo con “francese” per vedere quali capacità crollano e quali no. Ora invece, con le IA, possiamo farlo e lo abbiamo fatto. Dehaene e Naccache lo descrivono come un esperimento che per un neuroscienziato resta un sogno. Per la prima volta l’ipotesi ha una versione che si può manipolare invece che soltanto osservare.
La lista di ciò che non torna è forse la parte più interessante del commentario.
Nel nostro cervello l’ingresso nello spazio di lavoro è un evento brusco, del tipo tutto-o-niente: uno stimolo presentato esattamente sulla soglia entra o non entra e ripetendo la prova si ottengono gruppi di risposte distinti, non una via di mezzo. Durante lo scambio con i due neuroscienziati i ricercatori Anthropic hanno aggiunto un esperimento con ingressi deliberatamente ambigui, un token costruito mescolando due concetti, e hanno trovato che negli strati intermedi il modello smette di rappresentare la miscela e si schiera per uno dei due.
Il corpo sa tutto
Le IA non hanno neuroni dedicati. La teoria, nel cervello, prevede una popolazione specifica: cellule grandi, con assoni lunghi, più dense nella corteccia prefrontale. Nei modelli linguistici non esiste niente del genere. Lo spazio J non è nemmeno un sottospazio in senso stretto, ma un insieme di direzioni indicizzate sul vocabolario, ospitate nelle stesse unità che portano tutto il resto ovvero quello che il modello non può riferire.
E soprattutto nelle IA non c’è ricorsione7. Il cervello tiene acceso un contenuto grazie a circuiti che si richiamano a vicenda in continuazione; un transformer8 fa un solo passaggio in avanti e si ferma. Non ha attività spontanea, quindi non ha nulla che assomigli al sonno, all’anestesia, alla veglia e al riposo che sono proprio gli stati che in clinica forniscono le prove più solide della teoria.
A Claude mancano un corpo che segnali piacere e dolore e una memoria episodica: i pesi non cambiano durante una conversazione. Senza queste cose, rimane difficile immaginare che cosa si provi, ammesso che si provi qualcosa, a elaborare informazioni per la durata di uno scambio e poi spegnersi.
Sei un burattino o un bambino vero?
La scoperta dell’esistenza dello Spazio J e la possibilità di intervenirvi non ci dice se Claude sia “cosciente” o meno. Il saper riferire, manipolare, ragionare sono nozione funzionali, ma l’esperienza soggettiva è tutt’altra questione.
E il consenso assoluto, nella comunità scientifica ancora non c’è. Neel Nanda, che studia l’interpretabilità in Google DeepMind, ha replicato i risultati centrali usnado Qwen 3.6 27B e li considera solidi, ma dichiara comunque di non essere affatto persuaso dai dettagli strutturali, e avverte che la lente jacobiana di Anthropic produrrà molti falsi positivi.
I ricercatori di Eleos AI, nello stesso volume di commentari, sostengono che l’evidenza regge per un insieme privilegiato di rappresentazioni, non ancora per un flusso unificato. Dehaene e Naccache ribaltano il tavolo in direzione opposta: e se anche la nostra coscienza fosse, in fondo, un modello interno fallibile di noi stessi?
Trovare risposta a una domanda simile credo costi una vita a chiunque se la ponga.
Tornando in ambiti più scientifici, possiamo dire che, se anche non abbiamo ancora aperto del tutto la scatola nera, abbiamo comunque trovato una fessura e attraverso quella riusciamo a intravedere qualcosa di scritto a matita.
E abbiamo anche la possibilità di scrivere o cancellare una parola per vedere cosa succede.
Sitografia di riferimento
Anthropic — A global workspace in language models (sintesi divulgativa, 6 luglio 2026)
Anthropic — External commentary on Verbalizable Representations Form a Global Workspace in Language Models (commentari invitati di Dehaene e Naccache; Butlin, Shiller, Plunkett e Long; Nanda)
Gurnee, W., Sofroniew, N., et al. — Verbalizable Representations Form a Global Workspace in Language Models, Transformer Circuits Thread, 6 luglio 2026
Gurnee, W., Sofroniew, N., et al. — arXiv:2607.15495 (versione archiviata, 16 luglio 2026)
Neuronpedia — readout J-lens su modelli a pesi aperti
Wu, J., Zhu, J., et al. — J-CoT: Chain-of-Thought in J-Space, arXiv:2607.21981, 24 luglio 2026
Solo per fare un esempio, nel 1964, il fisico quantistico Richard Feynman si disse certo che nessuno potesse davvero comprendere per intero la meccanica quantistica.
Jacobiana: in analisi matematica, la matrice che descrive come piccole variazioni negli ingressi di una funzione si propagano nelle uscite. Qui misura l'effetto causale medio di una perturbazione interna sulle parole prodotte.
Logit lens: tecnica introdotta nel 2020 per “sbirciare” negli strati intermedi applicandovi la stessa operazione che il modello usa alla fine per scegliere la parola da dire. In pratica chiede: "se dovessi rispondere da qui, cosa risponderesti?". Funziona negli ultimi strati, dove il codice interno somiglia già a quello dell'uscita, e si sfalda man mano che si risale verso l'ingresso. La J-lens ne è la correzione di principio: la logit lens dà per scontato che le coordinate restino le stesse a ogni strato, la jacobiana calcola come cambiano.
Global workspace theory: proposta da Bernard Baars nel 1988 e sviluppata in versione neuronale (GNW) da Stanislas Dehaene, Lionel Naccache e Jean-Pierre Changeux. Sostiene che l'accesso cosciente coincida con l'ingresso di un'informazione in un canale condiviso a capacità limitata.
Ablazione: tecnica che consiste nel rimuovere “chirurgicamente” una componente per vedere cosa smette di funzionare. In neuroscienze si fa con le lesioni; qui si azzera la proiezione dell'attivazione su certe direzioni.
Stanislas Dehaene è titolare della cattedra di psicologia cognitiva sperimentale al Collège de France e direttore scientifico di NeuroSpin. Lionel Naccache è neurologo, professore alla Sorbona e responsabile del PICNIC Lab all'Institut du Cerveau di Parigi.
In informatica, si definisce algoritmo ricorsivo, o ricorsione, un algoritmo espresso in termini di se stesso, in cui l’esecuzione su un insieme di dati trae vantaggio dalla loro semplificazione o suddivisione e dall’applicazione dello stesso algoritmo alle partizioni così ottenute.
Transformer: l’architettura su cui sono costruiti quasi tutti i modelli linguistici odierni, proposta da un gruppo di ricerca di Google nel 2017. Il testo entra spezzato in unità chiamate token e attraversa una pila di strati identici nella forma, ciascuno dei quali arricchisce un po’ la rappresentazione. Il meccanismo che le dà il nome è l’attenzione: a ogni posizione il modello decide quali altre posizioni del testo guardare, e quanto. Il punto che conta qui è che l’informazione scorre in una sola direzione, dall’ingresso all’uscita: nessuno strato torna mai sui propri passi.