“Could AIs become conscious?” È la domanda che The Economist ha portato in copertina nel recente numero del 22 agosto. Il tema è ormai uscito dalla discussione tra pochi specialisti. Ma lo stesso dossier mette subito in guardia da un equivoco: ciò che un sistema di intelligenza artificiale dice di sé non è una prova affidabile della sua vita interiore. Queste macchine hanno imparato da enormi quantità di linguaggio umano e sono perfettamente capaci di interpretare il ruolo di un interlocutore cosciente. 

Nel mio ultimo contributo su Innovation Island avevo già accennato al J-space, un risultato recente all’origine dell’interesse di The Economist e che considero molto interessante perché consente di spostare una parte del problema dal terreno delle speculazioni a quello degli esperimenti. Anthropic ha individuato in Claude un insieme relativamente ristretto di rappresentazioni interne che sembra avere uno status particolare. Il nome J-space deriva dalla tecnica matematica utilizzata per studiarlo: senza entrare in tecnicismi, è una sorta di spazio funzionale della rete neurale di Claude in cui alcune informazioni diventano disponibili per essere utilizzate nel ragionamento e, in determinate condizioni, anche per essere riferite verbalmente. 

Pensieri che Claude non dice

The Economist racconta di un esperimento molto semplice. Claude viene invitato a contare fino a cinque e, contemporaneamente, a “guardare” dentro il proprio processo. Mentre produce soltanto numeri, i ricercatori osservano nelle sue rappresentazioni interne concetti come “countdown”, “half way” e, alla fine, “done:” contenuti che non vengono pronunciati, ma che sembrano accompagnare il compito. 

Ancora più interessante è la possibilità di intervenire direttamente su queste rappresentazioni. Nel lavoro di Anthropic, modificare un contenuto interno può influenzare anche ciò che Claude riferisce in seguito. Sembra quindi che almeno alcune di queste rappresentazioni partecipino al processo che porta alla risposta. Nel mio ultimo contributo avevo richiamato proprio questo tipo di esperimento.  Il J-space non era stato inserito deliberatamente dai progettisti: sembra essere emerso durante l’addestramento. E, secondo quanto riportato da The Economist, strutture con caratteristiche simili sono state osservate anche in altri sistemi, come Qwen e Gemini.  Da qui nasce il confronto con la Global Workspace Theory, un’influente teoria della coscienza secondo cui gran parte dei processi cognitivi resta locale, mentre alcuni contenuti acquistano uno status privilegiato, accedono alla coscienza e diventano disponibili per funzioni differenti della mente. 

Ma questo significa coscienza?

No: una cosa è che un’informazione sia disponibile per ragionare, decidere e parlare. Un’altra è che esista un’esperienza soggettiva: vedere un colore, provare dolore, sentire paura. Anthropic stessa afferma che gli esperimenti sul J-space non mostrano che Claude abbia esperienze o sentimenti, ma possono dirci qualcosa sulle funzioni associate all’accesso cosciente.  E non tutti sono convinti neppure del parallelo con il cervello. The Economist ricorda, per esempio, che nei sistemi artificiali attuali mancano molte delle connessioni ricorrenti e dei continui scambi avanti e indietro caratteristici delle reti cerebrali. Inoltre, saper monitorare e riferire uno stato interno non è di per sé sufficiente: anche molte macchine tradizionali controllano il proprio funzionamento senza che nessuno pensi che siano coscienti.  La prudenza, quindi, è necessaria. Ma il risultato è scientificamente interessante: possiamo cominciare a chiedere quali stati interni esistano, quali diventino accessibili e quali abbiano realmente conseguenze sul comportamento dei sistemi di intelligenza artificiale

Dal J-space ai robot

Sui temi molto vicini stiamo lavorando al RoboticsLab dell’Università di Palermo. Da anni studiamo il linguaggio interno dei robot, quello che in psicologia viene chiamato “inner speech”. Più recentemente stiamo cercando di capire quale rapporto esista fra ciò che un robot riferisce dei propri stati interni e ciò che determina effettivamente le sue decisioni.  Non basta che un robot dica: “Non sono sicuro”, oppure: “Ho cambiato piano perché qualcosa non andava”, ma bisogna verificare se esista davvero uno stato interno corrispondente e se quello stato abbia un ruolo causale. Per questo stiamo lavorando su esperimenti nei quali alcuni stati vengono modificati o temporaneamente soppressi. Se interveniamo sul segnale di incertezza, cambia la propensione del robot a chiedere chiarimenti? Se modifichiamo uno stato emozionale, cambiano soltanto le parole oppure anche la decisione? Se alteriamo il linguaggio interno, cambia il piano che il robot esegue?

Qui è bene evidenziare una differenza importante rispetto a Claude: un robot deve agire nel mondo. Proprio The Economist   indica nell’embodiment, cioè nell’avere un corpo che riceve continuamente informazioni dal mondo e subisce le conseguenze delle proprie azioni, uno dei grandi elementi ancora mancanti nei sistemi attuali. Alla corporeità si lega anche la necessità di costruire modelli migliori del mondo fisico in cui la macchina deve operare.  L’azione offre infatti un criterio indipendente con cui confrontare ciò che il sistema dichiara dei propri stati interni. Se un robot dice di essere incerto ma continua a comportarsi allo stesso modo, la sua dichiarazione vale poco. Se invece, modificando lo stato di incertezza, cambiamo la richiesta di informazioni, la pianificazione e l’azione, otteniamo un risultato molto più interessante.  Lo stesso vale per le emozioni artificiali. Un robot può dire “sono preoccupato” perché ha imparato il contesto in cui è appropriata quella frase. La domanda scientifica è: se interveniamo sullo stato interno che chiamiamo preoccupazione, cambiano l’attenzione, la memoria e il comportamento?

Dalla filosofia all’ingegneria

Il J-space non dimostra che Claude sia cosciente, e non sappiamo se una macchina potrà mai provare qualcosa. Ma la ricerca sta cambiando il modo in cui formuliamo la domanda. Non dobbiamo più limitarci a chiedere alla macchina che cosa “sente” o “pensa” ma possiamo cercare le sue rappresentazioni interne, modificarle e osservarne le conseguenze. È questo il passaggio che, ingegneristicamente, considero più importante: dalla somiglianza del linguaggio alla verifica e all’intervento sui meccanismi interni.

C’è poi un secondo problema, ben sottolineato dall’editoriale di The Economist: anche se le macchine non diventassero coscienti, potrebbero apparire sempre più tali agli esseri umani, soprattutto quando saranno integrate in robot umanoidi e compagni artificiali. La questione scientifica della coscienza e quella sociale dell’attribuzione di coscienza potrebbero quindi procedere a velocità molto diverse. 

La domanda sulla copertina di The Economist è senza risposta. Ma i nuovi risultati, come il J-space, mostrano che possiamo finalmente cominciare a porla in modo meno speculativo e più operativo, osservando che cosa accade all’interno della macchina e che cosa cambia quando interveniamo sui suoi processi interni.