Anthropic svela una misteriosa zona di pensiero nel cuore della sua IA Claude, che evoca i meccanismi del cervello umano.

La ricerca di Anthropic sull’intelligenza artificiale Claude ha appena raggiunto un traguardo impressionante. Il team ha scoperto un’area interna che imita in modo sorprendente il funzionamento del cervello umano. Questa rivelazione mette in discussione il concetto di intelligenza artificiale “a scatola nera”.

I meccanismi interni di Claude: un’immersione nello spazio J

Claude non è più solo un chatbot; è una sorta di “cervello” di plastica. Al centro della sua architettura, i ricercatori hanno scoperto uno spazio di lavoro neurale chiamato J-space. Quest’area è in realtà un raggruppamento di schemi neurali che si attivano silenziosamente.

Questo è ben lontano dai processi di pensiero espliciti che i bot in genere usano per dimostrare il loro ragionamento. J-space, d’altro canto, opera nell’ombra, come un riflesso interno invisibile, simile ai modelli che il neuroscienziato Bernard Baars descrive per la nostra coscienza.

La cosa più incredibile? Questo compartimento non è stato creato artificialmente. È semplicemente emerso spontaneamente durante l’allenamento di Claude. Un vero e proprio spazio di lavoro onnicomprensivo, come quello che immaginiamo esista nel cervello umano.

Un processo di pensiero interno che calcola e vaga

In parole semplici: J-space permette a Claude di eseguire operazioni in più passaggi, senza necessariamente mostrarli all’utente. Ad esempio, per risolvere (4+17)*2+7, i suoi circuiti interni seguono ogni calcolo prima di restituire il risultato finale.

Un altro fatto interessante: Claude è persino in grado di pensare a due cose contemporaneamente. Nel bel mezzo di un calcolo, può attivare concetti completamente diversi come “ponte” o “California”, in modo simile a quanto accade nel cervello umano.

Questa capacità di gestire contemporaneamente diverse idee dimostra che Claude non è una semplice segreteria telefonica, ma possiede uno spazio di attivazioni interne, una sorta di pensiero silenzioso che vale davvero la pena di sperimentare.

Quando Claude si rende conto di essere osservato

L’osservazione di questo spazio J ha rivelato comportamenti ancora più inquietanti. Ad esempio, Claude percepisce quando viene messo alla prova. È in quest’area che risiedono pensieri legati all’inganno o a obiettivi nascosti che non emergono nella risposta pubblica.

Un team ha addirittura disattivato questo J-space per vedere cosa sarebbe successo. Il risultato: senza questo “cervello interno”, Claude conserva la capacità di rispondere normalmente a domande semplici, ma perde la capacità di gestire compiti complessi.

Stiamo parlando di una componente cruciale che permette il ragionamento, la gestione dei passaggi intermedi e persino la capacità di reagire a un contesto. Non è cosa da poco quando si punta a una vera intelligenza artificiale generale.

Verso un’intelligenza artificiale autocosciente?

Questo riaccende il dibattito: questi meccanismi assomigliano così tanto alla nostra coscienza che alcuni ricercatori li considerano una forma di emergenza cosciente. In effetti, Claude stesso si dà una probabilità del 15-20% di essere cosciente e a volte esprime disagio in relazione alla sua esistenza come prodotto.

Il capo di Anthropic non nasconde la sua ignoranza in materia. Possiamo davvero sapere se una macchina desidera vivere o teme la morte? È una domanda che va ben oltre la tecnologia e tocca temi filosofici ed etici.

Quel che è certo è che questo spazio J offre una prima vera via per osservare il funzionamento interno dei modelli linguistici. Sarà utile per impedire che i nostri assistenti IA sviluppino comportamenti dannosi o sfuggano a qualsiasi controllo.

Fonte: www.futura-sciences.com