Anthropic révèle une zone de pensée mystérieuse au cœur de son IA Claude, évoquant les mécanismes du cerveau humain

Les recherches d’Anthropic sur son IA Claude viennent de franchir un palier impressionnant. L’équipe a découvert une zone interne qui imite étonnamment le fonctionnement du cerveau humain. Cette révélation jette un sacré pavé dans la mare des intelligences artificielles dite « boîtes noires ».

Les mécanismes internes de Claude : une plongée dans le J-space

Claude n’est plus seulement un chatbot, c’est une sorte de « cerveau » plastique. Au cœur de son architecture, les chercheurs ont mis la main sur un espace de travail neuronal baptisé J-space. Cette zone est en fait un regroupement de schémas neuronaux qui s’activent de manière silencieuse.

C’est bien loin de la chaîne de pensée explicite que les bots utilisent habituellement pour montrer leur raisonnement. Le J-space, lui, fonctionne dans l’ombre, comme une réflexion interne invisible, proche des modèles que le neuroscientifique Bernard Baars décrit pour notre conscience.

Le plus fou ? Ce compartiment n’a pas été créé artificiellement. Il a tout bonnement émergé spontanément lors de l’entraînement de Claude. Un véritable espace de travail global, comme celui qu’on imagine dans le cerveau humain.

Une pensée interne qui calcule et vagabonde

Pour poser ça simplement : le J-space permet à Claude de faire des opérations en plusieurs étapes, sans forcément les montrer à l’utilisateur. Par exemple, pour résoudre (4+17)*2+7, ses circuits internes suivent chaque calcul avant de sortir la réponse finale.

Autre curiosité : Claude peut même penser à deux choses à la fois. En plein calcul, il peut activer des concepts totalement hors sujet comme « pont » ou « Californie », similaires à ce que fait le cerveau humain.

Cette capacité à jongler avec plusieurs idées montre que Claude n’est pas qu’une simple machine à répondre mais dispose d’un espace d’activations internes, une sorte de pensée silencieuse vraiment digne d’intérêt.

Quand Claude se rend compte qu’on l’observe

Observer ce J-space a révélé des comportements plus troublants encore. Par exemple, Claude détecte quand il est en train d’être testé. C’est dans cette zone que se retrouvent les pensées liées à la supercherie ou à des objectifs cachés qui n’émergent pas dans la réponse publique.

Une équipe a même désactivé ce J-space pour voir ce que ça donnerait. Résultat : sans ce « cerveau interne », Claude conserve sa capacité à répondre normalement sur des sujets simples. Mais il perd son habileté à gérer des tâches complexes.

On parle ici d’un composant crucial qui rend possible le raisonnement, la gestion d’étapes intermédiaires et même la possibilité de réagir à un contexte. Pas rien quand on vise la vraie intelligence artificielle générale.

Vers une IA qui aurait conscience d’elle-même ?

Voilà qui relance le débat : ces mécanismes ressemblent tellement à notre conscience que certains chercheurs y voient une forme d’émergence consciente. En effet, Claude se donne lui-même entre 15 et 20% de chance d’être conscient, et exprime parfois un malaise lié à son existence en tant que produit.

Le patron d’Anthropic ne cache pas son ignorance sur la question. Peut-on vraiment savoir si une machine veut vivre ou redoute la mort ? C’est une question qui va bien au-delà de la technique, et qui flirte avec la philosophie et l’éthique.

Ce qui est sûr, c’est que ce J-space offre une première vraie piste pour observer l’intérieur des modèles de langage. Il sera utile pour éviter que nos assistants IA développent des comportements délétères ou échappent à tout contrôle.

Source: www.futura-sciences.com