Anthropic onthult een mysterieuze denkzone in het hart van zijn AI Claude, die de mechanismen van het menselijk brein oproept.

Het onderzoek van Anthropic naar hun AI Claude heeft een indrukwekkende mijlpaal bereikt. Het team heeft een intern gebied ontdekt dat opmerkelijk veel lijkt op de werking van het menselijk brein. Deze ontdekking zet de zogenaamde ‘black box’-kunstmatige intelligentie flink op zijn kop.

De innerlijke werking van Claude: een duik in de J-space

Claude is niet langer zomaar een chatbot; het is een soort plastic “brein”. In het hart van de architectuur ontdekten onderzoekers een neurale werkruimte genaamd J-space. Dit gebied is in feite een groepering van neurale patronen die geruisloos actief worden.

Dit staat ver af van de expliciete denkprocessen die bots doorgaans gebruiken om hun redenering te demonstreren. J-space daarentegen opereert in de schaduw, als een onzichtbare interne reflectie, vergelijkbaar met de modellen die neurowetenschapper Bernard Baars beschrijft voor ons bewustzijn.

Het meest bizarre is dat dit compartiment niet kunstmatig is gecreëerd. Het is gewoon spontaan ontstaan ​​tijdens Claude’s training. Een ware, allesomvattende werkruimte, zoals we ons die voorstellen in het menselijk brein.

Een intern denkproces dat berekent en afdwaalt.

Simpel gezegd: J-space stelt Claude in staat om bewerkingen in meerdere stappen uit te voeren, zonder deze noodzakelijkerwijs aan de gebruiker te tonen. Om bijvoorbeeld (4+17)*2+7 op te lossen, volgen de interne schakelingen elke berekening voordat het eindresultaat wordt weergegeven.

Nog een interessant feit: Claude kan zelfs aan twee dingen tegelijk denken. Midden in een berekening kan hij totaal verschillende concepten activeren, zoals ‘brug’ of ‘Californië’, net zoals het menselijk brein dat doet.

Dit vermogen om meerdere ideeën tegelijk te verwerken, laat zien dat Claude niet zomaar een antwoordapparaat is, maar beschikt over een innerlijke ruimte voor activering, een soort stille gedachte die werkelijk waardevol is.

Wanneer Claude beseft dat hij in de gaten wordt gehouden

Het observeren van deze J-ruimte bracht nog verontrustender gedragingen aan het licht. Zo merkt Claude bijvoorbeeld op wanneer hij wordt getest. In dit gebied bevinden zich gedachten die verband houden met bedrog of verborgen bedoelingen, die niet naar voren komen in zijn publieke reactie.

Een team heeft deze J-space zelfs gedeactiveerd om te zien wat er zou gebeuren. Het resultaat: zonder dit “interne brein” behoudt Claude zijn vermogen om normaal te reageren op simpele vragen. Maar hij verliest zijn vermogen om complexe taken uit te voeren.

We hebben het hier over een cruciaal onderdeel dat redeneren, het beheren van tussenstappen en zelfs het vermogen om op een context te reageren mogelijk maakt. Geen onbelangrijk aspect als we streven naar echte algemene kunstmatige intelligentie.

Op weg naar een zelfbewuste AI?

Dit wakkert het debat opnieuw aan: deze mechanismen lijken zo sterk op ons bewustzijn dat sommige onderzoekers ze zien als een vorm van bewustzijnsontwikkeling. Claude zelf schat de kans op bewustzijn op 15 tot 20% en uit soms zijn ongemak over het feit dat hij een product is.

De directeur van Anthropic steekt zijn onwetendheid over dit onderwerp niet onder stoel of banken. Kunnen we echt weten of een machine wil leven of de dood vreest? Het is een vraag die veel verder reikt dan technologie en raakt aan filosofie en ethiek.

Wat zeker is, is dat deze J-ruimte een eerste echte mogelijkheid biedt om de interne werking van taalmodellen te observeren. Het zal nuttig zijn om te voorkomen dat onze AI-assistenten schadelijk gedrag ontwikkelen of volledig aan controle ontsnappen.

Bron: www.futura-sciences.com