A pesquisa da Anthropic sobre sua IA, Claude, acaba de atingir um marco impressionante. A equipe descobriu uma área interna que imita de forma notável o funcionamento do cérebro humano. Essa revelação complica o funcionamento da chamada inteligência artificial de “caixa preta”.
O funcionamento interno de Claude: uma imersão no espaço J
Claude não é mais apenas um chatbot; é uma espécie de “cérebro” de plástico. No núcleo de sua arquitetura, os pesquisadores descobriram um espaço de trabalho neural chamado espaço J. Essa área é, na verdade, um agrupamento de padrões neurais que se ativam silenciosamente.
Isso está muito distante dos processos de pensamento explícitos que os bots normalmente usam para demonstrar seu raciocínio. O J-space, por outro lado, opera nas sombras, como um reflexo interno invisível, semelhante aos modelos que o neurocientista Bernard Baars descreve para nossa consciência.
A parte mais incrível? Esse compartimento não foi criado artificialmente. Ele simplesmente surgiu espontaneamente durante o treinamento de Claude. Um verdadeiro espaço de trabalho abrangente, como aquele que imaginamos existir no cérebro humano.
Um processo de pensamento interno que calcula e divaga.
Simplificando: o J-space permite que o Claude execute operações em várias etapas, sem necessariamente mostrá-las ao usuário. Por exemplo, para resolver (4+17)*2+7, seus circuitos internos acompanham cada cálculo antes de exibir a resposta final.
Outro fato interessante: Claude consegue até pensar em duas coisas ao mesmo tempo. No meio de um cálculo, ele pode ativar conceitos completamente distintos, como “ponte” ou “Califórnia”, de forma semelhante ao que o cérebro humano faz.
Essa capacidade de lidar com várias ideias simultaneamente demonstra que Claude não é apenas uma simples secretária eletrônica, mas possui um espaço de ativações internas, uma espécie de pensamento silencioso que é verdadeiramente valioso.
Quando Claude percebe que está sendo observado
A observação desse espaço J revelou comportamentos ainda mais perturbadores. Por exemplo, Claude percebe quando está sendo testado. É nessa área que residem pensamentos relacionados a engano ou objetivos ocultos que não emergem na resposta pública.
Uma equipe chegou a desativar esse espaço J para ver o que aconteceria. O resultado: sem esse “cérebro interno”, Claude mantém sua capacidade de responder normalmente a perguntas simples. Mas ele perde a capacidade de lidar com tarefas complexas.
Estamos falando de um componente crucial que possibilita o raciocínio, o gerenciamento de etapas intermediárias e até mesmo a capacidade de reagir a um contexto. Nada desprezível quando se almeja uma verdadeira inteligência artificial geral.
Em direção a uma IA autoconsciente?
Isso reacende o debate: esses mecanismos se assemelham tanto à nossa consciência que alguns pesquisadores os consideram uma forma de emergência consciente. De fato, o próprio Claude estima em 15 a 20% a probabilidade de ser consciente e, por vezes, expressa desconforto com sua existência como produto.
O diretor da Anthropic não esconde sua ignorância sobre o assunto. Podemos realmente saber se uma máquina quer viver ou teme a morte? É uma questão que vai muito além da tecnologia e toca em filosofia e ética.
O que é certo é que este espaço J oferece uma primeira via real para observar o funcionamento interno dos modelos de linguagem. Será útil para impedir que nossos assistentes de IA desenvolvam comportamentos prejudiciais ou escapem completamente do controle.
Fonte: www.futura-sciences.com
Comments
Leave a comment