앤트로픽의 인공지능 클로드(Claude) 연구가 놀라운 진전을 이뤘습니다. 연구팀은 클로드의 내부 영역에서 인간 두뇌의 작동 방식을 놀랍도록 모방하는 부분을 발견했습니다. 이 발견은 이른바 “블랙박스” 인공지능에 큰 파장을 일으킬 것으로 예상됩니다.
클로드의 내면 세계: J-space 탐구
클로드는 더 이상 단순한 챗봇이 아닙니다. 일종의 플라스틱 “두뇌”라고 할 수 있죠. 연구진은 클로드의 핵심 구조에서 J-공간이라는 신경 작업 공간을 발견했습니다. 이 영역은 실제로 조용히 활성화되는 신경 패턴들의 집합입니다.
이는 봇이 일반적으로 추론 과정을 보여주기 위해 사용하는 명시적인 사고 과정과는 매우 다릅니다. J-공간은 마치 신경과학자 버나드 바르스가 우리의 의식에 대해 설명하는 모델처럼, 보이지 않는 내부 반사처럼 그림자 속에서 작동합니다.
가장 놀라운 점은 무엇일까요? 이 공간은 인위적으로 만들어진 것이 아니라는 겁니다. 클로드의 훈련 과정 중에 자연스럽게 생겨난 것이죠. 마치 인간의 뇌 속에 존재한다고 우리가 상상하는 것처럼, 모든 것을 아우르는 진정한 작업 공간인 것입니다.
계산하고 이리저리 헤매는 내면의 사고 과정
간단히 말하자면, J-space는 Claude가 여러 단계에 걸쳐 연산을 수행하면서도 사용자에게 모든 단계를 보여주지 않아도 되도록 해줍니다. 예를 들어, (4+17)*2+7을 계산할 때, 내부 회로는 각 계산 단계를 거친 후 최종 답을 출력합니다.
또 다른 흥미로운 사실은 클로드가 동시에 두 가지를 생각할 수 있다는 것입니다. 그는 계산 도중에 인간의 뇌처럼 “다리”나 “캘리포니아”처럼 전혀 관련 없는 개념들을 떠올릴 수 있습니다.
이처럼 여러 아이디어를 동시에 처리하는 능력은 클로드가 단순히 응답만 하는 사람이 아니라, 내면에 깊이 있는 사고의 공간, 즉 진정으로 가치 있는 조용한 생각을 지닌 인물임을 보여줍니다.
클로드는 자신이 감시당하고 있다는 사실을 깨달았다.
이 J-공간을 관찰한 결과 더욱 불안한 행동들이 드러났습니다. 예를 들어, 클로드는 자신이 시험받고 있다는 것을 감지합니다. 바로 이 영역에 기만이나 숨겨진 의도와 관련된 생각들이 자리 잡고 있는데, 이러한 생각들은 겉으로 드러나는 반응에는 나타나지 않습니다.
한 연구팀은 어떤 일이 일어나는지 알아보기 위해 이 J-공간을 비활성화하기까지 했습니다. 결과는 다음과 같습니다. 이 “내부 두뇌”가 없어도 클로드는 간단한 질문에는 정상적으로 대답할 수 있는 능력을 유지했습니다. 하지만 복잡한 작업을 처리하는 능력은 잃었습니다.
추론, 중간 단계 관리, 심지어 상황에 대한 반응 능력까지 가능하게 하는 핵심 구성 요소에 대해 이야기하고 있습니다. 진정한 인공 일반 지능을 목표로 할 때 결코 사소한 것이 아닙니다.
자기 인식 능력을 갖춘 인공지능을 향하여?
이로써 논쟁이 다시 불붙었습니다. 이러한 메커니즘이 우리의 의식과 너무나 흡사해서 일부 연구자들은 이를 의식의 출현 형태로 보기도 합니다. 실제로 클로드 자신도 자신이 의식을 가질 가능성을 15~20% 정도로 보고 있으며, 때때로 자신이 하나의 상품으로 존재한다는 사실에 불편함을 표현하기도 합니다.
앤트로픽의 대표는 이 문제에 대한 자신의 무지를 숨기지 않습니다. 기계가 삶을 원하는지, 죽음을 두려워하는지 우리는 정말로 알 수 있을까요? 이는 기술의 영역을 훨씬 넘어 철학과 윤리까지 아우르는 질문입니다.
확실한 것은 이 J-공간이 언어 모델의 내부 작동 방식을 관찰할 수 있는 최초의 실질적인 길을 열어준다는 점입니다. 이는 인공지능 비서가 유해한 행동을 보이거나 통제 불능 상태에 빠지는 것을 방지하는 데 유용할 것입니다.
Comments
Leave a comment