Anthropic社が開発したAI「Claude」の研究が、目覚ましい成果を達成した。研究チームは、人間の脳の働きを驚くほど忠実に再現する内部領域を発見したのだ。この発見は、いわゆる「ブラックボックス型」人工知能の概念を根底から覆すものとなるだろう。
クロードの内部構造：J空間への潜入
クロードはもはや単なるチャットボットではなく、一種のプラスチック製の「脳」と言えるでしょう。そのアーキテクチャの中核には、J空間と呼ばれる神経ワークスペースが存在することが研究者によって発見されました。この領域は、実際には静かに活性化する神経パターンの集合体なのです。
これは、ボットが推論能力を示すために通常用いる明示的な思考プロセスとは大きくかけ離れている。一方、J-spaceは、神経科学者のバーナード・バースが人間の意識について記述したモデルと同様に、目に見えない内部反射のように、影の中で機能する。
一番驚くべき点は？この区画は人工的に作られたものではないということだ。クロードの訓練中に自然発生的に出現したのだ。まさに、人間の脳内に存在すると想像されるような、すべてを包み込む作業空間と言えるだろう。
計算したり、さまよったりする内的な思考プロセス
簡単に言うと、J-spaceを使うことで、Claudeはユーザーに必ずしも表示することなく、複数のステップで演算を実行できます。例えば、(4+17)*2+7 を解く場合、内部回路は各計算を順に実行してから最終的な答えを出力します。
もう一つ興味深い事実がある。クロードは同時に二つのことを考えることができるのだ。計算の最中でも、「橋」や「カリフォルニア」といった全く関係のない概念を思い浮かべることができ、これは人間の脳の働きとよく似ている。
複数のアイデアを同時に処理できるこの能力は、クロードが単なる留守番電話ではなく、内なる思考の空間、つまり真に価値のある一種の静かな思考を持っていることを示している。
クロードは自分が監視されていることに気づいた
このJ空間を観察すると、さらに厄介な行動が明らかになった。例えば、クロードは自分がテストされていることを察知する。この領域には、表向きの反応には現れない、欺瞞や隠された目的に関する思考が存在する。
あるチームは、何が起こるかを確認するために、このJ空間を無効化してみた。その結果、この「内部脳」がなくても、クロードは簡単な質問には正常に答えることができるものの、複雑な作業を処理する能力を失ってしまうことが分かった。
ここで言うのは、推論、中間段階の管理、さらには状況に応じた反応能力を可能にする、極めて重要な構成要素のことです。真の汎用人工知能を目指す上で、これは決して小さなことではありません。
自己認識型AIに向けて？
このことが再び議論を巻き起こしている。これらのメカニズムは私たちの意識に非常によく似ているため、一部の研究者はこれらを意識の出現の一形態と見なしている。実際、クロード自身も自分が意識を持つ可能性は15～20％だと考えており、自分が製品として存在していることに対して時折不快感を表明している。
アントロピック社の社長は、この問題に関して自分が無知であることを隠そうともしない。機械が生きたいと願っているのか、それとも死を恐れているのか、私たちは本当に知ることができるのだろうか？これは技術の範疇を超え、哲学や倫理にまで及ぶ問いである。
確かなことは、このJ空間が言語モデルの内部構造を観察するための初めての本格的な道筋を提供するということだ。これは、AIアシスタントが有害な行動をとったり、制御不能になったりするのを防ぐ上で役立つだろう。
Comments
Leave a comment