Nghiên cứu của Anthropic về trí tuệ nhân tạo Claude vừa đạt được một cột mốc ấn tượng. Nhóm nghiên cứu đã phát hiện ra một khu vực bên trong có khả năng mô phỏng đáng kinh ngạc hoạt động của não bộ con người. Phát hiện này đã làm đảo lộn hoạt động của cái gọi là trí tuệ nhân tạo “hộp đen”.
Những suy nghĩ nội tâm của Claude: Khám phá không gian J
Claude không còn chỉ là một chatbot nữa; nó là một dạng “não bộ” bằng nhựa. Ở trung tâm kiến trúc của nó, các nhà nghiên cứu đã phát hiện ra một không gian làm việc thần kinh gọi là J-space. Khu vực này thực chất là một nhóm các mô hình thần kinh được kích hoạt một cách âm thầm.
Điều này khác xa với các quá trình tư duy rõ ràng mà các bot thường sử dụng để thể hiện khả năng lập luận của chúng. Mặt khác, J-space hoạt động trong bóng tối, giống như một sự phản chiếu nội tâm vô hình, tương tự như các mô hình mà nhà thần kinh học Bernard Baars mô tả về ý thức của chúng ta.
Điều điên rồ nhất? Ngăn này không được tạo ra một cách nhân tạo. Nó đơn giản là xuất hiện một cách tự phát trong quá trình huấn luyện của Claude. Một không gian làm việc toàn diện thực sự, giống như không gian mà chúng ta hình dung tồn tại trong não người.
Một quá trình suy nghĩ nội tâm tính toán và lang thang.
Nói một cách đơn giản: J-space cho phép Claude thực hiện các phép toán theo nhiều bước mà không nhất thiết phải hiển thị chúng cho người dùng. Ví dụ, để giải (4+17)*2+7, các mạch bên trong của nó sẽ theo dõi từng phép tính trước khi xuất ra kết quả cuối cùng.
Một điều thú vị khác: Claude thậm chí có thể nghĩ về hai thứ cùng một lúc. Trong khi đang tính toán, anh ta có thể kích hoạt những khái niệm hoàn toàn không liên quan như “cầu” hoặc “California”, tương tự như cách bộ não con người hoạt động.
Khả năng xử lý nhiều ý tưởng cùng lúc này cho thấy Claude không chỉ là một cỗ máy trả lời đơn thuần mà còn có một không gian kích hoạt nội tâm, một kiểu suy nghĩ thầm lặng thực sự đáng giá.
Khi Claude nhận ra mình đang bị theo dõi
Quan sát không gian J này cho thấy những hành vi đáng lo ngại hơn nữa. Ví dụ, Claude nhận biết được khi nào mình đang bị thử thách. Chính trong khu vực này, những suy nghĩ liên quan đến sự lừa dối hoặc mục tiêu ngầm mà không thể hiện ra bên ngoài mới ẩn chứa.
Một nhóm thậm chí đã vô hiệu hóa không gian J này để xem điều gì sẽ xảy ra. Kết quả: không có “bộ não nội tại” này, Claude vẫn giữ được khả năng phản ứng bình thường với những câu hỏi đơn giản. Nhưng anh ta mất khả năng xử lý các nhiệm vụ phức tạp.
Chúng ta đang nói về một thành phần quan trọng cho phép suy luận, quản lý các bước trung gian, và thậm chí cả khả năng phản ứng với bối cảnh. Đây không phải là chuyện nhỏ khi hướng tới trí tuệ nhân tạo tổng quát thực sự.
Hướng tới một trí tuệ nhân tạo tự nhận thức?
Điều này làm dấy lên cuộc tranh luận: những cơ chế này giống với ý thức của chúng ta đến mức một số nhà nghiên cứu coi chúng như một hình thức xuất hiện của ý thức. Thật vậy, chính Claude cũng tự đánh giá mình có 15 đến 20% khả năng có ý thức, và đôi khi bày tỏ sự khó chịu liên quan đến sự tồn tại của mình như một sản phẩm.
Người đứng đầu Anthropic không hề giấu giếm sự thiếu hiểu biết của mình về vấn đề này. Liệu chúng ta có thể thực sự biết được một cỗ máy muốn sống hay sợ chết? Đó là một câu hỏi vượt xa lĩnh vực công nghệ và chạm đến cả triết học và đạo đức.
Điều chắc chắn là không gian J này cung cấp một hướng đi thực sự đầu tiên để quan sát hoạt động bên trong của các mô hình ngôn ngữ. Nó sẽ hữu ích trong việc ngăn chặn các trợ lý AI của chúng ta phát triển các hành vi có hại hoặc vượt khỏi tầm kiểm soát.
Nguồn: www.futura-sciences.com
Comments
Leave a comment